当前位置： 首页 > news >正文

Fabric结合GTID实现Mysql复制高可用

news 来源：原创 2024/5/17 3:16:39

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

mysql版本：Percona server 5.6.19-67.0 Percona Server (GPL), Release 67.0, Revision 618


Mysql安装参考： http://my.oschina.net/anthonyyau/blog/284092
Fabric State store安装参考： http://my.oschina.net/anthonyyau/blog/307165
半同步复制参考： http://my.oschina.net/anthonyyau/blog/269800

环境：
4个服务器实例运行Percona server 5.6.19-67.0，fabric node安装在单独的服务器，每个Mysql实例在一台服务器上；
fabric为启用复制的3个mysql实例提供高可用，应用使用fabric-aware的连接器路由事务和SQL语句到合适的服务器，透明的进行读和写操作；
当前仅仅支持异步primary backup复制(半同步复制需要手工完成)。primary处理所有写操作，Secondaries使用mysql复制从primary同步，可以进行读操作。

服务器信息：
28142221_mXrT.png

一、mysql实例和fabric state store准备
Mysql安装好后，每个fabric管理的实例需要开启gtid、二进制日志(不需要启动复制，由fabric完成，但是不支持配置异步复制)，将以下配置放到[mysqld]段下面：
  1. log-bin=mysql-bin
  2. binlog_format=ROW
  3. server-id = 29 #保证每个mysql实例唯一
  4. log-slave-updates=true
  5. gtid-mode=on
  6. enforce-gtid-consistency=true
  7. sync-master-info=1

数据库用户账号准备：
1、超级管理员账号，本例使用root@'172.17.42.1'，密码为admin@123；
2、fabric管理mysql实例的账号，本例使用fabric@'172.17.42.1'，密码为fabric@456；
3、mysql复制专用账号，本例使用fabric@'172.17.0.%'，密码为fabric@456，需要与fabric管理mysql的账号密码一致；

查看mysqlfabric命令帮助：
mysqlfabric help：显示简短的语法信息和帮忙命令
mysqlfabric help commands: 列出所有可用命令和描述
mysqlfabric help groups: 列出可用命令组
mysqlfabric help [group] [command]: 提供命令的详细帮助信息

二、使用Fabric创建mysql复制高可用组
1、创建组
  1. # mysqlfabric group create my_group
  2. Password for admin: 
  3. Procedure :
  4. { uuid        = 3f7e82bc-4291-4002-8688-1929fc63ed3e,
  5.   finished    = True,
  6.   success     = True,
  7.   return      = True,
  8.   activities  = 
  9. }

要输入xml-rpc密码，可以将密码指定到fabric的配置文件，或者设置disable_authentication = yes，需要重启fabric(先mysqlfabric manage stop，然后修改配置文件，不然将报"Permission denied."错误)。

2、添加mysql实例到组
  1. # mysqlfabric group add my_group 172.17.0.50:3306
  2. Procedure :
  3. { uuid        = 6e69a5a7-667b-4e63-92c3-2f9f4269d633,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group add my_group 172.17.0.47:3306
  11. Procedure :
  12. { uuid        = 70a66b03-a16d-426d-a711-8f13da78fc8d,
  13.   finished    = True,
  14.   success     = True,
  15.   return      = True,
  16.   activities  = 
  17. }
  19. # mysqlfabric group add my_group 172.17.0.48:3306
  20. Procedure :
  21. { uuid        = 15a2e1ad-b726-4fa8-bdf3-a1701e870166,
  22.   finished    = True,
  23.   success     = True,
  24.   return      = True,
  25.   activities  = 
  26. }

添加实例到组错误：
  1. # mysqlfabric --param=servers.user=fabric --param=servers.password=fabric@456 group add my_group 172.17.0.50:3306
  2. Password for admin: 
  3. Procedure :
  4. { uuid        = d2c0d969-5b8a-40c2-ba7a-1bc963c08824,
  5.   finished    = True,
  6.   success     = False,
  7.   return      = ServerError: Error accessing server (172.17.0.50:3306).,
  8.   activities  = 
  9. }

日志：
  1. [DEBUG] 1409151193.274349 - Executor-4 - Statement (BEGIN, Params(()).
  2. [DEBUG] 1409151193.274764 - Executor-4 - Executing _add_server
  3. [DEBUG] 1409151193.274849 - Executor-4 - Statement (SELECT group_id, description, master_uuid, master_defined, status FROM groups WHERE group_id = %s, Params(('my_group',)).
  4. [DEBUG] 1409151193.275494 - Executor-4 - Start executing function: discover_uuid((), {'connection_timeout': 5, 'address': '172.17.0.50:3306'}).
  5. [DEBUG] 1409151193.276136 - Executor-4 - Error executing function: discover_uuid.
  6. [DEBUG] 1409151193.276203 - Executor-4 - _add_server failed, executing compensation
  7. [DEBUG] 1409151193.276255 - Executor-4 - Error accessing server (172.17.0.50:3306).
  8. [DEBUG] 1409151193.276308 - Executor-4 - Statement (ROLLBACK, Params(()).
  9. [DEBUG] 1409151193.276664 - Executor-4 - Complete job (60b0fa1f-3a39-43f3-aa71-46ea732aae84, 946e0199-53ca-4fdc-9b49-f134d44db476, mysql.fabric.services.server._add_server, Error).

将密码写到fabric配置文件是可以，使用命令行参数不能覆盖配置文件参数，暂时没有找到是什么原因。

3、查看组中信息
可以看到所有实例的状态都是SECONDARY
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

4、查看组健康详细信息
  1. # mysqlfabric group health my_group
  2. Command :
  3. { success     = True
  4.   return      = {'19a37552-2d44-11e4-af5c-763d1493518d': {'status': 'SECONDARY', 'is_alive': True, 'threads': {'is_configured': False}}, '7bd52611-2d44-11e4-af5f-3ecad7c2f82a': {'status': 'SECONDARY', 'is_alive': True, 'threads': {'is_configured': False}}, 'ade3ee53-2d44-11e4-af60-de532998e8a6': {'status': 'SECONDARY', 'is_alive': True, 'threads': {'is_configured': False}}}
  5.   activities  = 
  6. }

5、提升和降级master服务
创建高可用组后，fabric没有意识到任何复制拓扑。需要提升一个为primary，降级剩余的服务器自动为secondaries(slaves)。
查看命令帮助：
# mysqlfabric help group promote
group promote group_id  [--slave_id=NONE] [--update_only] [--synchronous]

如果只是想更新state store，跳过复制配置，使用--update_only参数。
如果slave没有提供，将选择一个最好的候选者，候选者必须开启二进制日志，同时跟master属于同一个组，跟master延时小。进行故障切换操作，选择这个候选者，同时将其他slave指向到新的master，同时更新state store。

提升一个mysql实例为master：
  1. # mysqlfabric group promote my_group
  2. Procedure :
  3. { uuid        = 21eb4d58-d7ec-41eb-a0e5-560eb5976272,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

执行同样的命名将设置不同的服务器为primary，同时降级当前primary并选取一个新的。如果当前primary错误，执行同样的命令能手动触发选取一个新的primary。

一个标记位"faulty"状态的服务器不能提升为secondary或primary，需要先转换成"spare"状态。使用命令mysqlfabric server set_status <server-address> spare
如果直接从"faulty"转换成"secondary"将报错：
  1. # mysqlfabric server set_status 3ecc746f-2e05-11e4-b448-560d7281695e secondary
  2. Procedure :
  3. { uuid        = 06d0acb1-ad01-483b-a1d4-e13c4b775fcd,
  4.   finished    = True,
  5.   success     = False,
  6.   return      = ServerError: Cannot change server's (3ecc746f-2e05-11e4-b448-560d7281695e) status from (FAULTY) to (SECONDARY).,
  7.   activities  = 
  8. }

查看组状态和验证是否复制正常：
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'PRIMARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

使用show slave status查看slave状态：
  1. # mysql -ufabric -pfabric@456 -h172.17.0.47 -e "show slave status\G;"
  2. *************************** 1. row ***************************
  3.                Slave_IO_State: Connecting to master
  4.                   Master_Host: 172.17.0.50
  5.                   Master_User: fabric
  6.                   Master_Port: 3306
  7.                 Connect_Retry: 60
  8.               Master_Log_File: 
  9.           Read_Master_Log_Pos: 4
  10.                Relay_Log_File: d4f404f647b0-relay-bin.000001
  11.                 Relay_Log_Pos: 4
  12.         Relay_Master_Log_File: 
  13.              Slave_IO_Running: Connecting
  14.             Slave_SQL_Running: Yes
  15.               Replicate_Do_DB: 
  16.           Replicate_Ignore_DB: 
  17.            Replicate_Do_Table: 
  18.        Replicate_Ignore_Table: 
  19.       Replicate_Wild_Do_Table: 
  20.   Replicate_Wild_Ignore_Table: 
  21.                    Last_Errno: 0
  22.                    Last_Error: 
  23.                  Skip_Counter: 0
  24.           Exec_Master_Log_Pos: 0
  25.               Relay_Log_Space: 151
  26.               Until_Condition: None
  27.                Until_Log_File: 
  28.                 Until_Log_Pos: 0
  29.            Master_SSL_Allowed: No
  30.            Master_SSL_CA_File: 
  31.            Master_SSL_CA_Path: 
  32.               Master_SSL_Cert: 
  33.             Master_SSL_Cipher: 
  34.                Master_SSL_Key: 
  35.         Seconds_Behind_Master: 0
  36. Master_SSL_Verify_Server_Cert: No
  37.                 Last_IO_Errno: 1045
  38.                 Last_IO_Error: error connecting to master 'fabric@172.17.0.50:3306' - retry-time: 60  retries: 31
  39.                Last_SQL_Errno: 0
  40.                Last_SQL_Error: 
  41.   Replicate_Ignore_Server_Ids: 
  42.              Master_Server_Id: 0
  43.                   Master_UUID: 
  44.              Master_Info_File: /usr/local/Percona-Server-5.6.19-rel67.0-618.Linux.x86_64/data/master.info
  45.                     SQL_Delay: 0
  46.           SQL_Remaining_Delay: NULL
  47.       Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
  48.            Master_Retry_Count: 86400
  49.                   Master_Bind: 
  50.       Last_IO_Error_Timestamp: 140827 16:42:50
  51.      Last_SQL_Error_Timestamp: 
  52.                Master_SSL_Crl: 
  53.            Master_SSL_Crlpath: 
  54.            Retrieved_Gtid_Set: 
  55.             Executed_Gtid_Set: 7bd52611-2d44-11e4-af5f-3ecad7c2f82a:1-6
  56.                 Auto_Position: 1

看到连接错误：
因fabric使用其连接管理mysql实例的用户配置slave，所有需要重新授权slave访问master：
  1. # mysql -uroot -padmin@123 -h172.17.0.50 -e "grant replication slave on *.* to fabric@'172.17.0.%' identified by 'fabric@456'" 
  2. # mysql -uroot -padmin@123 -h172.17.0.47 -e "grant replication slave on *.* to fabric@'172.17.0.%' identified by 'fabric@456'" 
  3. # mysql -uroot -padmin@123 -h172.17.0.48 -e "grant replication slave on *.* to fabric@'172.17.0.%' identified by 'fabric@456'" 

授权后重新查看slave状态：看到连接正常，复制正常工作
  1. # mysql -ufabric -pfabric@456 -h172.17.0.48 -e 'show slave status\G'
  2. *************************** 1. row ***************************
  3.                Slave_IO_State: Waiting for master to send event
  4.                   Master_Host: 172.17.0.50
  5.                   Master_User: fabric
  6.                   Master_Port: 3306
  7.                 Connect_Retry: 60
  8.               Master_Log_File: mysql-bin.000004
  9.           Read_Master_Log_Pos: 3451
  10.                Relay_Log_File: e294ab366580-relay-bin.000003
  11.                 Relay_Log_Pos: 448
  12.         Relay_Master_Log_File: mysql-bin.000004
  13.              Slave_IO_Running: Yes
  14.             Slave_SQL_Running: Yes
  15.               Replicate_Do_DB: 
  16.           Replicate_Ignore_DB: 
  17.            Replicate_Do_Table: 
  18.        Replicate_Ignore_Table: 
  19.       Replicate_Wild_Do_Table: 
  20.   Replicate_Wild_Ignore_Table: 
  21.                    Last_Errno: 0
  22.                    Last_Error: 
  23.                  Skip_Counter: 0
  24.           Exec_Master_Log_Pos: 3451
  25.               Relay_Log_Space: 4169
  26.               Until_Condition: None
  27.                Until_Log_File: 
  28.                 Until_Log_Pos: 0
  29.            Master_SSL_Allowed: No
  30.            Master_SSL_CA_File: 
  31.            Master_SSL_CA_Path: 
  32.               Master_SSL_Cert: 
  33.             Master_SSL_Cipher: 
  34.                Master_SSL_Key: 
  35.         Seconds_Behind_Master: 0
  36. Master_SSL_Verify_Server_Cert: No
  37.                 Last_IO_Errno: 0
  38.                 Last_IO_Error: 
  39.                Last_SQL_Errno: 0
  40.                Last_SQL_Error: 
  41.   Replicate_Ignore_Server_Ids: 
  42.              Master_Server_Id: 27
  43.                   Master_UUID: 19a37552-2d44-11e4-af5c-763d1493518d
  44.              Master_Info_File: /usr/local/Percona-Server-5.6.19-rel67.0-618.Linux.x86_64/data/master.info
  45.                     SQL_Delay: 0
  46.           SQL_Remaining_Delay: NULL
  47.       Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
  48.            Master_Retry_Count: 86400
  49.                   Master_Bind: 
  50.       Last_IO_Error_Timestamp: 
  51.      Last_SQL_Error_Timestamp: 
  52.                Master_SSL_Crl: 
  53.            Master_SSL_Crlpath: 
  54.            Retrieved_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  55.             Executed_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  56.                 Auto_Position: 1
  58. # mysql -ufabric -pfabric@456 -h172.17.0.47 -e 'show slave status\G'
  59. *************************** 1. row ***************************
  60.                Slave_IO_State: Waiting for master to send event
  61.                   Master_Host: 172.17.0.50
  62.                   Master_User: fabric
  63.                   Master_Port: 3306
  64.                 Connect_Retry: 60
  65.               Master_Log_File: mysql-bin.000004
  66.           Read_Master_Log_Pos: 3451
  67.                Relay_Log_File: d4f404f647b0-relay-bin.000004
  68.                 Relay_Log_Pos: 448
  69.         Relay_Master_Log_File: mysql-bin.000004
  70.              Slave_IO_Running: Yes
  71.             Slave_SQL_Running: Yes
  72.               Replicate_Do_DB: 
  73.           Replicate_Ignore_DB: 
  74.            Replicate_Do_Table: 
  75.        Replicate_Ignore_Table: 
  76.       Replicate_Wild_Do_Table: 
  77.   Replicate_Wild_Ignore_Table: 
  78.                    Last_Errno: 0
  79.                    Last_Error: 
  80.                  Skip_Counter: 0
  81.           Exec_Master_Log_Pos: 3451
  82.               Relay_Log_Space: 1205
  83.               Until_Condition: None
  84.                Until_Log_File: 
  85.                 Until_Log_Pos: 0
  86.            Master_SSL_Allowed: No
  87.            Master_SSL_CA_File: 
  88.            Master_SSL_CA_Path: 
  89.               Master_SSL_Cert: 
  90.             Master_SSL_Cipher: 
  91.                Master_SSL_Key: 
  92.         Seconds_Behind_Master: 0
  93. Master_SSL_Verify_Server_Cert: No
  94.                 Last_IO_Errno: 0
  95.                 Last_IO_Error: 
  96.                Last_SQL_Errno: 0
  97.                Last_SQL_Error: 
  98.   Replicate_Ignore_Server_Ids: 
  99.              Master_Server_Id: 27
  100.                   Master_UUID: 19a37552-2d44-11e4-af5c-763d1493518d
  101.              Master_Info_File: /usr/local/Percona-Server-5.6.19-rel67.0-618.Linux.x86_64/data/master.info
  102.                     SQL_Delay: 0
  103.           SQL_Remaining_Delay: NULL
  104.       Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
  105.            Master_Retry_Count: 86400
  106.                   Master_Bind: 
  107.       Last_IO_Error_Timestamp: 
  108.      Last_SQL_Error_Timestamp: 
  109.                Master_SSL_Crl: 
  110.            Master_SSL_Crlpath: 
  111.            Retrieved_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  112.             Executed_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  113.                 Auto_Position: 1

6、启动或禁用故障检测
如果primary故障，可能想自动提升一个次级到primary，重定向剩余的secondaries到新的primary：
  1. # mysqlfabric group activate my_group
  2. Procedure :
  3. { uuid        = 1d78324a-d39d-4098-8774-b0c2359a57ed,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

状态检测语句：
[DEBUG] 1409157170.648943 - FailureDetector(my_group) - Statement (SELECT server_uuid, server_address, mode, status, weight FROM servers WHERE group_id = %s, Params(('my_group',)).
[DEBUG] 1409157172.655084 - FailureDetector(my_group) - Statement (SELECT group_id, description, master_uuid, master_defined, status FROM groups WHERE group_id = %s, Params(('my_group',)).

测试关闭当前master，看是否选取新的master，fabric能自动进程故障切换：
查看当前组的状态：当前master为" 172.17.0.51 "
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'PRIMARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

关闭当前master实例：
  1. # mysqladmin -h172.17.0.51 -uroot -padmin@123 shutdown

关闭172.17.0.51实例后，fabric已经标记它的状态为"FAULTY"；
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'FAULTY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'PRIMARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

重新启动172.17.0.51:3306实例，但是状态不会恢复：
  1. # mysql -h172.17.0.51 -uroot -padmin@123 -e "show master status"
  2. +------------------+----------+--------------+------------------+-------------------------------------------+
  3. | File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                         |
  4. +------------------+----------+--------------+------------------+-------------------------------------------+
  5. | mysql-bin.000003 |      191 |              |                  | 19a37552-2d44-11e4-af5c-763d1493518d:1-10 |
  6. +------------------+----------+--------------+------------------+-------------------------------------------+
  8. # mysqlfabric group lookup_servers my_group
  9. Command :
  10. { success     = True
  11.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'FAULTY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'PRIMARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  12.   activities  = 
  13. }

需要手动设置服务器的状态：
查看帮助命令：
# mysqlfabric help server set_status
server set_status server_id status  [--update_only] [--synchronous]  

Set a server's status.

支持的状态值为primary,secondary,spare,faulty。
能手动改变服务器的状态，改变到spare，避免写和读访问，同时保证当故障切换时不会被选取。

改变错误状态的实例(172.17.0.51)的状态为secondary，注意需要先转换成spare：
  1. # mysqlfabric server set_status 3ecc746f-2e05-11e4-b448-560d7281695e spare
  2. Procedure :
  3. { uuid        = e96802d7-5fc1-4a70-94d4-4d8d31d13960,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric server set_status 3ecc746f-2e05-11e4-b448-560d7281695e secondary
  11. Procedure :
  12. { uuid        = c74edd89-ac4a-45ce-8d18-22423ed73561,
  13.   finished    = True,
  14.   success     = True,
  15.   return      = True,
  16.   activities  = 
  17. }

查看状态：
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'PRIMARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

禁用故障检测自动切换：
  1. # mysqlfabric group deactivate my_group
  2. Procedure :
  3. { uuid        = a88d2bb7-f0c7-46d8-925a-c982287d6447,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

7、执行更新和查询
应用程序通过fabric-aware连接器连接到fabric，获取服务器、组信息。

测试脚本：
  1. # cat fabric_test1.py
  2. #!/usr/bin/env python
  3. #coding:utf-8
  4. # Author:  AnthonyYau --<q_yxian@163.com>
  5. # Purpose: fabric test scripts1.
  6. # Created: 2014/8/26
  8. import sys
  9. import mysql.connector
  10. from mysql.connector import fabric
  13. def  main():
  14.     try:
  15.         conn = mysql.connector.connect(
  16.             fabric = {"host":"localhost","port":32274,"username":"admin",
  17.                       "password":"admin"}, #指定使用xml-rpm连接fabric的用户名和密码
  18.             user = 'root',database = 'test',password = 'admin@123',autocommit = True #指定mysql实例的用户名和密码
  19.         )
  20.     except Exception,e:
  21.         print e
  22.         sys.exit(1)
  23.     else:
  24.         conn.set_property(mode=fabric.MODE_READWRITE,group="my_group") #指定访问模式，以及需要访问的HA组
  25.         cur = conn.cursor()
  26.         cur.execute(
  27.             "CREATE TABLE IF NOT EXISTS subscribers (" #创建表
  28.         " sub_no INT,"
  29.         " first_name CHAR(40),"
  30.         " last_name CHAR(4)"
  31.         ")"
  32.         )
  33. finally: conn.close()
  34.     
  35. if  __name__ == '__main__':
  36.     main()
  1. # cat fabric_test2.py   
  2. #!/usr/bin/env python
  3. #coding:utf-8
  4. # Author:  AnthonyYau --<q_yxian@163.com>
  5. # Purpose: fabric test scripts2.
  6. # Created: 2014/8/26
  8. import sys
  9. import mysql.connector
  10. from mysql.connector import fabric
  12. def add_subscriber(conn,sub_no,first_name,last_name):
  13.     conn.set_property(group="my_group",mode=fabric.MODE_READWRITE) #指定访问模式，以及访问的组
  14.     cur = conn.cursor()
  15.     cur.execute(
  16.         "INSERT INTO subscribers VALUES (%s,%s,%s)",
  17.         (sub_no,first_name,last_name)
  18.     )
  20. def  main():
  21.     try:
  22.         conn = mysql.connector.connect(
  23.             fabric = {"host":"localhost","port":32274,"username":"admin",
  24.                       "password":"admin"}, #指定使用xml-rpc连接fabric的用户名和密码
  25.             user="root",database="test",password="admin@123",autocommit=True #指定访问mysql实例的用户名和密码
  26.         )
  27.     except Exception,e:
  28.         print e
  29.         sys.exit(1)
  30.     else:
  31.         #conn.set_property(group="my_group",mode=fabric.MODE_READWRITE)
  32.         add_subscriber(conn, 72, "Billy", "Fish") #调用函数，插入数据
  33.         add_subscriber(conn, 500, "Billy", "Joel")
  34.         add_subscriber(conn, 1500, "Arthur", "Askey")
  35.         add_subscriber(conn, 5000, "Billy", "Fish")
  36.         add_subscriber(conn, 15000, "Jimmy", "White")
  37.         add_subscriber(conn, 17542, "Bobby", "Ball")    
  38. finally: conn.close()
  39.     
  40. if  __name__ == '__main__':

执行测试程序：
  1. python fabric_test1.py
  2. python fabric_test2.py

检查结果(查看两台从服务器的数据)：当前slave为 172.17.0.50和 172.17.0.51
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'PRIMARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

使用脚本检查结果：
  1. # python fabric_test3.py 
  2. 72 Billy Fish
  3. 500 Billy Joel
  4. 1500 Arthur Aske
  5. 5000 Billy Fish
  6. 15000 Jimmy Whit
  7. 17542 Bobby Ball

查询脚本如下：
  1. #!/usr/bin/env python
  2. #coding:utf-8
  3. # Author:  AnthonyYau --<q_yxian@163.com>
  4. # Purpose: fabric test scripts3.
  5. # Created: 2014/8/27
  7. import sys
  8. import mysql.connector
  9. from mysql.connector import fabric
  11. def  main():
  12.     try:
  13.         conn = mysql.connector.connect(
  14.             fabric = {"host":"localhost","port":32274,"username":"admin",
  15.                                   "password":"admin"},
  16.                         user="root",database="test",password="admin@123",autocommit=True        
  17.         )
  18.     except Exception,e:
  19.         print e
  20.         sys.exit(1)
  21.     else:
  22.         conn.set_property(group="my_group",mode=fabric.MODE_READONLY) #使用readonly访问模式(从slave获取数据)，也可以使用readwrite
  23.         cur = conn.cursor()
  24.         cur.execute('select * from test.subscribers')
  25.         results = cur.fetchall()
  26.         if results:
  27.             for id,f_name,l_name in results:
  28.                 print "%s\t%s\t%s" %(id,f_name,l_name)
  29. finally: conn.close()
  30.     
  31. if  __name__ == '__main__':
  32.     main()

使用mysql客户端进行检查：
  1. # mysql -uroot -padmin@123 -h172.17.0.51 -e "select * from test.subscribers"
  2. +--------+------------+-----------+
  3. | sub_no | first_name | last_name |
  4. +--------+------------+-----------+
  5. |     72 | Billy      | Fish      |
  6. |    500 | Billy      | Joel      |
  7. |   1500 | Arthur     | Aske      |
  8. |   5000 | Billy      | Fish      |
  9. |  15000 | Jimmy      | Whit      |
  10. |  17542 | Bobby      | Ball      |
  11. +--------+------------+-----------+
  12. [root@yau620 ~]# mysql -uroot -padmin@123 -h172.17.0.50 -e "select * from test.subscribers"
  13. +--------+------------+-----------+
  14. | sub_no | first_name | last_name |
  15. +--------+------------+-----------+
  16. |     72 | Billy      | Fish      |
  17. |    500 | Billy      | Joel      |
  18. |   1500 | Arthur     | Aske      |
  19. |   5000 | Billy      | Fish      |
  20. |  15000 | Jimmy      | Whit      |
  21. |  17542 | Bobby      | Ball      |
  22. +--------+------------+-----------+

三、组维护
1、找出哪些服务器在组中，查看组状态
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'PRIMARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

2、从组中移除mysql实例
有时需要将secondaries离线进行维护，在停止服务之前，需要先从组中移除它，避免fabric错误检查触发任何动作：
# mysqlfabric help group remove
group remove group_id server_id  [--synchronous]  

Remove a server from a group.

如从my_group组中移除server_uuid为7bd52611-2d44-11e4-af5f-3ecad7c2f82a的实例：
  1. # mysqlfabric group remove my_group 7bd52611-2d44-11e4-af5f-3ecad7c2f82a
  2. Procedure :
  3. { uuid        = 07317ba2-497c-43f0-b8a9-e43ef9ded834,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group lookup_servers my_group
  11. Command :
  12. { success     = True
  13.   return      = [{'status': 'PRIMARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  14.   activities  = 
  15. }

然后可以重新添加到组，将自动开启复制：
  1. # mysqlfabric group add my_group 172.17.0.47:3306
  2. Procedure :
  3. { uuid        = 39344790-3af8-4049-92a6-669bd2642a1c,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

查看复制状态：
  1. # mysql -ufabric -pfabric@456 -h172.17.0.47 -e 'show slave status\G'
  2. *************************** 1. row ***************************
  3.                Slave_IO_State: Waiting for master to send event
  4.                   Master_Host: 172.17.0.50
  5.                   Master_User: fabric
  6.                   Master_Port: 3306
  7.                 Connect_Retry: 60
  8.               Master_Log_File: mysql-bin.000004
  9.           Read_Master_Log_Pos: 3451
  10.                Relay_Log_File: d4f404f647b0-relay-bin.000002
  11.                 Relay_Log_Pos: 408
  12.         Relay_Master_Log_File: mysql-bin.000004
  13.              Slave_IO_Running: Yes
  14.             Slave_SQL_Running: Yes
  15.               Replicate_Do_DB: 
  16.           Replicate_Ignore_DB: 
  17.            Replicate_Do_Table: 
  18.        Replicate_Ignore_Table: 
  19.       Replicate_Wild_Do_Table: 
  20.   Replicate_Wild_Ignore_Table: 
  21.                    Last_Errno: 0
  22.                    Last_Error: 
  23.                  Skip_Counter: 0
  24.           Exec_Master_Log_Pos: 3451
  25.               Relay_Log_Space: 619
  26.               Until_Condition: None
  27.                Until_Log_File: 
  28.                 Until_Log_Pos: 0
  29.            Master_SSL_Allowed: No
  30.            Master_SSL_CA_File: 
  31.            Master_SSL_CA_Path: 
  32.               Master_SSL_Cert: 
  33.             Master_SSL_Cipher: 
  34.                Master_SSL_Key: 
  35.         Seconds_Behind_Master: 0
  36. Master_SSL_Verify_Server_Cert: No
  37.                 Last_IO_Errno: 0
  38.                 Last_IO_Error: 
  39.                Last_SQL_Errno: 0
  40.                Last_SQL_Error: 
  41.   Replicate_Ignore_Server_Ids: 
  42.              Master_Server_Id: 27
  43.                   Master_UUID: 19a37552-2d44-11e4-af5c-763d1493518d
  44.              Master_Info_File: /usr/local/Percona-Server-5.6.19-rel67.0-618.Linux.x86_64/data/master.info
  45.                     SQL_Delay: 0
  46.           SQL_Remaining_Delay: NULL
  47.       Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
  48.            Master_Retry_Count: 86400
  49.                   Master_Bind: 
  50.       Last_IO_Error_Timestamp: 
  51.      Last_SQL_Error_Timestamp: 
  52.                Master_SSL_Crl: 
  53.            Master_SSL_Crlpath: 
  54.            Retrieved_Gtid_Set: 
  55.             Executed_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  56.                 Auto_Position: 1
3、添加一个全新的Mysql实例(实例IP为172.17.0.51)到HA group组
创建数据库复制账号：
  1. # mysql -uroot -padmin@123 -h172.17.0.51 -e "grant replication slave on *.* to fabric@'172.17.0.%' identified by 'fabric@456'"
  2. # mysql -uroot -padmin@123 -h172.17.0.51 -e "show slave status"

添加到my_group组：
  1. # mysqlfabric group add my_group 172.17.0.51:3306 
  2. Procedure :
  3. { uuid        = 45c32c66-6e60-44d8-8406-308de01b1ef9,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

查看复制状态，fabric已经开启复制：
  1. # mysql -uroot -padmin@123 -h172.17.0.51 -e "show slave status\G"
  2. *************************** 1. row ***************************
  3.                Slave_IO_State: Waiting for master to send event
  4.                   Master_Host: 172.17.0.50
  5.                   Master_User: fabric
  6.                   Master_Port: 3306
  7.                 Connect_Retry: 60
  8.               Master_Log_File: mysql-bin.000004
  9.           Read_Master_Log_Pos: 3451
  10.                Relay_Log_File: 9355b5f279ad-relay-bin.000003
  11.                 Relay_Log_Pos: 448
  12.         Relay_Master_Log_File: mysql-bin.000004
  13.              Slave_IO_Running: Yes
  14.             Slave_SQL_Running: Yes
  15.               Replicate_Do_DB: 
  16.           Replicate_Ignore_DB: 
  17.            Replicate_Do_Table: 
  18.        Replicate_Ignore_Table: 
  19.       Replicate_Wild_Do_Table: 
  20.   Replicate_Wild_Ignore_Table: 
  21.                    Last_Errno: 0
  22.                    Last_Error: 
  23.                  Skip_Counter: 0
  24.           Exec_Master_Log_Pos: 3451
  25.               Relay_Log_Space: 4169
  26.               Until_Condition: None
  27.                Until_Log_File: 
  28.                 Until_Log_Pos: 0
  29.            Master_SSL_Allowed: No
  30.            Master_SSL_CA_File: 
  31.            Master_SSL_CA_Path: 
  32.               Master_SSL_Cert: 
  33.             Master_SSL_Cipher: 
  34.                Master_SSL_Key: 
  35.         Seconds_Behind_Master: 0
  36. Master_SSL_Verify_Server_Cert: No
  37.                 Last_IO_Errno: 0
  38.                 Last_IO_Error: 
  39.                Last_SQL_Errno: 0
  40.                Last_SQL_Error: 
  41.   Replicate_Ignore_Server_Ids: 
  42.              Master_Server_Id: 27
  43.                   Master_UUID: 19a37552-2d44-11e4-af5c-763d1493518d
  44.              Master_Info_File: /usr/local/Percona-Server-5.6.19-rel67.0-618.Linux.x86_64/data/master.info
  45.                     SQL_Delay: 0
  46.           SQL_Remaining_Delay: NULL
  47.       Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
  48.            Master_Retry_Count: 86400
  49.                   Master_Bind: 
  50.       Last_IO_Error_Timestamp: 
  51.      Last_SQL_Error_Timestamp: 
  52.                Master_SSL_Crl: 
  53.            Master_SSL_Crlpath: 
  54.            Retrieved_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  55.             Executed_Gtid_Set: 19a37552-2d44-11e4-af5c-763d1493518d:1-10
  56.                 Auto_Position: 1

4、关闭primary
primary不能从组中移除，使用group demote关闭在组中的任何primary，不会重新选取一个新master，同时也不会关闭故障检测。
  1. # mysqlfabric group demote my_group
  2. Procedure :
  3. { uuid        = 448df7ff-f0b5-4868-be15-8b505ec38c19,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }

查看组状态：所有mysql实例的状态都已经变成SECONDARY
  1. # mysqlfabric group lookup_servers my_group
  2. Command :
  3. { success     = True
  4.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  5.   activities  = 
  6. }

5、手动提升一个服务组，选取一个master
当前master是172.17.0.48：
  1. # mysqlfabric group promote my_group
  2. Procedure :
  3. { uuid        = d3072441-a023-42bd-8fe8-6746a620189d,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group lookup_servers my_group
  11. Command :
  12. { success     = True
  13.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'PRIMARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  14.   activities  = 
  15. }

重新选取一个新master：fabric已经自动选取了172.17.0.47作为master
  1. # mysqlfabric group promote my_group
  2. Procedure :
  3. { uuid        = c779bfa6-5a57-4d60-9899-d64b85e9bee3,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group lookup_servers my_group
  11. Command :
  12. { success     = True
  13.   return      = [{'status': 'SECONDARY', 'server_uuid': '19a37552-2d44-11e4-af5c-763d1493518d', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.50:3306'}, {'status': 'SECONDARY', 'server_uuid': '3ecc746f-2e05-11e4-b448-560d7281695e', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.51:3306'}, {'status': 'PRIMARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_WRITE', 'weight': 1.0, 'address': '172.17.0.47:3306'}, {'status': 'SECONDARY', 'server_uuid': 'ade3ee53-2d44-11e4-af60-de532998e8a6', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.48:3306'}]
  14.   activities  = 
  15. }

6、移除组(使用group destroy)
如果组没有服务器，是空的，能移除组
  1. # mysqlfabric group create my_test
  2. Procedure :
  3. { uuid        = d53ba76d-1ed0-4e9d-96b3-01102b46f0bf,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group destroy my_test
  11. Procedure :
  12. { uuid        = 7046fea7-6e87-4dc0-afd4-e21ea399f9c1,
  13.   finished    = True,
  14.   success     = True,
  15.   return      = True,
  16.   activities  = 
  17. }

也能强制的移除非空的组(使用--force)：
  1. # mysqlfabric group create my_test
  2. Procedure :
  3. { uuid        = be15e7bd-e597-4e67-aa4d-4ff34e0d3af8,
  4.   finished    = True,
  5.   success     = True,
  6.   return      = True,
  7.   activities  = 
  8. }
  10. # mysqlfabric group add my_test 172.17.0.52:3306
  11. Procedure :
  12. { uuid        = da981fe4-eeaf-4a3f-a770-d82d60a2ad64,
  13.   finished    = True,
  14.   success     = True,
  15.   return      = True,
  16.   activities  = 
  17. }
  19. # mysqlfabric group lookup_servers my_test
  20. Command :
  21. { success     = True
  22.   return      = [{'status': 'SECONDARY', 'server_uuid': '7bd52611-2d44-11e4-af5f-3ecad7c2f82a', 'mode': 'READ_ONLY', 'weight': 1.0, 'address': '172.17.0.52:3306'}]
  23.   activities  = 
  24. }
  26. # mysqlfabric group destroy my_test
  27. Procedure :
  28. { uuid        = 63b0ec92-ffa2-4f54-9c21-530b1532d21c,
  29.   finished    = True,
  30.   success     = False,
  31.   return      = GroupError: Group (my_test) is not empty.,
  32.   activities  = 
  33. }
  35. # mysqlfabric group destroy my_test --force
  36. Procedure :
  37. { uuid        = 37c5b49b-c451-41ad-9193-c9e1f06edaa9,
  38.   finished    = True,
  39.   success     = True,
  40.   return      = True,
  41.   activities  = 
  42. }

四、总结​
1、使用fabric实现mysql复制高可用，以组为单位对mysql实例进行管理，可以管理多个HA组；
2、当前fabric只能实现自动配置异步复制，不支持半同步复制；
3、mysql实例进行恢复后，fabric不会自动改变实例的状态，需要手工修改；
4、能在线添加(自动配置好复制，立即同步数据)和删除mysql实例；
5、fabric state store和fabric note当前是单点，虽然 fabric-aware连接器可以缓存路由信息(可以配置ttl值)；
6、使用fabric不需要对slave配置vip，不像MHA和MMM等需要对vip进行管理；
7、mysql支持需要支持gtid，也是就要升级到mysql 5.6.10以上版本；

参考：
1、 http://www.clusterdb.com/mysql-fabric/mysql-fabric-adding-high-availability-to-mysql
2、官档： http://dev.mysql.com/doc/mysql-utilities/1.5/en/fabric-quick-start-replication.html



来自为知笔记(Wiz)


转载于:https://my.oschina.net/anthonyyau/blog/307355

相关文章：

  • 标签button：点击button按钮时，出现了页面自动刷新的情况
  • [转]查询表达式 (F#)
  • UINavigationControlle 之 UINavigationBar及navigationItem关系探讨
  • sublime text2快捷键的使用
  • windows创建进程的3种方式下各API调用层次
  • 看看别人家的孩子
  • nginx和dubbo微服务架构图
  • 北京西客站火车行李托运指南
  • DNS原理和正、反向解析配置
  • android Vibrator 使用
  • Reddit CEO亲自诠释内容审核的无奈
  • 本地磁盘上有SVN的感叹号的解决办法
  • 第一篇博客
  • 无法加载 DLL“oramts.dll”: 找不到指定的模块。 (异常来自 HRESULT:0x8007007E)。 —— 的解决方法...
  • JDK9: 集成 Jshell 和 Maven 项目.
  • angular组件开发
  •  D - 粉碎叛乱F - 其他起义
  • HTML-表单
  • Quartz初级教程
  • uva 10370 Above Average
  • 高性能JavaScript阅读简记（三）
  • 构建二叉树进行数值数组的去重及优化
  • 记录一下第一次使用npm
  • 解决iview多表头动态更改列元素发生的错误
  • 蓝海存储开关机注意事项总结
  • 系统认识JavaScript正则表达式
  • 详解NodeJs流之一
  • 追踪解析 FutureTask 源码
  • ​520就是要宠粉，你的心头书我买单
  • ​一文看懂数据清洗：缺失值、异常值和重复值的处理
  • #NOIP 2014# day.1 生活大爆炸版 石头剪刀布
  • #Spring-boot高级
  • $L^p$ 调和函数恒为零
  • （编译到47%失败）to be deleted
  • （附源码）spring boot校园健康监测管理系统 毕业设计 151047
  • （三） prometheus + grafana + alertmanager 配置Redis监控
  • （删）Java线程同步实现一：synchronzied和wait()/notify()
  • （一）Thymeleaf用法——Thymeleaf简介
  • （转）c++ std::pair 与 std::make
  • .NET Core 成都线下面基会拉开序幕
  • .net6解除文件上传限制。Multipart body length limit 16384 exceeded
  • .NetCore部署微服务（二）
  • .NET的微型Web框架 Nancy
  • .pings勒索病毒的威胁：如何应对.pings勒索病毒的突袭？
  • /deep/和 ＞＞＞以及 ::v-deep 三者的区别
  • @synthesize和@dynamic分别有什么作用？
  • @基于大模型的旅游路线推荐方案
  • [ C++ ] STL---仿函数与priority_queue
  • [1181]linux两台服务器之间传输文件和文件夹
  • [C#]获取指定文件夹下的所有文件名（递归）
  • [IE 技巧] 显示/隐藏IE 的菜单/工具栏
  • [LeetCode] Binary Tree Preorder Traversal 二叉树的先序遍历
  • [LeetCode]—Longest Palindromic Substring 最长回文子串
  • [LeetCode刷题笔记]1 - 两数之和（哈希表）
  • [LuoguP1141]01迷宫