(译)MySQL中的slave_exec_mode 参数详解(MySQL从节点跳过复制错误的处理,sql_slave_skip_counter VS slave-skip-errors VS slave_exec_mode)

这篇具有很好参考价值的文章主要介绍了(译)MySQL中的slave_exec_mode 参数详解(MySQL从节点跳过复制错误的处理,sql_slave_skip_counter VS slave-skip-errors VS slave_exec_mode)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

原文地址:https://www.soughttech.com/front/article/7159/viewArticle
 
 
今天我偶然看到了参数slave_exec_mode。从手册中的描述可以看出,该参数与MySQL复制有关。它是一个可以动态修改的变量。默认为STRICT mode(严格模式),可选值为IDEMPOTENT mode(幂等模式)。
设置为IDEMPOTENT模式可以防止从库出现1032(从库上不存在的键)和1062(需要重复键、主键或唯一键)的错误。该模式只在ROW binlog模式下生效,在STATEMENT 模式的binlog模式中无效。
幂等模式主要用于多主复制和NDB CLUSTER,其他情况不建议使用。从上面的介绍,这个参数让库跳过指定的错误,那么问题就来了:
1:与sql_slave_skip_counter相比,有什么优势?
2:与slave-skip-errors = N相比,有什么优势?
针对这两个问题,本文将进行相关的检验和解释。
 

环境:

MySQL版本:Percona MySQL 5.7
binlog模式:ROW,未开启GTID

测试case:

① 1062 Error: Could not execute...event on table db.x; Duplicate entry'xx' for key'PRIMARY', Error_code: 1062;

测试表在主从环境中的表结构以及数据如下:
CREATE TABLE `x` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8
Table record on master and slave:
M:
select * from x;
+----+
| id |
+----+
| 2 |
| 3 |
+----+
2 rows in set (0.01 sec)
S:
select * from x;
+----+
| id |
+----+
| 1 |
| 2 |
| 3 |
+----+
3 rows in set (0.00 sec)
主从上的表记录本来不一致,主从上没有id=1的记录。
此时,上面的slave_exec_mode是默认的严格模式:
查看slave_exec_mode变量的值
show variables like'slave_exec_mode';
+-----------------+--------+
| Variable_name | Value |
+-----------------+--------+
| slave_exec_mode | STRICT |
+-----------------+--------+
1 row in set (0.00 sec) 
主节点binlog日志的格式:
show variables like'binlog_format'; 
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW |
+---------------+-------+
1 row in set (0.00 sec)
在主节点上执行如下sql:
insert into x values(1),(4),(5);
Query OK, 3 rows affected (0.00 sec)
Records: 3 Duplicates: 0 Warnings: 0
由于从节点上已经存在一条Id=1的数据,此时主从复制报1062错误
Last_SQL_Errno: 1062
Last_SQL_Error: Could not execute Write_rows event on table dba_test.x; Duplicate entry '1' for key'PRIMARY', Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event's master log mysql-bin-3306.000006, end_log_pos 7124
当发生这种错误时,一贯做法是设置:sql_slave_skip_counter=N.
1,设置 global sql_slave_skip_counter=N , N 意味着跳过N个事件
2,最好记住当N设置为1时,其结果相当于是将跳过下一个事务。
3,在跳过第n个事件之后,如果该位置恰好落在一个事务中,则将跳过整个事务
4,插入/更新/删除不一定只对应一个事件,这是由引擎和日志格式决定的
sql_slave_skip_counter的单位为“event”。很多人认为这个参数的单位是“事务”,但实际上是错误的,因为一个事务包含多个事件,跳过N可能仍然在同一个事务中。
对于上面的1062错误,将N设置为1到4具有相同的效果,跳过一个事务。因为执行的SQL生成4个事件:
show binlog events in'mysql-bin-3306.000006' from 6950;
+-----------------------+------+------------+----- ------+-------------+----------------------------- ----+
| Log_name | Pos | Event_type | Server_id | End_log_pos | Info |
+-----------------------+------+------------+----- ------+-------------+----------------------------- ----+
| mysql-bin-3306.000006 | 6950 | Query | 169 | 7026 | BEGIN |
| mysql-bin-3306.000006 | 7026 | Table_map | 169 | 7074 | table_id: 707 (dba_test.x) |
| mysql-bin-3306.000006 | 7074 | Write_rows | 169 | 7124 | table_id: 707 flags: STMT_END_F |
| mysql-bin-3306.000006 | 7124 | Xid | 169 | 7155 | COMMIT/* xid=74803 */|
+-----------------------+------+------------+----- ------+-------------+----------------------------- ----+
4 rows in set (0.00 sec)
因此处理这种从节点复制报错的方法是:

1: skip_slavesql_slave_skip_counter

stop slave; 
Query OK, 0 rows affected (0.00 sec) set global sql_slave_skip_counter=[1-4]; Query OK, 0 rows affected (0.00 sec) start slave; Query OK, 0 rows affected (0.00 sec)

2: Specify slave-skip-errors=1062 in the configuration file (restart required)

这两种方法可以将复制恢复到正常状态,但会使主从数据不一致(请谨慎使用),从而使从数据库丢失id=4和5的记录。
第二种方法也需要重新启动数据库。
译者注:
sql_slave_skip_counter:该参数不支持GTID模式的复制,类似于slave-skip-errors,会自动跳过出错的event而非事务

slave-skip-errors:在配置文件中设置 slave-skip-errors=1062,1032或者直接设置 slave-skip-errors= all,需要重启服务,并且在遇到相对应的错误时,从节点会自动跳过整个事务并且不会记录任何错误信息。
slave_exec_mode:相对slave_exec_mode='IDEMPOTENT'来说,设置slave_exec_mode='IDEMPOTENT';之后会自动跳过错误的event而非整个事务,同时记录将自动跳过的event记录到errorlog中。
slave_exec_mode='IDEMPOTENT'只支持row模式的binlog,不支持statement或者mixed模式的binlog
 

slave_exec_mode

这时本文中介绍的slave_exec_mode参数就会派上用场了。在从库上设置此参数:
set global slave_exec_mode='IDEMPOTENT';
Query OK, 0 rows affected (0.00 sec)
stop slave; 
Query OK,
0 rows affected (0.00 sec) start slave; Query OK, 0 rows affected (0.00 sec)
同样地,在master上执行:
insert into x values(1),(4),(5);
惊喜地发现主从数据已经同步,并且没有复制异常:
M:
select * from x; +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
| 4 |
| 5 |
+----+
5 rows in set (0.00 sec)
S:
select * from x; +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
| 4 |
| 5 |
+----+
5 rows in set (0.01 sec)
上面的测试可以看到,在将参数设置为slave_exec_mode='IDEMPOTENT'之后,可以跳过一个错误的事件。

② Error 1032: Could not execute...event on table db.x; Can't find record in'x', Error_code: 1032;

由于采用ROW模式复制,对数据一致性有严格的要求
测试表在主从环境中的表结构以及数据如下:
CREATE TABLE `x` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8
Table record on master and slave:
M:
select * from x; +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
+----+
3 rows in set (0.00 sec)
S:
select * from x;
+----+
| id |
+----+
| 1 |
| 3 |
+----+
2 rows in set (0.00 sec)
主从上的表记录本来是不一致的,上面没有id=2的记录。此时,上面的slave_exec_mode是默认的STRICT 模式:
show variables like'slave_exec_mode';
+-----------------+--------+
| Variable_name | Value |
+-----------------+--------+
| slave_exec_mode | STRICT |
+-----------------+--------+
1 row in set (0.00 sec) 
The binlog mode on M is:
show variables like'binlog_format'; 
+---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | ROW | +---------------+-------+ 1 row in set (0.00 sec)
Execute on M: BEGIN; INSERT INTO x SELECT 4; DELETE FROM x WHERE id = 2; INSERT INTO x SELECT 5; COMMIT; Because there is no record with id=2 from the above, at this time, the copy of from has reported an error of 1032: Last_SQL_Errno: 1032 Last_SQL_Error: Could not execute Delete_rows event on table dba_test.x; Can't find record in'x', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysql-bin-3306.000006, end_log_pos 12102
同样,上述测试中的两种方法可以使副本正常,但数据也会丢失。丢失id=4和5的记录,在从库上继续设置该参数:
set global slave_exec_mode='IDEMPOTENT';
Query OK, 0 rows affected (0.00 sec)
stop slave; 
Query OK,
0 rows affected (0.00 sec) start slave; Query OK, 0 rows affected (0.00 sec) Perform the same operation on M: BEGIN; INSERT INTO x SELECT 4; DELETE FROM x WHERE id = 2; INSERT INTO x SELECT 5; COMMIT;
您还可以惊喜地发现主从数据是同步的,并且没有复制异常。
注意:slave_exec_mode='IDEMPOTENT'对于DDL操作不能是幂等的,并且对于由不同字段长度引起的错误也不能是幂等的,例如将从库表的id字段类型int更改为bigint。
(译者注:设置slave_exec_mode='IDEMPOTENT' 模式无法解决DDL类型的错误,只能解决从节点上应用主节点binlog时的主键冲突或者无主键错误)
它只能在binlog_format为ROW的模式下使用,并且只能在1032和1062的幂等模式下使用。
 

总结

对于上面的测试总结,对于slave_exec_mode参数,它可以跳过1062和1032个错误,并且不会影响同一事务中的正常数据执行。如果它是由多个sql组成的事务,则可以跳过相关事件。
查看这个参数是非常好的,但是手册指出不建议在正常的复制环境中启用它。对于NDB以外的存储引擎,只有在确定可以安全地忽略重复键错误和无键错误时,才应该使用IDEMPOTENT模式。
该参数是专门为NBD集群设计的。NBD集群模式下,该参数只能设置为“IDEMPOTENT mode”。因此,您必须根据自己的应用场景来决定。
在正常情况下,主从是相同的,任何错误都会被报告。但是,在执行特殊处理时可以暂时打开它。
另外,sql_slave_skip_counter不支持GTID模式下的复制,该模式下的复制可以自己测试。
 

文章来源地址https://www.toymoban.com/news/detail-751351.html

到了这里,关于(译)MySQL中的slave_exec_mode 参数详解(MySQL从节点跳过复制错误的处理,sql_slave_skip_counter VS slave-skip-errors VS slave_exec_mode)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 关系数据库-9-[mysql8]中的语法校验规则sql_mode应用

    Mysql中sql_mode使用详解 sql_mode是一组mysql的语法校验规则,定义了mysql应该支持的sql语法、数据校验等。 1.3.1 ANSI模式 这是一种宽松模式,该模式下,会对所操作数据进行校验,如果不符合校验规则,数据会按照规则执行,并报warning警告。 1.3.2 STRICT_TRANS_TABLES模式 这是一种严格

    2024年02月02日
    浏览(34)
  • mysql 主从同步排查和处理 Slave_IO、Slave_SQL

    目录 查看主从是否同步 详解Slave_IO、Slave_SQL  判断主从完全同步 各个 Log_File 和 Log_Pos的关系 修复命令 Slave_IO_Running、Slave_SQL_Running,这两个值是Yes表示正常,No是异常 使用竖排显示: Slave_IO 线程负责把 主库 的bin日志( Master_Log )内容,抄写到 从库 的中继日志上( Relay_Log )。

    2024年02月15日
    浏览(41)
  • image的mode参数以及详细介绍

    scaleToFill:缩放模式,不保持纵横比缩放图片,使图片的宽高完全拉伸至填满 image 元素 aspectFit:缩放模式,保持纵横比缩放图片,使图片的长边能完全显示出来 aspectFill:缩放模式,保持纵横比缩放图片,使图片的短边能完全显示出来,并且尽可能填满容器 widthFix:缩放模式

    2024年02月07日
    浏览(18)
  • MySql主从复制1032错误(Slave_IO_Running: Yes Slave_SQL_Running: No)

    报错: Last_SQL_Error: Could not execute Delete_rows event on table hr.test; Can’t find record in ‘test’, Error_code: 1032; handler error HA_ERR_END_OF_FILE; the event’s master log mysqlbin.000017, end_log_pos 3392 原因: 个人搭建mysql主从复制后,进行相关表的主从同步练习进行多次操作发现表数据的增加、删除、更

    2024年02月13日
    浏览(33)
  • MYSQL_GTIDS_SLAVE服务器报错1236

    1.slave服务器 老规矩看报错信息: Got fatal error 1236 from master when reading data from binary log: \\\'Slave has more GTIDs than the master has, using the master\\\'s SERVER_UUID. This may indicate that the end of the binary log was truncated or that the last binary log file was lost, e.g., after a power or disk failure when sync_binlog != 1. The mas

    2024年02月03日
    浏览(27)
  • 【MySQL命令】show slave status\G 超详细全面解释

         这个命令是DBA日常运维中常用来查看主从状态的命令,很多监控工具也会使用到该命令监控主从状态是否正常,主从延迟,备份工具获取位点信息等。作为常用日常命令,一定要完全理解该命令的输出。今天主要结合 官方文档 和 实际输出 详细解释该命令。达到完全搞

    2024年02月04日
    浏览(23)
  • -Ddfs.checksum.combine.mode=COMPOSITE_CRC参数解析

    -Ddfs.checksum.combine.mode=COMPOSITE_CRC是一个Hadoop配置参数,用于指定HDFS(Hadoop分布式文件系统)在计算文件校验和时使用的模式。 具体来说,dfs.checksum.combine.mode 参数决定了HDFS在写入和校验文件时使用的校验和模式。COMPOSITE_CRC 是一种校验和模式,它通过组合多个校验和算法来提

    2024年02月16日
    浏览(29)
  • Python中的eval() & exec()

    eval() 是一个内置的 Python 函数,它允许执行一个字符串作为 Python 表达式并返回结果。换句话说,它可以从字符串中动态地执行 Python 表达式。 eval 函数的完整签名是: expression : 必须的参数。这是要计算的 Python 表达式,以字符串形式给出。 globals : 可选的参数。这是用于提供

    2024年02月07日
    浏览(39)
  • RabbitMQ中的消息预取值prefetchCount参数详解

    刚学习RabbitMQ的同学可能对prefetchCount预取值这个参数有一些困惑,本文对其作用进行详细讲解。配合了几张有趣的图片方便同学们理解。   首先要从轮询分发机制讲起,轮询分发顾名思义,依次发消息,生产者不会管你消费者消费消息的速度,我只负责把消息依次给你们,

    2024年01月17日
    浏览(37)
  • pandas中的read_csv参数详解

    pandas. read_csv ( filepath_or_buffer , sep=NoDefault.no_default **,** delimiter=None **,** header=\\\'infer’ , names=NoDefault.no_default **,** index_col=None **,** usecols=None **,** squeeze=False **,** prefix=NoDefault.no_default **,** mangle_dupe_cols=True **,** dtype=None **,** engine=None **,** converters=None **,** true_values=None **,** false_values=N

    2024年02月03日
    浏览(30)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包