读高性能MySQL(第4版)笔记05_优化服务器设置

这篇具有很好参考价值的文章主要介绍了读高性能MySQL(第4版)笔记05_优化服务器设置。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

读高性能MySQL(第4版)笔记05_优化服务器设置文章来源地址https://www.toymoban.com/news/detail-705501.html

1. 除非遇到异常情况,否则不需要调整配置

1.1. 不要“调优”服务器,不要使用比率、公式或“调优脚本”作为设置配置变量的基础

1.1.1. 在互联网上搜索配置建议并不总是一个好主意,你会在博客、论坛等找到很多糟糕的建议

1.1.2. 很难判断谁是真正的专家

1.1.3. 不要相信流行的内存消耗公式

1.2. 可靠的、有信誉的MySQL服务提供商通常比简单的互联网搜索结果更安全,因为那些需要拥有满意的客户的人可能正在做正确的事情

1.2.1. 即使是他们的建议,在没有经过测试和理解的情况下进行应用也可能是危险的,因为它可能针对的是一种与你不同的情况,而你却没有理解

1.3. MySQL的不同版本会删除、弃用和更改一些选项,欲了解详细信息请查看相关文档

1.4. 应该始终通过阅读相关的官方手册来检查任何更改并仔细测试

1.5. MySQL有许多可以更改但不应该更改的设置

1.5.1. MySQL的默认设置是有充分理由的

1.5.2. 修改配置的潜在缺点可能是巨大的

1.5.3. 很多默认设置都是安全的,很多人都会直接使用。这使默认设置成为测试最彻底的设置。当没必要改变这些设置而改变它们时,可能会引起意想不到的错误

1.5.4. 节省时间和避免麻烦的好方法是使用默认设置,除非你明确知道不应该使用默认设置

1.6. 更好的做法是正确地配置基本设置(在大多数情况下,只有少数设置是重要的),并将更多的时间花在schema优化、索引和查询设计上

1.7. 如果问题是由服务器的某个部分引起的,而该部分的行为可以通过配置选项进行纠正,那么可能需要对其进行更改

1.8. 应该只在发现它们解决的特定性能问题时,才设置它们

1.9. 如果需要改进配置,应该会在查询响应时间中体现出来

1.10. 最好从查询及其响应时间开始分析,而不是从配置选项开始

1.10.1. 节省很多时间,避免很多问题

2. 专用数据库服务器

2.1. 可以设置的最佳选项是innodb_dedicated_server

2.1.1. 可以处理90%的性能配置

2.1.2. 配置了4个额外的变量(innodb_buffer_pool_size、innodb_log_file_size、innodb_log_files_in_group和innodb_flush_method)

2.1.3. 通常会占用50%~75%的内存

2.1.3.1. MySQL只需要少量的内存就能保持一个连接(通常是一个相关的专用线程)打开

2.2. 无法使用innodb_dedicated_server

2.2.1. innodb_buffer_pool_size

2.2.1.1. InnoDB缓冲池大小

2.2.1.2. 需要的内存比其他任何组件都多

2.2.1.3. 不仅缓存索引,还缓存行数据、自适应哈希索引、更改缓冲区、锁和其他内部结构等

2.2.1.4. InnoDB严重依赖缓冲池,应该确保为其分配足够的内存

2.2.1.5. 大型缓冲池会带来一些挑战,比如更长的关闭时间和预热时间

2.2.1.6. 当MySQL再次启动时,缓冲池缓存是空的,也称为冷缓存

2.2.1.7. 默认情况下,innodb_buffer_pool_dump_at_shutdown和innodb_buffer_pool_load_at_startup这两个配置可以配合使用,以在启动时预热缓存池

2.2.2. innodb_log_file_size

2.2.2.1. 日志文件大小

2.2.3. 解决了我们所看到的绝大多数实际配置问题

2.3. 应该设置一些安全选项

2.3.1. 通常不会提高性能,只会避免问题

3. MySQL的配置

3.1. 需要永久使用的任何设置都应该写入全局配置文件,而不是在命令行中指定

3.2. 将所有配置文件保存在一个地方也是一个好主意,这样可以方便地检查它们

3.3. 一定要知道服务器的配置文件在哪里

3.3.1. Debian服务器上默认不存在/etc/my.cnf,而是会在/etc/mysql/my.cnf中查找配置

3.4. 配置文件采用标准INI格式,被分为多个部分,每个部分都以一行包含在方括号中的该部分名称开头

3.5. 配置设置全部用小写字母书写,单词之间以下画线或短横线分隔

3.5.1. 建议选择一种风格并始终如一地使用它

3.6. 全局作用域

3.7. 会话作用域

3.8. 许多会话作用域的变量都有相应的全局变量,可以将相应的全局变量的值视为会话变量的默认值

3.9. 动态配置变量

3.9.1. 很多变量(但不是全部)还可以在服务器运行时进行更改

3.9.2. 如果重新启动MySQL,即使使用了SET GLOBAL来更改全局变量,它也将恢复到配置文件中的状态

3.9.3. 必须同时管理MySQL的配置文件和运行时配置,并确保它们保持同步

3.10. MySQL 8.0引入了一个名为持久化系统变量的新功能

3.10.1. 新的语法SET PERSIST允许在运行时设置一次值,MySQL将把这个设置写入磁盘,以便在下次重启后继续使用该值

3.11. table_open_cache

3.11.1. 设置此变量不会立即生效:下一次线程打开表时,MySQL会检查变量的值

3.11.2. 如果该值大于缓存中的表的数目,线程可以将新打开的表插入缓存

3.11.3. 如果该值小于缓存中的表的数目,MySQL将从缓存中删除未使用的表

3.12. thread_cache_size

3.12.1. 设置此变量不会立即生效:下一次关闭连接时,MySQL会检查缓存中是否有空间来存储线程

3.12.2. 如果有,则缓存线程以供其他连接将来重用

3.12.3. 如果没有,则将线程终止而不是缓存它

3.12.4. 只有当查询需要时,MySQL才会为该缓冲区分配内存,而且会立即分配此变量指定的整块内存

3.12.5. 每个处于线程缓存或休眠状态的线程通常使用大约256KB内存

3.12.6. 通常应该保持线程缓存足够大,这样Threads_created就不会经常增加

3.13. open_files_limit选项

3.13.1. 典型的Linux系统中,我们将其设置得尽可能大

3.13.2. 在现代操作系统中,打开文件句柄的成本很低

3.13.3. 如果这个设置不够大,就会看到经典的24号错误,“too many openfiles”

3.14. 设置变量时要小心。并不总是越多越好

3.15. 理想情况下,应该使用版本控制系统来跟踪配置文件的更改

3.16. MySQL并不是一个严格控制内存分配的数据库服务器

3.16.1. 事实是,你不能给MySQL的内存消耗设定上限

4. I/O行为

4.1. InnoDB不仅允许你控制其恢复方式,还允许控制其打开和刷新数据的方式,这将极大地影响恢复和总体性能

4.2. InnoDB使用日志来降低提交事务的成本

4.3. InnoDB假定它使用的是传统的磁盘,随机I/O比顺序I/O的开销要大很多,因为随机I/O需要在磁盘上寻找正确的位置,并等待将所需的磁盘部分旋转到磁头下

4.4. InnoDB最终必须将更改的数据写入数据文件

4.4.1. 日志的大小固定,采取的是循环写入的方式

4.4.1.1. 当到达日志的末尾时,它会环绕到日志的开头

4.4.1.2. 如果日志记录中包含的更改尚未应用于数据文件,则无法覆盖日志记录,因为这将删除已提交事务的唯一永久记录

4.5. 日志文件的总大小由innodb_log_file_size和innodb_log_files_in_group控制,这对写入性能非常重要

4.6. 当缓冲区满了、事务提交时,或者每秒1次(这三个条件以先满足者为准),InnoDB会将缓冲区刷新到磁盘上的日志文件中

4.7. 不需要将缓冲区设置得太大

4.7.1. 建议的范围是1~8M B

4.8. innodb_flush_log_at_trx_commit

4.8.1. 1

4.8.1.1. 每次事务提交时,将日志缓冲区写入日志文件,并将其刷新到持久存储中

4.8.1.2. 默认的(也是最安全的)设置

4.8.1.3. 保证你不会丢失任何已提交的事务,除非磁盘或操作系统“假装”进行刷新操作(没有将数据真正写入磁盘)

4.8.1.3.1. 如果驱动器断电,数据仍可能丢失

4.8.2. 0

4.8.2.1. 每秒定时将日志缓冲区写入日志文件,并刷新日志文件,但在事务提交时不做任何操作

4.8.3. 2

4.8.3.1. 与0设置最重要的区别是,如果只是MySQL进程崩溃,设置为2不会丢失任何事务。但是,如果整个服务器崩溃或断电,仍然可能丢失事务

4.8.4. 设置为0和2通常会导致最多1秒的数据丢失,因为数据可能只存在于操作系统的缓存中

4.9. 高性能事务需求的最佳配置是将innodb_flush_log_at_trx_commit设置为1,并将日志文件放在具有备用电池的写缓存和SSD的RAID卷上,这既安全又非常快

4.10. 最好为日志文件和数据文件分别提供一个配置选项,但目前是组合在一起的

4.11. 如果你使用的是类UNIX操作系统,并且RAID控制器有备用电池的写缓存,我们建议使用O_DIRECT

4.12. 如果不是,则default或O_DIRECT都可能是最佳选择,具体取决于应用程序

5. InnoDB表空间

5.1. 表空间本质上是一个虚拟文件系统,由磁盘上的一个或多个文件组成

5.2. 包含了Undo日志(重新创建旧行版本所需的信息)、修改缓冲区、双写缓冲区和其他内部结构

5.3. 对日志文件也非常严格

5.4. innodb_file_per_table

5.4.1. 提供了额外的可管理性和可视性

5.4.2. 通过检查单个文件来查找表的大小要比使用SHOWTABLE STATUS快得多

5.4.3. SHOW TABLE STATUS必须执行更复杂的工作来确定为一个表分配了空间

5.4.4. 会使DROPTABLE性能变差。严重时可能导致服务器范围内明显的停顿

5.4.4.1. 先将.ibd文件链接到一个大小为零的文件,然后手动删除该文件,而不是等待MySQL来删除

5.4.4.2. 从8.0.23版本开始,这应该不再是一个问题了

5.5. 表空间在写操作频繁的环境中可能会变得非常大

5.5.1. 要限制写操作,请将innodb_max_purge_lag变量设置为0以外的值

5.5.1.1. 表示在InnoDB开始延迟更多修改数据的查询之前,可以等待清除的最大事务数

5.5.1.2. 设置innodb_max_purge_lag变量也会降低性能

5.5.2. 未清除的行版本会影响所有查询,因为它们会使表和索引变大

5.5.3. 清除线程不能跟上进度,性能就会下降

5.5.4. 默认的可重复读取事务隔离级别,InnoDB将无法删除行的旧版本,因为未提交的事务仍需要能够看到它们

5.5.5. 清除过程是多线程的,但如果遇到清除延迟问题(innodb_purge_threads和innodb_purge_batch_size),则可能需要针对工作负载进行调优

5.5.6. 如果Undo日志很大,并且表空间因此而增长,你可以强制MySQL放慢速度来让InnoDB的清理线程跟上

5.5.6.1. InnoDB会不断地写入数据并填充磁盘,直到磁盘空间耗尽或者表空间达到所定义的上限

5.6. sync_binlog选项控制MySQL如何将二进制日志刷新到磁盘,默认值是1

5.6.1. MySQL将执行刷新并保持二进制日志的持久性和安全性

5.6.2. 不建议设置为任何其他值

6. MySQL并发

6.1. 如果遇到InnoDB并发问题,并且运行的MySQL版本低于5.7,解决方案通常是升级服务器

6.2. 如果你发现自己遇到了并发性瓶颈,最好的选择是对数据进行分片

6.2.1. 如果分片不可行,那么可能需要限制并发性

6.3. 限制并发性的最基本方法是使用innodb_thread_concurrency变量,该变量限制了内核中同时可以有多少线程

6.3.1. 首先将innodb_thread_concurrency设置为与可用CPU核数相同的值,然后根据需要调整大小

7. 安全设置

7.1. 安全性和可靠性的保障成本往往更高

7.2. max_connect_errors

7.2.1. 如果网络暂时出现问题、出现应用程序或配置错误,或者存在另一个问题导致连接无法在短时间内成功完成,则客户端可能会被阻止连接,并且在刷新主机缓存之前无法再次连接

7.2.2. 默认设置(100)非常小,因此该问题很容易发生

7.2.3. 如果启用了skip_name_resolve,则max_connect_errors选项将无效,因为其行为取决于主机缓存,而主机缓存被skip_name_resolve禁用

7.3. skip_name_resolve

7.3.1. DNS是MySQL连接过程中的一个薄弱环节

7.3.2. 某个时间点出现DNS故障的概率几乎是确定性的

7.4. max_connections

7.4.1. 设置得足够高,以满足你认为将要经历的正常负载的连接需求,并且额外保留一些连接以便管理服务器时可以登录

7.4.2. 默认值为151,这对于很多应用程序来说都不够

7.4.3. 如果没有使用持久连接,但是应用程序没有正常断开连接,也会出现服务器连接占满的情况

7.4.4. 可以显示服务器是否在某个时刻出现了连接高峰。如果到达max_connections,则客户端可能至少被拒绝了一次

7.5. sql_mode

7.5.1. 最好让MySQL在大多数方面保持原样,而不要试图让它像其他数据库服务器那样运行

7.5.2. 在计划升级数据库时,一定要检查对默认sql_mode的更改

7.6. sysdate_is_now

7.6.1. 如果你不是明确地希望SYSDATE()函数具有不确定性行为(这会破坏复制并使从备份中进行的时间点恢复变得不可靠),那么可以启用该选项并使其行为具有确定性

7.7. read_only

7.7.1. 可防止未经授权的用户对副本进行更改,副本应仅通过复制而不是从应用程序接收更改

7.7.2. 建议将副本设置为只读模式

7.8. super_read_only

7.8.1. 可阻止拥有SUPER权限的用户写入数据

7.8.2. 启用此功能后,唯一可以将更改写入数据库的就是复制

7.8.3. 建议启用super_read_only

7.8.4. 防止你意外地使用管理员账户将数据写入只读副本,从而引起数据不同步

8. 高级InnoDB设置

8.1. innodb_autoinc_lock_mode

8.1.1. 控制InnoDB如何生成自动递增的主键值

8.2. innodb_buffer_pool_instances

8.2.1. 将缓冲池划分为多个段,这可能是提高多核机器上MySQL在高并发工作负载下可伸缩性最重要的方法之一

8.2.2. 多个缓冲池对工作负载进行分区,这样一些全局互斥体就不会成为争用热点

8.3. innodb_io_capacity

8.3.1. 告知InnoDB有多少I/O容量可供其使用

8.4. innodb_read_io_threads

8.5. innodb_write_io_threads

8.6. 如果你有很多硬盘和高并发工作负载,并且发现线程很难跟上,那么可以增加线程的数量,或者简单地将它们设置为执行I/O操作的物理磁盘数量

8.7. innodb_strict_mode

8.7.1. InnoDB在某些情况下抛出错误而不是警告,尤其是无效或可能导致危险的CREATE TABLE选项

8.8. innodb_old_blocks_time

8.8.1. 一个由两部分组成的缓冲池LRU列表,设计目的是防止临时查询将长期多次使用的页面驱逐出去

8.8.2. 默认情况下,它被设置为0

8.8.3. 将其设置为一个较小的值如1000(1秒),这在基准测试中被证明是非常有效的

到了这里,关于读高性能MySQL(第4版)笔记05_优化服务器设置的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 《Linux高性能服务器编程》笔记01

    本文是读书笔记,如有侵权,请联系删除。 参考 Linux高性能服务器编程源码: https://github.com/raichen/LinuxServerCodes 豆瓣: Linux高性能服务器编程 □socket地址API。socket最开始的含义是一个IP地址和端口对(ip,port)。它唯一地 表示了使用TCP通信的一端。本书称其为socket地址。 □s

    2024年01月22日
    浏览(49)
  • 《Linux高性能服务器编程》笔记02

    参考 Linux高性能服务器编程源码: https://github.com/raichen/LinuxServerCodes 豆瓣: Linux高性能服务器编程 Linux提供了很多高级的I/O函数。它们并不像Linux基础I/O函数(比如open和read) 那么常用(编写内核模块时一般要实现这些I/O函数),但在特定的条件下却表现出优秀的性 能。本章将讨论

    2024年01月21日
    浏览(44)
  • 【阅读笔记】Linux 高性能服务器编程

    原文地址以及最新代码参考:https://github.com/EricPengShuai/Interview/tree/main/Linux Ch.5 Linux 网络编程基础 API 5.1 socket 地址 API 5.1.1 主机字节序和网络字节序 大端字节序(网络字节序):高位低地址 小端字节序(主机字节序):高位高地址 参考代码:5-1byteorder.cpp 一般网络编程中,发

    2024年02月06日
    浏览(39)
  • 《Linux高性能服务器编程》笔记04

    本文是读书笔记,如有侵权,请联系删除。 参考 Linux高性能服务器编程源码: https://github.com/raichen/LinuxServerCodes 豆瓣: Linux高性能服务器编程 I/O复用使得程序能同时监听多个文件描述符,这对提高程序的性能至关重要。通常,网络程序在下列情况下需要使用I/0复用技术: 客户

    2024年01月21日
    浏览(61)
  • Linux高性能服务器编程——学习笔记①

    第一章有一些概念讲的很好,值得好好关注一下!!! 1.1 主要的协议 1.1.1 数据链路层 ​ 数据链路层实现了网卡接口的网络驱动程序,以处理数据在物理媒介(以太网、令牌环)上的传输。 ​ 常用的协议有两种: ARP协议(Address Resolve Protocol,地址解析协议) RARP(Reverse

    2024年01月20日
    浏览(48)
  • Linux高性能服务器编程——ch10笔记

    信号是由用户、系统或者进程发送给目标进程的信息,以通知目标进程某个状态的改变或系统异常。 :::tips int kill(pid_t pid, int sig); ::: kill函数:一个进程给其他进程发送信号的API。 sig一般大于0,如果设为0则表示不发送信号,可以用来检测进程或进程组是否存在。由于进程P

    2024年02月06日
    浏览(33)
  • 高性能服务器Nodejs操作Mysql数据库

    数据库和身份认证 配置 mysql 模块 安装 mysql 模块 建立连接 测试是否正常工作 1.2 操作 mysql 数据库 查询数据 插入数据 向表中新增数据时,如果数据对象的每个属性和数据表的字段一一对应,则可以通过如下方式快速插入数据: 更新数据 快捷方式: 删除数据 使用 delete 语句

    2024年02月11日
    浏览(37)
  • 读高性能MySQL(第4版)笔记06_优化数据类型(上)

    3.2.2.1. 字符集和排序规则(collation)使字符型数据的比较更复杂 3.2.2.2. 应该将日期和时间存储为MySQL的内置类型而不是字符串类型 3.2.2.3. 应该用整型数据存储IP地址 4.1.1.1. 使用8、16、24、32和64位存储空间 5.2.4.1. VARCHAR(1000)的列则需要1002个字节,因为需要2字节存储长度

    2024年02月09日
    浏览(42)
  • 读高性能MySQL(第4版)笔记07_优化数据类型(下)

    2.3.1.1. 与UNIX时间戳相同 2.3.2.1. 会遇到2038年的问题 2.3.2.1.1. 使用带符号的32位INT,可以表达直到2038年的时间 2.3.2.1.2. 使用无符号的32位INT,可以表达直到2106年的时间 2.3.2.1.3. 使用64位,还可以超出这些范围 2.3.3.1. MySQL服务器、操作系统和客户端连接都有时区设置 2.3.3.2. 存

    2024年02月09日
    浏览(31)
  • 读高性能MySQL(第4版)笔记04_操作系统和硬件优化

    4.9.2.1. 允许在内存中更改页面,而不用将更改刷新到磁盘,这通常涉及随机I/O,速度非常慢 4.9.2.2. 将更改的记录写入顺序日志文件,这样要快得多 4.9.2.3. 后台线程可以稍后将修改过的页面刷新到磁盘,这样做可以优化写操作的性能 5.11.2.1. 只有进行特殊的擦除操作之后,

    2024年02月09日
    浏览(32)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包