原文链接:
大多数MySQL规范在网上也都能找得到相关的分享,在这里要分享的是老叶个人认为比较重要的,或者容易被忽视的,以及容易被混淆的一些地方。
1、默认使用InnoDB引擎
【老叶观点】已多次呼吁过了,InnoDB适用于几乎99%的MySQL应用场景,而且在MySQL 5.7的系统表都改成InnoDB了,还有什么理由再死守MyISAM呢。
此外,频繁读写的InnoDB表,一定要使用具有自增/顺序特征的整型作为显式主键。
【参考】:[MySQL FAQ]系列 — 为什么InnoDB表要建议用自增列做主键。
2、字符集选择utf-8
【老叶观点】若为了节省磁盘空间,则建议选择latin1。建议选择utf-8通常是为了所谓的“通用性”,但事实上用户提交的utf-8数据也一样可以以latin1字符集存储。
用latin1存储utf-8数据可能遇到的麻烦是,如果有基于中文的检索时,可能无法100%准确(老叶亲自简单测试常规的中文完检索全不是问题,也就是一般的中文对比是没问题的)。
用latin1字符集存储utf-8数据的做法是:在web端(用户端)的字符集是utf-8,后端程序也采用utf-8来处理,但 character_set_client、character_set_connection、character_set_results、character_set_database、character_set_server 这几个都是 latin1,且数据表、字段的字符集也是latin1。或者说数据表采用latin1,每次连接后执行 SET NAMES LATIN1 即可。
【参考】:小谈MySQL字符集。
3、InnoDB表行记录物理长度不超过8KB
【老叶观点】InnoDB的data page默认是16KB,基于B+Tree的特点,一个data page中需要至少存储2条记录。因此,当实际存储长度超过8KB(尤其是TEXT/BLOB列)的大列(large column)时会引起“page-overflow存储”,类似ORACLE中的“行迁移”。
因此,如果必须使用大列(尤其是TEXT/BLOB类型)且读写频繁的话,则最好把这些列拆分到子表中,不要和主表放在一起存储。如果不太频繁,可以考虑继续保留在主表中。
当然了,如果将 innodb_page_size 选项修改成 8KB,那么行记录物理长度建议不超过4KB。
【参考】:[MySQL优化案例]系列 — 优化InnoDB表BLOB列的存储效率。
4、是否使用分区表
【老叶观点】在一些使用分区表后明显可以提升性能或者运维便利性的场景下,还是建议使用分区表。
比如老叶就在zabbix的数据库采用TokuDB引擎的前提下,又根据时间维度使用了分区表。这样的好处是保证zabbix日常应用不受到影响前提下,方便管理员例行删除过去数据,只需要删除相应分区即可,不需再执行一个非常慢的DELETE而影响整体性能。
【参考】:迁移Zabbix数据库到TokuDB。
5、是否使用存储过程、触发器
【老叶观点】在一些合适的场景下,用存储过程、触发器也完全没问题。
我们以前就是利用存储完成游戏业务逻辑处理,性能上不是问题,而且一旦需求有变更,只需修改存储过程,变更代价很低。我们还利用触发器维护一个频繁更新的表,对这个表的所有变更都将部分字段同步更新到另一个表中(类似物化视图的变相实现),也不存在性能问题。
不要把MySQL的存储过程和触发器视为洪水猛兽,用好的话,没有问题的,真遇到问题了再优化也不迟。另外,MySQL因为没有物化视图,因此视图能不用就尽量少用吧。
6、选择合适的类型
【老叶观点】除了常见的建议外,还有其他几个要点:
6.1、用INT UNSIGNED存储IPV4地址,用INET_ATON()、INET_NTOA()进行转换,基本上没必要使用CHAR(15)来存储。
6.2、枚举类型可以使用ENUM,ENUM的内部存储机制是采用TINYINT或SMALLINT(并非CHAR/VARCHAR),性能一点都不差,记住千万别用CHAR/VARCHAR 来存储枚举数据。
6.3、还个早前一直在传播的“常识性误导”,建议用TIMESTAMP取代DATETIME。其实从5.6开始,建议优先选择DATETIME存储日期时间,因为它的可用范围比TIMESTAMP更大,物理存储上仅比TIMESTAMP多1个字节,整体性能上的损失并不大。
6.4、所有字段定义中,默认都加上NOT NULL约束,除非必须为NULL(但我也想不出来什么场景下必须要在数据库中存储NULL值,可以用0来表示)。在对该字段进行COUNT()统计时,统计结果更准确(值为NULL的不会被COUNT统计进去),或者执行 WHERE column IS NULL 检索时,也可以快速返回结果。
6.5、尽可能不要直接 SELECT * 读取全部字段,尤其是表中存在 TEXT/BLOB 大列的时候。可能本来不需要读取这些列,但因为偷懒写成 SELECT * 导致内存buffer pool被这些“垃圾”数据把真正需要缓冲起来的热点数据给洗出去了。
7、关于索引
【老叶观点】除了常见的建议外,还有几个要点:
7.1、超过20个长度的字符串列,最好创建前缀索引而非整列索引(例如:ALTER TABLE t1 ADD INDEX(user(20))),可以有效提高索引利用率,不过它的缺点是对这个列排序时用不到前缀索引。前缀索引的长度可以基于对该字段的统计得出,一般略大于平均长度一点就可以了。
7.2、定期用 pt-duplicate-key-checker 工具检查并删除重复的索引。比如 index idx1(a, b) 索引已经涵盖了 index idx2(a),就可以删除 idx2 索引了。
7.3、有多字段联合索引时,where中过滤条件的字段顺序无需和索引一致,但如果有排序、分组则就必须一致了。
比如有联合索引 idx1(a, b, c),那么下面的SQL都可以完整用到索引:
SELECT ... WHERE b = ? AND c = ? AND a = ?; --注意到,WHERE中字段顺序并没有和索引字段顺序一致 SELECT ... WHERE b = ? AND a = ? AND c = ?; SELECT ... WHERE a = ? AND b IN (?, ?) AND c = ?; SELECT ... WHERE a = ? AND b = ? ORDER BY c; SELECT ... WHERE a = ? AND b IN (?, ?) ORDER BY c; SELECT ... WHERE a = ? ORDER BY b, c; SELECT ... ORDER BY a, b, c; -- 可利用联合索引完成排序
而下面几个SQL则只能用到部分索引,或者可利用到ICP特性:
SELECT ... WHERE b = ? AND a = ?; -- 只能用到 (a, b) 部分 SELECT ... WHERE a IN (?, ?) AND b = ?; -- EXPLAIN显示只用到 (a, b) 部分索引,同时有ICP SELECT ... WHERE (a BETWEEN ? AND ?) AND b = ?; -- EXPLAIN显示只用到 (a, b) 部分索引,同时有ICP SELECT ... WHERE a = ? AND b IN (?, ?); -- EXPLAIN显示只用到 (a, b) 部分索引,同时有ICP SELECT ... WHERE a = ? AND (b BETWEEN ? AND ?) AND c = ?; -- EXPLAIN显示用到 (a, b, c) 整个索引,同时有ICP SELECT ... WHERE a = ? AND c = ?; -- EXPLAIN显示只用到 (a) 部分索引,同时有ICP SELECT ... WHERE a = ? AND c >= ?; -- EXPLAIN显示只用到 (a) 部分索引,同时有ICP
ICP(index condition pushdown)是MySQL 5.6的新特性,其机制会让索引的其他部分也参与过滤,减少引擎层和server层之间的数据传输和回表请求,通常情况下可大幅提升查询效率。
下面的几个SQL完全用不到该索引:
SELECT ... WHERE b = ?; SELECT ... WHERE b = ? AND c = ?; SELECT ... WHERE b = ? AND c = ?; SELECT ... ORDER BY b; SELECT ... ORDER BY b, a;
从上面的几个例子就能看的出来,以往强调的where条件字段顺序要和索引顺序一致才能使用索引的“常识性误导”无需严格遵守。
此外,有些时候查询优化器指定的索引或执行计划可能并不是最优的,可以手工指定最优索引,或者修改session级的 optimizer_switch 选项,关闭某些导致效果反而更差的特性(比如index merge通常是好事,但也遇到过用上index merge后反而更差的,这时候要么强制指定其中一个索引,要么可以临时关闭 index merge 特性)。
8、其他
8.1、哪怕是基于索引的条件过滤,如果优化器意识到总共需要扫描的数据量超过30%时(ORACLE里貌似是20%,MySQL目前是30%,没准以后会调整),就会直接改变执行计划为全表扫描,不再使用索引。
8.2、多表JOIN时,要把过滤性最大(不一定是数据量最小哦,而是只加了WHERE条件后过滤性最大的那个)的表选为驱动表。此外,如果JOIN之后有排序,排序字段一定要属于驱动表,才能利用驱动表上的索引完成排序。
8.3、绝大多数情况下,排序的代价通常要来的更高,因此如果看到执行计划中有 Using filesort,优先创建排序索引吧。
8.4、利用 pt-query-digest 定期分析slow query log,并结合 Box Anemometer 构建slow query log分析及优化系统。
【参考】:[MySQL FAQ]系列 — EXPLAIN结果中哪些信息要引起关注。
备注:若无特别说明,以上规范建议适用于MySQL 5.6及之前的版本(并且主要是5.6版本,尤其是ICP特性、DATETIME变化这两个地方)。5.7及之后的版本可能会有些变化,个别规范建议需要相应调整。
更多参考链接:
=EOF=
《 “[collect]MySQL的开发规范” 》 有 5 条评论
我猜你一定达不到要求的《MySQL安全策略》
https://mp.weixin.qq.com/s/TKqG5eQ4gSwNn6M5UaKaRw
`
内部操作安全策略
1. 是否回收DBA全部权限
2. MySQL层安全策略
3. MySQL账号权限规则
4. 关于数据备份
外网安全策略
1. 操作系统安全建议
2. 应用安全建议
`
Yearning: 基于Inception的可视化Web端SQL审核平台
https://github.com/cookieY/Yearning
http://supermancookie.com/Yearning-document/
https://github.com/mysql-inception/inception
MySQL 学习笔记 Alpha
https://notes.diguage.com/mysql/
https://github.com/diguage/mysql-notes
SOAR 使用指南
https://mp.weixin.qq.com/s/7sj2HnOQsNP_Zf_07C1FFQ
https://github.com/XiaoMi/soar
SOAR的IDE插件——您的贴身DBA保镖
https://mp.weixin.qq.com/s/XJvRjkSab4B5zPdWBOhi1w
`
SOAR(SQL Optimizer And Rewriter)是小米近期开源的SQL智能优化改写工具,不仅仅希望对DBA能够提供帮助,也希望能够协助广大的SQL开发者更容易的写出高质量的SQL。
`
后端程序员必备:书写高质量SQL的30条建议
https://www.cnblogs.com/jay-huaxiao/p/12546973.html
`
1、查询SQL尽量不要使用select *,而是select具体字段。
2、如果知道查询结果只有一条或者只要最大/最小一条记录,建议用limit 1
3、应尽量避免在where子句中使用or来连接条件
4、优化limit分页
5、优化你的like语句
6、使用where条件限定要查询的数据,避免返回多余的行
7、尽量避免在索引列上使用mysql的内置函数
8、应尽量避免在 where 子句中对字段进行表达式操作,这将导致系统放弃使用索引而进行全表扫
9、Inner join 、left join、right join,优先使用Inner join,如果是left join,左边表结果尽量小
10、应尽量避免在 where 子句中使用!=或操作符,否则将引擎放弃使用索引而进行全表扫描。
11、使用联合索引时,注意索引列的顺序,一般遵循最左匹配原则。
12、对查询进行优化,应考虑在 where 及 order by 涉及的列上建立索引,尽量避免全表扫描。
13、如果插入数据过多,考虑批量插入。
14、在适当的时候,使用覆盖索引。
15、慎用distinct关键字
16、删除冗余和重复索引
17、如果数据量较大,优化你的修改/删除语句。
18、where子句中考虑使用默认值代替null。
19、不要有超过5个以上的表连接
20、exist & in的合理利用
21、尽量用 union all 替换 union
22、索引不宜太多,一般5个以内。
23、尽量使用数字型字段,若只含数值信息的字段尽量不要设计为字符型
24、索引不适合建在有大量重复数据的字段上,如性别这类型数据库字段。
25、尽量避免向客户端返回过多数据量。
26、当在SQL语句中连接多个表时,请使用表的别名,并把别名前缀于每一列上,这样语义更加清晰。
27、尽可能使用varchar/nvarchar 代替 char/nchar。
28、为了提高group by 语句的效率,可以在执行到该语句前,把不需要的记录过滤掉。
29、如何字段类型是字符串,where时一定用引号括起来,否则索引失效
30、使用explain 分析你SQL的计划
`
一条 SQL 查询语句是怎么执行的?
https://mp.weixin.qq.com/s/ZBG0ZilpimMB-sAVv-rHQQ