Feron's BLOG

高性能MySQL的N个习惯

MySQL高性能的几个习惯

SQL规约

DDL、SQL写得好

  • 一定要有主键(Primary Key)
  • 没有主键会导致什么问题?
    • 数据多次读取后可能更离散,有更多随机I/O
    • MySQL复制环境中,如果选择RBR模式,没有主键的update需要读全表,导致复制延迟
  • 好的主键特点
    • 没有业务用途
    • 数据呈连续增长,且最好是自增(AUTO_INCREMENT)
    • 坚决不能选用CHAR/UUID等类型
  • 关于数据长度
    • 够用前提下,越短越好
    • 消耗更少的存储空间
    • 需要进行排序时,消耗更少的内存空间
    • 例如用INT UNSIGNED存储IPV4地址,不用CHAR(15)类型
    • 案例:11个字符长度的数值,bigint vs char(120) vs char(11),1万条
      记录,Logical_read:111 vs 1170 vs 224
  • 适当使用TEXT/BLOG类型
    • data page默认16KB
    • 每行长度超过8KB时,就需要分裂data page
    • 产生更多离散I/O
    • 案例:一个100G的表拆分成4个表后,总大小仅25G
  • 每个表增加create_time、update_time两个字段
    • 分别表示创建时间以及更新时间
    • 业务可能用不到,但对运维管理非常有用
    • 可以用来判断哪些是可以归档的老数据,定期进行归档
    • 方便用来做自定义的差异备份
  • 索引很重要
    • InnoDB行锁是基于索引实现的
    • 如果没有索引将会是灾难性的
      • 读取时,全表扫描
      • 修改时,全表记录锁
  • 索引设计
    • 基数(cardinality)低的字段一般没必要建立单列索引
    • 字符型字段上建立索引时优先采用部分索引(prefix index)
    • 5.6.9之后,optimizer能识别到普通索引同时存储主键值,无需显式定义加上主键列(index extensions)
    • 优先多列联合索引,少用单列索引
  • 不要使用count(列名)或count(常量)来替代count(),count()是SQL92定义的标准统计行数的语法,跟数据库无关,跟null和非null无关。
    说明:count(*)会统计值为NULL的行,而count(列名)不会统计此列为NULL的行
  • count(distinct col)计算该列值除NULL之外的不重复的行数,注意count(distinct col1, col2)如果其中一列全为NULL,那么即使另一列有不同的值,也返回为0
  • 当某一列的值全是NULL时,count(col)返回为0,但sum(col)的返回结果为NULL,因此使用SUM()时需注意NPE问题
    注:NPE(Null Pointer Exception)即空指针异常
    正例: 可以使用如下方式来避免 sum 的 NPE 问题:

    1
    SELECT IF(ISNULL(SUM(g)),0,SUM(g)) FROM table;
  • 使用ISNULL()来判断是否是NULL值。注意:NULL与任何值的直接比较都为NULL。
    说明:

    1. NULL <> NULL的返回结果为NULL,不是false
    2. NULL = NULL的返回结果为NULL,而不是true
    3. NULL <> 1的返回结果为NULL,而不是true
  • 在代码中写分页逻辑查询时,若count为0应直接返回,避免执行后面的分页语句
  • 不得使用外键与级联,一切外键概念必须在应用层解决。
    说明:(概念解释)学生表中的student_id是主键,那么成绩表中的student_id则为 外键。如果更新学生表中的student_id,同时触发成绩表中的student_id更新,则为 级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更 新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度
  • 禁止使用存储过程,存储过程难以调试和扩展,更没有移植性
  • 数据订正时,删除和修改记录时,要先select,避免出现误删除,确认无误才能执行更新语句
  • in操作能避免则避免,若实在避免不了,需仔细评估in后面的集合元素数量,控制在1000以内
  • 若有全球化需要,所有字符的存储与表示,均以utf8编码,那么字符计数方法需注意:
    说明:
    SELECT LENGTH(“轻松工作”); 返回为12
    SELECT CHARACTER_LENGTH(“轻松工作”); 返回为4
    如果要使用表情,使用utfmb4来进行存储,注意它与utf8编码的区别
  • TRUNCATE TABLE比DELETE速度更快,并且使用的系统事物和日志资源少,TRUNCATE无事物且不触发trigger,有可能造成事故,故不建议在开发代码中使用
    说明:TRUECATE TABLE与不带WHERE的子句的DELETE在功能上相同
  • 好SQL的几个特点
    • 所有WHERE条件都加上引号
    • 避免潜在的类型隐式转换风险
    • 避免个别条件失效时造成SQL语法错误
    • 不SELECT *
    • 减少不必要的I/O(I/O成本较大)
    • 提高可以利用覆盖索引的几率
    • 避免SQL注入风险
    • 所有用户输入值都要做过滤
    • 利用PREPARE做预处理
    • 利用SQL_MODE做限制
    • LIKE查询时,不要用%通配符最左前导(无法使用索引)
    • 能UNION ALL就不要UNION(UNION需要去重,产生临时表)
    • SQL中最好不要有运算
    • WHERE字句中不要有函数
    • 关于JOIN
      • 满足业务需求前提下尽量用inner join,让优化器自动选择驱动表
      • 有时候优化器选择的驱动表未必是最优的,可以尝试采用手动调整
      • 最后的排序字段如果不在驱动表中,则会有filesort
  • 糟糕的SQL示例
    1.

    1
    2
    3
    UPDATE t SET c2 = ? AND c3 = ? WHREE c1 = ?
    =>
    UPDATE t SET c2 = ?,c3 = ? WHERE c1 = ?

    2.

    1
    2
    3
    4
    UPDATE t SET c2 =?
    WHERE c1 = '?'
    =>
    UPDATE t SET c2 = ? WHERE c1 = '?'

    3.

    1
    2
    3
    SELECT * FROM t WHERE c1 = '?'
    =>
    SELECT c2,c3 FROM t WHERE c1 = '?'

    4.

    1
    2
    3
    SELECT c2,c3 FROM t WHERE c4 like '%???%'
    =>
    SELECT c2,c3 FROM t WHERE c1 >= ? AND c1 <= ? AND c4 like '%???%'

    5.

    1
    2
    3
    SELECT c2,c3 FROM t WHERE date(c1) = '2017-01-01'
    =>
    SELECT c2,c3 FROM t WHERE c1 >= '2017-01-01' AND c1 < '2017-01-02'

    6.

    1
    2
    3
    SELECT c2,c3 FROM t WHERE c1 = int_value
    =>
    SELECT c2,c3 FROM t WHERE c1 = 'int_value'
  • 关于EXPLAIN

    • 关键业务上线之前,都要EXPLAIN确认其执行计划
    • 或提前分析slow query log,防患未然
    • EXPLAIN中如有Using temporary、Using filesort、或typa=ALL时,尽量想办法进行优化

建表规约

  1. 表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsigned tinyint(1表示是,0表示否)。[强制]
  2. 表名、字段名必须使用小写字母或数字,禁止出现数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因无法进行预发布,所以字段名称需慎重考虑。[强制]
    正例:gatter_admin, task_config, level3_name
    反例:GetterAdmin, taskConfig, level_3_name
  3. 表名不使用复数名词 [强制]
    说明:标明应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于DO类名也是单数形式,符合表达习惯。
  4. 禁用保留字,如desc、range、match、delayed等,详情请参考MySQL官方文档。 [强制]
  5. 主键索引名为pk_fieldName;唯一索引名为uk_fieldName;普通索引名为idxfieldName。[强制]
    说明:pk
    即primary key;uk即unique key;idx即index的简称。
  6. 小数类型为decimal,禁止使用double和float。 [ 强制 ]
    说明:float和double在存储时,存在精度损失问题,很可能在值比较时得不到正确的结果。如果存储的数据范围超过decimal的范围,建议将数字拆分成证书和小数单独存储。
  7. 如果存储的字符串长度几乎相等,使用char定长字符串类型。 [ 强制 ]
  8. varchar是可变长字符串,不预先分配存储空间,长度不要超过5000,若存储长度大于此值,定义字段类型为text,独立出来一张表,用主键来对应,避免影响其他字段索引效率。 [ 强制 ]
  9. 表必备3个字段,id、gmt_create、gmt_modified。 [ 强制 ]
    其中id为主键,类型为unsigned bigint、单表时自增、步长为1。gmt_create,gmt_modified的类型均为date_time类型。
  10. 表的命名方式最好是“业务名称_表的作用”。 [ 推荐 ]
    正例:tiger_task / tiger_reader / mpp_config
  11. 数据库名与应用名称尽量一致。 [ 推荐 ]
  12. 如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。 [ 推荐 ]
  13. 字段允许适当冗余,以提高性能,但是必须考虑数据同步的情况。冗余字段应遵循:
    1. 不是频繁修改的字段
    2. 不是varchar超长字段,更不能是text字段
      正例:商品类目名称使用频率高,字段长度短,名称基本一成不变,可在相关联的表中冗余存
      储类目名称,避免关联查询。
  14. 单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。[ 推荐 ]
    说明:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。
  15. 合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检
    索速度。 [ 参考 ]
    正例:无符号值可以避免误存负数,且扩大了表示范围。
对象 年龄区间 类型 表示范围
150 岁之内 unsigned tinyint 无符号值:0到255
数百岁 unsigned smallint 无符号值:0到65535
恐龙化石 数千万年 unsigned int 无符号值:0到约42.9亿
太阳 约 50 亿年 unsigned bigint 无符号值:0到约10的19 次方

索引规约

  1. 业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。[ 强制 ]
    说明:不要以为唯一索引影响了insert速度,这个速度损耗可以忽略,但提高查询速度是明显的,另外,在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。
  2. 超过3个表禁止join。需要join的字段,数据类型必须保持一致;多表关联查询时,保证被关联的字段需要有索引。 [ 强制 ]
    说明:即使双表join也有注意索引、SQL性能。
  3. 在varchar字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。 [ 强制 ]
    说明:说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达90%以上,可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。
  4. 页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。 [ 强制 ]
    说明:索引文件具有B_Tree的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。
  5. 如果有order by场景,请使用索引的有序性。order by最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现file_sort的情况,影响查询性能。[ 推荐 ]
    正例:where a=? and b=? order by c; 索引:a_b_c
    反例:索引中有范围查找,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b; 索引a_b无法排序。
  6. 利用索引覆盖来进行查询操作,避免回表。 [ 推荐 ]
    说明:如果一本书需要知道第11章是什么标题,会翻开第11章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。
    正例:能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用explain的结果,extra列会出现:using index。
  7. 利用延迟关联或者子查询优化超多分页场景。[ 推荐 ]
    说明:MySQL并不是跳过offset行,而是取offset + N行,然后返回放弃前offset行,返回N行,那当offset特别大的时候,效率就特别低下,要么控制返回的总页数,要么对超过特定阈值的页数进行SQL改写。 [推荐]
    正例:先快速定位需要获取的id段,然后再关联:

    1
    SELECT a.* FROM1 a(select id from1 where 条件 LIMIT 100000, 20) b where a.id=b.id
  8. SQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts最好。 [推荐]
    说明:

    1. consts 单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。
    2. ref 指的是使用普通的索引(normal index)。
    3. range 对索引进行范围检索。
      反例: explain表的结果,type=index,索引物理文件全扫描,速度非常慢,这个index级别比较range还低,与全表扫描是小巫见大巫。
  9. 建组合索引的时候,区分度最高的在最左边。 [推荐]
    正例:如果where a = ? and b = ?,a列的几乎接近于唯一值,那么只需要单列idx_a索引即可。
    说明:存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where a>? and b=? 那么即使a的区分度更高,也必须把b放在索引的最前列。
  10. 创建索引时避免有如下极端误解:
    a. 误认为一个查询就需要建一个索引。
    b. 误认为索引会消耗空间、严重拖慢更新和新增速度。
    c. 误认为唯一索引一律需要在应用层通过“先查后插”方式解决。

[注] 以上整理自阿里云栖大会资料,仅限分享学习。