MySQL高性能的几个习惯
SQL规约
DDL、SQL写得好
- 一定要有主键(Primary Key)
- 没有主键会导致什么问题?
- 数据多次读取后可能更离散,有更多随机I/O
- MySQL复制环境中,如果选择RBR模式,没有主键的update需要读全表,导致复制延迟
- 好的主键特点
- 没有业务用途
- 数据呈连续增长,且最好是自增(AUTO_INCREMENT)
- 坚决不能选用CHAR/UUID等类型
- 关于数据长度
- 够用前提下,越短越好
- 消耗更少的存储空间
- 需要进行排序时,消耗更少的内存空间
- 例如用INT UNSIGNED存储IPV4地址,不用CHAR(15)类型
- 案例:11个字符长度的数值,bigint vs char(120) vs char(11),1万条
记录,Logical_read:111 vs 1170 vs 224
- 适当使用TEXT/BLOG类型
- data page默认16KB
- 每行长度超过8KB时,就需要分裂data page
- 产生更多离散I/O
- 案例:一个100G的表拆分成4个表后,总大小仅25G
- 每个表增加create_time、update_time两个字段
- 分别表示创建时间以及更新时间
- 业务可能用不到,但对运维管理非常有用
- 可以用来判断哪些是可以归档的老数据,定期进行归档
- 方便用来做自定义的差异备份
- 索引很重要
- InnoDB行锁是基于索引实现的
- 如果没有索引将会是灾难性的
- 读取时,全表扫描
- 修改时,全表记录锁
- 索引设计
- 基数(cardinality)低的字段一般没必要建立单列索引
- 字符型字段上建立索引时优先采用部分索引(prefix index)
- 5.6.9之后,optimizer能识别到普通索引同时存储主键值,无需显式定义加上主键列(index extensions)
- 优先多列联合索引,少用单列索引
- 不要使用count(列名)或count(常量)来替代count(),count()是SQL92定义的标准统计行数的语法,跟数据库无关,跟null和非null无关。
说明:count(*)会统计值为NULL的行,而count(列名)不会统计此列为NULL的行 - count(distinct col)计算该列值除NULL之外的不重复的行数,注意count(distinct col1, col2)如果其中一列全为NULL,那么即使另一列有不同的值,也返回为0
当某一列的值全是NULL时,count(col)返回为0,但sum(col)的返回结果为NULL,因此使用SUM()时需注意NPE问题
注:NPE(Null Pointer Exception)即空指针异常
正例: 可以使用如下方式来避免 sum 的 NPE 问题:1SELECT IF(ISNULL(SUM(g)),0,SUM(g)) FROM table;使用ISNULL()来判断是否是NULL值。注意:NULL与任何值的直接比较都为NULL。
说明:- NULL <> NULL的返回结果为NULL,不是false
- NULL = NULL的返回结果为NULL,而不是true
- NULL <> 1的返回结果为NULL,而不是true
- 在代码中写分页逻辑查询时,若count为0应直接返回,避免执行后面的分页语句
- 不得使用外键与级联,一切外键概念必须在应用层解决。
说明:(概念解释)学生表中的student_id是主键,那么成绩表中的student_id则为 外键。如果更新学生表中的student_id,同时触发成绩表中的student_id更新,则为 级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更 新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度 - 禁止使用存储过程,存储过程难以调试和扩展,更没有移植性
- 数据订正时,删除和修改记录时,要先select,避免出现误删除,确认无误才能执行更新语句
- in操作能避免则避免,若实在避免不了,需仔细评估in后面的集合元素数量,控制在1000以内
- 若有全球化需要,所有字符的存储与表示,均以utf8编码,那么字符计数方法需注意:
说明:
SELECT LENGTH(“轻松工作”); 返回为12
SELECT CHARACTER_LENGTH(“轻松工作”); 返回为4
如果要使用表情,使用utfmb4来进行存储,注意它与utf8编码的区别 - TRUNCATE TABLE比DELETE速度更快,并且使用的系统事物和日志资源少,TRUNCATE无事物且不触发trigger,有可能造成事故,故不建议在开发代码中使用
说明:TRUECATE TABLE与不带WHERE的子句的DELETE在功能上相同 - 好SQL的几个特点
- 所有WHERE条件都加上引号
- 避免潜在的类型隐式转换风险
- 避免个别条件失效时造成SQL语法错误
- 不SELECT *
- 减少不必要的I/O(I/O成本较大)
- 提高可以利用覆盖索引的几率
- 避免SQL注入风险
- 所有用户输入值都要做过滤
- 利用PREPARE做预处理
- 利用SQL_MODE做限制
- LIKE查询时,不要用%通配符最左前导(无法使用索引)
- 能UNION ALL就不要UNION(UNION需要去重,产生临时表)
- SQL中最好不要有运算
- WHERE字句中不要有函数
- 关于JOIN
- 满足业务需求前提下尽量用inner join,让优化器自动选择驱动表
- 有时候优化器选择的驱动表未必是最优的,可以尝试采用手动调整
- 最后的排序字段如果不在驱动表中,则会有filesort
糟糕的SQL示例
1.123UPDATE t SET c2 = ? AND c3 = ? WHREE c1 = ?=>UPDATE t SET c2 = ?,c3 = ? WHERE c1 = ?2.
1234UPDATE t SET c2 =?WHERE c1 = '?'=>UPDATE t SET c2 = ? WHERE c1 = '?'3.
123SELECT * FROM t WHERE c1 = '?'=>SELECT c2,c3 FROM t WHERE c1 = '?'4.
123SELECT c2,c3 FROM t WHERE c4 like '%???%'=>SELECT c2,c3 FROM t WHERE c1 >= ? AND c1 <= ? AND c4 like '%???%'5.
123SELECT c2,c3 FROM t WHERE date(c1) = '2017-01-01'=>SELECT c2,c3 FROM t WHERE c1 >= '2017-01-01' AND c1 < '2017-01-02'6.
123SELECT c2,c3 FROM t WHERE c1 = int_value=>SELECT c2,c3 FROM t WHERE c1 = 'int_value'关于EXPLAIN
- 关键业务上线之前,都要EXPLAIN确认其执行计划
- 或提前分析slow query log,防患未然
- EXPLAIN中如有Using temporary、Using filesort、或typa=ALL时,尽量想办法进行优化
建表规约
- 表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsigned tinyint(1表示是,0表示否)。[强制]
- 表名、字段名必须使用小写字母或数字,禁止出现数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因无法进行预发布,所以字段名称需慎重考虑。[强制]
正例:gatter_admin, task_config, level3_name
反例:GetterAdmin, taskConfig, level_3_name - 表名不使用复数名词 [强制]
说明:标明应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于DO类名也是单数形式,符合表达习惯。 - 禁用保留字,如desc、range、match、delayed等,详情请参考MySQL官方文档。 [强制]
- 主键索引名为pk_fieldName;唯一索引名为uk_fieldName;普通索引名为idxfieldName。[强制]
说明:pk即primary key;uk即unique key;idx即index的简称。 - 小数类型为decimal,禁止使用double和float。 [ 强制 ]
说明:float和double在存储时,存在精度损失问题,很可能在值比较时得不到正确的结果。如果存储的数据范围超过decimal的范围,建议将数字拆分成证书和小数单独存储。 - 如果存储的字符串长度几乎相等,使用char定长字符串类型。 [ 强制 ]
- varchar是可变长字符串,不预先分配存储空间,长度不要超过5000,若存储长度大于此值,定义字段类型为text,独立出来一张表,用主键来对应,避免影响其他字段索引效率。 [ 强制 ]
- 表必备3个字段,id、gmt_create、gmt_modified。 [ 强制 ]
其中id为主键,类型为unsigned bigint、单表时自增、步长为1。gmt_create,gmt_modified的类型均为date_time类型。 - 表的命名方式最好是“业务名称_表的作用”。 [ 推荐 ]
正例:tiger_task / tiger_reader / mpp_config - 数据库名与应用名称尽量一致。 [ 推荐 ]
- 如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。 [ 推荐 ]
- 字段允许适当冗余,以提高性能,但是必须考虑数据同步的情况。冗余字段应遵循:
- 不是频繁修改的字段
- 不是varchar超长字段,更不能是text字段
正例:商品类目名称使用频率高,字段长度短,名称基本一成不变,可在相关联的表中冗余存
储类目名称,避免关联查询。
- 单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。[ 推荐 ]
说明:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。 - 合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检
索速度。 [ 参考 ]
正例:无符号值可以避免误存负数,且扩大了表示范围。
| 对象 | 年龄区间 | 类型 | 表示范围 |
|---|---|---|---|
| 人 | 150 岁之内 | unsigned tinyint | 无符号值:0到255 |
| 龟 | 数百岁 | unsigned smallint | 无符号值:0到65535 |
| 恐龙化石 | 数千万年 | unsigned int | 无符号值:0到约42.9亿 |
| 太阳 | 约 50 亿年 | unsigned bigint | 无符号值:0到约10的19 次方 |
索引规约
- 业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。[ 强制 ]
说明:不要以为唯一索引影响了insert速度,这个速度损耗可以忽略,但提高查询速度是明显的,另外,在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。 - 超过3个表禁止join。需要join的字段,数据类型必须保持一致;多表关联查询时,保证被关联的字段需要有索引。 [ 强制 ]
说明:即使双表join也有注意索引、SQL性能。 - 在varchar字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。 [ 强制 ]
说明:说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达90%以上,可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。 - 页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。 [ 强制 ]
说明:索引文件具有B_Tree的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。 - 如果有order by场景,请使用索引的有序性。order by最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现file_sort的情况,影响查询性能。[ 推荐 ]
正例:where a=? and b=? order by c; 索引:a_b_c
反例:索引中有范围查找,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b; 索引a_b无法排序。 - 利用索引覆盖来进行查询操作,避免回表。 [ 推荐 ]
说明:如果一本书需要知道第11章是什么标题,会翻开第11章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。
正例:能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用explain的结果,extra列会出现:using index。 利用延迟关联或者子查询优化超多分页场景。[ 推荐 ]
说明:MySQL并不是跳过offset行,而是取offset + N行,然后返回放弃前offset行,返回N行,那当offset特别大的时候,效率就特别低下,要么控制返回的总页数,要么对超过特定阈值的页数进行SQL改写。 [推荐]
正例:先快速定位需要获取的id段,然后再关联:1SELECT a.* FROM 表1 a(select id from 表1 where 条件 LIMIT 100000, 20) b where a.id=b.idSQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts最好。 [推荐]
说明:- consts 单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。
- ref 指的是使用普通的索引(normal index)。
- range 对索引进行范围检索。
反例: explain表的结果,type=index,索引物理文件全扫描,速度非常慢,这个index级别比较range还低,与全表扫描是小巫见大巫。
- 建组合索引的时候,区分度最高的在最左边。 [推荐]
正例:如果where a = ? and b = ?,a列的几乎接近于唯一值,那么只需要单列idx_a索引即可。
说明:存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where a>? and b=? 那么即使a的区分度更高,也必须把b放在索引的最前列。 - 创建索引时避免有如下极端误解:
a. 误认为一个查询就需要建一个索引。
b. 误认为索引会消耗空间、严重拖慢更新和新增速度。
c. 误认为唯一索引一律需要在应用层通过“先查后插”方式解决。
[注] 以上整理自阿里云栖大会资料,仅限分享学习。