原文出处:http://tech.meituan.com/mysql-index.html
MySQL凭借着出色的性能、低廉的成本、丰富的资源,已经成为绝大多数互联网公司的首选关系型数据库。虽然性能出色,但所谓“好马配好鞍”,如何能够更好的使用它,已经成为开发工程师的必修课,我们经常会从职位描述上看到诸如“精通MySQL”、“SQL语句优化”、“了解数据库原理”等要求。我们知道一般的应用系统,读写比例在10:1左右,而且插入操作和一般的更新操作很少出现性能问题,遇到最多的,也是最容易出问题的,还是一些复杂的查询操作,所以查询语句的优化显然是重中之重。
本人从13年7月份起,一直在美团核心业务系统部做慢查询的优化工作,共计十余个系统,累计解决和积累了上百个慢查询案例。随着业务的复杂性提升,遇到的问题千奇百怪,五花八门,匪夷所思。本文旨在以开发工程师的角度来解释数据库索引的原理和如何优化慢查询。
一个慢查询引发的思考
- select
- count(*)
- from
- task
- where
- status=2
- and operator_id=20839
- and operate_time>1371169729
- and operate_time<1371174603
- and type=2;
并且兴致冲冲的找到了我,“这个SQL需要优化,给我把每个字段都加上索引”
我很惊讶,问道“为什么需要每个字段都加上索引?”
“把查询的字段都加上索引会更快”工程师信心满满
“这种情况完全可以建一个联合索引,因为是最左前缀匹配,所以operate_time需要放到最后,而且还需要把其他相关的查询都拿来,需要做一个综合评估。”
“联合索引?最左前缀匹配?综合评估?”工程师不禁陷入了沉思。
多数情况下,我们知道索引能够提高查询效率,但应该如何建立索引?索引的顺序如何?许多人却只知道大概。其实理解这些概念并不难,而且索引的原理远没有想象的那么复杂。
MySQL索引原理
如图所示,如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。
1.通过上面的分析,我们知道IO次数取决于b+数的高度h,假设当前数据表的数据为N,每个磁盘块的数据项的数量是m,则有h=㏒(m+1)N,当数据量N一定的情况下,m越大,h越小;而m = 磁盘块的大小 / 数据项的大小,磁盘块的大小也就是一个数据页的大小,是固定的,如果数据项占的空间越小,数据项的数量越多,树的高度越低。这就是为什么每个数据项,即索引字段要尽量的小,比如int占4字节,要比bigint8字节少一半。这也是为什么b+树要求把真实的数据放到叶子节点而不是内层节点,一旦放到内层节点,磁盘块的数据项会大幅度下降,导致树增高。当数据项等于1时将会退化成线性表。
2.当b+树的数据项是复合的数据结构,比如(name,age,sex)的时候,b+数是按照从左到右的顺序来建立搜索树的,比如当(张三,20,F)这样的数据来检索的时候,b+树会优先比较name来确定下一步的所搜方向,如果name相同再依次比较age和sex,最后得到检索的数据;但当(20,F)这样的没有name的数据来的时候,b+树就不知道下一步该查哪个节点,因为建立搜索树的时候name就是第一个比较因子,必须要先根据name来搜索才能知道下一步去哪里查询。比如当(张三,F)这样的数据来检索时,b+树可以用name来指定搜索方向,但下一个字段age的缺失,所以只能把名字等于张三的数据都找到,然后再匹配性别是F的数据了, 这个是非常重要的性质,即索引的最左匹配特性。
慢查询优化
建索引的几大原则
2.=和in可以乱序,比如a = 1 and b = 2 and c = 3 建立(a,b,c)索引可以任意顺序,mysql的查询优化器会帮你优化成索引可以识别的形式
3.尽量选择区分度高的列作为索引,区分度的公式是count(distinct col)/count(*),表示字段不重复的比例,比例越大我们扫描的记录数越少,唯一键的区分度是1,而一些状态、性别字段可能在大数据面前区分度就是0,那可能有人会问,这个比例有什么经验值吗?使用场景不同,这个值也很难确定,一般需要join的字段我们都要求是0.1以上,即平均1条扫描10条记录
4.索引列不能参与计算,保持列“干净”,比如from_unixtime(create_time) = ’2014-05-29’就不能使用到索引,原因很简单,b+树中存的都是数据表中的字段值,但进行检索时,需要把所有元素都应用函数才能比较,显然成本太大。所以语句应该写成create_time = unix_timestamp(’2014-05-29’);
5.尽量的扩展索引,不要新建索引。比如表中已经有a的索引,现在要加(a,b)的索引,那么只需要修改原来的索引即可
回到开始的慢查询
比如还有如下查询
- select * from task where status = 0 and type = 12 limit 10;
- select count(*) from task where status = 0 ;
查询优化神器 - explain命令
慢查询优化基本步骤
1.where条件单表查,锁定最小返回记录表。这句话的意思是把查询语句的where都应用到表中返回的记录数最小的表开始查起,单表每个字段分别查询,看哪个字段的区分度最高
2.explain查看执行计划,是否与1预期一致(从锁定记录较少的表开始查询)
3.order by limit 形式的sql语句让排序的表优先查
4.了解业务方使用场景
5.加索引时参照建索引的几大原则
6.观察结果,不符合预期继续从0分析
几个慢查询案例
- selectdistinct cert.emp_id
- from
- cm_log cl
- innerjoin
- (
- select
- emp.idas emp_id,
- emp_cert.idas cert_id
- from
- employee emp
- leftjoin
- emp_certificate emp_cert
- on emp.id = emp_cert.emp_id
- where
- emp.is_deleted=0
- ) cert
- on (
- cl.ref_table='Employee'and cl.ref_oid= cert.emp_id
- )
- or (
- cl.ref_table='EmpCertificate'and cl.ref_oid= cert.cert_id
- )
- where
- cl.last_upd_date >='2013-11-07 15:03:00'and cl.last_upd_date<='2013-11-08 16:00:00';
- 53 rows in set (1.87 sec)
- +----+-------------+------------+-------+---------------------------------+-----------------------+---------+-------------------+-------+--------------------------------+
- | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
- +----+-------------+------------+-------+---------------------------------+-----------------------+---------+-------------------+-------+--------------------------------+
- | 1 | PRIMARY | cl | range | cm_log_cls_id,idx_last_upd_date | idx_last_upd_date | 8 | NULL | 379 | Using where; Using temporary |
- | 1 | PRIMARY | <derived2> | ALL | NULL | NULL | NULL | NULL | 63727 | Using where; Using join buffer |
- | 2 | DERIVED | emp | ALL | NULL | NULL | NULL | NULL | 13317 | Using where |
- | 2 | DERIVED | emp_cert | ref | emp_certificate_empid | emp_certificate_empid | 4 | meituanorg.emp.id | 1 | Using index |
- +----+-------------+------------+-------+---------------------------------+-----------------------+---------+-------------------+-------+--------------------------------+
如何优化呢?可以看到我们在运行完后还是要和cm_log做join,那么我们能不能之前和cm_log做join呢?仔细分析语句不难发现,其基本思想是如果cm_log的ref_table是EmpCertificate就关联emp_certificate表,如果ref_table是Employee就关联employee表,我们完全可以拆成两部分,并用union连接起来,注意这里用union,而不用union all是因为原语句有“distinct”来得到唯一的记录,而union恰好具备了这种功能。如果原语句中没有distinct不需要去重,我们就可以直接使用union all了,因为使用union需要去重的动作,会影响SQL性能。
优化过的语句如下
- select
- emp.idfrom
- cm_log cl
- innerjoin
- employee emp
- on cl.ref_table = 'Employee'and cl.ref_oid = emp.idwhere
- cl.last_upd_date >='2013-11-07 15:03:00'and cl.last_upd_date<='2013-11-08 16:00:00'and emp.is_deleted = 0unionselect
- emp.idfrom
- cm_log cl
- innerjoin
- emp_certificate ec
- on cl.ref_table = 'EmpCertificate'and cl.ref_oid = ec.idinnerjoin
- employee emp
- on emp.id = ec.emp_id
- where
- cl.last_upd_date >='2013-11-07 15:03:00'and cl.last_upd_date<='2013-11-08 16:00:00'and emp.is_deleted = 0
- +----+--------------+------------+--------+---------------------------------+-------------------+---------+-----------------------+------+-------------+
- | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
- +----+--------------+------------+--------+---------------------------------+-------------------+---------+-----------------------+------+-------------+
- | 1 | PRIMARY | cl | range | cm_log_cls_id,idx_last_upd_date | idx_last_upd_date | 8 | NULL | 379 | Using where |
- | 1 | PRIMARY | emp | eq_ref | PRIMARY | PRIMARY | 4 | meituanorg.cl.ref_oid | 1 | Using where |
- | 2 | UNION | cl | range | cm_log_cls_id,idx_last_upd_date | idx_last_upd_date | 8 | NULL | 379 | Using where |
- | 2 | UNION | ec | eq_ref | PRIMARY,emp_certificate_empid | PRIMARY | 4 | meituanorg.cl.ref_oid | 1 | |
- | 2 | UNION | emp | eq_ref | PRIMARY | PRIMARY | 4 | meituanorg.ec.emp_id | 1 | Using where |
- | NULL | UNION RESULT | <union1,2> | ALL | NULL | NULL | NULL | NULL | NULL | |
- +----+--------------+------------+--------+---------------------------------+-------------------+---------+-----------------------+------+-------------+
- 53 rows in set (0.01 sec)
明确应用场景
- select
- *
- from
- stage_poi sp
- where
- sp.accurate_result=1
- and (
- sp.sync_status=0
- or sp.sync_status=2
- or sp.sync_status=4
- );
0.先看看运行多长时间,951条数据6.22秒,真的很慢
2.所有字段都应用查询返回记录数,因为是单表查询 0已经做过了951条
3.让explain的rows 尽量逼近951
看一下accurate_result = 1的记录数
同样的区分度也很低,根据理论,也不适合建立索引
问题分析到这,好像得出了这个表无法优化的结论,两个列的区分度都很低,即便加上索引也只能适应这种情况,很难做普遍性的优化,比如当sync_status 0、3分布的很平均,那么锁定记录也是百万级别的
4.找业务方去沟通,看看使用场景。业务方是这么来使用这个SQL语句的,每隔五分钟会扫描符合条件的数据,处理完成后把sync_status这个字段变成1,五分钟符合条件的记录数并不会太多,1000个左右。了解了业务方的使用场景后,优化这个SQL就变得简单了,因为业务方保证了数据的不平衡,如果加上索引可以过滤掉绝大部分不需要的数据
5.根据建立索引规则,使用如下语句建立索引
无法优化的语句
- select
- c.id,
- c.name,
- c.position,
- c.sex,
- c.phone,
- c.office_phone,
- c.feature_info,
- c.birthday,
- c.creator_id,
- c.is_keyperson,
- c.giveup_reason,
- c.status,
- c.data_source,
- from_unixtime(c.created_time) as created_time,
- from_unixtime(c.last_modified) as last_modified,
- c.last_modified_user_id
- from
- contact c
- inner join
- contact_branch cb
- on c.id = cb.contact_id
- inner join
- branch_user bu
- on cb.branch_id = bu.branch_id
- and bu.status in (
- 1,
- 2)
- inner join
- org_emp_info oei
- on oei.data_id = bu.user_id
- and oei.node_left >= 2875
- and oei.node_right <= 10802
- and oei.org_category = - 1
- order by
- c.created_time desc limit 0 ,
- 10;
还是几个步骤
0.先看语句运行多长时间,10条记录用了13秒,已经不可忍受
- 10 rows in set (13.06 sec)
1.explain
- +----+-------------+-------+--------+-------------------------------------+-------------------------+---------+--------------------------+------+----------------------------------------------+
- | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
- +----+-------------+-------+--------+-------------------------------------+-------------------------+---------+--------------------------+------+----------------------------------------------+
- | 1 | SIMPLE | oei | ref | idx_category_left_right,idx_data_id | idx_category_left_right | 5 | const | 8849 | Using where; Using temporary; Using filesort |
- | 1 | SIMPLE | bu | ref | PRIMARY,idx_userid_status | idx_userid_status | 4 | meituancrm.oei.data_id | 76 | Using where; Using index |
- | 1 | SIMPLE | cb | ref | idx_branch_id,idx_contact_branch_id | idx_branch_id | 4 | meituancrm.bu.branch_id | 1 | |
- | 1 | SIMPLE | c | eq_ref | PRIMARY | PRIMARY | 108 | meituancrm.cb.contact_id | 1 | |
- +----+-------------+-------+--------+-------------------------------------+-------------------------+---------+--------------------------+------+----------------------------------------------+
rows返回的都非常少,看不到有什么异常情况。我们在看一下语句,发现后面有order by + limit组合,会不会是排序量太大搞的?于是我们简化SQL,去掉后面的order by 和 limit,看看到底用了多少记录来排序
- select
- count(*)
- from
- contact c
- inner join
- contact_branch cb
- on c.id = cb.contact_id
- inner join
- branch_user bu
- on cb.branch_id = bu.branch_id
- and bu.status in (
- 1,
- 2)
- inner join
- org_emp_info oei
- on oei.data_id = bu.user_id
- and oei.node_left >= 2875
- and oei.node_right <= 10802
- and oei.org_category = - 1
- +----------+
- | count(*) |
- +----------+
- | 778878 |
- +----------+
- 1 row in set (5.19 sec)
于是改造成下面的语句,也可以用straight_join来优化
- select
- c.id,
- c.name,
- c.position,
- c.sex,
- c.phone,
- c.office_phone,
- c.feature_info,
- c.birthday,
- c.creator_id,
- c.is_keyperson,
- c.giveup_reason,
- c.status,
- c.data_source,
- from_unixtime(c.created_time) as created_time,
- from_unixtime(c.last_modified) as last_modified,
- c.last_modified_user_id
- from
- contact c
- where
- exists (
- select
- 1
- from
- contact_branch cb
- inner join
- branch_user bu
- on cb.branch_id = bu.branch_id
- and bu.status in (
- 1,
- 2)
- inner join
- org_emp_info oei
- on oei.data_id = bu.user_id
- and oei.node_left >= 2875
- and oei.node_right <= 10802
- and oei.org_category = - 1
- where
- c.id = cb.contact_id
- )
- order by
- c.created_time desc limit 0 ,
- 10;
- 验证一下效果 预计在1ms内,提升了13000多倍!
- ```sql
- 10 rows in set (0.00 sec)
用不同参数的SQL试验下
- select
- sql_no_cache c.id,
- c.name,
- c.position,
- c.sex,
- c.phone,
- c.office_phone,
- c.feature_info,
- c.birthday,
- c.creator_id,
- c.is_keyperson,
- c.giveup_reason,
- c.status,
- c.data_source,
- from_unixtime(c.created_time) as created_time,
- from_unixtime(c.last_modified) as last_modified,
- c.last_modified_user_id
- from
- contact c
- where
- exists (
- select
- 1
- from
- contact_branch cb
- inner join
- branch_user bu
- on cb.branch_id = bu.branch_id
- and bu.status in (
- 1,
- 2)
- inner join
- org_emp_info oei
- on oei.data_id = bu.user_id
- and oei.node_left >= 2875
- and oei.node_right <= 2875
- and oei.org_category = - 1
- where
- c.id = cb.contact_id
- )
- order by
- c.created_time desc limit 0 ,
- 10;
- Empty set (2 min 18.99 sec)
2 min 18.99 sec!比之前的情况还糟糕很多。由于mysql的nested loop机制,遇到这种情况,基本是无法优化的。这条语句最终也只能交给应用系统去优化自己的逻辑了。
通过这个例子我们可以看到,并不是所有语句都能优化,而往往我们优化时,由于SQL用例回归时落掉一些极端情况,会造成比原来还严重的后果。所以,第一:不要指望所有语句都能通过SQL优化,第二:不要过于自信,只针对具体case来优化,而忽略了更复杂的情况。
慢查询的案例就分析到这儿,以上只是一些比较典型的案例。我们在优化过程中遇到过超过1000行,涉及到16个表join的“垃圾SQL”,也遇到过线上线下数据库差异导致应用直接被慢查询拖死,也遇到过varchar等值比较没有写单引号,还遇到过笛卡尔积查询直接把从库搞死。再多的案例其实也只是一些经验的积累,如果我们熟悉查询优化器、索引的内部原理,那么分析这些案例就变得特别简单了。
写在后面的话
本文以一个慢查询案例引入了MySQL索引原理、优化慢查询的一些方法论;并针对遇到的典型案例做了详细的分析。其实做了这么长时间的语句优化后才发现,任何数据库层面的优化都抵不上应用系统的优化,同样是MySQL,可以用来支撑Google/FaceBook/Taobao应用,但可能连你的个人网站都撑不住。套用最近比较流行的话:“查询容易,优化不易,且写且珍惜!”