MySQL学习笔记(2) —— 索引优化分析

导致SQL性能下降、执行时间长、等待时间长的原因:

  • 查询语句写的烂
  • 索引失效(单值、复合)
  • 关联查询太多join(设计缺陷或者不得已的需求)
  • 服务器调优及各个参数设置(缓冲、线程数等)

SQL解析顺序

1.sql书写顺序
SELECT DISTINCT
    < select_list >
FROM
    < left_table > < join_type >
JOIN < right_table > ON < join_condition >
WHERE
    < where_condition >
GROUP BY
    < group_by_list >
HAVING
    < having_condition >
ORDER BY
    < order_by_condition >
LIMIT < limit_number >
2.mysql解析器执行的顺序

image

 1 FROM <left_table>
 2 ON <join_condition>
 3 <join_type> JOIN <right_table>
 4 WHERE <where_condition>
 5 GROUP BY <group_by_list>
 6 HAVING <having_condition>
 7 SELECT 
 8 DISTINCT <select_list>
 9 ORDER BY <order_by_condition>
10 LIMIT <limit_number>


顺序:

(8)SELECT (9)DISTINCT (11)<Top Num> <select list>
(1)FROM [left_table]
(3)<join_type> JOIN <right_table>
(2)ON <join_condition>
(4)WHERE <where_condition>
(5)GROUP BY <group_by_list>
(6)WITH <CUBE | RollUP>  (avg\sum ..... )
(7)HAVING <having_condition>
(10)ORDER BY <order_by_list>
(12)LIMIT <limit_number>


一、索引简介

1.什么是索引
  • MySQL 官方对索引的定义为:索引是帮助MySQL高效获取数据的数据结构

  • 可以得到索引的本质:索引是数据结构。

  • 可以简单的理解为:排好序的快速查找数据结构

  • 数据本身之外,数据库还维护着一个满足特定查找算法的数据结构,这些数据结构以某种方式指向数据,这样就可以在这些数据结构的基础上实现高级查找算法,这种数据结构就是索引.

  • 一般来说索引本身也很大,不可能全部存储在内存中,因此索引往往以索引文件的形式存储在磁盘上。

  • 我们平时说的索引,如果没有特别指明,都是指B树(多路搜索树,并不一定是二叉的)结构组织的索引

2.索引的优势和劣势
  1. 优势
    • 类似大学图书馆建书目索引,提高数据检索的效率,降低数据库的IO成本
    • 通过索引列对数据进行排序,降低数据排序的成本,降低了CPU的消耗
  2. 劣势
    • 实际上索引也是一张表,该表保存了主键与索引字段,并指向实体表的记录,所以索引列也是要占用空间的
    • 虽然索引大大提高了查询速度,同时却会降低更新表的速度,如对表进行INSERT、UPDATE 和 DELETE。因为更新表时,MySQL不仅要保存数据,还要保存一下索引文件每次更新添加了索引列的字段,都会调整因为更新所带来的键值变化后的索引信息。
    • 索引只是提高效率的一个因素,如果你的MySQL有大量数据量的表,就需要花时间研究建立最优秀的索引,或优化查询语句。
5.索引的分类和建索引的语句

分类:

  • 单值索引:即一个索引只包含单个列,一个表可以有多个单例索引
  • 唯一索引:索引列的值必须唯一,但允许有空值
  • 复合索引:即一个索引包含多个列

基本语法:

  • 创建
    • CREAT [UNIQUE] INDEX indexName ON mytable(columnname(length));
    • ALTER mytable ADD [UNIQUE] INDEX indexName ON mytable(columnname(length));
  • 删除:DROP INDEX[indexName] ON mytable;
  • 查看:SHOW INDEX FROM table_name
6.索引结构与检索原理

image

如上图,是一颗b+树,关于b+树的定义可以参见B+树,这里只说一些重点,浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中

B树查找过程:
如图所示,如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

6.创建索引的条件

哪些情况需要创建索引:

  • 主键自动创建索引
  • 频繁作为查询条件的字段应该创建索引
  • 查询中与其他表关联的字段,外键关系建立索引
  • 频繁更新的字段不适合创建索引(因为每次更新不单单是更新了记录还会更新索引,加重了IO负担)
  • Where 条件里用不到的字段不创建索引
  • 单键/组合索引的选择问题,who?(在高并发下倾向创建组合索引)
  • 查询中排序的字段,排序字段若通过索引去访问将大大提高排序速度
  • 查询中统计或者分组字段

哪些情况不需要创建索引

  • 表记录太少
  • 经常增删改的表(提高了查询速度,同时降低了更新表的速度,因为更新表不仅要保存数据,还要保存索引文件)
  • 数据重复且分布平均的表字段,因此应该只为最经常查询和最经常排序的数据列建立索引。注意,如果某个数据列包含许多重复的内容,为它建立索引就没有太大的实际效果。(因为重复的话 通过索引列不能快速有效定位到对应的数据项)

二、性能分析

1.MySQL常见瓶颈
  • CPU:CPU在饱和的时候一般发生在数据装入内存或从磁盘上读取数据的时候
  • IO:磁盘I/O瓶颈发生在装入数据远大于内存容量的时候
  • 服务器硬件的性能瓶颈:top、free、iostat和vmstat来查看系统的性能状态
2.Explain

① 是什么

使用EXPLAIN关键字可以模拟优化器执行SQL查询语句,从而知道MySQL是如何处理你的SQL语句的。分析你的查询语句或是表结构的性能瓶颈

② 能干嘛

  • 表的读取顺序
  • 数据读取操作的操作类型
  • 哪些索引可以使用
  • 哪些索引被实际使用
  • 表之间的引用
  • 每张表有多少行被优化器查询

③ 怎么使用

  • Explain + SQL 语句
  • 执行计划包含的信息:id、select_type、table、type、possible_keys、key、key_len、ref、rows、Extra

④ Explain信息字段介绍

  • ID

    1.ID相同,执行顺序从上到下

    (root@yayun-mysql-server) [test]>explain select t2.* from t1, t2, t3 where t1.id=t2.id and t1.id=t3.id and t1.name='';
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+--------------------------+
    | id | select_type | table | type   | possible_keys | key     | key_len | ref        | rows | Extra                    |
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+--------------------------+
    |  1 | SIMPLE      | t1    | ref    | PRIMARY,name  | name    | 63      | const      |    1 | Using where; Using index |
    |  1 | SIMPLE      | t2    | eq_ref | PRIMARY       | PRIMARY | 4       | test.t1.id |    1 |                          |
    |  1 | SIMPLE      | t3    | eq_ref | PRIMARY       | PRIMARY | 4       | test.t1.id |    1 | Using index              |
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+--------------------------+
    3 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    

    2.如果是子查询,id的序号会递增,id值越大优先级越高,越先被执行

    (root@yayun-mysql-server) [test]>explain select t2.* from t2 where id = (select id from t1 where id = (select t3.id from t3 where t3.name=''));
    +----+-------------+-------+------+---------------+------+---------+------+------+-----------------------------------------------------+
    | id | select_type | table | type | possible_keys | key  | key_len | ref  | rows | Extra                                               |
    +----+-------------+-------+------+---------------+------+---------+------+------+-----------------------------------------------------+
    |  1 | PRIMARY     | NULL  | NULL | NULL          | NULL | NULL    | NULL | NULL | Impossible WHERE noticed after reading const tables |
    |  2 | SUBQUERY    | NULL  | NULL | NULL          | NULL | NULL    | NULL | NULL | no matching row in const table                      |
    |  3 | SUBQUERY    | t3    | ref  | name          | name | 63      |      |    1 | Using where; Using index                            |
    +----+-------------+-------+------+---------------+------+---------+------+------+-----------------------------------------------------+
    3 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    

    3.id如果相同,可以认为是一组,从上往下顺序执行;在所有组中,id值越大,优先级越高,越先执行

    (root@yayun-mysql-server) [test]>explain select t2.* from (select t3.id from t3 where t3.name='')s1, t2 where s1.id=t2.id;
    +----+-------------+------------+--------+---------------+---------+---------+-------+------+--------------------------+
    | id | select_type | table      | type   | possible_keys | key     | key_len | ref   | rows | Extra                    |
    +----+-------------+------------+--------+---------------+---------+---------+-------+------+--------------------------+
    |  1 | PRIMARY     | <derived2> | system | NULL          | NULL    | NULL    | NULL  |    1 |                          |
    |  1 | PRIMARY     | t2         | const  | PRIMARY       | PRIMARY | 4       | const |    1 |                          |
    |  2 | DERIVED     | t3         | ref    | name          | name    | 63      |       |    1 | Using where; Using index |
    +----+-------------+------------+--------+---------------+---------+---------+-------+------+--------------------------+
    3 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
  • select_type

    • SIMPLE:查询中不包含子查询

    • PRIMARY:查询中若包含任何复杂的子部分,则最外层被标记为PRIMARY

    • 在SELECT或者WHERE列表中包含了子查询,该子查询被标记为SUBQUERY

    • DERIVED(衍生)在FROM列表中包含的子查询被标记为:DERIVED(衍生)用来表示包含在from子句中的子查询的select,mysql会递归执行并将结果放到一个临时表中。服务器内部称为"派生表",因为该临时表是从子查询中派生出来的

    • 若第二个select 出现在UNION之后,则被标记为UNION;;若UNION包含在FROM子句的子查询中,外层SELECT将被标记为:DERIVED

    • 从UNION表获取结果的SELECT被标记为:UNION RESULT

    (root@yayun-mysql-server) [test]>explain select d1.name, ( select id from t3) d2 from (select id,name from t1 where name='')d1 union (select name,id from t2);
    +----+--------------+------------+--------+---------------+------+---------+------+------+--------------------------+
    | id | select_type  | table      | type   | possible_keys | key  | key_len | ref  | rows | Extra                    |
    +----+--------------+------------+--------+---------------+------+---------+------+------+--------------------------+
    |  1 | PRIMARY      | <derived3> | system | NULL          | NULL | NULL    | NULL |    0 | const row not found      |
    |  3 | DERIVED      | t1         | ref    | name          | name | 63      |      |    1 | Using where; Using index |
    |  2 | SUBQUERY     | t3         | index  | NULL          | age  | 5       | NULL |    6 | Using index              |
    |  4 | UNION        | t2         | index  | NULL          | name | 63      | NULL |    4 | Using index              |
    | NULL | UNION RESULT | <union1,4> | ALL    | NULL          | NULL | NULL    | NULL | NULL |                          |
    +----+--------------+------------+--------+---------------+------+---------+------+------+--------------------------+
    5 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    

    第一行:id列为1,表示第一个select,select_type列的primary表 示该查询为外层查询,table列被标记为,表示查询结果来自一个衍生表,其中3代表该查询衍生自第三个select查询,即id为3的select。

    第二行:id为3,表示该查询的执行次序为2( 4 => 3),是整个查询中第三个select的一部分。因查询包含在from中,所以为derived。

    第三行:select列表中的子查询,select_type为subquery,为整个查询中的第二个select。

    第四行:select_type为union,说明第四个select是union里的第二个select,最先执行。

    第五行:代表从union的临时表中读取行的阶段,table列的<union1,4>表示用第一个和第四个select的结果进行union操作。

  • type:表示MySQL在表中找到所需行的方式,又称“访问类型”,常见类型如下:ALL,index,range,ref,eq_ref,const,system,NULL

    • const、system:当MySQL对查询某部分进行优化,并转换为一个常量时,使用这些类型访问。如将主键置于where列表中,MySQL就能将该查询转换为一个常量
    (root@yayun-mysql-server) [test]>explain select * from ( select * from t1 where id=1)b1;
    +----+-------------+------------+--------+---------------+---------+---------+------+------+-------+
    | id | select_type | table      | type   | possible_keys | key     | key_len | ref  | rows | Extra |
    +----+-------------+------------+--------+---------------+---------+---------+------+------+-------+
    |  1 | PRIMARY     | <derived2> | system | NULL          | NULL    | NULL    | NULL |    1 |       |
    |  2 | DERIVED     | t1         | const  | PRIMARY       | PRIMARY | 4       |      |    1 |       |
    +----+-------------+------------+--------+---------------+---------+---------+------+------+-------+
    2 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
    
    • eq_ref:唯一性索引扫描,对于每个索引键,表中只有一条记录与之匹配。常见于主键或者唯一索引扫描
    (root@yayun-mysql-server) [test]>explain select t1.name from t1, t2 where t1.id=t2.id;
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+-------------+
    | id | select_type | table | type   | possible_keys | key     | key_len | ref        | rows | Extra       |
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+-------------+
    |  1 | SIMPLE      | t1    | index  | PRIMARY       | name    | 63      | NULL       |    4 | Using index |
    |  1 | SIMPLE      | t2    | eq_ref | PRIMARY       | PRIMARY | 4       | test.t1.id |    1 | Using index |
    +----+-------------+-------+--------+---------------+---------+---------+------------+------+-------------+
    2 rows in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
    • ref:使用非唯一索引扫描或者唯一索引的前缀扫描,返回匹配某个单独值的记录行
    (root@yayun-mysql-server) [test]>explain select * from t1 where name='yayun';
    +----+-------------+-------+------+---------------+------+---------+-------+------+-------------+
    | id | select_type | table | type | possible_keys | key  | key_len | ref   | rows | Extra       |
    +----+-------------+-------+------+---------------+------+---------+-------+------+-------------+
    |  1 | SIMPLE      | t1    | ref  | name          | name | 63      | const |    1 | Using where |
    +----+-------------+-------+------+---------------+------+---------+-------+------+-------------+
    1 row in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
    • range:索引范围扫描,对索引的扫描开始于某一点,返回匹配值域的行。显而易见的索引范围扫描是带有between或者where子句里带有<, >查询。当mysql使用索引去查找一系列值时,例如IN()和OR列表,也会显示range(范围扫描),当然性能上面是有差异的。
    • index:Full Index Scan,index与ALL区别为index类型只遍历索引树
    (root@yayun-mysql-server) [test]>explain select id from t1;
    +----+-------------+-------+-------+---------------+------+---------+------+------+-------------+
    | id | select_type | table | type  | possible_keys | key  | key_len | ref  | rows | Extra       |
    +----+-------------+-------+-------+---------------+------+---------+------+------+-------------+
    |  1 | SIMPLE      | t1    | index | NULL          | age  | 5       | NULL |    4 | Using index |
    +----+-------------+-------+-------+---------------+------+---------+------+------+-------------+
    1 row in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
    • ALL: Full Table Scan, MySQL将遍历全表以找到匹配的行
    (root@yayun-mysql-server) [test]>explain select * from t1 where email='';
    +----+-------------+-------+------+---------------+------+---------+------+------+-------------+
    | id | select_type | table | type | possible_keys | key  | key_len | ref  | rows | Extra       |
    +----+-------------+-------+------+---------------+------+---------+------+------+-------------+
    |  1 | SIMPLE      | t1    | ALL  | NULL          | NULL | NULL    | NULL |    4 | Using where |
    +----+-------------+-------+------+---------------+------+---------+------+------+-------------+
    1 row in set (0.00 sec)
    
    (root@yayun-mysql-server) [test]>
    
  • possible_keys:指出MySQL能使用哪个索引在表中找到记录,查询涉及到的字段上若存在索引,则该索引将被列出,但不一定被查询使用

  • key:显示MySQL在查询中实际使用的索引,若没有使用索引,显示为NULL

  • key_len: 表示索引中使用的字节数,可通过该列计算查询中使用的索引的长度(key_len显示的值为索引字段的最大可能长度,并非实际使用长度,即key_len是根据表定义计算而得,不是通过表内检索出的)

  • ref :表示上述表的连接匹配条件,即哪些列或常量被用于查找索引列上的值

  • rows:表示MySQL根据表统计信息及索引选用情况,估算的找到所需的记录所需要读取的行数

  • Extra: 包含不适合在其他列中显示但十分重要的额外信息

3.索引优化

① 索引分析

  • 单表:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值