MySQL(CS-Notes)

最新推荐文章于 2025-05-08 10:15:17 发布

春卷同学

最新推荐文章于 2025-05-08 10:15:17 发布

阅读量1.1k

点赞数

分类专栏：数据库（CyC2018）

数据库（CyC2018）专栏收录该内容

7 篇文章

订阅专栏

转载自https://github.com/CyC2018/CS-Notes/blob/master/notes/MySQL.md

3.1 InnoDB（支持事务，支持行级锁、表级锁）

3.2 MyISAM （不支持事务,只支持表锁）

1 索引

1.1 B+ Tree 原理

1.1.1 数据结构

B Tree 指的是 Balance Tree，也就是平衡树。平衡树是一颗查找树，并且所有叶子节点位于同一层。

B+ Tree 是基于 B Tree 和叶子节点顺序访问指针进行实现，它具有 B Tree 的平衡性，并且通过顺序访问指针来提高区间查询的性能。

在 B+ Tree 中，一个节点中的 key 从左到右非递减排列，如果某个指针的左右相邻 key 分别是 $key_{i}$ 和 $key_{i+1}$ ，且不为 null，则该指针指向节点的所有 key 大于等于 $key_{i}$ 且小于等于 $key_{i+1}$ 。

这里可以看看我的博客https://blog.youkuaiyun.com/Rex_WUST/article/details/88600121

MySQL就普遍使用B+Tree实现其索引结构。
B+Tree内节点没有data域，拥有更大的出度。磁盘IO一次读出的数据量大小是固定的，单个数据变小，每次读出数据的就多，从而减少了磁盘I/O次数。
B+树的所有data都在叶子节点，且叶子节点不存指针。而B树在内节点存放data，单个数据较大，所以一次IO能读的B树内结点的数量比 B+树要小。
B+树的叶子节点是连起来的，区间查询的效率高

为什么主键的长度要短一点呢？

空间上：主键如果是很长的的字符串。那么它的索引文件也会变得很大。因为索引文件里面会存主键。所以过长的主键会造成空间的浪费。

时间上：如果主键是很长的字符串，那么在比较主键是否相等的时候，会比较很久，这会消耗大量的时间。因此查询的时间会变得很长。而我们建索引的目的，其实是为了缩短查询时间

1.1.2 操作

进行查找操作时，首先在根节点进行二分查找，找到一个 key 所在的指针，然后递归地在指针所指向的节点进行查找。直到查找到叶子节点，然后在叶子节点上进行二分查找，找出 key 所对应的 data。

插入删除操作会破坏平衡树的平衡性，因此在插入删除操作之后，需要对树进行一个分裂、合并、旋转等操作来维护平衡性。

1.1.3 与红黑树的比较

红黑树是平衡树。而平衡树的查找时间复杂度和树高h 有关。红黑树的出度为 2，所以红黑树的树高很大，查找次数也就更多。

红黑树等平衡树 也可以用来实现索引，但是文件系统及数据库系统普遍采用 B+ Tree 作为索引结构，主要有以下两个原因：

（一）更少的查找次数

平衡树查找操作的时间复杂度和树高 h 相关，O(h)=O( $\log_{d}N$ )，其中 d 为每个节点的出度。

红黑树的出度为 2，而 B+ Tree 的出度一般都非常大，所以红黑树的树高 h 很明显比 B+ Tree 大非常多，查找的次数也就更多。

（二）利用磁盘预读特性

为了减少磁盘 I/O 操作，磁盘往往不是严格按需读取，而是每次都会预读。预读过程中，磁盘进行顺序读取，顺序读取不需要进行磁盘寻道，并且只需要很短的磁盘旋转时间，速度会非常快。

操作系统一般将内存和磁盘分割成固定大小的块，每一块称为一页，内存与磁盘以页为单位交换数据。数据库系统将索引的一个节点的大小设置为页的大小，使得一次 I/O 就能完全载入一个节点。并且可以利用预读特性，相邻的节点也能够被预先载入。

1.2 MySQL 索引

索引是在存储引擎层实现的，而不是在服务器层实现的，所以不同存储引擎具有不同的索引类型和实现。

1.2.1 B+Tree 索引

是大多数 MySQL 存储引擎的默认索引类型。（PS：并不是所有的MySQL的索引引擎都使用B+树）

因为不再需要进行全表扫描，只需要对树进行搜索即可，所以查找速度快很多。（PS：原来是O(N)，现在是O（log N）。）

因为 B+ Tree 的有序性，所以除了用于查找，还可以用于排序和分组。

可以指定 多个列作为索引列，多个索引列共同组成键。

适用于全键值、键值范围和键前缀查找，其中键前缀查找只适用于最左前缀查找。如果不是按照索引列的顺序进行查找，则无法使用索引。

InnoDB 的 B+Tree 索引分为主索引和辅助索引。主索引的叶子节点 data 域，记录着 完整的数据记录，这种索引方式被称为聚簇索引。（索引文件就是数据文件）

因为无法把 数据行 存放在两个不同的地方，所以一个表只能有一个聚簇索引。

辅助索引的叶子节点的 data 域，记录着 主键的值。因此在使用辅助索引进行查找时，需要先查找到主键值，然后再到主索引中进行查找。

个人理解：聚集索引只能按照主键建立一个。innoDB的聚集索引文件，就是数据文件。只能有一个聚集索引但是可以有多个辅助索引。辅助索引就是：我们自定义的选几个列来作为索引键，从而建立起来的索引。使用辅助所有的时候，先根据主键，查找到辅助索引里面存的书签。然后根据书签去主索引找到相应的数据行。书签就是相应的行数据的聚集索引键

1.2.2 哈希索引

哈希索引能以 O(1) 时间进行查找，但是失去了有序性：

无法用于排序与分组；
只支持精确查找，无法用于部分查找和范围查找。

InnoDB 存储引擎有一个特殊的功能叫“自适应哈希索引”：当某个索引值被使用的非常频繁时，会在 B+Tree 索引之上再创建一个哈希索引。这样就让 B+Tree 索引具有哈希索引的一些优点，比如快速的哈希查找。

1.2.3 全文索引

MyISAM 存储引擎 支持全文索引，用于查找文本中的关键词，而不是直接比较是否相等。

查找条件使用 MATCH AGAINST，而不是普通的 WHERE。

全文索引使用倒排索引实现，它记录着关键词到其所在文档的映射。

InnoDB 存储引擎 在 MySQL 5.6.4 版本中也开始支持全文索引。

1.2.4 空间数据索引

MyISAM 存储引擎支持空间数据索引（R-Tree），可以用于地理数据存储。空间数据索引会从所有维度来索引数据，可以有效地使用任意维度来进行组合查询。

必须使用 MySQL的GIS 相关的函数来维护数据。

1.3 索引优化

1.3.1 独立的列

在进行查询时，索引列 不能是表达式的一部分，也不能是函数的参数，否则无法使用索引。

例如下面的查询，不能使用 actor_id 列的索引：（因为WHERE子句的表达式（actor_id + 1 = 5;）里面使用了actor_id，导致了这里不能使用 actor_id 列的索引。而我们正好想要使用actor_id这一列的索引来，加快我们查询actor_id列的速度。）

SELECT actor_id FROM sakila.actor WHERE actor_id + 1 = 5;

1.3.2 多列索引

在需要使用多个列作为条件 进行查询时，使用多列索引 比使用多个单列索引的查询性能更好。

例如下面的语句中，最好把 actor_id 和 film_id 设置为多列索引。（我们在where中使用了actor_id 和 film_id这两列作为查询条件。因为使用多列索引比使用多个单列索引的查询性能更好，所以我们最好把actor_id 和 film_id这两列设置成多列索引，来提高查询效率）

SELECT film_id, actor_id FROM sakila.film_actor
WHERE actor_id = 1 AND film_id = 1;

1.3.3 索引列的顺序

让选择性最强的索引列放在前面。

索引的选择性：不重复的索引值和记录总数的比值。（注意：一个索引可能对应多个记录）

索引的选择性是指：不重复的索引值和记录总数的比值。最大值为 1，此时每个记录都有唯一的索引与其对应。
选择性越高，每个记录的区分度越高，查询效率也越高。

例如下面显示的结果中 customer_id 的选择性 比 staff_id 更高，因此最好把 customer_id 列 放在多列索引的前面。

SELECT COUNT(DISTINCT staff_id)/COUNT(*) AS staff_id_selectivity,
COUNT(DISTINCT customer_id)/COUNT(*) AS customer_id_selectivity,
COUNT(*)
FROM payment;

   staff_id_selectivity: 0.0001
customer_id_selectivity: 0.0373
               COUNT(*): 16049

1.3.4 前缀索引

对于 BLOB、TEXT 和 VARCHAR 类型的列，必须使用前缀索引，只索引开始的部分字符。

前缀长度的选取需要根据索引选择性来确定。

1.3.5 覆盖索引

覆盖索引是select的数据列，只用从索引中就能够取得，不必读取数据行。换句话说查询列要被所建的索引覆盖。索引的字段不只包含查询列，还包含查询条件、排序等。
当sql语句的所求查询字段（select列）和查询条件字段（where子句）全都包含在一个索引中，可以直接使用索引查询而不需要回表。这就是覆盖索引，通过使用覆盖索引，可以减少搜索树的次数，是常用的性能优化手段。

索引包含所有需要查询的字段的值。

覆盖索引具有以下优点：

索引通常远小于数据行的大小，只读取索引 能大大减少数据访问量。
一些存储引擎（例如 MyISAM）在内存中只缓存索引，而数据依赖于操作系统来缓存。因此，只访问索引可以不使用系统调用（通常比较费时）。
对于 InnoDB 引擎，若辅助索引能够覆盖查询，则无需访问主索引。如果要查询辅助索引中不含有的字段，得先遍历辅助索引，再遍历聚集索引，而如果要查询的字段值在辅助索引上就有，就不用再查聚集索引了，这显然会减少IO操作。

1.4 索引的优点

大大减少了服务器需要扫描的数据行数。（PS：避免了全表扫描）
帮助服务器避免进行排序和分组，以及避免创建临时表（B+Tree 索引是有序的，可以用于 ORDER BY 和 GROUP BY 操作。临时表主要是在排序和分组过程中创建，不需要排序和分组，也就不需要创建临时表）。
将随机 I/O 变为 顺序 I/O（B+Tree 索引是有序的，会将相邻的数据都存储在一起）。（PS：读取连续的数据，极大的减少了切换磁道去别的扇区找数据。因为B+树会将连续的数据，存在连续的物理区间。）

1.5 索引的使用条件

对于非常小的表。大部分情况下，简单的全表扫描比建立索引更高效；
对于中到大型的表，索引就非常有效；
但是对于特大型的表，建立和维护索引的代价将会随之增长。这种情况下，需要用到一种技术可以直接区分出需要查询的一组数据，而不是一条记录一条记录地匹配，例如可以使用分区技术。

2 查询性能优化

2.1 使用 Explain 进行分析

Explain 用来分析 SELECT 查询语句，开发人员可以通过分析 Explain 结果来优化查询语句。

比较重要的字段有：

select_type : 查询类型，有简单查询、联合查询、子查询等
key : 使用的索引
rows : 扫描的行数

2.2 优化数据访问

2.2.1 减少请求的数据量

只返回必要的列：最好不要使用 SELECT * 语句。
只返回必要的行：使用 LIMIT 语句来限制返回的数据。
缓存重复查询的数据：使用缓存可以避免在数据库中进行查询，特别在要查询的数据经常被重复查询时，缓存带来的查询性能提升将会是非常明显的。

2.2.2 减少服务器端扫描的行数

最有效的方式是使用索引来覆盖查询。

2.3 重构查询方式

2.3.1 切分大查询

一个大查询如果一次性执行的话，可能一次锁住很多数据、占满整个事务日志、耗尽系统资源、阻塞很多小的但重要的查询。

比如删除三个月前的数据；

DELETE FROM messages WHERE create < DATE_SUB(NOW(), INTERVAL 3 MONTH);

DATE_SUB(起始时间，时间间隔) 会返回：起始日期d 减去一个时间段后的日期

如果操作的数据量太大的话，服务器压力会很大；

如果将大查询，改成下面这种限制返回的行数为10000行的形式，将分解服务器压力：

rows_affected = 0
do {
    rows_affected = do_query(
    "DELETE FROM messages WHERE create  < DATE_SUB(NOW(), INTERVAL 3 MONTH) LIMIT 10000")
} while rows_affected > 0

2.3.2 分解大连接查询

将一个大连接查询 分解成 对每一个表进行一次单表查询，然后在应用程序中进行关联。

这样做的好处有：

让缓存更高效。对于连接查询，如果其中一个表发生变化，那么整个查询缓存就无法使用。而分解后的多个查询，即使其中一个表发生变化，对其它表的查询缓存依然可以使用。
分解成多个单表查询，这些单表查询的缓存结果更可能被其它查询使用到，从而减少冗余记录的查询。
减少锁竞争；
在应用层进行连接，可以更容易对数据库进行拆分，从而更容易做到高性能和可伸缩。
查询本身效率也可能会有所提升。例如下面的例子中，使用 IN() 代替连接查询，可以让 MySQL 按照 ID 顺序进行查询，这可能比随机的连接要更高效。

SELECT * FROM tab
JOIN tag_post ON tag_post.tag_id=tag.id
JOIN post ON tag_post.post_id=post.id
WHERE tag.tag='mysql';

下面将一个对多个表的连接查询分解成了，对每个表进行一次单表查询。（PS：第二种方式也能获得所有我们要的字段。只不过需要我们自己去把这些字段关联起来罢了。而使用连接查询，数据库会帮我们直接把数据关联成一行。）

SELECT * FROM tag WHERE tag='mysql';
SELECT * FROM tag_post WHERE tag_id=1234;
SELECT * FROM post WHERE post.id IN (123,456,567,9098,8904);

3 存储引擎

3.1 InnoDB（支持事务，支持行级锁、表级锁）

InnoDB存储引擎是 MySQL 默认的事务型存储引擎。只有在需要InnoDB不支持的特性时，才考虑使用其它存储引擎。

实现了四个标准的隔离级别，默认级别是可重复读（REPEATABLE READ）。在可重复读隔离级别下，通过多版本并发控制（MVCC）+ 间隙锁（Next-Key Locking）防止幻影读。

InnoDB的主索引是聚簇索引，在索引中保存了数据，从而避免直接读取磁盘，因此对查询性能有很大的提升。

内部做了很多优化，包括从磁盘读取数据时采用的可预测性读、能够加快读操作并且自动创建的自适应哈希索引、能够加速插入操作的插入缓冲区等。

支持真正的在线热备份。其它存储引擎不支持在线热备份，要获取一致性视图需要停止对所有表的写入，而在读写混合场景中，停止写入 可能也意味着 停止读取。

3.2 MyISAM （不支持事务,只支持表锁）

设计简单，数据以紧密格式存储。对于只读数据，或者表比较小、可以容忍修复操作，则依然可以使用它。

提供了大量的特性，包括压缩表、空间数据索引等。

不支持事务。

不支持行级锁，只能对整张表加锁，读取时 会对需要读到的所有表 加共享锁，写入时则对表加排它锁。但在表有读取操作的同时，也可以往表中插入新的记录，这被称为并发插入（CONCURRENT INSERT）。

可以手工或者自动执行检查和修复操作，但是和事务恢复以及崩溃恢复不同，可能导致一些数据丢失，而且修复操作是非常慢的。

如果指定了 DELAY_KEY_WRITE 选项，那么在每次修改执行完成时，不会立即将修改的索引数据写入磁盘，而是会写到内存中的键缓冲区。只有在清理键缓冲区或者关闭表的时候，才会将对应的索引块写入磁盘。这种方式可以极大的提升写入性能，但是在数据库或者主机崩溃时会造成索引损坏，需要执行修复操作。

3.3比较

事务：InnoDB 是事务型的，可以使用 Commit 和 Rollback 语句。
并发：MyISAM 只支持表级锁，而 InnoDB 还支持行级锁。
外键：InnoDB 支持外键。
备份：InnoDB 支持在线热备份。
崩溃恢复：MyISAM 崩溃后发生损坏的概率 比 InnoDB 高很多，而且恢复的速度也更慢。
其它特性：MyISAM 支持压缩表和空间数据索引。

4 数据类型

整型

TINYINT, SMALLINT, MEDIUMINT, INT, BIGINT 分别使用 8, 16, 24, 32, 64 位存储空间，一般情况下越小的列越好。

INT(11) 中的数字11 只是规定了交互工具显示字符的个数，对于存储和计算来说是没有意义的。

浮点数

FLOAT 和 DOUBLE 为浮点类型，DECIMAL 为高精度小数类型。CPU 原生支持浮点运算，但是不支持 DECIMAl 类型的计算，因此 DECIMAL 的计算比浮点类型需要更高的代价。

FLOAT、DOUBLE 和 DECIMAL 都可以指定列宽，例如 DECIMAL(18, 9) 表示总共 18 位，取 9 位存储小数部分，剩下 9 位存储整数部分。

字符串

主要有 CHAR 和 VARCHAR 两种类型，一种是定长的，一种是变长的。

VARCHAR 这种变长类型能够节省空间，因为只需要存储必要的内容。但是在执行 UPDATE 时可能会使行变得比原来长，当超出一个页所能容纳的大小时，就要执行额外的操作。MyISAM 会将行拆成不同的片段存储，而 InnoDB 则需要分裂页来使行放进页内。

在进行存储和检索时，会保留 VARCHAR 末尾的空格，而会删除 CHAR 末尾的空格。

时间和日期

MySQL 提供了两种相似的日期时间类型：DATETIME 和 TIMESTAMP。

1. DATETIME

能够保存从 1000 年到 9999 年的日期和时间，精度为秒，使用 8 字节的存储空间。

它与时区无关。

默认情况下，MySQL 以一种可排序的、无歧义的格式显示 DATETIME 值，例如“2008-01-16 22:37:08”，这是 ANSI 标准定义的日期和时间表示方法。

2. TIMESTAMP

和 UNIX 时间戳相同，保存从 1970 年 1 月 1 日午夜（格林威治时间）以来的秒数，使用 4 个字节的存储空间，只能表示从 1970 年到 2038 年。

它和时区有关，也就是说一个时间戳在不同的时区所代表的具体时间是不同的。

MySQL 提供了 FROM_UNIXTIME() 函数把 UNIX 时间戳转换为日期，并提供了 UNIX_TIMESTAMP() 函数把日期转换为 UNIX 时间戳。

默认情况下，如果插入时没有指定 TIMESTAMP 列的值，会将这个值设置为当前时间。

应该尽量使用 TIMESTAMP，因为它比 DATETIME 空间效率更高。

5 切分

水平切分（按“行”切分）

水平切分又称为 Sharding，它是将同一个表中的记录拆分到多个结构相同的表中。

当一个表的数据不断增多时，Sharding 是必然的选择，它可以将数据分布到集群的不同节点上，从而缓解单个数据库的压力。

垂直切分（按“列”切分）

垂直切分是将一张表按列切分成多个表，通常是按照列的关系密集程度进行切分，也可以利用垂直切分将经常被使用的列和不经常被使用的列切分到不同的表中。

在数据库的层面使用垂直切分将按数据库中表的密集程度部署到不同的库中，例如将原来的电商数据库垂直切分成商品数据库、用户数据库等。

Sharding 策略

哈希取模：hash(key) % N；
范围：可以是 ID 范围也可以是时间范围；
映射表：使用单独的一个数据库表来存储映射关系。

Sharding 存在的问题

1. 事务问题

使用分布式事务来解决，比如 XA 接口。

2. 连接

可以将原来的连接分解成多个单表查询，然后在用户程序中进行连接。

3. ID 唯一性

使用全局唯一 ID（GUID）
为每个分片指定一个 ID 范围
分布式 ID 生成器 (如 Twitter 的 Snowflake 算法)

6 复制

主从复制

主要涉及三个线程：binlog 线程、I/O 线程和 SQL 线程。

binlog 线程 ：负责将主服务器上的数据更改写入二进制日志（Binary log）中。
I/O 线程 ：负责从主服务器上读取二进制日志，并写入从服务器的中继日志（Relay log）。
SQL 线程 ：负责读取中继日志，解析出主服务器已经执行的数据更改并在从服务器中重放（Replay）。

读写分离

主服务器处理写操作 以及实时性要求比较高的读操作，而从服务器处理读操作。

读写分离能提高性能的原因在于：

主从服务器负责各自的读和写，极大程度缓解了锁的争用；
从服务器可以使用 MyISAM，提升查询性能以及节约系统开销；（为什么MyISAM 比 InnoDB 快？）
增加冗余，提高可用性。

读写分离常用代理方式来实现，代理服务器接收应用层传来的读写请求，然后决定转发到哪个服务器。

参考资料

BaronScbwartz, PeterZaitsev, VadimTkacbenko, 等. 高性能 MySQL[M]. 电子工业出版社, 2013.
姜承尧. MySQL 技术内幕: InnoDB 存储引擎 [M]. 机械工业出版社, 2011.
20+ 条 MySQL 性能优化的最佳经验
服务端指南数据存储篇 | MySQL（09）分库与分表带来的分布式困境与应对之策
How to create unique row ID in sharded databases?
SQL Azure Federation – Introduction
MySQL 索引背后的数据结构及算法原理
MySQL 性能优化神器 Explain 使用分析
How Sharding Works
大众点评订单系统分库分表实践
B + 树

微信公众号

更多精彩内容将发布在微信公众号 CyC2018 上，你也可以在公众号后台和我交流学习和求职相关的问题。另外，公众号提供了该项目的 PDF 等离线阅读版本，后台回复 "下载" 即可领取。公众号也提供了一份技术面试复习大纲，不仅系统整理了面试知识点，而且标注了各个知识点的重要程度，从而帮你理清多而杂的面试知识点，后台回复 "大纲" 即可领取。我基本是按照这个大纲来进行复习的，对我拿到了 BAT 头条等 Offer 起到很大的帮助。你们完全可以和我一样根据大纲上列的知识点来进行复习，就不用看很多不重要的内容，也可以知道哪些内容很重要从而多安排一些复习时间。