MySQL join没用到索引,跪了~

MySQL Join 你用过吗?你知道其中的原理吗?

现在有张 user 表,这个 user 表很简单,一个主键 id,也就是我们的用户 id,还有个 name 字段,很明显就是用户的姓名。

这时候还有一张 user_info 表,这个 user_info 表存的是用户的一些其他信息,有 user_id 代表用户的 id,还有个 account 代表用户的存款。

遍历循环查询

如果要查出所有用户的姓名和存款,我们可以这样查:

data = select * from user;
for (i=0;i<len(data);i++) {
  info = select account from user_info where user_id= data[i].user_id
}

这种方式最直观,先通过 user 表拿到所有的用户信息,然后根据连接键 user_id 去 user_info 表里查询对应的 account,这样就能得到想要的数据,但是这种方式几个问题:

  1. 第一次全表扫描 user 表需要一次网络通信,假设 user 表的数据量是n。

  2. 然后循环查询 user_info 表,这里需要 n 次网络通信

因此一共需要 n+1 次网络通信,如果使用的是长连接,还能省去 3 次握手的时间,如果是短连接,整体的开销会更大。

其次如果 user_id 没有索引,那么整体更伤,假设 user_info 一共有 m 条数据,那么扫描的次数是怎么算的呢?

  1. 首先 user 表是全表扫,一共需要查询 n 次。

  2. 由于 user_info 表的 user_id 没有索引,那么每次查询等于都是全表扫,总共需要 n*m 次。

因此这种查询的方式一共需要扫描 n+n*m 次。当然一般不会出现 user_id 没有索引的情况,在 user_id 有索引的时候,可以根据索引快速定位到我们的目标数据,并不需要全表扫描,因此总共需要扫描的行数为 n+m 次。

join 查询

一般对于这种情况的查询,我们会用 join 来做,于是我们的 sql 或许如下:

select a.name,b.account from user a left join user_info b on a.id=b.user_id

首先从网络通信上来说,总体只需要一次通信,至于 MySQL 内部怎么处理数据,怎么把我们想要的数据返回回来是它内部的事。

其次我们来看看这种 join 方式的原理:

  1. 从 user 表扫描一条数据,然后去 user_info 表中匹配

  2. 在连接键 user_id 有索引的情况下,可以利用索引快速匹配

  3. 然后把 user 表中的 name 和 user_info 表中的 account 作为结果集的一部分返回回去

  4. 重复 1-3 步骤,直至 user 表扫描完毕,数据全部返回。

其中第三步骤,每次组合一条数据的时候,并不是立马返回给客户端,这样效率太低,其实是有缓冲区的,也就是先把数据放在缓冲区中,等缓冲区满了,一次性响应给客户端可以大大提升效率。

从原理来看和上面的遍历查询差不多,主要不同的是,客户端不需要和服务端多次通信。

join buffer (Block Nested Loop)

以上说的还是连接键有索引的,我们来看看连接键没有索引的情况,这时候你通过 explain 来看 MySQL 的执行计划,你会发现其中 user_info 的 extra 字段中会提示这个:

Using where; Using join buffer (Block Nested Loop)

这是什么意思呢?

因为没有索引,所以每次去 user 表得到一条数据的时候,肯定是要再到 user_info 表做全表扫描,这个扫描的成本我们上面也提到了,就是 n+n*m=n(1+m),因此这个时间复杂度是和 n 成正比的,这也是为什么我们一般推荐小表驱动大表的方式。

但是如果我们按照这个方式来做 join,未免开销太大了,太耗时了,于是还是沿用老套路,也就是用个临时存储区,也就是 extra 中的 join buffer,有了这个 join buffer 后,首先会把 user 表的数据放进去,然后扫描 user_info 表,每扫描一行数据,就和 join buffer 中的每一行 user 数据匹配,如果匹配上了,也就是我们要的结果,因为 user_info 表有 m 条数据,因此需要判断 n*m 次,咦!这个也没减少呀,还是和上面的一样。其实不一样,这里的 m 条数据其实每次都是和内存中的 n 条数据做匹配的,并非磁盘,内存的速度不用多说。

聪明的读者可能会发现,如果 user 表的数据很多,join buffer 能放得下吗?

+------------------+--------+
| Variable_name    | Value  |
+------------------+--------+
| join_buffer_size | 262144 |
+------------------+--------+

buffer 默认是 256K,多的话确实放不下,放不下的话,怎么办?其实也很简单,分段放即可,当读 user 表的数据占满 buffer 的时候,就不放了,然后直接和 user_info 做匹配,逻辑还是同上,在 buffer 的数据处理完之后,就清空它,接着上次的位置继续读入数据,再次重复同样的逻辑,直至数据读完。

虽说连接键没有索引的时候,会通过 join buffer 来优化速度,但是现实中,还是建议大家尽量要保证连接键有索引。

最后

关注公众号【假装懂编程】

往期精彩:

<think>嗯,用户问的是MySQL 8中如何设置join_buffer_size参数。这个问题涉及到数据库性能调优,需要谨慎处理。 用户可能是DBA或开发人员,正在优化数据库性能。从问题表述看,用户对MySQL有一定了解,但可能不清楚具体参数调整方法。深层需求应该是想通过合理配置提升JOIN操作效率。 关于join_buffer_size,根据引用资料[2],这个参数只在Block Nested-Loop Join算法中起作用。MySQL 8虽然引入了Hash Join,但BNLJ仍然存在。引用[5]提到8.0引入了hash join,说明用户需要注意两种算法的共存。 需要提醒用户几个关键点: 第一,这个参数默认256KB,太小了,但也不能盲目调大。引用[2]强调这是会话级参数,建议在会话级别设置。全局设置可能浪费内存,尤其连接数多时可能引发OOM。 第二,调优前要先确认是否真的用到BNLJ。可以用EXPLAIN查看执行计划,如果出现"Block Nested Loop"字样才需要调整。引用[2]明确指出如果只是Index Nested-Loop Join,调这个参数没用。 第三,设置值要结合具体SQL。引用[2]建议在会话级别测试,比如先设8MB测试效果。内存分配公式是buffer_size * 并发连接数,256连接时1GB内存就可能吃掉256MB。 第四,MySQL 8的Hash Join优先级更高,所以多数情况下不需要调join_buffer_size。但用户若使用旧版本兼容模式或处理特殊场景可能仍需调整。 操作步骤上,建议用户先分析慢查询,再用EXPLAIN确认join类型。调整时用SET SESSION命令测试,有效后再考虑写进配置文件。监控也很重要,可以用SHOW STATUS看内存使用情况。 用户可能忽略的是内存分配问题。每个连接都会分配独立buffer,大连接数时极易内存溢出。引用[3]提到read_rnd_buffer_size的例子,说明这类会话级参数都需要同样谨慎。 最后要提醒监控调整效果。优化是个持续过程,不同负载下表现可能不同。如果用户有具体慢查询案例,分析起来会更精准。</think>在 MySQL 8 中正确设置 `join_buffer_size` 需要根据具体使用场景和服务器资源谨慎调整。以下是关键步骤和建议: ### 一、理解 join_buffer_size 的作用 1. **适用算法**:主要用于优化 **Block Nested-Loop Join (BNLJ)** 算法,当无法使用索引索引效率低时生效[^2][^5]。 2. **不适用场景**: - 若使用 **Index Nested-Loop Join (INLJ)**(通过索引匹配),调大此参数无效[^2]。 - MySQL 8.0+ 默认优先使用 **Hash Join**,此时 `join_buffer_size` 对性能影响较小[^5]。 ### 二、设置步骤与建议 #### 1. **确认是否需要调整** ```sql EXPLAIN [你的JOIN查询]; ``` - 若执行计划出现 **`Block Nested Loop`** 字样,则调整此参数可能有效[^2]。 #### 2. **设置原则** - **会话级优先**:避免全局设置导致内存浪费或OOM风险(每个连接独立分配)[^2]。 ```sql SET SESSION join_buffer_size = 1048576; -- 示例:设置为1MB ``` - **全局设置**(谨慎使用): ```ini # my.cnf 配置文件 [mysqld] join_buffer_size = 2M -- 通常建议2MB~8MB ``` #### 3. **合理值范围** - **默认值**:256KB(通常不足)[^2]。 - **建议值**: - 轻负载:2MB ~ 8MB - 复杂JOIN/大表:8MB ~ 32MB - **上限约束**:单条查询可能使用多个join buffer,需满足: ``` 总内存 > (join_buffer_size * 并发连接数 * 每个查询的JOIN数量) ``` #### 4. **监控与验证** - 监控内存使用: ```sql SHOW STATUS LIKE 'Memory%'; ``` - 性能对比:调整前后测试查询执行时间。 ### 三、注意事项 1. **Hash Join 优先级**: MySQL 8.0+ 对无索引JOIN优先使用 **Hash Join**(需启用 `hash_join=on`)。若优化器已选择Hash Join,无需调整此参数[^5]。 2. **内存风险**: 过大的全局设置可能导致内存耗尽(尤其高并发时),引发宕机[^2][^3]。 3. **替代优化**: - 优先优化索引(添加覆盖索引) - 确保 `WHERE` 条件高效过滤数据 - 升级至MySQL 8.0+ 利用Hash Join[^5] > **结论建议**: > 对于MySQL 8,**优先依赖Hash Join算法**,仅当明确出现BNLJ且无法通过索引优化时,再按需在会话级调整 `join_buffer_size`(如4MB~16MB)。全局设置需严格评估总内存和并发量。 --- ###
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

假装懂编程

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值