Redis学习：Redis为什么快？高性能设计之epoll和IO多路复用

最新推荐文章于 2024-11-06 05:30:00 发布
最新推荐文章于 2024-11-06 05:30:00 发布
阅读量879 收藏 16
点赞数 19
分类专栏： Java实习工作 文章标签： redis 学习 java 算法 数据库 缓存
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/LiuYQi/article/details/143532400
版权

Redis学习

文章目录

1. Redis为什么快？高性能设计之epoll和IO多路复用

  1. IO多路复用(进程) 解决的问题
    1. 在多路复用之前，采用同步阻塞网络IO模型，此时每来一个网络请求就要创建一个进程去处理(也要new一个新连接)，即一对一，会造成巨大的开销，且进程切换也会耗时
    2. 多路复用就是解决一对一下创建多进程问题，让一个进程可以同时处理多个TCP连接
    3. 可以采用循环遍历来监控多个IO，但是效率太低，故使用IO多路复用，当监控的IO有请求时才会进行处理
    4. IO多路复用是指对进程的复用
  2. IO多路复用
    1. I/O：网络I/O
    2. 多路：多个客户端连接（多个TCP连接）
    3. 复用：用一个进程处理多条连接，可以实现单进程处理多个连接
    4. 实现一个进程可以处理多个不同的IO网络请求，且不使用轮询，而是使用中断方式(epoll函数，当某个请求准备好时才进行处理) ![[Pasted image 20241105080637.png]]
    5. IO多路复用就是用一个进程来处理多个IO连接的请求，实现：select(轮询效率低)、poll、epoll(中断效率高)
  3. redis为什么快？IO多路复用
    1. redis的性能瓶颈不在CPU和内存，而是网络
    2. redis采用epoll()函数实现IO多路复用，实现一个进程处理多个IO连接，整体由epoll()函数接受多个IO请求，并依次放到队列中，然后由事件派发器将请求发送到主进程进行处理
    3. redis用一个主线程执行所有redis命令，用多个IO线程来处理IO请求，采用Reactor方式实现文件事件处理器，每一个网络连接都对应一个文件描述符FD，并注册到epoll中![[Pasted image 20241105082112.png]]
    4. redis的网络事件处理器，有多个IO连接，并使用IO多路复用程序监控多个连接并将请求放到队列中，然后由时间分派器从队列中依次将请求分派给处理器，因为队列的消费是单线程的，故Redis才叫单线程模型，且只有一个主线程执行Redis命令
    5. 此时使用多个IO线程同时处理多个IO请求，解决网络IO问题，然后使用单个工作主线程执行Redis命令，保证线程安全
  4. Unix网络编程中的五种IO模型
    1. 同步和异步：服务提供者提供结果的方式
      1. 同步：顺序执行，发送请求后一直等待结果后才可以执行后续操作
      2. 异步：异步执行，不会一直等待，而是先执行别的，结果出来后再继续执行，一般通过回调通知
      3. 同步和异步区别在于服务提供者提供调用结果的消息通知方式上，同步是一直等待结果返回，异步是回调通知，不会一直等待
    2. 阻塞与非阻塞：服务调用者调用请求后的行为
      1. 阻塞：调用者一直等待而别的事情什么也不做，当前线程/进程会被挂起
      2. 非阻塞：调用者发出请求后，先去忙别的事情，不会阻塞当前线程/进程
      3. 阻塞和非阻塞谈论服务调用者(请求者)，重点在于等待消息时的行为
      4. 而同步与非同步谈论服务提供者，重点在于返回调用结果的方式（当面，回调）
    3. 组合方式![[Pasted image 20241105085115.png]]
    4. 阻塞IO、非阻塞IO、IO多路复用 ![[Pasted image 20241105082757.png]]
  5. BIO、NIO、IO多路复用
    1. BIO：阻塞式IO（会一直阻塞等待数据）
      1. 单线程时一个服务端进程只可以同时处理一个Socket连接，无法同时处理多个socket请求，当有多个socket连接时，只会处理一个，其余全部阻塞，并将请求加入队列，当前的连接关闭后才会处理别的连接，且会直接全部执行某个连接的请求（可能造成瞬间压力过大） ![[Pasted image 20241105092758.png]]
      2. 多线程模型：服务端为每个socket连接均建立一个线程进行处理，此时read()只会阻塞对应的线程，此时可以同时处理多个socket连接，但要创建多个线程，如果某个线程等待数据则会阻塞，利用率不高，且创建线程要进入内核态，来回切换线程也会造成极大开销 ![[Pasted image 20241105095008.png]]![[Pasted image 20241105095737.png]]
      3. 阻塞式BIO，每次发起都会阻塞，会一直等待数据传输完成![[Pasted image 20241105100232.png]]
      4. 由用户进程调用recvfrom()函数从一个socket上获得数据，数据先从socket到OS内核，然后从内核到用户内存，用户进程在这两个阶段均阻塞，效率最低
      5. recvfrom()：接收一个数据并保存地址，阻塞式IO模型![[Pasted image 20241105090429.png]]
      6. BIO每发起一个请求就会阻塞，一直等待，而NIO是不阻塞，直接返回，不存在时返回error，用轮询替代阻塞
      7. Tomcat7之前就是使用BIO多线程来解决多连接，会为每个连接创建一个线程，造成极大开销
    2. NIO：非阻塞式IO（轮询代替阻塞）
      1. 阻塞式BIO，当数据未准备好时会一直阻塞等待；而非阻塞式NIO，当数据未准备好时会返回error，此时需要轮询去询问数据是否准备好，用轮询代替阻塞，且轮询期间占用CPU；NIO一切都是非阻塞（数据没有准备好时则直接返回error，有数据时阻塞读取） ![[Pasted image 20241105102534.png]]
      2. NIO下没有阻塞，用轮询代替阻塞，可以将多个连接加入数组中，遍历数组，如果read()没有返回error说明有数据则进行读取，否则继续遍历，此时就可以实现一个线程处理多个socket连接，但效率很低，要一直占用CPU进行轮询![[Pasted image 20241105103826.png]]
      3. 对于BIO阻塞式IO，此时每个线程只处理一个socket连接，会一直阻塞等待请求数据准备完成，故可以使用非阻塞NIO，当数据未准备好时，返回error，需要轮询去询问数据是否准备好，即用轮询代替阻塞，轮询期间占用CPU ![[Pasted image 20241105101540.png]]
      4. 使用异步非阻塞，当服务端发出接收数据的请求后，异步非阻塞，当数据准备好后再继续执行，此时可以转去处理别的连接的请求，可以同时处理多个连接
      5. NIO不需要为每个连接创建一个线程，一个单线程就可以处理多个socket连接，将多个socket连接存放到数组中，循环遍历每个连接是否有数据，用轮询代替阻塞，但会一直占用CPU，且每次都会遍历所有的连接，使用read()方法也会进行用户态到核心态的切换![[Pasted image 20241105104753.png]]![[Pasted image 20241105105003.png]]
      6. 将多个socket连接的遍历一次性传给内核去完成，内核是非阻塞的
    3. IO多路复用
      1. 解决的问题
        1. NIO非阻塞式时，此时可以一个线程同时处理多个socket连接，但需要轮询遍历所有的数组来判断是否有数据，且调用read()要进行用户态与核心态的转换，故引入了IO多路复用，其不需要遍历所有的socket，而是哪个请求处理哪个，且在内核态进行
        2. IO多路复用就是一个线程同时处理多个socket连接，且是触发式，谁发送请求就处理谁，不是轮询遍历
      2. 是什么
        1. 文件描述符FD来表示每个socket连接
          1. FD是一个索引，每当进程打开一个文件时，内核就会返回该文件的文件描述符FD，通过该FD去访问打开文件表中的文件
        2. IO多路复用：一个线程同时处理多个socket连接，且刚开始线程阻塞等待某个socket发出请求，而不是去轮询是否有数据，当某个有数据时，再使用工作线程对该请求进行处理，不是轮询是否有数据，而是等待连接发出处理请求，将对每个FD的遍历操作封装到内核态函数中，此时一次系统调用就可以完成之前多次的系统调用 ![[Pasted image 20241105125636.png]]
        3. IO多路复用技术(事件驱动IO)通过一种机制，使得一个进程可以同时监控多个描述符(socket连接)，一旦某个描述符IO就绪，就通知程序进行相应的操作，是由描述符通知程序进行操作，而不是程序去轮询描述符
        4. IO多路复用就是select\poll\epoll，等待多个描述符进入就绪状态
        5. 将客户端socket的FD注册进入epoll()，由epoll来监控哪个socket准备就绪（不需要轮询是否完成），并将事件返回到用户态，此时再由工作线程执行对应的操作，当无准备就绪时，epoll会阻塞，不会占用CPU，且epoll函数在内核中，不需要状态切换
      3. 能干嘛
        1. redis服务采用Reactor的方式实现文件事件处理器（每一个socket连接就是一个文件描述符），由IO多路复用程序(select、poll、epoll)来监控多个socket连接，当有准备就绪时就将事件发送到事件分派器，由事件分派器将事件分派到事件处理器中进行处理，因为Redis事件分派器的消费是单线程的，即只有一个事件处理器，故Redis才叫单线程模型 ![[Pasted image 20241105132454.png]]
        2. IO多路复用就是使用select\poll\epoll来实现，由epoll来监控多个socket连接的FD，当准备就绪时通知epoll将其放入队列中，然后由事件分派器将队列中的时间分派给处理器进行执行，从而实现一个线程可以同时处理多个socket连接，且epoll函数不是轮询且在在内核中运行![[Pasted image 20241105131406.png]]
        3. 只需要一个阻塞对象来监控多个socket连接的描述符，当没有准备就绪时就阻塞，当存在准备就绪时就从阻塞状态返回进行业务处理
        4. Reactor设计模式(Dispatcher)就是设置一个阻塞对象来监控所有的描述符，当有准备就续时就加入事件分派器中，由事件分派器将事件分派给事件处理器进行处理![[Pasted image 20241105132229.png]]
      4. IO多路复用程序：select、poll、epoll
        1. select
          1. 优点：select函数做到了一个线程同时处理多个socket连接FD，且相对于NIO，select减少了系统调用的开销，只需要一次select函数调用就可以在内核态中遍历所有的socket连接是否就绪，而不用每次都进入内核态遍历，但仍要调用系统调用进入内核态对就绪的FD进行读取![[Pasted image 20241105135305.png]]
          2. 缺点：使用1024位bitmap存放FD（故最多只可以遍历1024个socket连接的FD）、返回的FD置位数组rset不可以重复使用、仍要将FD数组拷贝到内核态进行遍历、不可以直接返回FD，而是返回置位后的FD数组rset，仍要O(N)遍历才可以知道哪个就绪![[Pasted image 20241105134942.png]]
          3. 就是将NIO中遍历socket数组是否有数据的操作封装到select函数中去内核态执行，此时只需要一次内核态切换就可以遍历所有的数组，返回对就绪的FD进行置位，返回FD数组，此时用户态就可以遍历FD数组得到就绪的socket连接，而不用每次判断都进入内核态
          4. 调用后会阻塞直到有描述符就绪，会将就绪的数组拷贝到内核空间，也就是当调用select时会在内核中判断哪个socketFD有数据，并对其FD在数组对应位置进行置位，然后返回，在用户态下直接遍历FD数组就可以得到就绪的FD，然后进行读取，而不用每次去内核态遍历是否就绪 ![[Pasted image 20241105133127.png]]![[Pasted image 20241105134454.png]]
        2. poll：对select优化，解决了bitmap大小限制和rset不可重用
          1. select是将NIO中轮询查找socket数组是否有数据的操作封装到内核中进行实现，减少了系统调用的次数
          2. poll函数对select函数进行了优化，解决了bitmap大小限制和rset不可重用（遍历后重置为0，使得可以重用） ![[Pasted image 20241105140322.png]]
          3. 但仍要将socket连接的FD数组拷贝到内核态才可以遍历，且无法直接返回就绪的FD，仍要在用户态进行O(N)遍历rset数组看哪个就绪
        3. epoll：最优方法
          1. epoll_create(size)：创建指定建议大小的数组来存放socket连接的FD
          2. epoll_ctl()：对指定数组下的某个FD进行相应的添加、删除、修改监控操作，每个socket连接的FD只在第一次拷贝进入内核态，其余时间遍历时不需要重复拷贝
          3. epoll_wait()：从指定的数组中监听设置的每个FD，当有请求时就将对应的事件放到event中，不需要全部进行遍历，然后直接返回总的事件个数K，此时就可以直接遍历event数组前k个就绪事件进行处理即可，不需要遍历整个FD数组，不需要遍历FD数组看是否置位，而是直接遍历event事件进行处理 ![[Pasted image 20241105192058.png]]
          4. epoll函数只将准备就绪的FD描述符的事件放到数组中，此时服务端就不需要遍历整个FD数组，而是直接遍历前k个事件执行处理即可，且epoll通过回调来监控每个FD
          5. 将FD拷贝操作epoll_ctl()和监控操作epoll_wait()分开进行，只有第一次执行epoll_ctl()时才会将FD拷贝到核心态，然后调用epoll_Wait()对FD进行监控，故只需要拷贝一次，且epoll_wait()使用回调的方法监控FD，不是遍历
        4. 对比![[Pasted image 20241105192655.png]]
  6. 小总结
    1. Redis对三个IO多路复用函数均进行了保存，以实现对不同OS的兼容，且Redis在Linux系统上(epoll())效率最高
    2. IO多路复用就是一个线程同时处理多个socket连接，且之所以快，是因为其将原来的多次轮询系统调用(NIO)变为一次系统调用+内核态中遍历，然后返回到用户态，可以减少系统调用的时间，其epoll还将拷贝和遍历分开，当新添加一个连接时使用epoll_ctl()将新连接的FD加入FD数组中，只在第一次加入时拷贝，后面就不需要拷贝了，然后调用epoll_wait()对所有FD数组以回调的方式进行遍历，且直接返回event事件，此时用户态直接遍历event事件数组即可，不需要O(N)遍历整个FD数组看是否置位 ![[Pasted image 20241105193138.png]]
  7. redis只有装在linux系统上（因为linux系统使用的是epoll()来实现IO多路复用）才可以发挥最大性能
Redis单线程还是多线程？IO多路复用原理
学Java，找哪吒
03-23 6362
Redis实战系列，打造精品专栏。
读懂才会用 ： 瞅瞅Redis的epoll模型
小眼睛的博客
05-24 1420
上一篇提到了Redis采用epoll模型来提升链接处理能力。本文，我们从源代码的角度，简单理解Redis是如何使用epoll以及epoll的实现原理。浅入浅出~ 通过本文了解如下三件事儿，就算是达到了本文目的： 1、epoll是Linux提供的系统实现，核心方法只有三个 2、epoll效率高，是因为基于红黑树、双向链表、事件回调机制 3、redis的IO多路复用，Linux上用epoll进行了实现 epoll是Linux内核提供的一种多路复用器，照例问问Linux的男人： EPOLL(7
Redis源码学习之【epoll封装】
yanchong_RD的专栏
03-17 3196
介绍 在上一篇博文中说到了在Redis 的事件处理中使用到了底层的linux epoll，根据Redis的实现可以使用其他的多路通信层，但是在一般的linux服务器中使用的最多的还是epoll所以这里主要介绍一下epoll。Redis并没有直接的使用linux的epoll而是对其进行了一个简单的封装。 源码 ae_epoll.c 分析 在原有的linux epoll的基础上进行封装，主要
Redis学习笔记之Epoll
m0_37872998的博客
04-02 238
文章目录Redis epolllinux5种IOredis epoll调用流程 Redis epoll linux5种IO IO个人理解的Socket的读取方式，将socket中的数据拷贝到内核态，再从内核态拷贝到用户态（程序中）。 同步阻塞IO linux下使用man bio命令，可以得到如下描述 A BIO is an I/O abstraction, it hides many of the underlying I/O details from an application. 表示是一
epoll源码分析以及在Redis中的实现
weixin_39332800的博客
08-23 320
1.概述 这篇文章分析一下linux中epoll的实现原理，主要为了增强自己对网络调用的理解。业界使用epoll的框架比较多，随便就能列出来很多，比如jdk的nio在linux下的实现，以及netty、redis等涉及到长链接网络请求的地方，我们都可以直接使用epoll。文末会从redis源码简单看看如何使用epoll做IO多路复用实现高并发。 2.具体实现 参考官方文档描述： The central concept of the epoll API is the epoll instance, an i
Redis ae_epoll.c
jollyjumper的专栏
06-16 2534
redis中ae是一个event loop的模块，其中使用到的事件轮询，按照系统的不同，使用的是select,epoll,kqueue等对应ae_select.c,ae_epoll.c,ae_kqueue.c,ae_evport.c,这些.c文件提供相同的接口。以ae_epoll.c为例: // aeEventLoop结构中apidata就是这个类型. typedef struct a
Redis高性能设计之epoll和IO多路复用深度解析
qq_43456605的博客
03-15 1780
在处理多个客户端连接redis问题时，在多路复用没有出来之前，通常的解决方案就是同步阻塞网络IO（BIO）。这个模式的特点就是用一个进程来处理一个网络请求（一个用户请求）。这种思路很简单易懂，但是却存在着很大的问题，它的性能时极差的，如果每个用户请求都开辟一个新的进程来处理，那么来一个请求就需要分配一个进程来进行处理，如果来了海量的用户系统根本创建不了这么多线程来处理用户请求。必须让一个进程能够同时处理很多TCP连接。
【Redis】高性能设计之epoll和IO多路复用深度解析
qq_43478625的博客
12-07 1594
文章目录一、Redis为什么快?高性能设计之epoll和IO多路复用深度解析1.1 Redis单线程如何处理那么多并发客户端连接，为什么单线程，为什么快?1.2 《Redis设计与实现》1.3 是什么?1.4 重要概念article同步异步同步与异步的理解阻塞非阻塞阻塞与非阻塞的理解总结1.5 Unix网络编程中的五种IO模型1.6 BIOjava验证演示acceptcode演示read案例1存在的问题案例2存在的问题1.7 NIO总结回答code案例存在问题和优缺点1.8 IO Multiplexing（
Redis IO多路复用技术及epoll实现原理
泷泷养的乔小胖
09-17 5031
10、Redis IO多路复用技术以及epoll实现原理 Redis是一个单线程的但性能是非常好的内存数据库，主要用来作为缓存系统。Redis采用网络IO多路复用技术来保证在多连接的时候，系统吞吐量高。 10.1 为什么Redis要使用IO多路复用 首先，Redis是跑在单线程中的，所有的操作都是顺序线性执行的，但是由于读写操作等待用户输入或者输出都是阻塞的，所以...
二.Redis为什么这么快--分析Redis单线程以及IO多路复用的优点
KKKEVVINNN的博客
01-11 647
Redis为什么这么快--分析Redis单线程以及IO多路复用的优点
select,poll,epoll区别
qq_36087425的博客
04-24 421
什么时候socket可读 socket内核中，接受缓冲区的字节数大于等于低水位标志SO_RCVLOWAT,此时调用 recv 或 read 函数可以无阻塞的读该文件描述符， 并且返回值大于0； TCP 连接的对端关闭连接，此时调用 recv 或 read 函数对该 socket 读，则返回 0； 侦听 socket ...
Redis 高性能设计之epoll和IO多路复用深度解析
一位打工仔的博客
09-16 569
a、同步阻塞：服务员说快到你了，先别离开我后台看一眼马上通知你。客户在海底捞火锅前台干等着，啥都不干。b、同步非阻塞：服务员说快到你了，先别离开。客户在海底捞火锅前台边刷抖音边等着叫号。c、异步阻塞：服务员说还要再等等，你先去逛逛，一会儿通知你。客户怕过号在海底捞火锅前台拿着排号小票啥都不干，一直等着店员通知。d、异步非阻塞：服务员说还要再等等，你先去逛逛，一会儿通知你。拿着排号小票+刷着抖音，等着店员通知。
Redis入门--万字长文详解epoll
qq_42583242的博客
09-16 1903
初始Redis Redis自此开始，希望善始善终 文章目录初始Redis一、计算机基础常识1、磁盘与内存2、I/O Buffer：4K3、Data page：4K4、索引5、B+树二、缓存三、Redis1、Redis优势--计算向数据移动2、Redis 如何处理高并发？--Epoll保证并发效率--epoll保证线程安全--单线程四、IO 技术的发展1、BIO2、NIO3、多路复用4、mmap--共享空间5、epoll6、总结7、补充：零拷贝技术--sendfile 一、计算机基础常识 1、磁盘与内存 数据
Redis之epoll和IO多用复用
liming0025的专栏
02-13 2098
一、redsi的IO多路复用 redis利用epoll来实现IO多路复用，将连接信息和事件放入队列中，一次放到文件事件分派器，事件分派器将事件分发给事件处理器。 IO多路复用，使用的是linux内核函数，它的使用有三种select、poll、epoll，redis使用的就是epoll进行实现。 在redis中，多个客户端同时进行连接，redis使用epoll，把各个客户端的事件放到队列中，然后又事件派发器找到对应的工作单元。IO多路复用解决就是防止一个读写导致整个进程的阻塞。 Redis服务采用
1.1、Redis系列-Epoll 的高效工作流程
qq_29434541的博客
06-25 742
创建 epoll 实例创建一个高效的 epoll 实例，用于后续所有操作。注册文件描述符epoll_ctl将文件描述符添加到 epoll 实例中，并指定感兴趣的事件（如读、写事件），通过事件驱动模式避免无效轮询。等待事件epoll_wait高效等待事件发生，仅在有事件时返回，并且支持同时返回多个就绪事件。处理事件：批量处理就绪事件，减少系统调用次数，通过事件分发机制快速定位并处理具体事件。
二、epoll发展及redis基本使用
qq_43583755的博客
11-27 494
一、BIO到Epoll发展 如果下图是BIO到NIO的多路复用的一个发展图: (一)BIO 客户端传来文件,服务器线程读取fd8文件标识符(read fd8),如果没有的话就会阻塞,一直等待数据包的到达,所以服务器只能开辟新的线程来读取资源才行,如果只用一个线程,即使f9的数据包已经到达,线程还是阻塞的.这样计算机的资源运用起来,所以后面内核发生了变化. 问题: 1.单线程读取文件描述符,如果数据包未到达会阻塞 2.若用其他线程在读取其他的文件描述符,线程的切换需要消耗资源 扩展: cpu只有1
Redis快的秘密，高性能设计epoll和IO多路复用探究
qq_63754844的博客
01-26 1295
Redis快的原因，高性能设计epoll和IO多路复用探究
985研一学习日记 - 2024.11.5
最新发布
LiuYQi的博客
11-06 647
一个人内耗，说明他活在过去；一个人焦虑，说明他活在未来。只有当一个人平静时，他才活在现在。
Redis 网络模型 -- 阻塞非阻塞IO、IO多路复用、epoll详解
m0_71777195的博客
10-29 1597
当用户进程调用了select，那么整个进程会被阻塞，而同时，内核会"监视"所有select负责的socket，当任何一个socket中的数据准备好了，select就会返回。这个时候用户进程再调用read操作，将数据从内核拷贝到用户进程。这个模型和阻塞IO的模型其实并没有太大的不同，事实上还更差一些。因为这里需要使用两个系统调用(select和recvfrom)，而阻塞IO只调用了一个系统调用(recvfrom)。但是，用select的优势在于它可以同时处理多个连接。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值