接入层Nginx架构及模块介绍分享

本课程深入讲解Nginx的架构、特点和应用场景,涵盖Nginx的框架模型、内部流程、反向代理、模块开发等内容,包括upstream模块、动态upstream、日志回放压测等高级特性,适合提升对Nginx的全面理解。

课程目标:

1)帮助大家对Nginx有一定的认识
2)熟悉Nginx有哪些应用场景
3)熟悉Nginx特点和架构模型以及相关流程
4)熟悉Nginx定制化开发的几种模块分类

课程大纲:

  1. Nginx简介及特点
  2. Nginx应用场景
  3. Nginx框架模型介绍
  4. Nginx内部流程介绍
  5. Nginx自定义模块开发介绍
  6. Nginx核心时间点模块介绍
  7. Nginx分流模块介绍
  8. Nginx动态upstream模块介绍
  9. Nginx query_upstrem模块介绍
  10. Nginx query_conf模块介绍
  11. Nginx 共享内存支持redis协议模块介绍
  12. Nginx 日志回放压测工具介绍

1. Nginx简介以及特点

Nginx简介:

Nginx (engine x) 是一个高性能的web服务器和反向代理服务器,也是一个IMAP/POP3/SMTP服务器

  • 俄罗斯程序员Igor Sysoev于2002年开始
  • Nginx是增长最快的Web服务器,市场份额已达33.3%
  • 全球使用量排名第二2011年成立商业公司

Nginx社区分支:

  • Openresty作者 @agentzh(章宜春)开发的,最大特点是引入了ngx_lua模块,支持使用lua开发插件,并且集合了很多丰富的模块,以及lua库。
  • Tengine主要是淘宝团队开发。特点是融入了因淘宝自身的一些业务带来的新功能。
  • Nginx官方版本,更新迭代比较快,并且提供免费版本和商业版本。

Nginx源码结构:

  • 代码量大约11万行C代码
  • 源代码目录结构
    • core (主干和基础设置)
    • event (事件驱动模型和不同的IO复用模块)
    • http (HTTP服务器和模块)
    • mail (邮件代理服务器和模块)
    • os (操作系统相关的实现)
    • misc (杂项)


Nginx特点:

  • 反向代理,负载均衡器
  • 高可靠性、单master多worker模式
  • 高可扩展性、高度模块化
  • 非阻塞
  • 事件驱动
  • 低内存消耗
  • 热部署

2. Nginx应用场景

场景如下:

  • 静态文件服务器
  • 反向代理,负载均衡
  • 安全防御
  • 智能路由(企业级灰度测试、地图POI一键切流)
  • 灰度发布
  • 静态化
  • 消息推送
  • 图片实时压缩
  • 防盗链

3. Nginx框架模型介绍

进程组件角色:

  • master进程
    • 监视工作进程的状态
    • 当工作进程死掉后重启一个新的
    • 处理信号和通知工作进程


  • worker进程
    • 处理客户端请求
    • 从主进程处获得信号做相应的事情


  • cache loader进程
    • 加载缓存索引文件信息,然后退出


  • cache manager进程
    • 管理磁盘的缓存大小,超过预定值大小后最少使用数据将被删除


框架模型:

v2-11d3cc1a61f426fd438afba7160d3506_b.jpg


框架模型流程:

v2-1d27b08efa80f8cfe33c5acbee2b1e85_b.jpg


4. Nginx内部流程介绍

4.1 框架模型流程


v2-9e3efa9edb0bd5ed826ce4e6e6df583f_b.jpg



v2-a6663c48eefe93fc10777cb458c3e6e6_b.jpg


4.2 master初始化流程


v2-acc8abee691d92ad76fe332ad65c6c0b_b.jpg


4.3 worker初始化


v2-8c396942f8191a9d2f1f2902465f573e_b.jpg


4.4 worker初始化流程


v2-7e23c3af6622e7061d1de24c3c45755d_b.jpg


4.5 静态文件请求IO流程


v2-b45aaeefda939185a2fe3620ddaab901_b.jpg


4.6 http请求流程


v2-213f5ef1e60ba0e067142b236b64a033_b.jpg


4.7 http请求11个阶段


v2-17d012e8f03a8e90c38aba54993ea793_b.jpg


4.8 upstream模块

  • 访问第三方Server服务器
  • 底层HTTP通信非常完善
  • 异步非阻塞
  • 上下游内存零拷贝,节省内存
  • 支持自定义模块开发

4.8.1 upstream框架流程


v2-1088729a851f7c45a4e20aa54f7513bf_b.jpg


4.8.2 upstream内部流程


v2-00a56b11104db4287fe4e6e855c52570_b.jpg


4.9 反向代理流程


v2-e182778f10a383b51d6c4e5d731d8c69_b.jpg


5. Nginx定制化模块开发

5.1 Nginx的模块化设计特点

  • 高度抽象的模块接口
  • 模块接口非常简单,具有很高的灵活性
  • 配置模块的设计
  • 核心模块接口的简单化
  • 多层次、多类别的模块设计

5.1 内部核心模块


v2-0bc2744ebe344aa808fd70a4f01ca18b_b.jpg



v2-5c021d85eec53e538729f3290eed4f13_b.jpg


5.2 handler模块

  • 接受来自客户端的请求并构建响应头和响应体。

v2-534ce677545b18c45e19aa43be6660e6_b.jpg


5.3 filter模块

  • 过滤(filter)模块是过滤响应头和内容的模块,可以对回复的头和内容进行处理。它的处理时间在获取回复内容之后,向用户发送响应之前。

v2-87435e9879eebe6a75569ad8fb79576a_b.jpg


5.4 upstream模块

  • 使nginx跨越单机的限制,完成网络数据的接收、处理和转发,纯异步的访问后端服务。

v2-ffe20f9b629de12c59b8efaaee64acd6_b.jpg


load_balance:

  • 负载均衡模块,实现特定的算法,在众多的后端服务器中,选择一个服务器出来作为某个请求的转发服务器。

v2-873a6b8c3e21b3fa282c9bd7bbf78449_b.jpg


5.3 ngx_lua模块

  • 脚本语言
  • 内存开销小
  • 运行速度快
  • 强大的 Lua 协程
  • 非阻塞
  • 业务逻辑以自然逻辑书写


v2-bbb8b156657f6486605b54aaf09ce5ea_b.jpg


5.4 定制化开发Demo

Handler模块:

  • 编写config文件
  • 编写模块产生内容响应信息
  1. #配置文件:
  2. server {
  3. ...
  4. location test {
  5. test_counter on;
  6. }
  7. }
  8. #config
  9. ngx_addon_name=ngx_http_test_module
  10. HTTP_MODULES="$HTTP_MODULES ngx_http_test_module"
  11. NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_test_module.c"
  12. #ngx_http_test_module.c
  13. static ngx_int_t
  14. ngx_http_test_handler(ngx_http_request_t *r)
  15. {
  16. ngx_int_t rc;
  17. ngx_buf_t *b;
  18. ngx_chain_t out;
  19. ngx_http_test_conf_t *lrcf;
  20. ngx_str_t ngx_test_string = ngx_string("hello test");
  21. lrcf = ngx_http_get_module_loc_conf(r, ngx_http_test_module);
  22. if ( lrcf->test_counter == 0 ) {
  23. return NGX_DECLINED;
  24. }
  25. /* we response to 'GET' and 'HEAD' requests only */
  26. if ( !(r->method & (NGX_HTTP_GET|NGX_HTTP_HEAD)) ) {
  27. return NGX_HTTP_NOT_ALLOWED;
  28. }
  29. /* discard request body, since we don't need it here */
  30. rc = ngx_http_discard_request_body(r);
  31. if ( rc != NGX_OK ) {
  32. return rc;
  33. }
  34. /* set the 'Content-type' header */
  35. /*
  36. *r->headers_out.content_type.len = sizeof("text/html") - 1;
  37. *r->headers_out.content_type.data = (u_char *)"text/html";
  38. */
  39. ngx_str_set(&r->headers_out.content_type, "text/html");
  40. /* send the header only, if the request type is http 'HEAD' */
  41. if ( r->method == NGX_HTTP_HEAD ) {
  42. r->headers_out.status = NGX_HTTP_OK;
  43. r->headers_out.content_length_n = ngx_test_string.len;
  44. return ngx_http_send_header(r);
  45. }
  46. /* set the status line */
  47. r->headers_out.status = NGX_HTTP_OK;
  48. r->headers_out.content_length_n = ngx_test_string.len;
  49. /* send the headers of your response */
  50. rc = ngx_http_send_header(r);
  51. if ( rc == NGX_ERROR || rc > NGX_OK || r->header_only ) {
  52. return rc;
  53. }
  54. /* allocate a buffer for your response body */
  55. b = ngx_pcalloc(r->pool, sizeof(ngx_buf_t));
  56. if ( b == NULL ) {
  57. return NGX_HTTP_INTERNAL_SERVER_ERROR;
  58. }
  59. /* attach this buffer to the buffer chain */
  60. out.buf = b;
  61. out.next = NULL;
  62. /* adjust the pointers of the buffer */
  63. b->pos = ngx_test_string.data;
  64. b->last = ngx_test_string.data + ngx_test_string.len;
  65. b->memory = 1; /* this buffer is in memory */
  66. b->last_buf = 1; /* this is the last buffer in the buffer chain */
  67. /* send the buffer chain of your response */
  68. return ngx_http_output_filter(r, &out);
  69. }


6. Nginx核心时间点模块介绍

解决接入层故障定位慢的问题,帮助OP快速判定问题根因,优先自证清白,提高接入层高效的生产力。

v2-320ea6bb0de0f97dc31de4f53b76aa02_b.jpg


7. Nginx分流模块介绍

特点:
实现非常灵活的动态的修改策略从而进行切流量。
实现平滑无损的方式进行流量的切换。
通过秒级切换流量可以缩小影响范围,从而减少损失。
按照某一城市或者某个特征,秒级进行切换流量或者禁用流量。
容忍单机房级别容量故障,缩短了单机房故障的止损时间。
快速的将流量隔离或者流量抽样。
高效的灰度测试,提高生产力。

v2-f220558d793b1f4484b6a60b0ec75eb3_b.jpg


8. Nginx动态upstream模块介绍

让接入层可以适配动态调度的云环境,实现服务的平滑上下线、弹性扩/缩容。
从而提高接入层高效的生产力以及稳定性,保证业务流量的平滑无损。

v2-ab733f902643af725069ea4d34806950_b.jpg


9. Nginx query_upstream模块介绍

链路追踪,梳理接口到后端链路的情况。查询location接口对应upstream server信息。

v2-f2a4cce6b0d5ea943cc9731a72a3d722_b.jpg


10. Nginx query_conf模块介绍

获取nginx配置文件格式化为json格式信息。

v2-90d7fd74506dff3c43bf4e9538bfa9ad_b.jpg


11.Nginx 共享内存支持redis协议模块介绍

根据配置文件来动态的添加共享内存。
github.com/lidaohang/ng

  • ngx_shm_dict
    共享内存核心模块(红黑树,队列)
  • ngx_shm_dict_manager
    添加定时器事件,定时的清除共享内存中过期的key
    添加读事件,支持redis协议,通过redis-cli get,set,del,ttl
  • ngx_shm_dict_view
    共享内存查看

v2-c548dad1e74b2c3bac62491e88e9438c_b.jpg


12. Nginx日志回放压测工具

方案说明

  • 客户端解析access.log构建请求的host,port,url,body
  • 把后端响应时间,后端响应状态码,后端响应大小放入header头中
  • 后端服务器获取相应的header,进行模拟响应body大小,响应状态码,响应时间

使用方式

  • 拷贝需要测试的access.log的日志到logs文件夹里面
  • 搭建需要测试的nginx服务器,并且配置upstream 指向后端服务器断端口
  • 启动后端服务器实例 server/backserver/main.go
  • 进行压测 bin/wrk -c30 -t1 -s conf/nginx_log.lua http://localhost:8095

作者:李航

滴滴云-为开发者而生 滴滴云使者

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值