小白眼中的Nginx。。。

我眼中的 Nginx(一):Nginx 和位运算 Nginx 内部在进行内存分配时,非常注意内存起始地址的对齐,即内存对齐(可以换来一些性能上的提升),这与处理器的寻址特性有关,比如某些处理器会按 4 字节宽度寻址,在这样的机器上,假设需要读取从 0x46b1e7 开始的 4 个字节,由于 0x46b1e7 并不处在 4 字节边界上(0x46b1e7 % 4 = 3),所以在进行读的时候,会分两次进行读取,第一次读取 0x46b1e4 开始的 4 个字节,并取出低 3 字节;为 0 的位表示一个通常的字符,即不需要转义,为 1 的位代表的就需要进行转义。 阅读详情

👉 这是一个或许对你有用的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入「芋道快速开发平台」知识星球。下面是星球提供的部分资料: 

👉这是一个或许对你有用的开源项目

国产Star破10w的开源项目,前端包括管理后台、微信小程序,后端支持单体、微服务架构

RBAC权限、数据权限、SaaS多租户、商城、支付、工作流、大屏报表、ERP、CRM、AI大模型、IoT物联网等功能:

  • 多模块:https://gitee.com/zhijiantianya/ruoyi-vue-pro

  • 微服务:https://gitee.com/zhijiantianya/yudao-cloud

  • 视频教程:https://doc.iocoder.cn

【国内首批】支持 JDK17/21+SpringBoot3、JDK8/11+Spring Boot2双版本 

来源:小白debug


你是一个程序员,你在电脑上编辑了一段文本,将它保存为 txt 文件 。将它拖到浏览器打开,就能看到文件里的内容。

但这看起来太过单调,为了让画面更丰富,我们定个规则,在文本边上加个两个h1符号,文本就以标题 形式展示。

加入ul和li就能变成列表 ,加入img还能让url文本 直接变成对应的图片 。

这些带尖括号的特殊符号,我们叫它标签 。只要浏览器识别到这些标签,就展示对应的样式。

为了将这个自带标签的文本跟 txt 纯文本区分开来,我们给了它新的后缀名, html 。

浏览器只要识别到文件是 html,就会解析里面的标签,这样我们就有了标题、输入框等各种丰富的内容了。这其实就是我们平时在浏览器中看到的网页 。

但不同的是,这个 html 文件是浏览器从我们本地 电脑文件中打开的。

本地浏览器打开html
本地浏览器打开html

而我们平时访问的网页,则是从某台远端服务器 ,将文件传到我们电脑的浏览器后打开的。

从远端服务器得到html打开
从远端服务器得到html打开

那么问题就来了,我们是怎么获得这个远端服务器上的 html 文件的 ?

没有什么是加一层中间层不能解决的,如果有,那就再加一层 ,这次我们要加的中间层是 Nginx .

nginx中间层
nginx中间层

假设我们完全不了解 nginx,来看下它是怎么设计出来的。

HTTP 服务器是什么?

想要让本地的浏览器,获取到放在远端服务器上的 html 文件。

那很简单,我们可以在远端服务器启动一个进程 ,这个进程对外提供 http 服务 ,说白了就是提供了个 url 。

用户在浏览器中输入这个 url, 回车,浏览器就会向 这个进程发起 http 请求 ,

进程收到浏览器的请求后,就将 html 文件发给浏览器,浏览器完成解析和展示,完美。

而像这种根据浏览器请求,返回 html 文件的服务进程,其实就叫 http 服务器 。

有了它,前端开发老哥写的各种 html 文件就能部署到远端服务器上,对外提供网页服务 了。

http服务器是什么
http服务器是什么

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/ruoyi-vue-pro

  • 视频教程:https://doc.iocoder.cn/video/

反向代理是什么?

但一个完整产品往往不止有前端页面 ,还有后端服务 ,比如某宝,前端商城页面需要从后端服务那获取最新的商品数据。

前后端分离
前后端分离

假设现在前端页面已经被加载到浏览器中,浏览器会按页面里写好的代码逻辑,向后端商品服务发起请求,获取数据,流量小的时候没什么问题,流量变大后,后端服务器扛不住的话,就需要增加商品服务的个数,服务变多后,每个都有对应的 ip 和端口,浏览器就不知道该访问哪个服务了。

所以我们还需要在这几个后端服务前面加一个进程 ,对外提供一个 url 域名,请求来了,由这个进程均匀转发给背后的几个服务,让每个服务都能处理上请求,也就实现了所谓的负载均衡 。

像这种,屏蔽掉背后具体有哪些服务器的代理方式,就是我们常说的反向代理 。

反向代理
反向代理

有了反向代理,我们对外就可以只提供一个url域名,背后根据需要, 随时扩缩容服务 。

这个反向代理的功能,正好可以加到前面放 html 文件的进程上。

那现在这个进程就很灵性了,既可以为 前端 html 文件提供 http 服务器的功能,当 html 文件被加载到浏览器,并向后端发起请求的时候,这个进程还能为后端服务器提供反向代理的功能。

http服务器+反向代理

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

  • 项目地址:https://github.com/YunaiV/yudao-cloud

  • 视频教程:https://doc.iocoder.cn/video/

模块化网关能力

既然是中间层,所有网络流量都要经过进程,那它高低也算个网关 了。

网关
网关

于是我们就可以顺理成章的在它上面加入一些通用网关能力 ,比如加个日志 ,记录每次调用的结果,方便后续排查问题,又比如加个对输入输出的内容进行压缩 的功能,减小网络带宽消耗,又或者是对某个 IP 进行限流或封禁 ,甚至还可以修改输入输出 的内容。能实现的功能实在太多,想象空间很大,于是将这部分功能设计为开放接口 ,让用户通过自定义模块 来实现特定功能。

这还不够,现在这个网关只支持http,我们其实还能扩展下,让它支持tcp,udp,http2和websocket,你能想到的我都要支持,我本来不支持的,自会有人通过自定义模块帮我支持。

支持多种通用能力和协议
支持多种通用能力和协议

配置能力

前面提到那么多种能力,用户肯定不会全用上,所以需要有个地方让人选择用哪些能力,于是我们可以加个配置文件,也就是nginx.conf ,用户想用什么能力,就在配置文件上声明清楚就行,非常方便。

nginx.conf配置
nginx.conf配置

单线程

现在这个网关进程的主要任务就是跟上下游建立网络连接,顺便内部做下处理。多个客户端请求通过网络进入到一个进程,如果用多线程并发处理,那就需要考虑并发问题,同时影响性能。怎么办呢?

多线程
多线程

很简单!外部不管有多少有个网络连接,网关进程收到客户端请求后,都统一塞到一个线程 上,在一个线程上处理客户端请求,什么并发问题 和线程切换开销 ,完全不存在!

单线程
单线程

多 worker 进程

但单个进程要单线程处理那么多流量,哪怕再快,压力也不小,万一这里面有美羊羊发的流量,你觊觎那么久?怎么忍心让她久等?沸羊羊你说话!

怎么办呢?既然多线程不行,那我们就上多进程 。

于是可以将单个进程改成多个进程,我们管它们叫 worker 进程 。进程之间互相独立,一个 worker 跪了不影响另外一个 worker 进程。

多worker进程
多worker进程

让多个 worker 进程同时监听一个 ip 地址+端口。只要一有流量进来,操作系统就会随机给到其中一个进程处理。将进程数量 设置为跟操作系统cpu核数 一致,那每个进程都能得到一个核,开足马力猛猛干。

worker数与核数一致
worker数与核数一致

看到这里,问题就来了,为什么多个进程同时监听一个端口不会出现端口冲突 (port is already in use),评论区告诉我答案。

共享内存

但多 worker 进程的情况下,同一个客户端的多个请求会随机打到某个 worker ,对于限流这种需要计数的场景,就会被分散到多个 worker 上单独计数,那还怎么限流,所以还需要给这些 worker 进程 分配一个共享内存 区域,方便多个进程之间共用同一份数据做逻辑,确保系统数据一致性。

共享内存
共享内存

proxy cache

作为网关,它在收到前端网页请求后,会转发给后端,并将后端处理结果中转给前端。如果它能将响应结果缓存 起来,这样下次收到同样的请求 ,直接将缓存里的数据返回给前端,从而减少响应时间和网络负载 。

那这个数据是放在共享内存里吗?内存贵,不合适,我们可以维护些磁盘文件,用于在前端请求后端的过程中,暂存后端响应的结果,后面再有相同请求,就可以将磁盘里的数据返回。

这又是经典的空间换时间 ,用廉价的磁盘空间换取网络传输和cpu计算耗时。对于后端响应较慢或重复请求较多的场景,读写磁盘总归比直接将请求打到后端来得快。这些用于缓存响应数据的磁盘文件 ,就是 所谓的proxy cache 。

proxy cache
proxy cache

加入 master 进程

但这还不够,现在每个 worker 都会分走一部分流量,如果功能更新,所有 worker 同时一起重启,上面的网络连接就会全部断掉。更好的方式是创建 worker 和关闭 worker 挨个陆续执行,这样前端网页连接断开后还能去连另外一个worker,保证任意时间一直有worker在工作。也就是所谓的滚动升级 。因此还需要一个新的进程协调各个 worker 谁先谁后,这个协调进程 ,就是所谓的 master 进程 。让master读取前面提到的nginx.conf 配置,统一管理多个worker。

master进程
master进程

nginx 是什么

好啦,到这里,当初那个简陋的单进程网关服务,就变成了一个支持动态配置多种通用网关能力和多种网络协议,单 master 多 worker 架构、多个worker进程之间共享内存和proxy cache,对外提供一个IP+端口,支持 http 服务器和反向代理的高性能网关服务。

它就是所谓的 nginx 。

nginx是什么
nginx是什么

它不仅支持日志、限流等各种通用能力、还支持自定义网关能力,只要你写好配置,就能让它给你当牛做马。性能上 5w qps 非常轻松,应付你那只有几十 qps 的服务更是绰绰有余了。

现在大家通了吗?好啦,如果你觉得这个视频对你有帮助,记得点赞并转发给你那不成器的兄弟,文字版的笔记见评论区。

最后遗留一个问题,想必大家也发现了,聊到现在它其实也只是某台服务器上的多个进程,一旦服务器跪了,nginx 也就跪了,存在单点问题 。

nginx单点问题
nginx单点问题

那怎么解决 nginx 的单点问题 呢?nginx 有集群模式 吗?

欢迎加入我的知识星球,全面提升技术能力。

👉 加入方式,“长按”或“扫描”下方二维码噢:

星球的内容包括:项目实战、面试招聘、源码解析、学习路线。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)
我眼中的 Nginx(六):深入 Nginx/Openresty 服务里的 DNS 解析 DNS 解析在 Nginx/OpenResty 的服务里是不可分割的一个功能,本文主要来介绍下 Nginx 和 OpenResty 服务里的一些不同的 DNS 解析方式以及它们之间的优缺点。 阅读详情

相关推荐

我眼中的 Nginx(二):HTTP/2 dynamic table size update

HPACK 维护了两张表,一张称为静态表,由 RFC/7541 给出定义,包含了许多 HTTP 协议里常见的头部名和值;这里 :status header 等价于 HTTP/1.x 状态行里的状态码(因为 HTTP/2 将请求行、状态行的字段都用伪头部进行表示了,因此也称为 header)。笔者就曾在公司的测试机器上遇到过这个问题,Nginx 并没有把这个特性做成可配置的(很大程度上是因为这是协议里明确规定的),后来也只能 revert 了那个提交。200多本网络安全系列电子书。网络安全标准题库资料。

wuli1024的博客 1173

我眼中的Nginx

我眼中的Nginx 本文主要讲述如何快速入门一门新技术并达到熟练使用的标准 首先,不要万事找百度,官方文档更详细 [官方文档转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-CFERcUkH-1572224497675)(http://nginx.org/)] ...

李亚飞的博客 3725

OpenWebUI联网搜索实战:如何用SearXNG让本地大模型获取实时信息(附百度/360配置)

本文详细介绍了如何通过部署开源元搜索引擎SearXNG,为本地运行的OpenWebUI大语言模型(如Qwen、Llama)配置联网搜索功能,解决其知识库过时的问题。文章重点讲解了SearXNG的Docker部署、集成国内搜索引擎(如百度、360)的配置方法,以及如何与OpenWebUI无缝对接,从而实现本地大模型获取实时、准确的中文信息,提升其实用性。

weixin_28835583的博客 1890

我眼中的 Nginx(三):Nginx 变量和变量插值

200多本网络安全系列电子书网络安全标准题库资料项目源码网络安全基础入门、Linux、web安全、攻防方面的视频网络安全学习路线图我们可以通过操作变量 $my_addr 来动态指定 upstream。Nginx 的变量和 perl、php 等语言的类似,由美元符号 $ 开头,随后跟着一个字符串,代表这个变量的名称,例如 $name,可选地,这个字符串可以用花括号包围,譬如 ${name}。

wuli1024的博客 313

4090显卡实测:PointPillars在KITTI数据集上的3D目标检测复现全流程(附避坑指南)

本文详细记录了在NVIDIA RTX 4090显卡上,从环境搭建、数据处理到模型训练与评估,完整复现PointPillars算法在KITTI数据集上进行3D目标检测的全流程。重点分享了版本配置、数据预处理、性能调优及常见问题的避坑指南,帮助开发者高效利用硬件资源,成功跑通并理解这一经典3D检测项目。

purple的博客 916

PyTorch模型生产部署:ONNX/Triton导出与高可用架构实战

机器学习模型部署本质是训练环境与生产环境之间的运行时契约建立过程,涉及序列化协议、推理引擎兼容性、动态批处理及资源隔离等核心问题。ONNX凭借标准化算子集和跨框架支持,成为平衡兼容性、性能与可维护性的首选导出格式;Triton Inference Server则通过原生多框架支持、动态batching和热加载能力,显著提升GPU利用率与服务SLA保障水平。在金融风控、电商推荐等高要求场景中,基于ONNX+Triton+K8s的分层架构可稳定支撑千级QPS与毫秒级P95延迟,同时满足模型热更新、可观测性与版本

weixin_33857679的博客 448

我眼中的 Nginx(四):是什么让你的 Nginx 服务退出这么慢?

张超:又拍云系统开发高级工程师,负责又拍云 CDN 平台相关组件的更新及维护。Github ID: tokers,活跃于 OpenResty 社区和 Nginx 邮件列表等开源社区,专注于服务端技术的研究;曾为 ngx_lua 贡献源码,在 Nginx、ngx_lua、CDN 性能优化、日志优化方面有较为深入的研究。 笔者曾今在更新 Nginx 服务的过程中发现旧的 Nginx ...

weixin_30699955的博客 197

大数据面试必考题:Spark数据倾斜问题总结和优化措施

在Spark分布式计算环境中,

大模型大数据攻城狮的专栏 1467

我眼中的 Nginx(五):Nginx — 子请求设计之道

张超:又拍云系统开发高级工程师,负责又拍云 CDN 平台相关组件的更新及维护。Github ID: tokers,活跃于 OpenResty 社区和 Nginx 邮件列表等开源社区,专注于服务端技术的研究;曾为 ngx_lua 贡献源码,在 Nginx、ngx_lua、CDN 性能优化、日志优化方面有较为深入的研究。 子请求、父请求和主请求 Nginx 所处理的大部分请求,都是在接收到客户端发...

weixin_34390105的博客 241

无人船 | 基于ROS的轻量级多无人艇自主导航仿真框架

无人水面艇USV是海上自主无人系统的关键组成部分,在民用、军用领域应用广泛,例如海上救援、水质测量、扫雷反潜等,因此对USV导航算法的研究具有重要意义。为了便于进行USV相关算法的验证与部署,本文介绍的这套基于ROS的多无人艇的自主导航仿真平台,轻量化地实现了建图、规划、控制等多种功能,同时自研框架保证了功能的高度可拓展和可定制

FRIGIDWINTER的博客 8016

NeRF-Pytorch(训练自己的数据集过程全记录+环境配置+COLMAP+问题解决)

写于2025/1/26,在用NeRF训练自己的数据集过程中该踩的坑都踩过了,发现网上并没有详细完整写这些问题解决过程的帖子,遂自己进行一个全记录和复盘。 整篇文章包括:NeRF训练环境配置;COLMAP三维重建过程(直接给出代码,规避一些bug);在训练时候出现的问题。 本篇文章仅针对llff格式数据集。

m0_62577716的博客 1774

前端眼中的nginx

Nginx 轻量级高性能的反向代理HTTP服务器 代理 正向代理:客户端的代理服务器代替用户去访问目标服务器 反向代理:服务端转发请求到原始服务器,将返回结果返回给客户端 反向代理作用 1、原始服务器的防火墙只允许特定代理服务器进出,起到保护和隐藏原始资源服务器的作用; 2、负载均衡:将业务担给多个服务器或网络设备,提高了业务处理能力,保证了业务的高可用性(nginx会给你分配服...

光 525

第7次CCF PTA编程培训师资认证-T1 真题解析(2024下)

B。

lan_in的博客 514

我眼中的nginx

#定义Nginx运行的用户用户组user www www;#nginx进程数,建议设置为等于CPU总核心数。worker_processes8;#全局错误日志定义类型,[ debug | info | notice | warn | error | crit ]error_log /var/log/nginx/error.log info;#进程文件pid /var/run...

weixin_33893473的博客 81

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

nginx 超时时间_我眼中的 Nginx(四):是什么让你的 Nginx 服务退出这么慢?

张超:又拍云系统开发高级工程师,负责又拍云CDN平台相关组件的更新及维护。GithubID:tokers,活跃于OpenResty社区和Nginx邮件列表等开源社区,专注于服务端技术的研究;曾为ngx_lua贡献源码,在Nginx、ngx_lua、CDN性能优化、日志优化方面有较为深入的研究。笔者曾今在更新 Nginx 服务的过程中发现旧的 Nginx worke...

weixin_39631572的博客 320

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

nginx 子请求接收响应_我眼中的 Nginx(五):Nginx — 子请求设计之道

张超:又拍云系统开发高级工程师,负责又拍云CDN平台相关组件的更新及维护。GithubID:tokers,活跃于OpenResty社区和Nginx邮件列表等开源社区,专注于服务端技术的研究;曾为ngx_lua贡献源码,在Nginx、ngx_lua、CDN性能优化、日志优化方面有较为深入的研究。子请求、父请求和主请求Nginx 所处理的大部分请求,都是在接收到客户端...

weixin_39995351的博客 292

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

上一篇: 面试官:单核 CPU 支持 Java 多线程吗?为什么?
下一篇: 替代PowerDesigner,一款国产免费的数据库建模工具
公众号-芋道源码
博客等级 码龄10年 1637粉丝 377原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值