网上看到一些文章,这里整理记录一下,仅供学习参考。
Envoy
Envoy 是一个专为云原生应用设计的开源边缘和服务代理。下面分别介绍 Envoy 的优点和缺点:
优点:
- 适应云原生应用:Envoy 专注于云原生应用,支持动态、微服务导向的环境,与容器编排平台集成紧密,提供自动服务注册、动态路由和流量管理等功能。
- 高度可扩展:Envoy 具有高度可扩展的架构,允许添加自定义的过滤器和插件,以满足特定需求。它还支持丰富的控制和管理 API,使其可以灵活适应各种场景。
- 强大的负载均衡:Envoy 提供先进的负载均衡功能,支持不同的负载均衡算法,并可根据服务的可用性和健康状态进行动态调整。
- 先进的可观察性:Envoy 提供丰富的可观察性功能,包括指标、日志和分布式跟踪,有助于监控和排查问题。
缺点:
- 学习曲线较陡:Envoy 具有复杂的配置选项和概念,对于初学者来说,上手可能需要一些时间和学习成本。
- 需要更多的资源:由于 Envoy 的高度可扩展性和丰富的功能,可能需要更多的计算资源来支持其运行。
Nginx
Nginx 是一种通用的服务器软件,被广泛应用于反向代理、负载均衡和缓存等场景。下面分别介绍 Nginx 的优点和缺点:
优点:
- 高性能和效率:Nginx 以其高性能和效率而闻名,具有较小的内存占用和出色的并发连接处理能力,适用于高负载环境。
- 强大的生态系统:Nginx 拥有广泛的用户社区和丰富的第三方模块生态系统,提供了大量的文档和资源,便于用户进行定制和集成。
- 灵活的配置语言:Nginx 提供强大而灵活的配置语言,使用户能够根据需求进行定制和扩展。
缺点:
- 可观察性有限:相比于 Envoy,Nginx 在可观察性方面的功能相对有限,仅提供了一些基本的日志和指标功能。
- 功能相对较为通用:Nginx 是一种通用的服务器软件,虽然功能强大,但在适应动态和微服务环境方面可能相对有限。
Envoy vs Nginx
Envoy 和 Nginx 都是常用的反向代理解决方案,但它们在某些方面有所不同。下面是它们之间的比较:
- 适用场景:Envoy 专注于云原生应用和微服务架构,与容器编排平台集成紧密,适用于动态、高度可扩展的环境。Nginx 是一种通用的服务器软件,适用于各种场景,包括反向代理、负载均衡和缓存等。
- 可扩展性:Envoy 具有高度可扩展的架构,允许添加自定义的过滤器和插件,提供丰富的控制和管理 API。Nginx 也支持一些扩展模块,但相对于 Envoy 来说功能较为有限。
- 负载均衡:Envoy 提供先进的负载均衡功能,支持多种负载均衡算法,并可以根据服务的可用性和健康状态进行动态调整。Nginx 也提供负载均衡功能,但其算法和策略相对较为简单。
- 可观察性:Envoy 提供丰富的可观察性功能,包括指标、日志和分布式跟踪,有助于监控和排查问题。Nginx 在可观察性方面的功能相对有限,仅提供了一些基本的日志和指标功能。
Envoy 与 Nginx 架构层面的对比 Nginx 是 Envoy 出现之前网络通信中间件领域非常有代表性的开源系统,功能强大,性能出色,扩展性很强,已经形成了强大的生态,成为 HTTP 流量管理领域事实上的标杆。Envoy 作为后起之秀,虽然定位和目标上与 Nginx 有不少差异,但架构设计层面,Envoy 和 Nginx 都有很多的可取之处,下面会从功能定位、整体网络模型、连接处理、请求解析、插件机制、配置管理、部署和运维、管理方式等诸多维度,对 Envoy 和 Nginx 进行详细剖析和比较,通过与 Nginx 功能和架构层面的全方位对比,大家也可以对 Envoy 的架构设计有更立体的认识。
一、功能与定位
Nginx 最核心的功能是 Web 服务器和反向代理服务器,Web 服务器完成对 HTTP 请求协议的解析和以 HTTP 协议格式响应请求、缓存、日志处理这些基本 Web 服务器功能;反向代理服务器完成对请求的转发、负载均衡、鉴权、限流、缓存、日志处理等代理常用功能。Nginx 还支持普通的 TCP、UDP 反向代理功能,同时以 stream 方式支持通用的基于 4 层协议的反向代理,比如 MySQL 代理、Memcached 代理等。
Envoy 定位是透明接管微服务之间的通信流量,将通信和服务治理功能从微服务中解耦,通过 Envoy 可以方便地增加对自定义协议的支持。
Nginx 的关键词是 Web 服务器和反向代理,是显式调用;Envoy 是透明接管流量,是隐式调用,更加体现对流量的控制和掌控力。
二、网络模型
网络模型上,Nginx 采用的是经典的多进程架构,由 master 进程和 worker 进程组成。其中,master 进程负责对 worker 进程进行管理,worker 进程负责处理各种网络事件,各个 worker 进程之间相互独立。
Envoy 采用了多线程的网络架构,Envoy 一般会根据当前 CPU 核数创建相同个数的 worker 线程,所有 worker 线程同时对 Envoy 配置的监听器进行监听,接受新的连接,为每个新连接实例化相应的过滤器处理链,处理该连接上的所有请求。
三、连接处理
Nginx 通过 worker_connections 参数来控制每个 worker 能够建立的最大连接数,从 Nginx 网络模型可以看出,客户端连接到来时,所有空闲的进程都会去竞争这个新连接。对连接进行精细化管理,Nginx 采取的方式是各工作进程根据自身的忙闲程度,动态调整获取新连接的时机。
Envoy 也会遇到和 Nginx 类似的负载不均问题,Envoy 当前发展很快,同时需要解决的问题很多。后续会根据具体情况对这个问题进行讨论和解决。
四、插件机制
Nginx 拥有强大的插件扩展能力,基于 Nginx 的插件扩展机制,业务可以非常方便地完成差异化和个性化定制,Nginx 插件通过模块的方式提供,具体来说,Nginx 主要提供如下几种形式的插件扩展:
- 1)通过 stream 机制进行协议扩展,比如增加 memcached 协议代理和负载均衡等;
- 2)以 Handler 方式处理 HTTP 请求;
- 3)对 HTTP 请求和响应消息进行过滤,比如可以修改和定制消息内容等;
- 4)访问 Upstream 时的负载均衡,可以提供自定义的负载均衡机制。
Envoy 也提供了强大的插件扩展机制,当前使用最多的地方是监听过滤插件和网络处理过滤插件。和 Nginx 相比,Envoy 网络插件定位在协议层面,以 HTTP 协议为例,Envoy 并没有那么细粒度的插件扩展机制,如果想对 Envoy 的 HTTP 协议处理进行扩展,当前并没有提供特别多的扩展点。
Envoy 的插件当前采用的是静态注册的方式,插件代码和 Envoy 代码一块进行编译,和 Nginx 不同,Envoy 从最开始就支持插件的动态加载,Envoy 通过独特的 XDS API 设计,可以随时对 Envoy 的 XDS 插件进行定制修改,Istio 将修改后的 XDS 配置通过 Grpc 的方式推送给 Envoy 动态加载和生效。
五、配置管理
Nginx 的配置格式使用自定义的方式,配置结构和配置解析过程都非常复杂。配置组织上,Nginx 采用层层嵌套的方式,最外层是核心模块的配置,主要包括 events 事件模块、http 模块和 stream 模块。对于最复杂的 http 模块来说,下面会嵌套着 server 子模块,负责监听和管理 http 请求,server 子模块下还会嵌套着一到多个 location,用于描述具体的路由规则。Nginx 的配置解析代码可以说是 Nginx 整个源码体系中最晦涩难懂的部分,配置解析的核心代码在 ngx_conf_file.c 中,通过层层嵌套解析,形成了一棵树状的配置信息结构。
Envoy 的配置管理部分设计得就比较优雅,配置格式直接使用了 Protobuf 3,复用了 Protobuf 3 的数据描述能力和自动代码生成机制,完全省去了配置解析的过程,并且也非常方便对配置格式的有效性进行验证。Nginx 的配置都是静态配置,不支持任何形式的动态配置能力。动态配置能力是 Envoy 相比 Nginx 最核心的竞争力,通过动态配置,可以在线修改流量路由和链路治理策略,实现策略配置修改的即时生效。
六、内存管理
Nginx 内存管理通过 Nginx 内存池实现,通过内存池的良好设计,使用内存池进行内存管理时,不需要关注内存什么时候释放,连接销毁时会回收连接对应的内存资源;同时通过内存池可以减少内存碎片,通过内存对齐、内存分页等机制,可以有效减少缓存未命中(Cache Miss),提高内存访问的效率。
Envoy 在内存管理方面的支持还很粗糙,直接基于原生的内存管理库,内存释放时机管理通过智能指针管理内存的生命周期。和 Nginx 相比,Envoy 在内存管理方面提供的支持不多,完全依赖智能指针机制,对使用者的要求比较高,同时无法满足对性能的极致要求。
七、部署与运维
从运维上说,Nginx 采用多进程的通信架构,主进程负责维护工作进程的状态,主要有以下两方面。一方面,监控工作进程的状态,状态异常时会对工作进程进行重启;另一方面,主进程也可以接收外界的管理信号,通知工作进程完成相应的操作。
Envoy 是通过控制平面组件 Pilot Agent 和 Sidecar-injection 进行管理,Pilot Agent 负责管理 Envoy 的运行状态,当 Envoy 状态有问题时,Pilot Agent 会将 Envoy 重启,如果重启仍然不能解决问题,会尝试将 Envoy 调度到其他环境下;Sidecar-injection 负责 Envoy 的自动注入。因此,从架构上看 Nginx 是自运维的,Envoy 是借助控制平面来完成 Envoy 运行状态的管理,运维上比 Nginx 方便。
从架构上看 Nginx 是自运维的,Envoy 是借助控制平面来完成 Envoy 运行状态的管理,运维上比 Nginx 方便。
八、观测与诊断
从服务的可观测以及诊断上说,Envoy 投入了大量的精力,已经全面支持 Log、Metric、Trace 等可观测机制,并且每种观测方式均提供相应的扩展机制,Nginx 在这方面相对逊色很多,可观测以及诊断支持上相对弱一些,当前可能是为了和商业版进行区分,Nginx 商业版有完善的运维和问题诊断支持。
总结
综上所述,Envoy 适用于云原生应用和微服务架构,具有高度可扩展性和丰富的可观察性功能;而 Nginx 则是一种通用的服务器软件,具有高性能和灵活的配置语言。选择使用哪种解决方案取决于具体的应用需求和场景。