HiGress

HiGress是一款云原生API网关，它的内核基于Istio和Envoy。以下是关于HiGress的详细介绍：

• 诞生背景：HiGress孵化自阿里巴巴内部2020年5月的“本地生活战役”，最初是为满足阿里巴巴集团与蚂蚁集团直接使用RPC请求互访的诉求而构建，它也是阿里内部第一个支持Dubbo 3.0的Triple协议的应用。HiGress在阿里内部为解决Tengine reload对长连接业务有损，以及gRPC/Dubbo负载均衡能力不足而诞生。
• 核心特点
  • 生产等级：HiGress脱胎于阿里巴巴多年生产验证的内部产品，可支持每秒请求量达数十万级的大规模场景，能彻底摆脱Nginx reload引起的流量抖动，配置变更毫秒级生效且不影响业务，对AI业务等长连接场景特别友好。
  • 便于扩展：提供丰富的官方插件库，涵盖AI、流量管理、安全防护等常用功能，可满足超90%的业务场景需求。它主打Wasm插件扩展，通过沙箱隔离确保内存安全，支持Go/Rust/JS等多种编程语言，允许插件版本独立升级，能实现流量无损热更新网关逻辑。
  • 安全易用：基于Ingress API和Gateway API标准，提供开箱即用的UI控制台，WAF防护插件、IP/Cookie CC防护插件可直接使用。同时，支持对接Let’s Encrypt自动签发和续签免费证书，还可以脱离K8s部署，一行Docker命令即可启动，方便个人开发者使用。
  • 流式处理：支持真正的完全流式处理请求/响应Body，Wasm插件可方便地自定义处理SSE（Server-Sent Events）等流式协议的报文，在AI业务等大带宽场景下，可以显著降低内存开销。
• 功能用途
  • AI网关：能够用统一的协议对接国内外所有LLM模型厂商，同时具备丰富的AI可观测、多模型负载均衡/fallback、AI token流控、AI缓存等能力，可支撑通义千问APP、百炼大模型API等AI业务。
  • Kubernetes Ingress网关：可以作为K8s集群的Ingress入口网关，兼容大量K8s Nginx Ingress的注解，支持Gateway API标准，能让用户从Ingress API平滑迁移到Gateway API，相比ingress-nginx，资源开销大幅下降，路由变更生效速度有十倍提升。
  • 微服务网关：可以作为微服务网关，对接多种类型的注册中心发现服务配置路由，如Nacos、ZooKeeper、Consul等，并深度集成了Dubbo、Nacos、Sentinel等微服务技术栈，相比传统Java类微服务网关，可显著降低资源使用率，减少成本。
  • 安全防护网关：可以作为安全防护网关，提供WAF的能力，支持多种认证鉴权策略，如key - auth、hmac - auth、jwt - auth等，保障系统安全。