Knative Serving:ABP 应用的 scale-to-zero 与并发模型

Knative Serving:ABP 应用的 scale-to-zero 与并发模型 🚀



0. TL;DR 🧾

  • 选择 KPA(Knative Pod Autoscaler)按 并发/RPS 伸缩,原生支持 scale-to-zero(全局开关)HPA 仅支持 CPU/内存,不支持 归零。
  • Activator0→1突发超过 TBC(Target Burst Capacity,默认 200) 时入链缓冲并触发扩容;queue-proxy 在每个 Pod 前实施 硬并发containerConcurrency)与排队并导出指标(仅当 硬并发>1 才会导出 revision_queue_depth)。
  • 冷启动治理:initial-scale(修订创建预热)+ activation-scale(from-zero 预热)+ scale-down-delay(延迟降容)+ stable-window(默认 60s)组合拳。
  • 路由/灰度:Serving 原生 按修订百分比按路径灰度 交给 Ingress/Gateway(Istio/Kong/Contour…)实现。

1) 数据面 & 控制面 🧭

Client Ingress/Gateway Activator queue-proxy ABP App (user-container) HTTP/gRPC 请求 1 直达 Revision Pod 2 硬并发执法/必要时排队 3
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Kookoos

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值