可观测性(Observability)
在校学习的时候,可观测性(控制理论),指系统从统输出信号反推系统内部状态的能力,目的是为了提升系统稳定系统。
后来,做项目,编写软件,继承这一理念的有日志、指标、追踪等设计,所图的都是系统稳定运行,和性能优化。
llm领域,业内做测试,一般使用请求量、错误率、响应时长做评估
早期如deepseek-R1测评表,DeepSeek-R1第三方稳定性测试(App端):首批结果出炉!)
随着对llm特性的了解,和AI应用普及的要求,可观测性逐渐向着完整的解决方案发展,阿里云:详解大模型应用可观测全链路