Elastic Observability 9.0/8.18：EDOT 现已正式发布，支持 LLM observability ，以及更多功能

作者：来自 Elastic Miguel Luna,Akhilesh Pokhariyal, Trevor Blackford, Daniela Tzvetkova, Chris Munns

Elastic Observability 9.0/8.18 宣布了几项关键功能：

• Elastic Distributions of OpenTelemetry （ EDOT ）正式发布：所有 EDOT 组件（包括 EDOT Collector 和适用于 Java、.NET、Node.js、PHP、Python、iOS 和 Android 的语言 SDK）现已正式发布，为 SRE 和开发者提供了一个适用于生产环境的稳定 OpenTelemetry （ OTel ）生态系统。EDOT 保留了 OpenTelemetry 原生的结构规范和资源属性，增强了关联性和分析能力，同时还包含超出 OTel 发布周期的修复，以及无需专有插件的企业级支持。
• 面向 GenAI 应用的 LLM observability：LLM observability 现已正式发布，为基于 AI 的应用程序的 SRE 和开发者提供端到端的洞察，帮助他们管理和优化大语言模型（ LLM ）应用的性能、成本、安全性和可靠性。一组精心策划的 observability 信号和预配置仪表盘，为包括 Azure OpenAI、AWS Bedrock、Google Vertex AI 和 OpenAI 在内的所有主流 LLM 提供全面洞察。这对 SRE 来说是一项重要功能，因为它提供了对集成 LLM 应用程序的行为、性能和潜在故障的可见性、可追溯性和可控性。
• 其他增强功能包括：对 Logstash 的性能和安全性改进、Elastic Agent 对 AWS EKS 的支持，以及 Discover 的增强。

Elastic Observability 8.18 和 9.0 现已在 Elastic Cloud 上提供 — 这是唯一一个包含此最新版本所有新功能的 Elasticsearch 产品。你也可以下载 Elastic Stack 以及我们的云编排产品 — Elastic Cloud Enterprise 和 Elastic Cloud for Kubernetes — 进行自托管体验。

Elastic 9.0/8.18 还有哪些新内容？查看 9.0/8.18 公告文章了解更多。

Elastic Distributions of OpenTelemetry （ Collector 和 SDK ）正式发布

Elastic Distributions of OpenTelemetry （ EDOT ）现已正式发布，提供了一个完全开源、适用于企业的 OpenTelemetry 发行版，具备经过生产验证的稳定性和专家支持。EDOT 包括 OTel Collector 和语言 SDK，能够在保持 OpenTelemetry 标准的同时，实现来自应用程序和 Kubernetes 的无缝遥测数据收集。与厂商锁定的解决方案不同，EDOT 完全开源，确保了互操作性，并且没有任何专有修改。通过在标准 OTel 发布周期之外进行主动修复，并且与 Elastic Observability 无缝集成，EDOT 为 SRE 提供了一个可靠、可扩展的方式来采用 OpenTelemetry，而不会引起运维中断。

EDOT 随 Observability 9.0 发布，并将兼容 8.18 和 8.19 版本，以及 Elastic Stack 9.0。立即开始使用 EDOT，体验简化的、原生的 OpenTelemetry。

LLM 可观测性

LLM 可观测性集成正式发布

随着企业在内容创作和数据分析等 AI 驱动任务中采用 LLM，他们越来越需要更灵活的托管解决方案。AI 模型带来了对监控和可观测性的独特需求。常见挑战包括高昂的运营成本、确保响应质量和安全性、以及保持模型的性能和可用性。缺乏清晰的可见性，使得 SRE 和 DevOps 团队难以达成关于可靠性、性能、成本和质量的服务水平目标，也难以收集足够的遥测数据用于故障排查。

在 8.18/9.0 版本中，Elastic 宣布四个 LLM 可观测性集成正式发布，扩展了可观测模型的平台范围，以确保客户能根据需求选择最合适的方案。现在，客户可以获得一套精选的指标和日志，以及针对最流行的 LLM 托管提供商（包括 OpenAI、Azure OpenAI、托管在 Amazon Bedrock 和 Google Cloud Vertex AI 上的模型）开箱即用的仪表盘。这些集成提供了关于模型使用、成本和运行性能的深入洞察，包括延迟、错误、token 使用量、模型调用频率、模型资源使用情况，以及提示词和响应内容。

使用 EDOT，对基于 OpenAI 的 Python、Node.js 和 Java 应用进行 APM 追踪

LLM 驱动的应用为利用生成式 AI 的力量提供了前所未有的机会。OpenAI 模型是最受欢迎的模型之一，广泛应用于各种应用程序中。然而，将 LLM 集成到应用程序中，需要一套全新的可观测性能力。有了合适的日志、指标和追踪，开发者可以回答诸如 “是哪个版本的模型生成了这个响应？” 或 “我的 RAG 应用生成的具体聊天提示词是什么？” 这样的问题。

我们很高兴地宣布，在 EDOT 语言 SDK 中推出了首个 GenAI 监测功能：OpenAI。通过 Elastic 的 APM 增强功能，现在你可以使用我们的 Python、Node.js 和 Java EDOT SDK 来观测生成式 AI 应用程序。

现在你可以查看 OpenAI span 的详细追踪信息，包括持续时间、tokens 数量，以及 LLM 的提示词和响应内容。

AI 安全性与可靠性

构建 GenAI 驱动应用程序的客户希望确保他们应用程序的安全性与可靠性，这也包括为幻觉、事实错误、偏见、有害内容和敏感数据泄露设置防护措施。通过对 Elastic 的 Amazon Bedrock 集成进行增强，支持 Amazon Bedrock Guardrails，你可以监控由可配置防护措施控制的安全性和可靠性关键方面。

Elastic Security 通过提供审计 LLM 是否存在恶意行为（如提示注入）的能力，进一步增强了这些功能。

Logstash 性能与安全性改进

持久队列将事件写入磁盘，以防止在故障发生时丢失数据。我们增强了反序列化功能（deserialization），使你能够 5 倍更快地写入大事件。此外，我们为两个流行插件新增了身份验证功能。现在，你可以使用 IAM 角色进行服务账户身份验证，从而简化 AWS 集成的访问管理并增强安全性。Kafka 集成现在支持 OAuth 和 SASL，为 Kafka 用户提供更加灵活和安全的身份验证选项。

Elastic Agent 和 AWS Elastic Kubernetes Service (EKS)

Elastic Agent 版本 8.18 和 9.0 的容器现在将作为 AWS Elastic Kubernetes Service (EKS) 用户的 EKS 附加选项提供。这一新增的市场功能使 Elastic Agent 用户能够轻松部署 Elastic Agent 容器，并无缝集成到他们的 EKS 集群中。

告别 Logs Explorer 和 Logs Stream，迎接 Discover

从最初开始，Kibana Discover 一直是探索数据（包括日志）的首选工具。长期以来，Discover 是一种通用的查找各种数据的方式。然而，有时候这种通用方式限制了我们在日志分析体验上的提升。因此，在 8.x 中，我们引入了 Logs Explorer，作为专门的观察性功能，提供定制化的日志分析功能，如自动日志级别检测和改进的摘要。虽然一些用户喜欢这种专门的方式，但大多数用户仍然依赖 Discover，因为它具有灵活性并能无缝支持不同的数据源。

听取了用户反馈后，我们将日志探索（log exploration）整合到 Discover 中，使其成为分析所有数据的单一、更强大的工具。在过去的几个小版本中，我们逐步废弃了 Logs Explorer 和 Logs Stream，将精力集中在增强 Discover 的动态、日志特定功能上。在 9.0 版本中，我们决定彻底移除 Explorer 和 Stream 组件，支持这一全新的体验。

试试吧

阅读这些功能和更多内容，请查看发布说明。

现有的 Elastic Cloud 客户可以直接从 Elastic Cloud 控制台访问许多这些功能。如果你还没有使用 Elastic 云服务？开始免费试用。

本文中描述的任何功能或功能的发布和时间安排完全由 Elastic 决定。任何当前不可用的功能可能不会按时交付，甚至可能完全不交付。

在这篇博客文章中，我们可能提到或使用了第三方生成 AI 工具，这些工具由各自的所有者拥有和运营。Elastic 对这些第三方工具没有任何控制，也不对其内容、操作或使用负责，也不对因使用这些工具而产生的任何损失或损害负责。请在使用 AI 工具处理个人、敏感或机密信息时谨慎。你提交的任何数据可能会用于 AI 训练或其他目的。我们无法保证你提供的信息会保持安全或保密。在使用任何生成 AI 工具之前，您应该熟悉其隐私实践和使用条款。

Elastic、Elasticsearch 及相关标志是 Elasticsearch N.V. 在美国及其他国家的商标、徽标或注册商标。所有其他公司和产品名称均为各自所有者的商标、徽标或注册商标。

原文：Elastic Distributions of OpenTelemetry (EDOT) now GA, LLM observability | Elastic Blog