12 LlamaIndex中的跟踪与调试：优化你的LLM应用

LlamaIndex中的跟踪与调试：优化你的LLM应用

调试和跟踪应用程序的操作是理解和优化它的关键。LlamaIndex提供了多种方法来实现这一点。

基本日志记录

查看应用程序正在执行的最简单方法是启用调试日志记录。这可以在应用程序的任何地方这样做：

import logging
import sys

logging.basicConfig(stream=sys.stdout, level=logging.DEBUG)
logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))

回调处理程序

LlamaIndex提供了回调来帮助调试、跟踪和追踪库的内部工作。使用回调管理器，可以添加任意数量的回调。

除了记录与事件相关的数据外，你还可以跟踪每个事件的持续时间和发生次数。

此外，还会记录事件的跟踪图，回调可以按需使用这些数据。例如，LlamaDebugHandler默认会在大多数操作后打印事件的跟踪。

你可以这样获取一个简单的回调处理程序：

import llama_index.core

llama_index.core.set_global_handler("simple")

你还可以学习如何构建你自己的自定义回调处理程序。

可观测性

LlamaIndex提供了一键式可观测性，允许你在生产环境中构建有原则的LLM应用。

此功能允许你无缝集成LlamaIndex库与我们的合作伙伴提供的强大可观测性/评估工具。配置一次变量，你就可以执行以下操作：

• 查看LLM/提示的输入/输出
• 确保任何组件（LLMs、嵌入）的输出表现符合预期
• 查看索引和查询的调用跟踪