《大模型 Agent 应用实战指南》 第9章：Agent 结果可信性验证与幻觉规避

在 Agent 系统中，特别是基于大型语言模型（LLM）的 Agent，**可信性（Trustworthiness）**和**可解释性（Explainability）*是至关重要的。用户、开发者甚至监管机构都可能想知道 Agent 是如何得出某个结论或执行某个操作的。当 Agent 给出错误信息（即*幻觉）或执行了意料之外的操作时，我们需要一种机制来追溯其决策路径，找出问题根源，并主动规避这些风险。本章将详细探讨提升 Agent 结果可信度和规避幻觉的关键策略。

---

9.1 证据链回溯 (Traceability)：如何记录 Agent 的思考过程、工具调用日志、知识来源

在 Agent 系统，特别是基于大型语言模型（LLM）的 Agent 中，可信性（Trustworthiness）和可解释性（Explainability）是至关重要的。用户、开发者甚至监管机构都可能想知道 Agent 是如何得出某个结论或执行某个操作的。当 Agent 给出错误信息（即幻觉）或执行了意料之外的操作时，我们需要一种机制来追溯其决策路径，找出问题根源。这就是**证据链回溯（Traceability）**的核心价