自动思维链（Auto-CoT）：LLM推理能力的自动化提升

最新推荐文章于 2025-08-19 23:33:23 发布

转载最新推荐文章于 2025-08-19 23:33:23 发布 · 1.2k 阅读

25 ·

CC 4.0 BY-SA版权

原文链接：https://blog.youkuaiyun.com/llm_way/article/details/144363703

文章标签：

#自动化 #机器学习 #运维 #人工智能 #自动驾驶 #深度学习 #计算机视觉

大型语言模型在处理自然语言任务时，通常依赖于大量的训练数据和复杂的神经网络结构。尽管这些模型在生成文本和回答问题方面表现出色，但在面对需要复杂推理的任务时，它们的表现往往不尽如人意。为了克服这一挑战，研究人员开发了一种名为“思维链”（Chain-of-Thought，CoT）的引导方法。CoT通过要求模型在回答问题之前生成一系列中间推理步骤，从而诱导模型进行更有条理和逻辑性的思考。

CoT方法有两种主要范式：一种是添加简单的提示语，如“让我们一步一步思考”，以促进LLMs生成推理链；另一种是使用手动设计的演示，每个演示都包含一个问题和一条通向答案的推理链。尽管第二种范式在实践中取得了显著成效，但它依赖于对特定任务的手动设计，这限制了其广泛应用。

为了减轻手动设计演示的负担，并进一步提高CoT方法的效率和准确性，研究人员提出了自动思维链（Auto-CoT）方法。Auto-CoT通过自动构建演示，实现了对LLMs推理能力的有效引导，从而在不牺牲性能的情况下，大大降低了人力成本。

一、自动思维链的原理与方法

Auto-CoT方法的核心在于自动构建包含问题和推理链的演示。这一过程主要分为两个步骤：问题聚类和演示采样。

问题聚类：首先，将给定数据集中的问题划分为几个簇。这一步骤的目的是确保每个簇中的问题在语义和推理难度上具有相似性，从而便于后续生成具有代表性的推理链。问题聚类可以采用多种算法实现，如K-means、层次聚类等。
演示采样：在每个簇中，选择一个具有代表性的问题作为演示问题，并使用零样本思维链（Zero-Shot-CoT）方法为其生成推理链。Zero-Shot-CoT是指在不依赖任何额外训练数据的情况下，直接利用LLMs的推理能力生成推理链的方法。为了提高推理链的准确性和多样性，可以采用一些启发式策略对生成的推理链进行优化。

在构建好演示后，Auto-CoT方法将这些演示作为输入，引导LLMs在回答新问题时生成类似的推理链。由于演示中的问题和推理链是自动生成的，因此Auto-CoT方法能够灵活地应用于各种任务和领域，而无需进行繁琐的手动设计。

二、实验验证

（一）实验设置

任务和数据集：Auto - CoT 在十个基准数据集上进行了评估，涵盖算术推理（如 MultiArith、GSM8K 等）、常识推理（如 CSQA、StrategyQA）和符号推理（如 Last Letter Concatenation、Coin Flip）等任务。
实现细节：使用具有 175B 参数的 GPT - 3（text - davinci - 002 版本）作为大语言模型，并通过 OpenAI API 进行访问。在生成输出时采用贪婪解码策略，设置最大令牌数为 256，温度为 0。不同数据集的示例数量有所不同，如大多数任务为 8 个，AQuA 和 Last Letter Concatenation 为 4 个，CSQA 为 7 个，StrategyQA 为 6 个。
基线方法：将 Auto - CoT 与 Zero - Shot、Zero - Shot - CoT、Few - Shot 和 Manual - CoT 等四种基线方法进行比较。

（二）实验结果

在十个数据集上的性能表现：实验结果表明，Auto - CoT 在大多数数据集上的准确率与 Manual - CoT 相当甚至超过了 Manual - CoT。这表明 Auto - CoT 能够有效地自动构建示例，使模型在推理任务中取得较好的性能。例如，在 MultiArith 数据集中，Auto - CoT 的准确率达到了较高水平，证明了其在算术推理任务中的有效性。
可视化分析：通过对问题聚类的可视化展示，发现不同数据集的问题聚类存在一定的模式，这有助于理解 Auto - CoT 在构建示例时如何选择多样化的问题。
使用不同模型的效果：除了 GPT - 3，还评估了 Codex 模型。结果显示，尽管 Codex 模型在 Manual - CoT 中表现更好，但 Auto - CoT 在使用 Codex 模型时仍然具有竞争力，进一步证明了 Auto - CoT 方法的有效性和通用性。
错误示例的影响：研究了错误示例对模型性能的影响，发现 Auto - CoT 在面对一定比例的错误示例时，性能下降幅度相对较小。这表明多样性在减轻错误示例影响方面起到了一定作用，Auto - CoT 通过多样化的问题采样和示例构建，能够在一定程度上容忍错误示例的存在。
更具挑战性的流设置下的性能：在流设置中，Auto - CoT 通过扩展为 Auto - CoT * 方法，仍然能够有效地处理分批到达的测试问题，从第二批开始，其性能与 Manual - CoT 相当，说明 Auto - CoT 在实际应用场景中具有较好的适应性和鲁棒性。

三、分析与讨论

（一）示例元素的影响

对示例中的问题、推理过程和答案进行打乱实验，发现打乱问题对性能影响相对较小，而打乱推理过程或答案会显著降低准确率。这表明模型可能能够捕捉到推理过程与答案之间的映射模式，即使问题的顺序有所变化，也能一定程度上理解推理逻辑。但推理过程与答案的一致性至关重要，不一致的示例可能会误导模型产生错误的预测。

（二）频繁错误簇的观察

通过对问题进行聚类并计算每个簇中的错误率，进一步验证了 Zero - Shot - CoT 在某些类型问题上容易失败的现象。这些频繁错误簇的存在表明模型在处理特定问题时存在局限性，而 Auto - CoT 通过多样化采样可以减少在这些簇中选择问题的概率，从而提高示例的质量。

（三）排序标准的比较

比较了不同的问题排序标准，包括最小距离到簇中心、最大距离到簇中心和簇内随机采样。结果表明，更接近簇中心的问题作为示例通常效果更好，这为示例选择提供了有益的参考。

（四）简单启发式方法的有效性

应用简单启发式方法来鼓励模型选择简单且准确的示例，如限制问题和推理步骤的长度。实验证明，这些启发式方法能够有效减少构建示例时错误推理过程的数量，从而提高示例的质量，进一步提升模型的推理性能。

通过自动构建包含多样化问题和推理链的示例，Auto - CoT 在多个基准推理任务上取得了与手动设计示例相当甚至更好的性能。这一方法不仅减少了人工设计示例的工作量，还提高了模型在不同任务上的适应性和灵活性。实验结果充分证明了 Auto - CoT 在提升大语言模型推理能力方面的有效性和潜力，为未来自然语言处理领域中模型推理能力的进一步发展提供了重要的参考和方向。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述