吴恩达：别盲目跟风模型微调，75%的团队其实不需要这么做

最新推荐文章于 2025-06-12 16:50:08 发布

大模型玩家

最新推荐文章于 2025-06-12 16:50:08 发布

阅读量807

点赞数 8

文章标签：人工智能深度学习机器学习学习 ai 算法程序员

本文链接：https://blog.youkuaiyun.com/2401_85375186/article/details/146908015

版权

“在微调之前，请先尝试提示工程或智能体工作流，这可能会带来更简单、更易于维护的解决方案。”

随着AI技术的发展，模型微调成为了一个热门话题。在日常与客户沟通的过程中，经常会遇到来自研发团队的问题：究竟什么时候该用微调（Fine-tuning）？什么时候不该用？

吴恩达基于在多家公司的实践经验，深入剖析了模型微调的适用场景。他指出，目前约75%使用微调的团队其实可以通过更简单的方法达到目标。

不过在三种场景下，微调确实是最佳选择：

提升关键应用的准确性
学习特定的沟通风格
降低模型延迟和成本

吴恩达还特别提到，借助LoRA等技术，微调所需的数据量比想象的要少得多，有时仅需100个示例就能取得不错效果。对于想要入门模型微调的团队来说，这是一份难得的参考指南。

01模型微调比你想象的要复杂

尽管微调是一项重要且有价值的技术，但当前使用它的许多团队其实可以通过更简单的方法获得不错的效果，比如提示工程（包括编写超长提示）、少样本提示或简单的智能体工作流。

为什么这些团队不该选择微调？因为微调需要对预训练模型进行针对特定应用的额外训练，实现起来相对复杂。

你需要收集训练数据，然后（除非你想自己实现微调）找到服务商协助运行微调，最后还要部署微调后的模型。由于它在训练和部署上都增加了额外复杂度，通常我只有在发现提示工程和简单智能体工作流无法胜任任务时，才会采用这项技术。

话虽如此，在某些应用场景下进行微调是恰当且有价值的。LoRA（通过修改有限数量的参数而非整个模型来学习）及相关方法使得微调变得相当经济实惠，特别是对于小模型（比如 13B 或更少参数）。而且入门所需的数据量比大多数人想象的要少。根据应用场景，我曾见过仅用 100 个甚至更少的示例就能取得良好效果。

以下是几个微调成功的应用场景。

02提升关键应用的准确性

对于许多应用来说，提示工程（prompting）能让你走得很远。但有时，微调（fine-tuning）能帮你榨取出最后那一点准确度。

例如，如果你正在构建一个客服聊天机器人，需要它可靠地调用正确的 API（比如执行交易、发放退款等），或许通过提示能让它在 95%的情况下做出正确的 API 调用。

但如果你即使修改提示也难以提高准确度，而你又确实需要 99%的准确率，那么基于对话和 API 调用的数据集进行微调，可能是达成目标的理想方式。对于那些仅用语言难以明确指定操作规则的任务来说尤其如此。

例如，当客户感到不满时，聊天机器人应该升级给经理处理，还是直接发放退款？团队通常会为人类员工编写标准操作流程（SOP），这些 SOP 可以放入模型的提示中。

但如果难以制定明确的 SOP，甚至人类也需要看过大量示例才能学会如何处理，那么微调可能是个好方法。在许多文本分类应用中，微调同样表现优异，例如将医疗记录分类为健康保险索赔的诊断代码和操作代码。

03学习特定的沟通风格

正如吴恩达在《面向所有人的生成式 AI》中所述，通过微调模型使其表达方式与个人的表达风格相似。许多人（包括我自己）都有独特的语言使用习惯。有些词汇我倾向于使用，而另一些则较少提及，这些细微差别数量庞大且难以通过文本提示精确指定。若要让系统以特定风格交流，相较于单纯依赖提示，微调通常是更优的解决方案。

包括一些特定的输出格式。例如 AI 出题以及 AI 生成问卷等场景，因为输出结果包含了多种不同类型的选项（单选、多选、填空以及参考答案等类型），且这些格式往往由应用自定义，这种情况下就需要对模型做一定程度的微调，确保输出的格式能够正确地被前端页面进行渲染。