0、前言
AI是下一代颠覆性的机会，已经是很多人的共识。尤其是在媒体的大力宣传下，大模型显得格外火热，但为什么已经到2024年了，在企业落地应用上颇有“雷声大，雨点小”的态势呢？
落地遇到的挑战是什么？希望尝试从3个不同的角度来讨论：
1）大模型技术本身的挑战（本文）
2）企业认知和自身工作流成熟度的挑战
3）负责企业落地的算法产研团队挑战
最容易想到和有共识的，是大模型本身技术还不成熟的问题，因此本篇先聊聊此方面的挑战，和当下的解决方案。
1、大模型和之前的AI有什么区别？
首先我们从企业落地的角度来看看，大模型和之前的AI有什么区别，能让大家看到“未来的希望”。
相对之前AI 1.0时代，大模型最大的变化是：之前不论做什么，都需要花人力先整“特定场景”的数据，再训个“定制模型”。而大模型写写prompt，就能出结果，有些场景甚至也还不错。
先不论这个结果能不能满足所有企业级要求，但它一下子就越过了之前的前置流程，要知道之前很多场景，都是被卡在前置数据和训模型的环节上了。这也是大模型一度颇有“百花齐放”的原因，毕竟尝鲜的门槛降低了，很多场景从“原本想都不敢想”到“都能低成本、短周期 试试”。
2、LLM的问题
然而大模型也不是万能的，以大语音模型LLM为例，通用的大语言模型技术直接落地企业实际业务需求，有以下问题：
-
幻觉问题： 大模型的原理是“文字接龙”，也就是基于数学概率预测后面要输出的文字，这导致了大模型输出结果存在幻觉的问题。
-
知识过期： 大模型本身训练的数据是静态的，当前主流的大模型（比如 ChatGPT、通义千问、文心一言…）的训练集基本都是抓取网络公开数据，所以大模型所掌握的知识存在截止日期，也不具备实时性的、非公开的知识。
-
安全性： 企业都不愿意泄露自己的私域数据，因此很难同意传给别人训练。
-
对话长度限制： 如果给大模型的内容过多，超过或接近限制，就会失败或容易“漏指令”。
-
可解释性： 大模型输入输出充满了不确定性，缺乏可解释性、黑盒问题。（以前AI 1.0时代好歹是有一个目标清晰的限定场景，自己知道自己用的什么数据，什么方式训得，或者训练数据量和模型参数量都小。但大模型动不动就是百亿千亿为单位的训练量和参数量，而且企业通常都是调用的第三方大模型厂商的API，甚至是闭源的大模型）
-
灵活性： 大模型一旦训练完成，再调整的周期和成本就是很高的。
3、有哪些方案？
之前的文章已经提到了企业落地时几种主流方案，这里罗列比较全的4种方案：
1）prompt：仅靠提示词对通用LLM下达指令
2）RAG： 通用LLM结合RAG，本文常简写成RAG
3）微调： 基于开源LLM，用SFT等方法微调一个大模型
4）从头训练： 用海量企业私有数据，从头训练一个适配企业行业或场景的大模型
这里给出一个不严谨的结论，仅为了能从整体上有个大概的感知：
效果：从头训练>微调>RAG>prompt
成本：从头训练>微调>=RAG>prompt
训练/搭建周期：从头训练>RAG >=微调>prompt
推理响应耗时：RAG >从头训练>微调>=prompt
（要提醒的是：由于过于简化，细化到具体的场景，可能有不一样的结论，尤其是RAG可以由简单拓展成复杂的架构，以及几种方案往往是逐渐叠加使用，不是孤立的）
4、Prompt、RAG、微调的区别
由于从头训练一个大模型不是一般企业能吃得消的(钱、卡、人才、数据都是挑战)，所以企业落地方案一般讨论的是：prompt、RAG和微调。
RAG和微调有一定理解门槛，而prompt理解门槛不高（当然想写好也不容易），因此我总结了一张对比表，可以系统比对，不再展开prompt。
区别比对表：
| Prompt | RAG | 微调 Fine-tuning | |
|---|---|---|---|
| 类比 | 在模型的考卷上，框定/提炼得分要点。 | 为模型额外提供教科书，允许它开卷考，随时翻书 | 正式开考前，让模型上专项冲刺班，提供和正式考卷差不多题型的模拟试卷和标准答案，消化巩固和提高。 |
| 优势/适合 | 快速： 希望快速出效果用于测试和验证；简单： 不需要复杂特定的上下文背景知识的任务；低成本： 当前资源预算有限，也没有人力大规模标注或训练。 | 动态知识： 预期的回答需要基于频繁更新的，不断变化的信息；相比于微调，不需要繁重训练周期，即时获取新信息 对幻觉消除有一定要求： 可以结合多个信息源和文档生成答案的复杂查询；有助于减少语言模型产生的错误或虚构信息； 可以溯源： 生成答案时引用外部信息源，增加可信度和可追溯性。 特定领域： 需要的知识是来自私域专属积累的知识库。 | 定制任务： 特定风格/要求的任务，需模型内化的有较复杂的上下文背景知识的任务有训练数据： 企业有大量的、能反映该任务特征的、可用于训练的私有标注数据需长期： 需长期使用，保持较持久性能的场景 |
| 劣势 | 效果不稳定： 仅凭提示词指令，不一定能每次、全部都生效，难以精准控制，保持效果一致性； 复杂任务效果不佳： 复杂和特定任务很难仅通过提示词实现全要求精准控制， 私有知识效果不佳： 提示词控制效果上限依赖通用大模型训练数据及通用能力，很难覆盖企业私有知识， | 响应时间较长： 检索和生成的双重过程会导致较长的响应时间，不适合对时效性要求很高的应用 复杂性高： 若对性能、准确性要求较高，本身外挂的数据量还大的话，需维护一个高效的检索系统和生成模型，而且系统的架构将越来越复杂。 高依赖数据质量： 生成结果的质量高度依赖数据文档的质量。 | 成本较高: 微调需大量的计算资源和较多的时间周期 高依赖数据质量： 需构建大量高质量的有标注的数据，数据准备、验收、筛选处理过程可能会消耗大量人力和沟通精力 不灵活： 一旦微调完成，若任务更新或需求发生变化，模型就很难变通。所以不适合频繁调整的需求场景。 可解释性低： 黑箱，模型回复badcase，难定位原因，难解决，难给业务解释 |
5、最优落地路径
首先声明一点：除非是从上到下发起的AI战略要求，否则企业落地时，并不看中背后是什么模型，什么技术，看中的只是能不能用最有性价比的方式，解决实际场景的问题。黑猫白猫，只要能抓到老鼠的就是好猫。有些场景，用的还是AI1.0时代的模型方案，而不是非得大模型方案。甚至有时，人为制定的规则、脚本代码的稳定性更高，根本不需要全部用AI，所以最后往往是各方综合的方案，这要是展开来说，可能过于零碎和定制化。
因此本小节只讨论，LLM大模型在企业内落地时，推荐可以尝试的路径，来帮助企业更有效，更经济，更快捷的评估及使用。另外，以上提到的prompt、RAG和微调几种方式，往往是逐渐叠加使用，并不是相互冲突的。
要考虑的因素也非常的多，包括：模型能力、训练和推理成本、数据成本、时效性要求等。
下图来自Meta官网于24年8月给出的建议，极具参考意义：
需魔法:https://ai.meta.com/blog/adapting-large-language-models-llms/
翻译一下其推荐的路径：
prompt ->进阶prompt（添加示例）->简单RAG ->简单微调 ->进阶RAG+微调->>从头训（预训练…）
总结
以上是从大模型技术还不成熟的角度来回答，然而**企业关键决策者对AI的认知，和企业工作流成熟度，**也是影响大模型落地的挑战。
因为所谓落地，其实是用AI适配/改造/革新 工作流的过程。
而很容易忽视的是：“这个过程”的成本可能比“大模型技术成熟”高的多。
如何学习大模型
现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。
作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。
下面这些都是我当初辛苦整理和花钱购买的资料，现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。
一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。
再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。
因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
