代码能力太弱,如何借助大模型落地企业项目?| Agentic同行计划

写在前面:

「为每个人提供最有价值的技术赋能」,2025年我们和赋范空间的小伙伴们一起来!

发起的“Agentic 时代同行计划”会和我们的学员一起,分享自己的经历、经验,集结群体的智慧一起拥抱Agentic新时代!


受访者:风格同学,电气工程专业转行数分,公司大模型开发项目成员

采访&整理:运营范范

代码能力不强?借助大模型落地企业项目!

范范:请先介绍下自己吧

hello大家好,大家可以叫我风格。目前做的是电商公司的BI,但是随着AI工具喷涌式的出现,我所在的部门也开始开发AI应用的重担了。

我本身的专业是电气工程,大学期间可以说没接触过代码,更别说大模型、算法之类的工作了。

图片

范范:小伙伴一直谦虚的说自己代码能力不强,那实际工作中是如何做大模型开发的?

这一点确实是困扰我很久的问题,因为我本身是一个纯外行,也没有任何工程化开发经验。

在刚开始觉得大模型是一个很需要专业知识的领域,不研究的很深入感觉就不会,希望在正式开发前把所有知识学完。

比如当看到模型使用的什么transform框架,又是使用的什么注意力机制之类的时候很不明白这是什么,就反思如果我不明白的话那后面的东西我能进行下去吗,就会产生焦虑。

范范:那是如何解决的?

解决这个问题,我觉得分两点,第一是借助大模型。因为刚开始基础弱,比如木羽老师的项目代码是一个完整的工程化代码,要吃透还是要费不少功夫。

而且既然做大模型,干嘛不利用大模型提升效率呢?

图片

现在出现很多AI代码编辑器比如cursor、trae,通过大模型的能力先帮我解释整个项目结构,再对每个代码文件进行解释。

然后在实际的debug过程中遇到错误或者不理解的,再让大模型单独解释,整个环节下来会让自己更快更清晰的吃透代码。

第二点是要想清楚目的,我们不管是学习还是研究,其目的是想要达成我们在某个业务场景的目标,不明白模型的原理和相关算法实际上是不影响我们使用它。

就好比出现的一个新产品我不必焦虑它内部是什么原理用了什么技术,只需要知道怎么使用它就好,当我使用的更熟练的时候,还能变通的去使用。

当然不是说就不需要懂原理了,如果能懂更好,你的项目效果会更好。但如果想迅速入门,不用太纠结代码能力。

范范:那你认为落地大模型项目重要的是什么?

我认为是你对业务场景的理解够不够,这决定了大模型该怎么设计运用。

想清楚之后借助大模型帮助开发是很快的,比如我现在使用一个开源的RAGflow,我看中了它的知识库能力,想要自己做一个适配自己内部的知识库管理页面,就可以直接使用cursor帮我们开发好前后端实现快速上线

企业变革,大模型不止做“陪聊”!

范范:现在大模型如何在贵公司发挥作用?

目前来讲,我想要的效果还没有实现,不过已经有了些效率的提升,比如:

>以前业务需要导出数据、整理数据、分析数据,现在通过一句话来实现;

>业务需要的直播脚本直接生成;

>各个电商平台客服对话由AI托管(不过这个不单单是大模型层面了,所以另一个我们考虑的就是客服话术的生成,基于顾客的询问生成合适的回应话术,即提高顾客的舒适度,也大大降低客服人员的培训和需求成本);

实现是本地部署了dify+RAGflow,dify搭建业务场景的工作流,RAGflow作为知识库管理。

图片

不过现在也还在初期阶段,还有不少问题在不断探索中,比如工作流会话中的权限,nlp_to_sql的时候不同人的数据权限、店铺权限等。

现在在跟进木羽的Graphrag项目,我也是希望后面走通部署起来,把公司的内部知识库整理起来!

范范:现在最看重的技术是?

Agent和RAG,我希望最后能做出像Manus一样的Agent。

(范范补充:MCP+Manus的项目将会在春季班中完成讲解,新课上线啦~)

Agent是今年最大的热点,我希望他能逐渐的实现帮人做事,自主完成一系列动作,这也是我认为的大模型落地项目应该有的样子。而RAG技术是解决模型幻觉、定制、定向输出的重要能力,

范范:现在的你会如何进行相关学习?

在我刚开始时,非常想要快速的接收所有的学习内容,所以就各种看课程和相关视频,但是自己动手实践比较少,很多内容没有自己从0到1的来一遍,这样导致自己在实际中,总是出现有印象但就是写不出来的尴尬。

就像前面说的,现在更多的是要求自己知道怎么使用它就好,之后就是多实践,当我使用的更熟练的时候,还能再变通的去使用。

图片

也建议新人同学多实践,把老师们的代码完整跑一遍。在平时也可以多结合场景,想想怎么把大模型应用起来。

当然,这确实会花很多时间,不过当完成之后是自己求职的大力支。作为从业者,只要能力足够、有开发落地的项目就不怕。


以上就是本次访谈的全部内容啦~

“Agentic时代同行计划”是希望集结大家的智慧。也许你的一句话会在未来5年、10年点亮另一个人的心,给予他继续前行的力量!

访谈不限主题、不限内容,会有专人进行访编辑并维护~

如果你也想分享自己的经验,欢迎联系助教老师,当下仅针对付费用户开放哦~

图片

为每个人提供最有价值的技术赋能!【公益】大模型技术社区已经上线!

九天&菜菜&菊安酱&木羽老师,30+套原创系统教程,涵盖国内外主流「开&闭源大模型」调用与部署,RAG、Agent、微调实战案例…

所有内容免费公开,还将定期追更最新大模型技术进展~

GitHub同步上线:https://github.com/fufankeji/LLMs-Technology-Community-Beyondata

【大模型社群免费提供】

✅新知速递:重大技术突破&最新技术信息通报;

✅干货分享:每月2-3场硬核干货&技术公开课;

✅20+主流开源&在线大模型部署与调用方法;

✅团队独家自研高品质技术教程;

✅社区交流:活跃技术氛围,技术交流&答疑;

快行动起来吧~

<think> 嗯,用户询问的是Agentic RAG落地使用的框架。用户提供了五篇引用资料,需要从中提取相关信息。 用户的问题很明确,是想了解具体的实现框架。从引用资料中可以看到几个关键信息点:引用[1]介绍了Agentic RAG的基本概念,提到这是传统RAG的升级版,引入了智能体决策能力。引用[3]详细说明了与传统RAG的区别,特别强调了多工具协同和自主规划的特性。引用[4]直接提供了技术栈示例,包括LlamaIndex、Milvus、Cleanlab Codex和OpenRouterAI这些具体组件。引用[5]则提到了课程信息,但没有具体框架内容。 需要整理出框架的层次结构:核心编排层(如LangChain/LlamaIndex)、智能体组件层(任务规划/工具调用)、知识管理层(向量数据库/图数据库)、质量保障层(验证工具)和模型服务层(大模型API)。每个部分都要给出具体工具示例,比如在知识管理部分可以列出Milvus、Pinecone等选项。 用户身份可能是技术决策者或开发者,需要务实的选择建议。回答时应该强调组合式架构的特点,说明没有单一框架,而是技术栈组合。落地建议部分要突出工作流设计的重要性,比如多轮决策流程和工具协同。 最后考虑设计相关问题时,准备覆盖框架对比、工具选型、企业落地挑战等方向,这样能帮助用户深入探索。特别注意所有技术名词都要保持大小写准确,比如LlamaIndex的首字母大写。 </think> 基于行业实践,Agentic RAG 的落地通常采用**组合式技术栈**而非单一框架,核心组件及常用工具如下: --- ### 🧩 一、核心架构组件与主流工具 1. **智能体编排引擎(核心)** - **LangChain/LlamaIndex**:提供 Agent 工作流编排、工具调用链、记忆管理等功能,是构建多步骤决策的核心[^1][^3][^4]。 - **AutoGen**:微软推出的多智能体协作框架,适合复杂任务分解与协同[^5]。 2. **智能体核心能力模块** - **任务规划器**:基于 LLM 拆解用户问题(如 LangChain 的 `Plan-and-Execute` 模式)。 - **工具调用模块**:集成搜索、API、数据库等工具(如 LangChain `Tools` 或 LlamaIndex `Query Engines`)。 - **自我验证模块**:使用 Cleanlab、Self-Correction 等工具验证答案可靠性[^4]。 3. **知识管理与检索层** - **向量数据库**:Milvus(自托管)、Pinecone(云服务)、Chroma(轻量级)等[^4]。 - **多源知识连接器**:支持图数据库(Neo4j)、SQL 数据库、API 知识源等[^3]。 4. **大模型服务层** - **LLM 接入**:OpenAI API、Anthropic、开源模型(通过 Ollama/vLLM 部署)或 OpenRouter 统一接口[^4]。 --- ### ⚙️ 二、典型技术栈组合示例 ```mermaid graph LR A[用户问题] --> B(LangChain/LlamaIndex 智能体) B --> C1[任务规划器] B --> C2[工具调用模块] C2 --> D1[向量数据库: Milvus] C2 --> D2[API 工具: 天气/股票] C2 --> D3[图数据库: Neo4j] B --> E[答案生成与验证] E --> F[Cleanlab 质量检测] F --> G[最终响应] ``` --- ### ✅ 三、企业落地关键实践 1. **工作流设计** - 采用 **ReAct 模式**(思考-行动-观察循环)实现多轮检索与决策[^2][^3]。 - 示例流程:`用户问题 → 任务分解 → 工具调用 → 结果验证 → 迭代优化 → 最终响应`。 2. **工具集成标准化** - 使用 **OpenAI Function Calling** 或 **LlamaIndex Tool Spec** 统一管理工具接口[^4]。 3. **弹性架构设计** - 分离智能体决策层与执行层,便于扩展新工具(如加入代码解释器或内部系统 API)[^5]。 --- ### 💡 四、框架选择建议 | 需求场景 | 推荐方案 | |-------------------|------------------------------| | 快速原型验证 | LangChain + OpenAI + Pinecone | | 高可控性私有部署 | LlamaIndex + 本地 LLM + Milvus | | 复杂多智能体协作 | AutoGen + 自研工具网关 | > 📌 **注**:当前 Agentic RAG 尚无“开箱即用”的统一框架,需根据业务复杂度组合技术栈。建议从 LangChain/LlamaIndex 入手构建最小闭环,逐步扩展工具生态[^1][^4]。 --- **相关问题:** 1. LangChain 和 LlamaIndex 在 Agentic RAG 中各自的优势是什么? 2. 如何设计 Agentic RAG 的自我验证机制以提高答案可靠性? 3. 企业落地 Agentic RAG 需要规避哪些常见的技术陷阱? 4. 是否有成功落地 Agentic RAG 的行业案例参考? [^1]: Agentic RAG 流程和最佳实践 [^2]: Agentic RAG 全栈实战与业务价值 [^3]: Agentic RAG 与传统 RAG 的核心差异 [^4]: Agentic RAG 技术栈与架构设计 [^5]: 多智能体协作框架实践
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值