AI智能体企业落地真相:90%靠工程架构设计,10%才是大模型技术

LLMs Ops热门工具探索:LangSmith、Langfuse与Dify LangSmith、Langfuse和Dify是三款热门的LLMs Ops工具,它们分别提供了调试、测试、监控、分析以及低代码开发等功能,帮助开发者和运维团队更高效地管理和维护大型语言模型应用。 阅读详情

越来越多企业已经落地 AI 智能体应用,我们会不约而同的发现,AI 智能体应用在企业落地 90% 的工作都是工程架构设计(软件工程),只有 10% 是真正的 AI 大模型。

AI 智能体在企业落地中的每一个组件都是模块化的,而且逐步达成到了行业标准:比如:LangChain、Spring AI Alibaba 开发编排框架,MCP 通信交互协议等等,这些构成了 AI 智能体的生态系统。

AI 智能体应用落地的生态系统包含14层,从下到上分别为:CPU/GPU 提供商层、基础设施/基础层、数据库、ETL(提取、加载、转换)层、基础模型层、模型路由层、AI 智能体协议层、AI 智能体编排层、AI 智能体认证层、AI 智能体可观测层、工具层、认证层、记忆层、前端层等。

在这里插入图片描述

如上图所示,这14层只有基础模型层(10%)是 AI 大模型工作,其他13层(90%)都是架构设计工程工作,下文我们对详细剖析之。

AI 智能体生态系统架构设计剖析

0、AI 智能体生态系统总体架构设计

AI 智能体生态系统总体架构设计包含14层,从下到上分别为:CPU/GPU 提供商层、基础设施/基础层、数据库、ETL(提取、加载、转换)层、基础模型层、模型路由层、AI 智能体协议层、AI 智能体编排层、AI 智能体认证层、AI 智能体可观测层、工具层、认证层、记忆层、前端层等。

图片

1、第一层 :CPU/GPU 提供商层

这些公司为 AI 智能体提供强大的计算能力,用于训练、推理和低延迟的执行。

包括硬件厂商英伟达 GPU、谷歌 TPU、华为昇腾系列,以及公有云厂商 Azure、Google Cloud Platform(GCP)、阿里云、腾讯云、华为云等。

图片

2、第二层 :基础设施/基础层

像容器和编排工具这样的基础设施,确保 AI 智能体能够可扩展、可靠且分布式地部署。

包括 Docker、Kubernetes、Kserve、Knative、Auto Scale VMs。

图片

3、第三层 :数据层

AI 智能体需要快速访问的数据系统,用于存储记忆、检索上下文以及在结构化和向量化数据中进行实时决策。

包括 Milvus、Chroma、Pinecone、Neo4j、MongoDB、Elasticsearch、PGVector、MySQL 等。

图片

4、第四层 :ETL(提取、加载、转换)层

这些平台从各种来源收集原始数据,并将其转换成 AI 智能体可以使用的格式。

包括 Datavolo、Noodle.ai、Verodata 等。

图片

5、第五层 :基础模型层

包括大型和小型语言模型(LLMs 和 SLMs),它们构成了 AI 智能体的认知核心,支持推理、对话和行动。

包括 GPT、DeepSeek、Qwen、Claude、Grok、Llama 等大模型,以及 Yolox、PaddleOCR 等小模型。

图片

6、第六层 :模型路由层

根据成本、延迟和输出质量,将任务分配给最适合的模型,从而提高效率。

包括 Martian、OpenRouter、Higress、Not Diamond 等。图片

7、第7层 :AI 智能体协议层

定义 AI 智能体之间的交互和通信方式。像 MCP、A2A、AG-UI、ANP、ACP 这样的协议,有助于结构化的多 AI 智能体协作和上下文管理。图片

8、第8层:AI 智能体编排层

使 AI 智能体能够执行工作流、与其他 AI 智能体交互,并在工具和环境中进行协调。

包括 Spring AI Alibaba、LangGraph、Autogen、LlamaIndex、Swarm、Eino 等。

图片

9、第九层:AI 智能体认证层

处理 AI 智能体在可信生态系统内的安全身份、访问控制和基于角色的权限。

包括 AWS AgentCore Identity、Azure Entry Agent ID 等。

图片

10、第十层:AI 智能体可观测层

通过遥测、日志、反馈循环和分析来跟踪 AI 智能体的行为,以便持续改进和调试 AI 智能体。

包括 LangSmith、Langfuse、Arize、OpenTelemetry、Helicone、Opik 等。

图片

11、第十一层:AI 智能体工具层

AI 智能体使用的 API、搜索和外部工具,用于获取实时数据、自动化决策或跨领域集成。

包括 Google Search、DuckDuckGo、Sorper、Exa 等。

图片

12、第十二层:认证层

通过安全的身份验证和用户访问控制层来保护 AI 智能体的操作。

包括 Auth0、Okta、OpenFGA、ANON 等。

图片

13、第十三层:记忆层

存储之前的交互和上下文知识,帮助 AI 智能体随着时间的推移进行个性化和适应。

包括 Zep、Mem0、Letta、Cgnee 等。

图片

14、第十四层:前端层

用户与 AI 智能体无缝交互的 UI 组件,比如: Web 应用和聊天界面。

包括 Streamlit、Flask、gradio、NEXT 等。

图片

总之,以上就是 AI 智能体应用在企业落地的生态系统,可以根据企业总的业务场景灵活选择每层中的工具和技术,但是并不是所有列出的技术都需要用来构建一个有效的 AI 智能体应用中。

普通人如何抓住AI大模型的风口?

领取方式在文末

为什么要学习大模型?

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

目前,开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景,其中,应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。
在这里插入图片描述

随着AI大模型技术的迅速发展,相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业:
在这里插入图片描述

人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!

最后

只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!

在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来,我们不断打磨课程体系与技术内容,在细节上精益求精,同时在技术层面也新增了许多前沿且实用的内容,力求为大家带来更系统、更实战、更落地的大模型学习体验。

图片

希望这份系统、实用的大模型学习路径,能够帮助你从零入门,进阶到实战,真正掌握AI时代的核心技能!

01 教学内容

图片

  • 从零到精通完整闭环:【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块,内容比传统教材更贴近企业实战!

  • 大量真实项目案例: 带你亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事‌!

02适学人群

应届毕业生‌: 无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。

零基础转型‌: 非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈: 传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型‌。

image.png

vx扫描下方二维码即可
在这里插入图片描述

本教程比较珍贵,仅限大家自行学习,不要传播!更严禁商用!

03 入门到进阶学习路线图

大模型学习路线图,整体分为5个大的阶段:
图片

04 视频和书籍PDF合集

图片

从0到掌握主流大模型技术视频教程(涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向)

图片

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路(不吹牛,真有用)
图片

05 行业报告+白皮书合集

收集70+报告与白皮书,了解行业最新动态!
图片

06 90+份面试题/经验

AI大模型岗位面试经验总结(谁学技术不是为了赚$呢,找个好的岗位很重要)图片
在这里插入图片描述

07 deepseek部署包+技巧大全

在这里插入图片描述

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发

在这里插入图片描述

AI智能体的10大核心要素与工程实践 —— 构建基于dify开发平台的高阶AI智能体的“上下文工程方法论”和“技术工具箱” 本质与原理:AI的“手脚”与“感知器官”LLM本身是语言模型,无法直接执行外部操作或获取实时、非文本信息。工具是LLM与外部世界互动的桥梁。工具定义与指令,就是以LLM能够理解的格式(通常是自然语言描述+JSON Schema有哪些工具可用?每个工具能做什么?需要什么输入参数?会返回什么输出?这就像给一个高智商的司令官配备了各种专业部队(侦察兵、工程兵、通讯兵),并详细告知每支部队的职责和调用方式,由司令官来决定何时、如何调动部队。核心价值与战略意义:让LLM从“对话”走向“行动”,解决实际问题。 阅读详情

相关推荐

英飞凌TC3xx实战:PWM中点触发ADC采集+DMA自动搬运完整配置流程(基于ILLD库)

本文详细介绍了在英飞凌TC3xx系列微控制器上使用ILLD库实现PWM中点触发ADC采集并通过DMA自动搬运数据的完整配置流程。该方案适用于电机控制、电源管理等需要高精度定时采集的场景,通过GTM生成PWM信号、ADC采集和DMA传输实现全硬件自动化流程,显著提升系统效率。

weixin_42536058的博客 536

智能体架构揭秘:为什么90%靠工程,10%才是AI?

过去两年,AI智能体(AI Agent)成为AI落地的热门方向。从 ChatGPT 的对话助手,到自动化办公、代码助手,再到多智能体协作平台,智能体被视为未来人机交互的核心形态。

2401_84815887的博客 1324

『与善仁』Appium基础 — 19、元素定位工具之UI Automator Viewer

文章目录(一)uiautomatorviewer定位工具1、uiautomatorviewer介绍2、uiautomatorviewer工具打开方式3、uiautomatorviewer布局介绍4、uiautomatorviewer工具的使用 之前我们在做web页面自动化的时候就说过,元素定位是页面自动化的第一步。 同理App自动化测试的第一步,也是元素的定位。 在APP中定位元素的话,需要借助一些元素定位工具。 APP中的元素定位工具大致有三种: uiautomatorviewer Appium Ins

繁华似锦Fighting 1521

智能体架构的真相:90%是软件工程,10%是AI

过去两年,AI智能体(AI Agent)成为AI落地的热门方向。从 ChatGPT 的对话助手,到自动化办公、代码助手,再到多智能体协作平台,智能体被视为未来人机交互的核心形态。然而在实际落地中,很多企业会发现一个残酷现实:构建一个真正可用的智能体,90% 的工作是软件工程,只有 10% 才是 AI。这一观点最早由 Rakesh Gohel 在其著名的AI Agent冰山模型中提出,并在业内引发了广泛共鸣。本文将深入解析这背后的逻辑。图 Gohel(linkedin)

weixin_43102784的博客 537

《无人驾驶车辆模型预测控制》(第二版)第四章详细学习——算法部分

根据代码进行的“MPC跟踪直线和圆算法”的详细推导学习记录。

Fengdf666的博客 5019

41、矩形和圆柱形开槽微带贴片天线设计及性能分析

本文提出了一种适用于ISM频段(2.4 - 2.48 GHz)的微带圆形贴片天线,专为生物医学植入和可穿戴设备设计。通过在贴片上蚀刻矩形槽并去除圆柱形槽,实现了小型化与性能优化。采用Rogers 3010基板材料,结合缺陷接地结构(DGS)技术,有效改善了带宽、回波损耗和极化纯度。仿真结果显示,天线在弯曲状态下仍保持良好性能,回波损耗达-13 dB,VSWR为1.6,方向性提升至5.38 dB。与以往设计相比,本次设计在回波损耗和谐振频率稳定性方面表现优异,具备良好的生物相容性和应用潜力。未来将从开槽结构、

github5actions的博客 260

Opik: 评估、测试和监控 LLM 应用

​ Opik 是一个用于评估、测试和监控 LLM 应用程序的开源平台。由 Comet 建造。 从 RAG 聊天机器人到代码助手,再到复杂的代理管道等等,通过跟踪、评估和仪表板构建运行得更好、更快、更便宜的 LLM 系统。

1643

mbedtls | 01 - 移植mbedtls库到STM32的两种方法

一、mbedtls 开源库 1. mbedtls是什么 Mbed TLS是一个开源、可移植、易于使用、代码可读性高的SSL库。可实现加密原语,X.509证书操作以及SSL / TLS和 DTLS 协议,它的代码占用空间小,非常适合用于嵌入式系统。 mbedtls遵循 Apache 2.0 开源许可协议,目前由 TrustedFirmware 维护(Linaro主持的一个治理开放社区项目),在Github上已收获 2.6k star,目前Github上发布的最新版本为 2.24.0 版本,开源仓库地址为:

Mculover666的博客(嵌入式) 1万+

收藏!AI智能体落地真相:90%是工程架构,10%才是大模型(小白/程序员必看)

拆解完这14层架构,相信大家都能明白:AI智能体的企业级落地,从来不是“搞定大模型就万事大吉”,而是一场“全链路工程架构打磨”。大模型确实是核心,但它只是14层架构中的一环,相当于“画龙点睛”的那一笔——没有前面90%的工程架构铺垫,再强大的大模型,也无法落地生根,更无法发挥实际价值。对于小白程序员来说,想要入门AI智能体开发,不要一开始就死磕大模型调优,建议从工程架构入手,熟练掌握K8s、数据库、ETL这些基础工具,理解每一层的核心作用,再结合模型优化,这样才能快速成长,真正做好AI智能体落地。

kaka0722ww的博客 510

TIA博途中通过UDT实现IO地址映射到DB块中的具体方法

TIA博途中通过UDT实现IO地址映射到DB块中的具体方法

Robot_PLC_HMI_Automation 1万+

【kubernetes】kubernetes kubeadm init 错误了 怎么回退?

因为虚拟机设置问题首先报错:然后我根据文章修改了核数。重启后,查看VIP运行所在机器,发现机器没有变化然后重新执行初始化后面报错了根据提供的信息,问题主要集中在 kubelet 未能成功启动控制平面组件,导致初始化过程超时。以下是可能的原因及相应的排查步骤:原因 1:kubelet 未运行或运行状态异常正如错误提示所指出,kubelet 可能未运行或处于不健康状态。请按照提示执行以下命令检查 kubelet 的状态和服务日志:根据输出结果,判断 kubelet 是否正常运行。后续一大堆错误。

九师兄 121

AI 智能体企业落地,其实90%都是工程架构设计,只有10%才是真正的 AI 大模型

越来越多企业已经落地 AI 智能体应用,我们会不约而同的发现,AI 智能体应用在企业落地 90% 的工作都是工程架构设计(软件工程),只有 10% 是真正的 AI 大模型。 AI 智能体在企业落地中的每一个组件都是模块化的,而且逐步达成到了行业标准:比如:LangChain、Spring AI Alibaba 开发编排框架,MCP 通信交互协议等等,这些构成了 AI 智能体的生态系统。

Android23333的博客 987

SAP Clean Core 对传统 ABAP 开发人员来说意味着什么:机遇和挑战

SAP Clean Core是一种战略方法,旨在优化和现代化 SAP S/4HANA 系统,通过尽量减少定制,确保核心系统的稳定性、高效性和对云环境的兼容性。Clean Core 作为一种设计思路,致力于让 ERP 系统的核心功能保持简洁、规范,避免不必要的复杂化,最终维持一个标准化的核心,使系统更容易升级、性能更优越,同时支持快速的创新能力。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 615

收藏!大模型落地工程架构深度解析:10%的模型与90%的工程真相

AI智能体落地中,90%工作是工程架构设计,仅10%涉及大模型本身。文章拆解了14个层次(算力、基础设施、数据库等),通过实际案例表明这些工程细节对成功落地至关重要。企业需从第一天开始重视全链路工程架构,而非仅关注大模型。

2401_84815887的博客 862

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

大模型不是全部:揭秘AI智能体落地的90%工程真相

AI智能体落地的真相:90%工作集中在工程架构设计,仅10%涉及大模型本身。作者详细拆解了从算力、基础设施、数据库到前端界面的14层架构,通过实际案例说明数据清洗、系统稳定性、安全监控等工程细节的重要性。强调企业需正视工程架构的复杂性,而非仅关注模型本身,才能实现AI智能体的成功落地。

kaka0722ww的博客 1067

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

AI智能体落地真相曝光!90%成败在工程架构,大模型仅占10%?企业避坑指南

AI智能体应用真正的落地生态系统应包含14层,从下到上分别为:CPU%/GPU提供商层、基础设施/基础层、数据库、ETL(提取、加载、转换)层、基础模型层、模型路由层、AI智能体协议层、AI智能体编排层、AI智能体认证层、AI智能体可观测层、工具层、认证层、记忆层、前端层等。这些工程层的打通和稳定性,才是让智能体能“用得住”的关键。6、模型路由层:像 OpenRouter、Martian 这样的工具,如同智能体的 "调度员",根据成本、延迟、精度需求,将任务分配给最适配的模型,实现资源最优配置。

m0_70486148的博客 954

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

大模型落地实战:从10%的模型到90%的工程架构全解析

文章揭示AI智能体落地的真相:90%工作在于工程架构,仅10%是大模型本身。作者详细拆解了算力、基础设施、数据库、ETL、模型、路由等14层架构,强调企业落地需全链路打磨,而非仅关注大模型。大模型是点睛之笔,没有坚实的工程基础,AI智能体难以真正发挥作用。

大模型训练 763

收藏!大模型落地真相:90%精力花在工程架构,10%才是模型本身

文章揭示AI智能体落地真相:90%精力用于工程架构,仅10%在大模型本身。详细解析了从算力到前端的14层架构,强调企业需重视工程细节,才能成功实现AI智能体落地,避免"画龙不点睛"的困境。

datian1234的博客 683

【强烈推荐】大模型开发者必看:AI智能体90%是软件工程,10%是AI的真相

AI智能体落地呈现"90%软件工程+10%AI"的冰山模型:水面上的10%是用户可见的AI能力(如自然语言交互、意图理解),水面下的90%是支撑运行的软件工程(包括交互层、记忆管理、权限控制、工具执行等)。这一比例对企业落地至关重要,指导架构设计,防止高估AI能力。大模型开发者需系统学习基础理论、RAG开发、Agent设计等技能,才能真正实现AI智能体的稳定落地。

2401_85375186的博客 1241

震惊!AI智能体落地90%竟是架构设计?小白程序员必看的大模型开发真相

8、第8层:AI 智能体编排层使 AI 智能体能够执行工作流、与其他 AI 智能体交互,并在工具和环境中进行协调。包括 Spring AI Alibaba、LangGraph、Autogen、LlamaIndex、Swarm、Eino 等。9、第九层:AI 智能体认证层处理 AI 智能体在可信生态系统内的安全身份、访问控制和基于角色的权限。包括 AWS AgentCore Identity、Azure Entry Agent ID 等。10、第十层:AI 智能体可观测层。

m0_59163425的博客 813

收藏学习!AI智能体落地真相:90%是架构设计,10%是大模型,14层架构全解析

AI智能体企业落地中90%工作是工程架构设计,仅10%涉及AI大模型。文章详细解析了AI智能体生态系统的14层架构,从底层CPU/GPU提供商到前端层,包括基础设施、数据处理、模型路由、智能体协议、编排、认证、可观测、工具、记忆等各层技术栈。企业可根据业务场景灵活选择各层工具,构建高效的AI智能体应用系统。

bugyinyin的博客 370

AI Agent系列(十三) -智能体架构的真相

构建一个真正可用的智能体,90% 的工作是软件工程,只有 10% 才是 AI。Rakesh Gohel 在其著名的AI Agent冰山模型中提出如下结论: AI智能体90%是软件工程,10%是AI。

qq_40821260的博客 2346

揭开AI智能体落地的真相:90%是软件工程,10%才是AI能力

一个能够感知环境、制定计划、采取行动、并循环迭代的自主软件系统。生活化类比AI智能体就像一个“带实习生的项目经理”。实习生(大模型)聪明但不靠谱——他可能把任务理解错、忘记前面讨论的内容、或者选择错误的工具。而一个成功的项目交付,90%依赖于项目经理设置的流程:明确的任务边界、检查点、回滚机制、双重确认、进度追踪——这些全是软件工程问题。智能体在处理用户输入时,需要从自然语言中提取关键参数(日期、地点、金额等)。这是AI的强项,但工程上需要定义清晰的schema并进行校验。

深耕互联网架构与AI领域多年,专注大模型工程化、云原生架构、AI驱动系统,分享实战经验、前沿技术和架构方法论。每周产出深度长文+技术短文,涵盖大厂案例、论文解读与工程实践。拒绝水文,只讲干货。关注我,与一线架构师共同探索技术本质。 968

AI大模型工程架构全解析:从零基础入门到实战精通,一篇就够了!

文章揭示了AI智能体落地的真相:90%工作是工程架构设计,仅10%涉及大模型本身。详细拆解了智能体落地的14个层次,包括算力、基础设施、数据库、ETL、基础模型等,强调企业需全链路打磨而非单点突破。大模型虽是点睛之笔,但缺乏前期工程支撑,智能体难以真正落地成功。越来越多的企业正在尝试把 AI 智能体真正落地,我们会发现一个有趣的规律:90% 的工作其实是工程架构设计,只有 10% 才是大模型本身的发挥。很多团队在最初做 PoC 时信心满满,以为只要把大模型接上 API,就能跑起来。

2401_85375298的博客 733

收藏!小白程序员必看:大模型落地真相(90%是软件工程!)

本文通过AI智能体冰山模型揭示:构建企业级智能体90%工作是软件工程(前端交互、记忆管理、权限控制等),仅10%涉及AI模型本身。文章强调,开发者需重视工程落地而非仅关注模型,并指导B端与C端智能体落地的差异,适合学习大模型的新手程序员参考。过去两年,AI智能体(AI Agent)成为AI落地的热门方向。从 ChatGPT 的对话助手,到自动化办公、代码助手,再到多智能体协作平台,智能体被视为未来人机交互的核心形态。

ALM_8241的博客 401
上一篇: LangChain格式化输出指南:让大模型输出更规范的实用技巧
下一篇: RAG功能需求分析实战案例:如何有效提升检索精确度?
不秃头de程序猿
博客等级 码龄5年 4091粉丝 1480原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值