大模型落地一年后,虽没有像最初预期般带来翻天覆地的变革,但已“润物细无声”地融入到了业务场景中。
只需将电子版合同上传JoyLaw系统,几秒钟内就能得到审查反馈,金明根据提示进行修订,最快2分钟就能完成一份合同审查。
金明是一名企业法务人员,在日常工作中,审查合同往往要占据他一半以上的工作量。用了JoyLaw后,他感慨“终于不用逐字逐句去读繁琐的法律条文,先系统自动审一遍,我再接着审,效率可以提升30%”。
JoyLaw,是基于大模型技术打造的一款AI Agent,可自动标记出可能存在风险的合同条款。法务人金明可能并不关注什么是大模型,但JoyLaw,已经切切实实给他的工作带来了便利。
像金明使用JoyLaw审合同这样的场景还有很多。事实上,大模型已经潜移默化在众多场景跑起来,如营销素材生成、电商直播、研报生成、知识检索、互动问答、合同审查、面试招聘、代码编写等等。
大模型落地产业:
没想象中快,但已融入业务
大模型落地一年后,虽没有像最初预期般带来翻天覆地的变革,但已“润物细无声”地融入到了业务场景中。
这其中,AI Agent作为大模型应用的最佳形态,快速走进千行百业。AI Agent也称为智能体,如果说大模型像是可以思考的大脑,智能体就像把大脑和四肢结合,它是具有自主性、感知能力、决策能力的小助理,帮助用户完成特定的工作任务。
放眼海外,谷歌、微软相继推出各自新的AI Agent应用,让大模型在业务中跑起来。
9月24日,谷歌发布与客户合作的六个关键领域AI Agent:客户服务、员工赋能、代码创建、数据分析、网络安全以及创意构思和制作,以及185个行业头部落地AI案例。如阿拉斯加航空公司基于谷歌的AI Agent平台,为旅行者提供智能行程问答服务,大幅简化旅行预订流程,提升客户体验。
紧随其后,微软于10月21日宣布在Dynamics 365中引入了十个Agent,用来增强销售、服务、财务和供应链团队的能力。微软表示,按照一些企业反馈的数据统计,通过在业务流程中应用AI技术,“可以为企业每年节省高达5000万美元的成本,相当于增加187名全职员工的产出”。
着眼国内,以京东言犀大模型为代表打造的AI Agent,持续深入业务全流程,走出了一条独具特色的道路。
在所有技术企业中,京东是少数具备丰富供应链场景和数据的,能够为大模型应用生长提供最佳土壤,这些大模型应用从京东零售、物流、健康、金融等无数真实场景中“长出来”,打磨完善后又以京东云为窗口,逐渐开放给外界。
据了解,越来越多的大模型应用,正在京东供应链上生长,并于京东内部超100个AI场景全面铺开。当前,活跃在京东内部的AI Agent超7000个,已经有超35万京东自有配送员、超23万商家、超5万副主任级别以上医生、超2万采销运营、超1万研发人员得到了大模型应用的支持。
在产业先跑起来
大模型在这十个方向率先落地
在ToC端寻找“杀手级”大模型应用困难重重的时刻,许多企业都将目光放在了ToB端,试图在企业级AI市场找到能真正创造效益的商业模式。
我们可以从国外企业AI市场找到一些线索。谷歌研究团队举行了一项针对软件开发领域的AI应用调查,这项涉及96名谷歌软件工程师的随机对照试验,深入研究了代码自动补全、智能粘贴和自然语言转代码等三种AI功能对开发效率的影响。
研究发现,相较于未使用AI的情况,使用AI辅助工具的开发人员完成任务的速度提升超20%,按每天8小时工作制,相当于减少一个半小时的工作时长。
借助大模型技术来提升编码效率,是大模型在企业落地的典型场景之一。
在最近举办的城市大会上,京东云公布了大模型应用的十大场景,包括营销素材生成、电商直播、商品编码识别、研报生成、知识检索、互动问答、合同审核、面试招聘、城市治理、代码编写。
在营销场景,11.11期间商家有大量的商品图、营销文案制作需求,借助AIGC内容生成平台,商家可一键生成店铺运营所需物料,对比传统人工,内容制作效率提升高达90%以上。京东云言犀数字人,可实现零样本、高可控、零幻觉、实时的数字人生成,平台已上线100+个性化角色,50+行业特定属性场景,还打造双人直播、试妆直播、换装直播等创新玩法,正在超越80%的主播。
在研发场景,京东云智能编程助手JoyCoder,可以提供代码预测续写、注释生成代码、智能代码评审等能力。目前,京东上万名开发者正在使用JoyCoder服务数亿用户,生成代码采纳率超过35%。AI原生应用开发工具JoyBuilder,内置丰富的组件和开箱即用的前端模板,让产研团队可以更加轻松、便捷开发AI原生应用,整体研发效率提升40%。
在办公场景,大模型也应用在面试招聘中,实时记录,给出面试总结,京东内部每天有上千名面试官在使用面试智能体,面试效率提升28%。京东开发的智能合同管理工具JoyLaw,可全面识别各类合同风险,一键生成审查报告,将合同审查时间缩短至分钟级。
以开头提到的合同审查为例,作为一个专业性要求极高的领域,需要法务工作人员具备深厚的专业知识和高度的专注力,稍有疏忽就可能引发法律风险。京东内部每天有大量的合同审查需求,为了提升合同审查效率,基于京东云言犀智能体平台,搭建了面向法务场景的智能体应用JoyLaw。
合同审查智能体可快速识别各类合同风险
100多页的合同比对,JoyLaw可在几秒内完成,基于合同内容上下文语义的差异化对比机制,精准标注差异性,并支持一屏两栏查看审查结果,比对结果从语义角度分为新增、删除和修改三种,更符合用户使用习惯,并可按照条件对合同正文及对应结果一键导出,提升法务人员合同审查效率超30%。
1分钟打造Agent
人手一个钢铁侠版“AI贾维斯”
OpenAI的创始成员Andrej Karpathy推特上表示,自己要创立一个“贾维斯”, 让AI与现实世界无缝交互。
贾维斯是漫威世界中钢铁侠的虚拟AI管家,能帮助钢铁侠处理各种复杂事务,照顾钢铁侠的饮食起居,分析钢铁侠的身体状况,还能协助钢铁侠战斗,是一个全能的AI虚拟助手。
当前,用户已经可以用自然语言的方式,指挥AI Agent帮自己与各种应用交互,已经是朝着贾维斯这样的通用人工智能发展了,相信不远的将来人人都能拥有“贾维斯”这样的人工智能管家。
事实上,智能体正在成为大模型落地的最佳载体,而一个好的智能体平台,要具备办公、运营、运维等丰富的应用场景和行业知识,以及足够低的开发门槛,来帮助开发者更好地使用好智能体。
为了让更多人能用上智能体,京东云言犀智能体平台应运而生。作为一站式AI Agent开发平台,言犀智能体平台目前已接入数十个大模型,无论用户是否有编程基础,从解决简单的问答到处理复杂逻辑的业务问题,都可以在言犀智能体平台上低成本快速搭建基于AI模型的各类快捷应用。
通过言犀智能体平台,AI场景的探索落地从3个月缩短到1周,新应用的创建,从以前几个月时间研发一个应用,到每个月产生上千应用。
例如,人力资源工作人员原本需要剪辑大量课程。这既需要较高的专业知识,也需要反复观看视频、与业务人员频繁沟通。通过智能体平台,人力资源员工2天就能搭建起一个AI视频剪辑应用:只需上传视频,就可逐帧评估、智能剪辑。过去每周最多能剪完2个视频,现在几分钟就可剪完。
“最开始发布言犀智能体平台的时候,我们还有点担心,是不是会有人使用、能否满足集团同事们的需求。”言犀智能体平台负责人表示。但业务人员利用智能体辅助自己工作的热情,以及调用智能体、构建工作流的次数,都大大超过预期。如今,活跃在京东生态内的智能体已超7000个,大量商家、医生等伙伴也都享受到了AI的助力。
此外,为了支持大模型更快落地,京东云还打造一套完善的大模型工具链,显著降低大模型训练和使用门槛。京东云言犀AI开发计算平台2.0,内置20余种开源模型和丰富的数据集,并提供100余种算法和工具链,为客户提供低门槛、高性价比的大模型开发服务。
大模型需要大算力,京东云最新发布的云舰智算平台,作为行业首个提供大规模多云异构算力调度的智算平台,支持大模型在云端、本地混合部署,通过对各类CPU、GPU和国产化算力资源的统一管理,降低运维复杂度,为大模型应用提供极致AI算力。
这些强底层能力在支持京东内部的无数业务智能化升级的同时,也成为京东云将内部的AI实践产品向外部释放的支撑和底气。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。