“走红”近两年后,大模型正在加速走进千行万业。
由于大模型的主要模态是文字和图片,恰好是数字化办公最基础的内容要素,办公于是成了离AI最近的场景。
公文写作、表格生成、提炼大纲、文本翻译、代码润色、数据统计、智能问答……越来越多的应用正在办公场景落地,曾经需要几个小时才能处理的工作,现在被压缩到了分钟级乃至秒级。
特别是进入2024年后,大模型tokens窗口扩张使得百万字的无损上下文输入成为现实,衍生出了阅读论文、搜索网页,在海量资料中进行信息整理和分析的新应用场景。AI智能不断涌现,要么加入AI,要么被AI淘汰,成了“打工人”茶余饭后的谈资。
不过,要把AI接入办公场景,也存在一定问题:面对效率和安全,企业该何选择的问题?
不少企业多年经营,留存下了大量的数字资产,涉及内部知识、技术文档、经验分享、财务数据、业务订单等等,可以说是一家企业“核心竞争力”的源泉。AI存在一定安全风险,一旦泄密,对于企业来说,无疑是“自毁长城”。
既要保障数字资产的安全,也想用AI激发出新动能。比较主流的做法是本地化部署,即将大模型部署到本地服务器上,在数据不外漏的前提下,用大模型盘活数字资产,向智能技术要效益,向私有部署要安全。
理想很丰满,现实却很骨感。大模型走进企业,需要一系列软硬件支持。摆在企业面前的就是安全、性能和成本的“不可能三角”:在算力成本高企的背景下,数据安全常常对应着海量的成本投入;不想在硬件上投入太大,性能不可避免大打折扣。
面对办公AI的“拦路虎”,钉钉和昇腾给出了新的解法:日前举办的HC2024昇腾产业峰会上,联合发布