AI应用开发新范式

近年来，随着人工智能的飞速发展，云服务平台在AI应用开发中的重要性愈发凸显以AIAgent架构为核心的AI应用开发新范式，不仅为企业带来了技术革新，更为其在行业竞争中提供了强有力的推进动力。这一全新框架将深度学习、自然语言处理等前沿技术有机结合，展示出超越传统开发模式的潜力。模型正在推动历史性的技术革命，企业想要成为AI科技浪潮的赢家，需要回答是否要训练自己的行业大模型、如何寻找或打造自己的ChatGPT时刻、如何从既有的企业IT架构和组织能力上支撑落地这三个问题。

大模型的四大技术驱动力，使得AI重塑软件成为可见的未来

驱动力1：万物皆可Embedding，泛化万物的通用机器智能表示

Embedding解决了文字、图片、声音、视频转化为一个可计算的token的问题，使得纯文本NLP快速演进到多模态大模型，对整个大模型和AI技术浪潮产生根本性的影响。

驱动力2：Transformer架构催生Scaling Law，统一了模型架构

过去经典模型没有通用性能力，解决的都是个性化问题，Transformer架构目前被证明是最有效的大模型架构，模型参数规模、数据规模、训练计算量的规模都会显著提升大模型的智力能力，它的演进是有确定性方向的。

驱动力3：从智能摩尔定律到场景摩尔定律，大模型成为通用生产力引擎

算力的演进，模型智力能力和模型场景泛化能力的演进，都符合摩尔定律，甚至在一定程度上，演进的速度超过了摩尔定律；就模型而言，解决的问题和适用的场景，随着时间就会自然获得，不需要在编程或者算法设计上做太多的处理。

驱动力4：LLM OS抽象了通用AI计算架构，使AI原生应用成为可能

LLM OS是以大模型为核心处理单元所构造的一种理论计算架构，业界基于此做了通用实现，证明了它有解决通用问题的能力。

AI原生应用落地企业生产场景要解决的关键挑战

• 安全性：数据安全、模型交互安全、应用安全；

• 专业性、协作性：如何让大模型能够理解并解决复杂的业务问题；

• 责任性：AI辅助人或者代替人，责任怎么界定，它是否能承担这个责任。

具体来说，主要有从5个方面来应对和解决：

企业词表：每个企业都有自己的术语表，要加载企业专业术语，让大模型准确理解，消除歧义，提升准确率。

领域知识库：所有大模型落地一定要外挂知识库，因为模型的训练是有周期的，但是外部的实时数据和实时的知识更新很快，所以需要让模型跟知识库结合，保证知识的动态更新，解决知识的及时性及有效性。

场景范式：模型是通用的，业务场景是多变的，如何用通用的架构解决个性化或多变的场景问题？为此，华为云参照人解决问题的思考方式，构建了7大Agent场景范式（会话交互、内容理解、感知接收、中枢决策、知识查询、设计生成、数据分析），从而简化Agent开发。

模型网关：基于大模型的应用开发一定需要模型网关，有以下方面的原因：（1）市面上的模型很多，对企业来说，包括自建的模型、外购的第三方模型，什么业务应该路由给哪一个模型，需要考虑业务路由问题。

（2）各模型在提示词输入输出的格式上有一些差异，需要一个统一的接口进行切换。

（3）大模型是个IT系统，也会出现故障甚至宕机，基于网关制定Failover机制，可以提升大模型的应用可用性。

（4）模型生成的结果，真实效果或准确性如何，要有个控制点来建立可观测性，来持续度量推理性能、成本及跟踪反馈的问题。

转自公众号：CIO之家