26、机器学习运维（MLOps）的未来：大语言模型运维（LLMOps）的崛起

机器学习运维（MLOps）的未来：大语言模型运维（LLMOps）的崛起

1. 安全风险与应对

生成式人工智能模型面临着一些安全风险。其中，提示注入风险是指恶意提示被注入，从而操纵模型生成意外或有害的响应。另一种安全风险是越狱，即绕过生成式人工智能模型内部保护机制的技术。这些风险凸显了采取强大安全措施以防范潜在攻击的必要性。

令人鼓舞的是，全球领先的大型人工智能公司和政府正在合作制定生成式人工智能模型的安全测试计划。这将有助于建立对这些模型能力和潜在风险的共同理解。在2023年伦敦举行的人工智能安全峰会上，一个人工智能安全研究所成立，并得到了众多世界领导人和主要人工智能公司负责人的热烈欢迎和大力支持。

2. 通用人工智能（AGI）的探讨

自2023年3月GPT - 4发布以来，关于通用人工智能（AGI）的讨论显著增加。大约20年前，Shane Legg在与同事讨论关于人工智能的论文集时重新引入了“通用人工智能”这一术语，用以模糊描述人工智能系统尚未具备的通用性。

AGI是人工智能研究界最具争议的话题之一，很大程度上是因为大多数人工智能专家对AGI的定义各不相同。2023年11月，谷歌Deepmind的研究人员在一篇论文中提出了一个对AGI能力和行为进行分类的框架。他们希望这个框架能为比较模型、评估风险以及衡量迈向AGI的进展提供一种通用语言。该框架包括一套明确且可操作的AGI定义原则，并引入了六个级别的AGI本体，类似于自动驾驶的级别。

3. 大语言模型运维（LLMOps）的兴起

大语言模型（LLMs）的出现带来了一类新的应用，即生成式人工智能（GenAI）应用。组织在探索这一广阔人工智能领域的