AIOps 失败的地方，生成式 AI 会成功吗？

几十年来，科技行业一直对人工智能着迷，认为机器可以像人类一样思考。因为这些机器永远不会疲倦，而且计算能力每五年增加 10 倍，我们期望它们能够快速弄清楚生命、宇宙和其他一切的意义。大约 10 年前，Moogsoft等公司出现，声称通过将人工智能应用于基础设施和应用程序排放的数字废气，他们可以使 IT 运营团队的工作变得更加轻松。受到领先分析师的认可，该细分市场很快被称为“AIOps”。

AIOps 背后的普遍想法是，随着时间的推移，应用程序和基础设施的运行方式可以被确定，然后用于预测问题何时会发生。更好的是，也许问题甚至可以在人们注意到之前就得到解决。魔法。

然而，就像大多数魔法一样，并非一切都像看上去那样。

机器学习就像有 1,000 名一年级学生可供您使用。它们足够聪明，可以学会识别图表中的峰值（或小猫），并在看到峰值时向您发出警报。然而，企业环境本质上是嘈杂的。如果您要求一年级学生每次看到小猫（尖峰）时都收到通知，请做好收到大量通知的准备。这个简单的示例强调了为什么机器学习非常适合识别消费者搜索中的小猫，但不适合识别企业应用程序的问题。

更糟糕的是，现代应用程序每天都在变化，这意味着它们的操作不会有可预测的模式。换句话说，应用程序发出的数字废气不能用于创建有用的模型来检测异常。

大多数 AIOps 项目都变成了编写复杂警报规则的咨询练习。通常，它们非常擅长检测和预测您已经知道的事情，但在帮助解决“未知”问题（您以前从未见过的问题）以及 SRE 在分布式应用程序中排除故障并每天遇到的问题方面却毫无用处。

生成式人工智能的黎明

当 AIOps 的太阳即将落山时，我们见证了生成式 AI 的黎明。AIOps 和生成式 AI 都有缩写词“AI”，但相似之处仅此而已。生成式人工智能使用大型语言模型 (LLM) 来更好地解释和响应查询。这个不起眼的聊天机器人（又名 ChatGPT）很快成为杀手级应用程序。在法学硕士的支持下，ChatGPT 几乎在任何话题上都能讲出道理。

当然，就像 AIOps 一样，我们很容易对这项新技术的功能得出神奇的结论。“为什么我不能直接用我的遥测数据训练法学硕士，然后询问 ChatGPT 问题是什么？” 这意味着遥测不仅具有必要的结构（实际上它没有），而且法学硕士还可以推理。他们不能。

让我们把期望从神奇转向实用。

法学硕士在解释自然语言请求和返回连贯的结果方面非常出色。默认情况下，每个产品都应使用基于 GPT 的界面来使用户能够访问帮助。此外，大多数可观察性工具都使用专有的脚本语言。每个产品还应该提供一个“副驾驶”，以便用户可以根据自然语言输入生成脚本。GPT 帮助和 copilot 的结合可以为新用户提供 50% 的生产力提升。

但是如何帮助用户完成故障排除过程呢？法学硕士是统计引擎。句子中的下一个单词是根据之前生成的单词以及最有可能的下一个单词计算的。想象一下将其应用于事件而不是句子。也许您可以生成故障排除流程中的下一步，而不是生成句子中的下一个单词。这意味着 SRE 团队可以从动态创建的运行手册中受益——始终保持最新状态并基于最新、最深入的见解。

我们可以更进一步。除了简单地创建 Runbook 之外，在 SRE 参与事件之前执行 Runbook 中的步骤怎么样？想象一下，遇到一个事件，并看到针对特定事件的自定义仪表板，其中包含进行调查所需的所有数据。仅此一项就可以在大多数企业故障排除流程中节省一个小时，而无需承诺任何“魔法”。

AIOps 承诺对非确定性问题提供确定性答案。分析机器生成的数 TB 数据并准确预测应用程序的问题是不可能的，更不用说确定根本原因了。生成式人工智能也不会这样做。

但生成式人工智能可以去很多 AIOps 无法做到的地方。它提供了一种可以以多种不同方式应用的通用方法。生成式人工智能将降低使用几乎任何新工具的障碍，使每个人都可以更轻松地执行常见任务并快速掌握新的脚本语言。哎呀，您可能永远不必再编写正则表达式或查找错误消息！此外，法学硕士可以统计确定最佳的下一步，因此应该能够使故障排除流程更具可重复性，同时受益于最新的事件知识。

是的，SRE 仍然发挥着巨大的作用。当然，法学硕士无法回答底层工具无法回答的问题。但我仍然会大胆声明，五年后，平均 MTTR 将是现在的一半。