宝马通过新的缺陷工单路由应用加速汽车开发

宝马通过新的缺陷工单路由应用加速汽车开发

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Generative AI Companion， Defect Ticket Routing， Generative Ai Application， Connected Vehicle Services， Ticket Enrichment Process， Embedding Model Fine-Tuning]

导读

随着传感器和其他数字组件数量的增加，汽车的开发和生产逐渐变得更加依赖软件。BMW在设计新车平台的测试和开发阶段面临着路由和解决工单的挑战。BMW现在利用生成式人工智能大语言模型(LLM)为超过140个跨多个领域的软件团队提供下一步最佳行动建议，增强了之前的手动流程，并考虑更多数据以实现正确的团队路由。这一创新解决方案简化了BMW的软件驱动型汽车开发流程。

演讲精华

以下是小编为您整理的本次演讲的精华。

生成式人工智能的变革力量在宝马公司占据了中心舞台，推动这家汽车巨头走向前所未有的创新和效率水平。在备受瞩目的亚马逊云科技 re:Invent 2024大会上，来自宝马和亚马逊云科技生成式人工智能创新中心的一组专家在一场引人入胜的主题演讲中，揭开了一项革命性解决方案的面纱，这一解决方案有望彻底改变缺陷票据的处理方式，从而加快汽车开发的步伐。

这一努力的核心是深刻理解企业在管理用户提交的大量票据时所面临的挑战。提交一张票据却遇到意外结果的沮丧体验是人们再熟悉不过的了，宝马正是通过巧妙地应用生成式人工智能来解决这一问题。正如生成式人工智能创新中心的高级人工智能战略师Kim Robbins富有雄辩地说:“在座的各位有谁曾经遇到过这样的问题，提交了一张票据却遇到了令人沮丧的意外结果?这就是我们今天要讨论的话题，以及生成式人工智能如何帮助改善这一过程。”

著名的演讲者Kim Robbins、生成式人工智能创新中心的高级应用科学家Oscar和宝马公司的首席云架构师Jens带领观众踏上了一段引人入胜的旅程，揭示了他们合作的精髓。代表宝马对创新的不懈追求，Jens阐明了公司不仅在驾驶体验方面，而且在数字领域也在孜孜不倦地追求卓越体验。虽然提供出色的驾驶体验是宝马车辆的标志，但提供优质的数字服务却是一个独特的挑战。宝马认识到良好架构框架是基线，因此寻求通过无缝集成云服务和创新解决方案来与众不同。

为了说明宝马在数字领域的规模，Jens分享了令人瞠目结舌的数据:公司拥有2300万辆全连接车辆，其托管在亚马逊云科技上的后端每天处理惊人的140亿个请求。这种连接性使宝马能够为驾驶员提供实时交通信息，引导他们选择较少拥堵的路线，从而提升整体驾驶体验。

宝马的一项开创性智能服务——本地危险预警系统，最早是在近十年前的re:Invent大会上推出的。这个智能功能通过分析从车辆发送到后端的数据，并将处理后的信息传回给驾驶员，从而提醒驾驶员前方可能存在的危险，如雾或其他障碍物，体现了宝马对安全和创新的不懈追求。

然而，宝马意识到需要进一步简化其缺陷票据流程，这一挑战在各行各业的企业中都引起了共鸣。Kim Robbins强调了他们努力的四大支柱:提高票据质量、检测重复票据、发现更多见解以及确保准确的票据路由。

为了正视这些挑战，宝马和生成式人工智能创新中心开启了一项开创性的合作，开发了一个生成式人工智能助手来简化票据流程。这个助手利用了宝马多年来积累的大量历史票据数据，并利用大型语言模型的力量来理解当前的重复票据状况。

该解决方案的架构设计精心巧妙，精准高效地解决了每一个支柱。流程从使用LLM(在本例中为Amazon Bedrock的Claude 3.5)丰富传入的票据开始。这一步骤确保了票据数据的一致性，提高了整体质量，包括创建简洁的摘要、消除缩略语、减少冗余以及将票据翻译成通用语言，从而促进了宝马全球业务的无缝沟通。

接下来，系统执行了一种混合搜索，以识别潜在的重复票据。这涉及关键词搜索和语义向量搜索的结合，将整个票据转换为高维向量表示。类似的票据在这个向量空间中被聚集在一起，使系统能够为传入的票据检索出十个最接近的邻居(潜在重复票据)。

检索到的候选票据随后被传回LLM，LLM会比较每对票据，并将其分类为重复或非重复。最关键的是，LLM提供了分类的解释，使人工审查者能够做出明智的决定。这一步骤彰显了生成式人工智能的力量，它不仅能识别重复票据，而且还提供了有价值的见解和背景信息，支持决策过程。

人工决策者在这个过程中扮演着关键角色，审查LLM的建议，并最终确定一张票据是否为重复票据以及应该路由到哪里。这种人工反馈是宝贵的，因为它使系统能够通过强化学习不断学习和改进，这个概念推动了诸如ChatGPT等突破性人工智能系统的成功。

该解决方案的架构包含了一个数据飞轮，其中人工标记的数据被用于微调负责创建向量表示的嵌入模型。这个微调过程使确认为重复的正对(确认为重复)在向量空间中更加靠近，而将负对(非重复)分开，从而在后续迭代中实现更准确、更相关的票据检索。这个持续学习和改进的循环确保了系统能够适应并响应宝马开发团队不断变化的需求。

这个基于生成式人工智能的解决方案取得了令人瞩目的成果。宝马在票据路由准确性、透明度提高以及开发人员工作量大幅减少方面都获得了显著改善。正如Jens有力地说:“但是，正如你所看到的，我们也询问了这个产品的负责人对此有多满意，是的，我们基本上可以说感谢各位的聆听。”通过自动化初步分类和去重过程，开发人员现在可以将精力集中在解决独特问题上，而不是浪费宝贵时间处理重复票据，从而加快了汽车开发和创新的步伐。

在这个变革性的旅程中，宝马和生成式人工智能创新中心学到了几个宝贵的经验教训，这些教训无疑将塑造未来各行各业的人工智能采用。Kim Robbins强调了采用价值增值方法的重要性，明确定义业务价值和可衡量的成果，以确保成功实施和采用。此外，让合适的主题专家参与进来也至关重要，包括票据创建者、处理者和业务所有者，他们的见解和领域知识对于理解问题和确定最佳人工智能解决方案是不可或缺的。

此外，将语言模型视为实习生需要对流程有深刻的理解，以便有效地指导和培养它们。就像实习生需要指导和培养一样，语言模型也必须经过精心培训和培养才能发挥最佳效果。最后，投资拥有人工智能技术专长和领域知识的人员是成功采用人工智能的关键。这种技能的融合确保了人工智能解决方案不仅在技术上可行，而且与行业的具体需求和细微差别保持一致。

随着大会接近尾声，宝马的产品负责人对这个试点项目产生的巨大影响表示由衷的满意，这巩固了生成式人工智能在革新汽车开发方面的价值，为未来的创新奠定了基础。宝马与亚马逊云科技生成式人工智能创新中心的合作为未来铺平了道路，在那里，优质的数字服务和卓越的驾驶体验将无缝融合，推动汽车行业迈入创新和客户满意度的新时代。

下面是一些演讲现场的精彩瞬间：

Kim Robbins，来自生成式人工智能创新中心的高级人工智能战略师，介绍了Oscar，一位高级应用科学家，以及来自宝马公司的首席云架构师Jens，他们将讨论宝马采用生成式人工智能的创新方法。

嵌入向量是对单词和句子进行语义表示的简明解释，它们可应用于分类和相似性搜索等任务。

演讲者解释了如何在向量空间中将类似的问题聚集在一起，从而根据语义相似性将新的工单与相关的现有案例相匹配。

利用语言模型来识别和比较重复的工单，通过分析时间戳、软件版本和根本原因等细节来缩小潜在匹配的范围。

人工智能模型能够准确识别不同语言的重复工单，突出显示时间和软件版本等关键相似之处，从而更容易识别和解决重复问题。

亚马逊推出了一种数据飞轮，可提高数据和嵌入模型的质量，从而产生更加相关和易于理解的结果，形成自我加强的改进循环。

演讲者总结了他们的发言，并将话筒移交给Jens进行总结。

总结

宝马(BMW)作为一家开拓性的汽车公司，已与亚马逊云科技的生成式人工智能创新中心合作，利用大型语言模型(LLM)革新了其缺陷票证流程，加快了车辆开发进程。他们设计了一种创新解决方案，可以提高票证质量、检测重复票证、发现额外见解，并高效地将票证路由到适当的团队。

该解决方案首先通过总结、缩略语扩展和翻译来丰富传入的票证，确保整个组织内的清晰性和一致性。然后，它采用混合搜索方法，结合关键词和语义向量搜索，从历史数据中识别潜在的重复票证。LLM随后将新票证与检索到的候选票证进行比较，并提供详细的解释说明它们是否重复。

这个过程不仅减少了开发人员的重复工作，而且还从各种数据源(如日志和文档)中提取了相关的上下文信息，有助于根本原因分析和票证解决。此外，该解决方案采用了强化学习方法，利用人工反馈不断提高模型的准确性，并微调嵌入模型，形成了数据增强和流程优化的良性循环。

宝马在其票证工作流程中采用生成式人工智能，取得了切实的效益，包括精确的票证路由、透明度提高以及开发人员工作量大幅减少。这种创新方法体现了宝马致力于提供优质数字体验的承诺，并凸显了生成式人工智能在简化各行业复杂流程方面的变革潜力。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。