从原型到采用：构建持久生成式AI产品

从原型到采用：构建持久生成式AI产品

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Haystack， User Needs Understanding， Prototype Development， Subject Matter Feedback， Iterative Product Refinement， Data-Driven Product Enhancement]

导读

AI团队面临的最大风险之一是开发出无人需要的产品。许多企业正在尝试生成式AI，但往往无法从构建原型阶段进展到实际应用和采用。在这个简短演讲中，我们将探讨如何应对这一风险，并为您的企业找到合适的使用场景。您将学习如何识别使用场景、评估投资回报率、通过用户反馈进行迭代开发，以及建立强大的技术基础来支持您的AI计划。您还将听到成功部署AI的从业者分享的真实案例，并获得一份创建高采用率和高商业价值的LLM应用的蓝图。本演讲由亚马逊云科技合作伙伴deepset为您带来。

演讲精华

以下是小编为您整理的本次演讲的精华。

在不断演进的人工智能领域中，打造与用户产生共鸣并获得广泛采用的AI产品、应用程序和智能体是一项至关重要的努力。本演讲深入探讨了Deepset公司从数百种不同行业迭代中汲取的宝贵经验，将其浓缩为四个关键点，有助于成功、可预测和值得信赖地开发AI解决方案。

第一个原则围绕着理解用户需求，这是任何产品开发的关键基础。演讲者以一家媒体公司考虑整合生成式AI为例说明了这一原则。与其假设内容生成是期望的结果，不如采取审慎的方式，征求订阅者的反馈以确定他们的实际需求。这个过程有助于制定出明智的假设，指导后续的开发工作，直到编写任何代码之前。

第二个支柱涉及创建一个有形的AI原型，而不仅仅是一个演示。这需要构建一个可以在真实数据上运行的功能原型，使主题专家能够进行严格测试并提供宝贵反馈。这个迭代优化过程确保了解决方案可以投入生产，并融入了领域专家的见解。正如演讲者所说:“我们于2018年成立，当时Attention is All You Need刚刚在谷歌首个Bert模型推出的前一年首次亮相，我们开始将这种新的AI技术应用于空客、西门子等公司以及政府机构。”

第三个原则着眼于通过仔细审视AI系统中需要定制的组件来降低采用障碍。这需要积极征求最终用户的反馈，从一开始就纳入他们的观点。通过解决边角案例并量身定制解决方案以满足他们的特定需求，在发布日成功采用的可能性将大大提高。演讲者举了一个例子，他们发现一些用户不知道该问什么问题，因此在用户界面中加入了提示问题。

第四个也是最后一个原则强调了通过多方面的视角来衡量成功的重要性。虽然精确度、召回率和基于事实的技术指标至关重要，但同样重要的是要评估产品指标，如激活率、任务完成时间、留存率和投资回报率。这种全面的方法确保解决方案不仅能提供准确的结果，还能带来实实在在的业务影响和用户满意度。演讲者强调需要捕捉幻觉和提示注入等问题，这可以通过围绕模型的正确组件来缓解。

为了说明这些原则的实际应用，演讲者深入探讨了Deepset与Ypulse的合作案例。Ypulse是一家专门从事Z世代和千禧一代研究的公司，拥有超过4，000份报告和150亿个数据点的丰富信息。然而，他们发现客户被这些信息的数量压垮了，无法充分利用这项基于订阅的服务。

在四步流程的指导下，Deepset和Ypulse开启了一段转型之旅。首先，他们认识到需求不是内容创作，而是内容策展和个性化，让客户能够更有效地消费现有信息。在两周内，他们构建了一个原型，加载数据并测试各种模型，为后续的改进奠定了基础。

在接下来的七周里，主题专家加入进来，提供了宝贵的反馈，有助于降低采用障碍。他们的见解塑造了用户体验，促使加入了提示问题和可定制的过滤选项，确保了最终用户的无缝和直观体验。

九周后，测试版推出，获得了75%的用户参与率，这个数字令人印象深刻。值得注意的是，与Ypulse数字资产的整体互动增加了25%，这证明了该解决方案与用户产生了共鸣。此外，参与者表示，研究助手将比他们当前的订阅更有价值30%，为成功的货币化策略铺平了道路。

最初的120天推出取得了巨大成功。然而，迭代过程并未就此停止，因为用户表示还希望能够访问原始数据趋势，而不仅仅是结构化研究。Deepset做出回应，增强了管道，使其能够处理非结构化数据查询。这一演进最终导致了Ypulse下一个货币化产品“AI Pro”的诞生，进一步巩固了他们在该领域的领先地位。演讲者解释说，这个管道“运行在Deepset之上，能够检测和理解这些问题的意图，正确地将其路由到合适的资源，应用最佳模型来回答这些问题，并将所有内容汇总成人们认可的响应。”

这一努力的成功可归因于几个关键因素。Deepset的可组合构建块促进了敏捷的AI产品开发，而与亚马逊云科技基础设施的集成则简化了数据管理并确保了无缝扩展。这种协同作用使快速迭代周期成为可能，使团队能够迅速纳入用户反馈并完善解决方案。此外，演讲者强调Ypulse重视AI产品开发过程的模块化，允许根据主题专家的反馈立即调整和更改管道，加快了通往120天内投产解决方案的道路。演讲者指出:“由于所有这些都运行在Deepset云上的亚马逊云科技基础设施之上，因此从开发管道到全面生产管道的转换就变得非常快速，可以自动扩展。”

总之，理解用户需求、构建真实原型、通过反馈降低采用障碍以及衡量成功指标这四个步骤，使Deepset和Ypulse能够开发出一款持久的生成式AI产品，与用户产生共鸣，促进了采用并增加了用户为该服务付费的意愿。凭借预计5倍的投资回报率，这一努力成为以用户为中心的AI开发实力和超越技术新颖性的变革性解决方案潜力的有力证明。

下面是一些演讲现场的精彩瞬间：

演讲者分享了Deepset与各行业公司合作的关键见解，重点阐述了4个要点，以帮助更成功、可预测地构建AI解决方案，并获得真正的信任和采用。

介绍了开源框架Haystack，用于在亚马逊云科技上构建LLM和AI应用程序，可将开发时间加速5至10倍，并具有企业级安全性和支持。

客户表示，由于感觉订阅服务的价值不高，因此对所提供的大量信息感到不知所措，存在流失风险。

包括研究人员和作家在内的主题专家被召集来评估研究助理的能力，从25个问题开始测试，逐步增加以评估其性能。

新产品的测试版吸引了75%的用户参与，在测试阶段使YPulse的数字资产整体参与度提高了25%。

演讲者邀请观众访问市场展位，讨论解决方案、与亚马逊云科技的集成以及各行业的关键任务应用。

总结

在这场引人入胜的演讲中，演讲者深入探讨了构建能引起用户共鸣并推动真正采用的AI产品的复杂过程。他们借鉴了Deepset在各行业的丰富经验，概述了确保成功的四个关键点:

首先，他们强调通过细致的研究和反馈收集来深入了解用户需求的至关重要性。这一基础步骤为创建直接解决用户痛点和愿望的解决方案铺平了道路。

其次，演讲者强调了快速原型制作和迭代开发的价值。通过快速构建和测试原型、融入主题专家的见解并不断完善产品，可以降低采用障碍，优化用户体验。

第三，他们强调了社区参与和测试版测试的力量。早期让真实用户参与不仅能激发兴趣，而且还可以提供宝贵的反馈来微调解决方案，确保满足他们的需求和期望。

最后，演讲者强调了亚马逊云科技基础设施和Deepset平台所提供的可组合性、模块化和无缝部署的重要性。这种敏捷方法能够实现快速迭代、可扩展性以及从开发到生产的无缝过渡。

最后，演讲者邀请与会者探索Deepset的解决方案，并就他们的具体用例和挑战进行讨论。总的来说，演讲传达了一个明确的信息:通过避免常见陷阱并采用以用户为中心的迭代方法，组织就能构建出用户真正想要采用和喜爱的AI产品。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。