加速亚马逊云上生成式AI的审计和合规

加速亚马逊云上生成式AI的审计和合规

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Generative Ai Auditing， Compliance Best Practices， Responsible Ai Deployment， Model Accuracy Fairness， Data Privacy Resilience]

导读

Generative AI带来了令人兴奋的新创新，但同时也在负责任使用和合规性方面提出了挑战。本次会议将引导您了解生成式AI应用程序的旅程，并展示亚马逊云科技如何为Amazon Bedrock和其他相关服务（如Amazon S3、Amazon Lambda和Amazon VPC）的使用提供可视性，并遵循合规性和治理的最佳实践。探索亚马逊云科技治理和合规服务，如Amazon Organizations、Amazon Audit Manager和Amazon CloudTrail，这些服务可以帮助您持续审计您的生成式AI基础设施。了解这些服务如何自动化审计证据收集，并提供符合您合规性和审计需求的审计就绪报告。

演讲精华

以下是小编为您整理的本次演讲的精华。

在AWSre:Invent2024大会上，与会者全面探讨了生成式人工智能工作负载的审计和合规性问题。来自亚马逊云科技审计经理团队的John Fisher和亚马逊资深员工Andrew Kane发表了精彩演讲，阐明了这一新兴领域与传统人工智能/机器学习审计实践的区别。

演讲一开始就将预测性人工智能模型与生成式人工智能模型区分开来。预测性模型受限于有限数据集的训练，其输出可预测且局限于明确的边界。相比之下，生成式人工智能(如大型语言模型)运行在非确定性领域，能够生成新颖的数据输出，即使输入相同的提示，输出也可能有所不同。

演讲人员指出，这一根本区别需要审计和合规方法的范式转变。传统人工智能审计可依赖清单和明确的参数，而评估生成式人工智能则需要更加关注上下文和细微差别。评估潜在偏差、确保安全性和维护负责任使用原则变成了复杂的任务，无法简单地采用传统审计方法。

为了探索这片未知领域，演讲人员介绍了亚马逊云科技生成式人工智能最佳实践框架，这是亚马逊云科技与德勤和内部安全保证团队合作制定的全面指南。该框架包括八个领域——准确性、公平性、隐私性、弹性、负责任使用、安全性、安全性和可持续性，为组织进军生成式人工智能领域指明了方向。

准确性是第一个领域，也是用户信任和系统完整性的基石。演讲人员强调了亚马逊Bedrock模型评估工具的关键作用，它可以自动测试模型在数据集上的准确性，产生关键的准确性指标。与此同时，亚马逊云科技审计管理器将证据映射到框架控制，实现了对准确性的结构化审计方法。

公平性是第二个领域，旨在解决生成式人工智能系统中的偏差问题。演讲人员强调了平衡训练数据和模型去偏技术的重要性，并通过人口统计学平等等指标进行评估。亚马逊SageMaker Clarify是一款强大的工具，可帮助组织分析数据中的潜在偏差，从而采取主动缓解策略。

隐私性是第三个领域，在生成式人工智能时代成为了一个至关重要的问题。演讲人员强调了建立健全的控制措施(如差分隐私)来保护模型中包含的敏感数据的必要性。同意管理和严格的数据处理流程被视为隐私合规的关键组成部分。

弹性是第四个领域，包括确保生成式人工智能系统持续运行的必要性。演讲人员倡导在多个亚马逊云科技区域部署弹性模型、建立健全的备份和回滚机制，以及全面的故障测试制度。他们指出，AWSConfig规则可以持续监控备份策略，进一步加强系统弹性。

负责任使用是第五个领域，是一个多方面的概念，包括内部风险评审、遵守现有法规(如HIPAA)，以及利用亚马逊云科技托管服务来简化合规活动。演讲人员强调了采取主动措施，在开发和部署生成式人工智能应用程序时坚持道德和负责任的做法。

安全性是第六个领域，旨在防范生成式人工智能输出可能带来的潜在危害。演讲人员介绍了亚马逊云科技 Bedrock Guardrails，这是一款强大的工具，可让组织根据可配置的策略过滤有害内容或阻止不安全的输出。他们认为，这种主动方法对于降低风险和确保负责任地使用生成式人工智能技术至关重要。

安全性是第七个领域，包括一套全面的最佳实践，旨在加固支撑生成式人工智能模型的基础设施。加密、最小特权访问控制，以及通过亚马逊云科技控制塔和安全中心进行集中审计，被视为健全安全态势的关键组成部分。演讲人员强调，从一开始就确保模型基础设施的安全性，与亚马逊云科技将安全视为“头等大事”的核心原则保持一致。

可持续性是第八个也是最后一个领域，体现了亚马逊对环境管理的坚定承诺。演讲人员阐述了亚马逊云科技减少生成式人工智能工作负载碳足迹的多管齐下方法，包括高效的硬件设计、跨亚马逊云科技服务复用模型，以及亚马逊云科技客户碳足迹工具，该工具可让组织估算并减少碳排放。

在整个演讲过程中，演讲人员通过引用视频字幕中的实际案例和用例，将亚马逊云科技生成式人工智能最佳实践框架的实际应用和影响与现实生活联系起来。其中一个例子是受一篇博客文章中聊天机器人架构的启发而设想的“亚马逊AskNow”应用程序。这个虚构但切合实际的例子让演讲人员能够在有形的背景下展示该框架的适用性。

演讲人员还深入探讨了围绕生成式人工智能的不断发展的监管环境。他们引用了新兴的指南和法规，如NIST AI 100、ISO 42001和欧盟人工智能法案，以及白宫表示将研究并制定该领域法规的意向。他们认为，这一监管环境凸显了采取主动合规措施和采用亚马逊云科技提出的最佳实践框架的重要性。

在整个演讲过程中，演讲人员保持了正式和权威的语气，没有不必要的修饰或偏离视频字幕中呈现的信息。他们的叙述流畅自然，将八个领域的框架、现实案例和对不断发展的监管环境的见解融合在一起，创造了一个全面而连贯的叙事。

总之，在AWSre:Invent2024大会上的演讲全面权威地探讨了生成式人工智能工作负载审计和合规性的复杂领域。通过介绍亚马逊云科技生成式人工智能最佳实践框架及其八个领域，演讲人员为与会者提供了一个强大的指南，帮助他们探索这一新兴领域的复杂性。通过现实案例、监管见解和正式但通俗易懂的叙事风格，这次演讲成为组织进军变革性生成式人工智能领域的知识和准备的指引。

下面是一些演讲现场的精彩瞬间：

演讲者概述了将要讨论的关键主题，包括生成式人工智能审计合规性、生成式人工智能应用程序的发展历程，以及人工智能领域合规性的独特挑战。

亚马逊云科技推出了亚马逊云科技最佳实践生成式人工智能框架，该框架是与Deloitte和亚马逊云科技安全保证部门合作开发的，旨在帮助客户采用结构化的方法构建生成式人工智能工作负载，遵守合规性和最佳实践。

亚马逊云科技强调负责任人工智能的重要性，确保生成式人工智能系统产生公平、准确和符合道德的输出，符合当地法律并避免偏差。

Andy Jassy强调解决与生成式人工智能系统相关的风险和安全问题的重要性，强调需要进行内部审查、知识产权保护以及减轻幻觉，这些内容将在2024年的re:Invent大会上深入探讨。

负责任的人工智能开发需要考虑相关法规和框架的合规性，如HIPAA、ISO 27001、PCI和FedRAMP，同时解决人工智能应用程序带来的新风险格局。

亚马逊云科技 Config Conformance Packs可以简化合规性，提供一组与行业标准(如PCI、GDPR、NIST 853和HIPAA)保持一致的规则。

演讲者总结了关于理解传统人工智能与生成式人工智能的区别、确保人工智能模型的合规性和负责任开发、设计安全可靠的基础设施以及利用亚马逊云科技工具进行生成式人工智能工作负载的关键要点。

总结

生成式人工智能的兴起带来了审计和合规性新挑战。与传统基于有限数据集训练的人工智能模型不同，生成式人工智能模型如大型语言模型(LLM)是基于海量非结构化数据(如整个互联网)进行训练。这使得它们的输出本质上是不可预测的，并引发了关于准确性、公平性、隐私、弹性、责任、安全性、可持续性等方面的担忧。

为了应对这些挑战，亚马逊云科技与德勤合作，制定了生成式人工智能最佳实践框架。该框架概述了关键领域，如准确性(确保LLM输出真实可靠)、公平性(减轻偏见和歧视)、隐私(保护敏感数据)、弹性(确保高可用性和容错能力)。它还强调负责任的开发、安全约束、健全的安全实践以及可持续、节能的模型部署。

亚马逊云科技提供了Bedrock的模型评估工具用于准确性测试、Clarify用于检测偏差，以及Garfield用于内容过滤和安全防护。Config、Security Hub和Audit Manager等服务可实现跨框架的审计、监控和合规性。但是，组织仍需要制定自己的政策、指标和流程，以负责任地开发和部署符合相关法律法规的生成式人工智能应用。

总的来说，尽管生成式人工智能带来了新的能力，但它也引入了新的风险，需要从构思到部署全程采取整体主动的审计和合规方法。亚马逊云科技提供指导和服务，但组织必须对其生成式人工智能系统的道德、合法和负责任开发负起责任。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。