Werner Vogels 博士主题演讲
关键字: [Amazon Web Services re:Invent 2024, 亚马逊云科技, 生成式AI, Firecracker, Cloud Migration, Frugal Architect, Cost Awareness, Evolvable Architectures, Machine Learning Models]
导读
请观看 Amazon.com 副总裁兼首席技术官 Werner Vogels 博士的主题演讲,这是他第十二次在 re:Invent 亮相。在主题演讲中,他将介绍设计弹性和成本意识架构的最佳做法。他还将与我们分享 AI 为何是每个开发者在开发系统时必须考虑的问题,及其对世界产生何种影响。
演讲精华
以下是小编为您整理的本次演讲的精华。
在2024年亚马逊云科技re:Invent活动上,Werner Vogels博士的主旨演讲全面探讨了成本意识、可持续性与人工智能在软件开发中的变革潜力之间的错综复杂关系。Vogels首先感谢与会者在活动第四天仍坚持到场,表达了由衷的感激之情。
Vogels回顾了云计算时代之前的情况,当时物理硬件的局限性阻碍了开发人员长期以来所设想的架构的实现。然而,他敏锐地指出,正是这些限制孕育了创造力的源泉。随着云计算范式的出现,Vogels指出,分布式系统专业人士获得了新的自由,能够直接与客户互动,构建可靠的大规模系统。
Vogels深入探讨了成本和可持续性的重要性,将其视为与安全性、合规性和可访问性一样不可或缺的要求。他回忆起担任亚马逊首席技术官期间,需要向数据库公司支付大笔前期费用,并必须精心规划未来五年的容量。
相比之下,Vogels赞扬了亚马逊云科技的范式,其目标是通过成本跟随定价模式向客户公开实际成本。他举例说明了S3的定价模式最初包括两个维度:传输和存储。然而,随着客户采用该服务,第三个维度(请求数量)的重要性变得显而易见,促使定价结构进行调整。
Vogels强调了观察并适应客户资源使用模式的原则,引用了DynamoDB的定价模式,其中强一致性读取的成本是最终一致性读取的两倍,因为需要额外的计算工作。
Vogels敦促与会者不仅要考虑功能、可靠性和可扩展性,还要持续关注成本,与业务合作伙伴进行持续对话。他以亚马逊网站为例,其成功指标为每分钟订单数,需要一个与收入成比例扩展的成本结构,同时利用规模经济效益。
Vogels警告不要完全消除约束,引用了一家WiFi设备公司的失败案例,该公司未能将收入维度与成本维度对齐,在提供无限数据计划而未能预测到不可持续的使用模式后最终倒闭。
阐述飞轮概念时,Vogels引用了Jeff Bezos的餐巾纸草图,说明选择如何驱动流量,吸引更多卖家,扩大目录,并最终通过规模经济实现成本降低。
在Amazon Lambda方面,Vogels回顾了当时由于缺乏细粒度隔离能力而采用t2微型实例进行隔离的决定,这带来了最初的技术和经济债务。然而,后来Firecracker的创新使微型虚拟机和细粒度隔离成为可能,使Lambda能够无缝迁移到更具成本效益的架构,而不会影响客户体验。
Vogels强调了可演进架构的关键性,将其比作S3从单一引擎演变为一支中途加注的飞机机队,无缝过渡客户而不会引起他们的注意。他重申了偿还技术和经济债务的必要性,因为随着时间推移,这些债务的复利会使其难以为继。
转移到架构艺术领域,Vogels认为这是在非功能性需求(如成本、弹性和安全性)之间进行权衡取舍的复杂过程。为了说明这一原理,他邀请了来自NewBank的Kat Swettle上台。
Swettle讲述了NewBank的非凡历程,该行起源于巴西圣保罗的一所普通住宅。NewBank诞生于亚马逊云科技平台,利用新建立的圣保罗区域,通过提供无年费信用卡等可及且实惠的服务,扰乱了巴西银行业。
然而,当巴西央行在2020年推出即时零费用转账协议Pix时,NewBank面临了前所未有的挑战。Pix的成功远远超出了NewBank的预期,大幅增加了移动应用和面向客户流程的负载。
面对这一困境,NewBank决定同时优先考虑成本和稳定性,认识到他们不断上涨的成本通常是由于试图通过资源分配来实现稳定性而导致的。他们的假设是,通过稳定系统,成本也会自然稳定。
与亚马逊云科技合作,NewBank的Pix团队实施了三项重大变革:
- 对于由于长时间垃圾收集器暂停而导致不稳定的微服务,采用ZGC(Z垃圾收集器)。虽然ZGC会增加RAM成本,但大大减少了最大GC暂停时间,为关键服务节省了时间和金钱。
- 优化了DatomicDB(由DynamoDB支持的仅附加数据库)的数据库缓存策略。随着数据增长,更多事务会命中外部缓存。NewBank尝试使用NVMe磁盘进行低延迟大数据集缓存,而不是增加内存。对于一个关键微服务,每投资1美元在NVMe磁盘上,就可以避免在相关流程中花费3500美元。
- 培养成本意识文化,要求各业务部门都有一名亚马逊云科技成本主管,为决策提供信息并权衡各种矛盾的关切。
Swettle的案例证实了假设:稳定的系统本质上就是高效的系统。NewBank的努力使成本实现了稳定和可预测性,P99延迟SLA下降了92%,效率比率高达35%,在同行业中属于较高水平。这一变革性影响为NewBank的9000万客户在2022年节省了超过10亿美元的费用,推动了其增长,使巴西大部分人口都能负担得起银行服务。
Vogels赞赏了Swettle的话”业务需要理解亚马逊云科技成本”,并强调了使指标可见以积极影响行为的重要性。他介绍了两项新的亚马逊云科技产品:“我的应用程序”可以查看每个应用程序的成本、健康状况、安全性和性能,而CloudWatch Application Insights则可以自动为EKS应用程序添加检测,实现全面的可观测性。
Vogels强调了成本控制和可调优架构的必要性,将亚马逊云科技的能力比作”旋钮可以拨到11”,这是对经典电影”This Is Spinal Tap”的引用。他主张根据业务优先级,将应用程序分解为不同的层级,以实现选择性扩展和弹性权衡。
Vogels断言,持续优化是成本意识的关键方面,包括减少数字浪费、合理调配资源以及探索更高效的替代方案。他举例说明,一个简单的代码更改将CPU利用率从42%降至27%,凸显了分析以发现成本热点的价值。
在一个有争议的观察中,Vogels质疑了”我们一直这样做”这句常见说法,敦促与会者持续学习、反驳自己的信念,并探索更具成本效益和可持续性的技术。他提到了葡萄牙UEsque的Rui Pereira的研究,发现像Ruby和Python这样的编程语言比C++和Rust的能耗高出50多倍。Vogels赞赏Rust在安全性、强类型、内存安全和效率方面的优势,并指出它在Firecracker和部分S3项目中的应用。
Vogels分享了他亲自构建用于从CT扫描中检测脑出血的机器学习模型的经历。他利用S3、SageMaker和Lambda等亚马逊云科技服务,展示了集成的简易性以及在医疗保健环境中使用小型、快速和经济的模型的重要性。Vogels指出,该医院的目标是在每次脑部扫描时本地运行该模型,因此需要一个小型、快速和经济的解决方案。
Vogels还探讨了对话式AI助手在放射学领域的潜力,放射科医生可以与AI代理进行探索性对话,获得超越图像的全方位患者数据视角。他强调,虽然AI做出预测,但最终决定权仍在人类专业人员手中,凸显了这些技术的辅助作用。
在谈及生成式AI对软件开发的影响时,Vogels介绍了CDK(云开发工具包)的生成式AI构造,可以将数据摄取管道、问答系统、文档摘要和Lambda层直接集成到基于CDK的应用程序中。
然而,Vogels认为,最大的影响将源于开发人员与编码助手(如CodeWhisperer)的协作。他演示了CodeWhisperer与SageMaker Studio的集成,使开发人员能够在熟悉的代码编辑器环境中工作,同时直接在IDE中利用像Code Whisperer这样的AI辅助工具。
Vogels强调了CodeWhisperer在Code Catalyst中的能力,它可以生成全新的功能或方法,有助于学习和理解复杂的代码库。他还展示了CodeWhisperer与Application Composer的集成,可以在VS Code中的CloudFormation可视化编辑器内实现多模态问答和代码生成。
随后Vogels深入探讨了几个客户使用案例和成功故事,强调了亚马逊云科技服务的变革潜力以及利用人工智能为善的力量。
总部位于马尼拉的国际稻米研究所利用机器学习和计算机视觉来自动化稻种的分拣和识别,提高了30-40%的生产力,并消除了可能导致种子变质的积压。
Genetraic是一家爱尔兰公司,开发了一种简单的脑电图帽,可以在出生时检测婴儿的脑损伤,从而实现早期治疗并提高生活质量。
专注于精准农业的Precision AI公司采用无人机和人工智能,有针对性地瞄准单个杂草植株,大大减少了危险化学品流入周围水道的情况。
Vogels强调的另一家组织Digital Earth Africa利用开放的卫星图像数据来监测塞内加尔的海岸侵蚀、确定加纳非法采矿的影响,以及了解南非和肯尼亚森林火灾的影响,从而改善了整个非洲大陆人民的生活。
Vogels强调了良好数据在实现有效的人工智能解决方案中的重要性,并以致力于打击儿童性虐待的非营利组织Thorn为例。Thorn利用亚马逊云科技服务为其Safer工具提供动力,该工具使用哈希、匹配和分类器来大规模检测和报告儿童性虐待材料。
来自Thorn的Rebecca Port North博士分享了一个令人震惊的故事,讲述了他们的技术如何帮助识别和解救一名儿童受害者,突出了他们工作的严肃性以及人工智能结束现实噩梦的潜力。Thorn与内容托管平台、执法部门和幸存者服务机构的合作体现了技术在用于善举时的变革性影响。
在结束演讲时,Vogels鼓励与会者拥抱终身学习和好奇心,利用人工智能助手探索新的问题领域和编程语言。他对人工智能在软件开发中的变革潜力表示兴奋,敦促与会者”去构建”,抓住这场技术革命带来的机遇。
Werner Vogels博士在Amazon Web Services re:Invent 2024上的主旨演讲是对开发者社区的一次振聋发聩的呼吁,强调了成本意识、可持续性以及在软件开发中明智采用人工智能助手的重要性。通过个人轶事、客户成功案例和他在亚马逊任职期间汲取的见解,Vogels生动地描绘了未来的挑战和机遇。
他的信息很明确:通过拥抱持续学习、质疑根深蒂固的观念,并利用人工智能的变革力量,开发人员可以开启创新、效率和可持续性的新领域,为技术成为一股推动正面变革的力量铺平道路。Vogels的主旨演讲是一次响亮的行动号召,敦促与会者成为节俭的架构师,不断优化系统,并利用人工智能的力量构建可演进、经济高效且可持续的解决方案,推动世界的积极变革。
下面是一些演讲现场的精彩瞬间:
您是否曾考虑过迁移到云端?云迁移?我们需要一段视频剪辑来展示这一重要时刻。
贝佐斯在餐巾纸上画出的飞轮模型阐释了亚马逊如何通过产品选择、流量增长、卖家入驻和规模经济形成正向循环,持续推动业务增长。
在这一时刻,安迪·贾西展示了如何利用机器学习模型检测脑出血,并通过短信通知神经科医生,让他们能够及时采取行动。
他强调构建这些模型并不困难,任何人都可以尝试,并鼓励观众亲自动手实践。
放射科医生期待利用人工智能助手进行交互式探索,获得患者全面的临床数据视角,从而更快速地做出诊断。
在重新发明2024大会上,Andy Jassy展示了代码助手如何帮助开发人员更高效地编写代码,并介绍了SageMaker Studio中集成的基于VS Code的代码编辑器。
在这一时刻,演讲者强调了CodeWhisperer作为人工智能助手在软件开发中的重要作用,它可以帮助开发人员减少繁琐工作,专注于更高价值的工作,并成为探索新问题空间和语言的创意工具。
总结
在主旨演讲中,亚马逊公司首席技术官Werner Vogels强调了成本意识和可持续性在现代软件架构中的重要性。他分享了在亚马逊的经验见解,强调了将业务和技术优先事项保持一致以实现显著增长的必要性。Vogels着重强调了解资源使用情况、实施成本控制以及持续优化架构以提高效率的重要性。
他提出的一个关键点是,在应用程序中建立层级、识别需要高可用性和可预测性能的关键组件,并相应地调整资源分配的必要性。另一个重要的方面是,进行分析和持续监控以发现优化和降低成本的领域。
Vogels还质疑坚持传统方法的观念,鼓励开发人员采用新技术和编程语言,这些技术和语言优先考虑成本和可持续性。他引用了研究,证明了像Rust这样的语言在能源效率方面的优势,并提倡在适当的场景中采用这些语言。
除了成本考虑因素外,Vogels还强调了机器学习和人工智能在解决现实世界问题和产生积极影响方面的力量。他展示了一些组织利用亚马逊云科技服务来解决农业、医疗保健和儿童保护等领域的挑战的实例。
Vogels最后强调了生成式人工智能和像亚马逊CodeWhisperer这样的编码助手的变革潜力。他鼓励开发人员将这些工具视为协作辅助,使他们能够更高效地探索新的问题空间、语言和方法,同时培养持续学习和创造力。
亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务,服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选,通过生成式AI技术栈,提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国,亚马逊云科技通过安全、稳定、可信赖的云服务,助力中国企业加速数字化转型和创新,并深度参与全球化市场。