用了 Serverless 这么久,这里有其底层技术的一点经验

导语 | 无服务器背后的一个关键技术称作microVMM。Firecracker 就是用于创建和管理microVMM的开源项目。Firecracker运行在用户空间,使用KVM来创建实例。其快速启动和低内存特性尤为关键。本议题将介绍Firecracker的基础、最小设备模型,以及它所带来的快速启动、性能、安全性和利用率的提升。本文由Amazon Web Services 首席开发者布道师费良宏在 Techo TVP 开发者峰会 ServerlessDays China 2021上的演讲《microVMM —— Serverless 核心技术揭秘》整理而成,向大家分享。

点击可观看精彩演讲视频

一、Serverless 的发展现状

今天跟大家分享一个有意思的话题,Serverless 背后核心的技术——microVMM。我们一起见证和经历了很多开源技术、开发技术、软件架构技术不断的变化,很难相信在今天有如此多可以选择的技术栈,让我们去开发、运维、部件和部署,它们让我们觉得这个时代变得更加美好。其中就包括了今天我们谈论的主要话题:Serverless 无服务器,我最早接触它是在2014年Amazon Lambda发布时,当我写下第一行“Hello World”,感到如此简单——将业务逻辑简单分装,只需几秒钟,就部署到云的环境中,我迅速获得一个Endpoint端点,就可以调用它获得一切的能力。这与以往的开发经历相比,简直是天壤之别,虽然那个时候 Serverless 还有很多不方便的地方、有很多技术上的限制。但过去几年里,这些技术的发展已经突飞猛进,给我们全新的感觉和认知。

Serverless 究竟发展到怎样的程度?今年的5月份,DataGog公司针对 Serverless 市场发布了一份分析报告,可以让我们一睹在今天的市场当中 Serverless 技术发展的情况。

这个报告谈到几个有意思的观点:

第一,Serverless的火热程度。以Amazon Lambda平台为例,对比2019年Q1与2020年Q1,从全球的使用量来看,有了3.5倍的提升,这是非常了不起的进步,在绝大多数企业中,每天调用 Serverless 技术的函数时间大概达到90小时以上。甚至不仅AWS Lambda,包括像Azure Functions和Google Cloud Functions等这些技术都有了长足的进步,用户的使用量和规模也越来越大。这一切都揭示着一个事实——Serverless 技术变得越来越活跃,并且被广泛地接受。接受 Serverless 的用户,不仅仅是个体的开发者、创业公司、企业用户,甚至遍及到各行各业、在各种业务场景当中,我们甚至可以把 Serverless 看作是一种“胶水”一样的工具,把很多原来不可想象的运维、数据处理、机器学习的推理包括移动端的调用等都通过这样一个简单的技术加以贯穿起来。

同时,我们注意到开发者在使用 Serverless 技术本身上,也有了很大的变化。例如,每一个开发函数的调用时间,从2019年到2021年,这个变化明显地在于函数运行时间大致下降一半左右。以中位数为例,今天我们看到的绝大多数 Serverless Function 运行时间大概是60毫秒左右,这说明什么问题?第一点,开发者越来越成熟,可以更好地驾驭 Serverless 技术,用最佳实践方法进行函数开发。同时,我们看这张表格,也注意到它的尾部比较长,这也说明了虽然 Serverless 函数有运行时间的限制,以Amazon Lambda为例,有900秒的限制。但我们越来越多地不仅把Serverless Function用在短任务上,也用于一些长任务的执行和处理上,Serverless 的应用范围和领域是越来越丰富了。其实如果细分,这个报告中还有一些有意思的话题。例如Amazon Lambda所支持的6个语言中,最活跃的开发语言Python和Node.js大致占了90%的份额,其中,Python大致占比达58%,Node.js占31%左右。对于不同规模的企业来说,规模越小的企业选择Node.js的比例越高,大型企业更多选择Python。选择语言本身是一个非常值得探讨的话题,今天时间原因,没有办法展开这个探讨,但这一点也值得大家关注。

归纳起来,作为一个函数的运行环境,一个 Serverless 平台,我们需要提供怎样的功能给到开发者?归纳起来,无非这三个最基础的功能和需求:

第一,安全的特性。代码以及运行的数据需要在安全的环境当中运行,毕竟云计算提供多租户的环境,如果不能有很好的解决数据和执行代码的安全问题,那这一切的基础将不再存在。

第二,启动时间。大家谈到 Serverless 技术的时候经常遇到一个问题,就是冷启动,我们需要利用一切可能,将冷启动的时间减少,让我们代码的响应时间越来越快,甚至接近于运行在裸机主环境中的原生代码。

第三,利用率。对于平台是非常重要的一点。我们运营很多个机器,构成一个集群,在集群上运行不同用户的多个甚至数以海量计的函数时,需要在每台物理机器上运行尽可能多的函数,这样确保我们的经济效益以及运营的效率。

所以,归纳起来,安全、启动时间和利用率成为运行一个好的 Serverless 平台最重要的三个问题。如果解决这三个问题的话,我们相信提供给开发者的将是一个非常优良的 Serverless 平台。

如果我问大家,今天选择技术栈去构建一个这样的平台,你会怎样考虑去实现这些技术目标?如果大家对Linux的kernel环境有所了解,我相信大家第一时间跳出的都是这样的词汇:Cgroups(资源限制)、Namespaces(可见性限制)……这些在过去几十年中已非常成熟地用于资源管理、隔离和安全控制的技术手段。不瞒大家说,当2014年Amazon Lambda出现的时候,最初的版本就是使用Cgroups、Namespaces这样成熟的隔离机制来实现基础的隔离和资源的控制,但是这一切能够满足真正生产环境当中 Serverless 的需求吗?

或许还有其他的选择,例如我们会在一个物理的环境当中去部署 Serverless 环境,或者考虑选择在一个虚拟机的环境中构建 Serverless 环境。利用虚拟机所提供的隔离机制达成这些效果,再或者用今天大家所熟悉的容器技术,实现资源的分割以及容器化的隔离。这些或许都是选择,但事实上这些选择都不是一个非常完美的答案,因为毕竟这些技术的出现,针对的问题以及解决问题的角度跟我们今天所面对的 Serverless 有很大的差异。设想一下,今天我们所需要的是在一台物理机里面运行不同用户许多个不同的函数,这些函数对于资源的开销有很大的不同,有不同语言的运行时,那么它们的峰值对于CPU、对于网络、对于存储的要求也有不同的差异。是不是用刚才谈到的资源管理和隔离的技术可以满足这一切?

坦率说,现有的许多技术并不能够满足。这也意味着我们需要一种新的隔离技术或者资源管理的技术,去达成一个好的 Serverless 运行环境的最基本的要求。那这样的一个环境,我们可以把它简单称为“MicroVMM”,之所以称之为“MicroVMM”,是因为强调它与我们传统意义上的虚拟环境VM有很大不同,它针对的就是 Serverless 环境,而不是通用的虚拟化的环境。这就是我想为大家介绍的microVMM的背景。

二、Serverless 为何需要一个microVMM?

microVMM只是一个概念,实现的方法会有很多,其中一个就是今天我想为大家介绍的非常有效的一个开源的实现——Firecracker(鞭炮)。它的出现为大家提供了参考范本,让我们了解,当我们试图打造一个好的 Serverless 环境时,一个真正意义上的可以商业化运营的、在生产环境中提供实现的microVMM究竟是怎样的。

回到刚才的主题,我们会去思考这样一个问题:Serverless 环境当中究竟需要怎样的一个microVMM?如果不能回答这个问题,恐怕接下来的内容将无从谈起。如果回答这个问题,我们可以从最基础的要求进行尝试。例如在一台服务器上运行函数,可以选择一台裸金属服务器,在EC2环境中一款规格为M5的实例,有384G内存,64颗核心。当我们试图在这台物理服务器上运行 Serverless 的时候,即使是今天Amazon Lambda最小的一个函数,它的开销也需要128兆内存。当然,在管理上CPU的资源与内存的多少存在一定的映射关系。这意味着我们要在一台这样的服务器里面尽可能多地装下这样的一个又一个的Serverless VM。我们达成的效果就意味着能够提供的资源环境和利用的效率能提升到怎样的高度,并且在这样的环境当中,彼此要是安全的隔离,我们要对资源进行有效的管理和分配,这就是我们所面对最主要的问题和挑战。

简单归纳一下,刚才谈到的几个关键点:

第一个需求,隔离技术。在一台物理机器当中,需要运行数千个 Serverless 函数的时候,每个函数之间是隔离,而且是有效隔离。我们要减少攻击面,减少我们的应用和数据被泄露或被攻击的可能性。

第二,在这个环境当中,我们要解决负载的问题,让每一个函数能够公平地得到所需要的CPU、内存、网络等相关的资源;甚至我们需要在这样的环境当中尽可能多地运行更多的 Serverless 函数以确保经济效益,完成平台运营的目标。

第三,性能的问题。当我们开发一个 Serverless 函数的时候,需要这个函数尽可能多地跟我们在原生环境中运行函数的效果一致。大家使用程序都有这样的感觉:当我们开发调试的时候,我们对一个函数运行的效果、执行的时间和资源的开销会有一个预判,如果运行环境和开发环境有很大出入,这对我们实现一个算法、功能会有很大的差异。没有办法使得所设想的目标在一个无服务器环境当中被很好地执行。所以,我们希望提供的运行环境是跟原生的环境尽可能多地趋于一致的。

后一点,谈到兼容性的问题。在历史上曾经出现过类似这样的机制,例如Google 的APP Engine大概在2008年出现。那个时候在选择这个平台的时候,很多人抱怨原有的开发习惯、开发工具和语言等等没有办法很好地运行在这个新的平台之上,需要为新的平台重新打造一套新的轮子,这显然跟今天的开发理念是违背的。所以,我们希望尽可能保持在Linux环境中一致的兼容性,这种兼容性包含二进制文件、库函数以及系统调用等等,都保持跟现有的开发和原有的知识一脉相承。唯有如此,我们的开发效率才可以提升,让我们的代码可以随意部署在相关的环境当中。

再有一点,资源分配。毕竟众多的函数运行在同一台物理机上,需要有效地针对用户所订阅的不同配置来进行合理的分配。甚至在某种情况下,我们要提供一种超额订阅的机制,这才能使得平台的经济性表现得最好。原有的许多技术,例如像KVM技术,KEMU等等,它们的计算密度和负载的问题显然不能满足这一点。仅举一例,QEMU的代码规模是140万行,无疑是非常强大、功能完备的。但是显然开销也太大了,所以计算的密度和负载的性能本身满足不了我们的需要。其他的技术,像容器化技术,它的隔离的能力也受到了诟病。为了解决隔离问题,我们甚至会限制一些系统调用,这就跟兼容性的要求有很大的出入。坦率地说,今天我们所面对的,已经成熟的那些隔离和分配的技术,不能很好地满足 Serverless 环境,这就是为什么我们要打造一个新的microVMM,也就是Firecracker的主要原因。

三、什么是 Firecracker?

什么是Firecracker?Firecracker是面向无服务器环境的、开源的microVMM的实现。这个实现的目的就像大家看到的示意图一样,它运行在一个物理的服务器之上,跟我们传统架构不同的是,没有所谓的hypervisor就起到了相应的作用。在Firecracker之上运行了一个一个实例,是标准的Linux Guest OS,也支持Osv Guest的操作系统。在每一个Firecracker实例当中,它提供了一组RESTful的API,我们可以通过命令行、应用、控制面板来对每一个microVMM的实例来进行控制。例如启停资源分配、销毁等等。在整个资源环境当中,需要针对我们的网络、存储、Metadata等等进行管理。包括不同的运行环境当中,对资源的消耗等等也需要Rate Limiting来进行限制,这就是最标准的一个架构示意图。当我们在环境当中去创建这样的一个实例的时候,我们会按照用户所指定、订阅的不同的类型,去分配相关的CPU和内存,以确保我们的函数可以在正确配置的实例当中运行。那这样的运行环境,就是我们心中一个理想的 Serverless 环境。

这个项目在2017年10月开始启动,2018年底宣布了开源。截止到今天,版本已经迭代到了0.24.4,来自全球不同社区的开发人员为它贡献。简单来说,它的设计思想来自于谷歌Cloud OS的设计思想,而Cloud OS当初是为了Cloud OS的隔离环境实现的。Firecracker最初源于Google的 Chromium OS,之后两个不同的项目分道扬镳,但是来源还是同一个来源,所以我们说它来源于开源,也是基于Crosvm技术来实现,但前身是Chromium OS。开源的协议是Apache 2.0,这也意味着可以在最大程度上充分利用开源所赋予我们的权利。更为重要的是,Firecracker的实现不是针对通用环境下的VM,是针对无服务器环境下的microVMM,是小型化的,不是通用而是针对特定环境来实现的。

作为一个开源项目,它有哪些特点?

首先,它将Firecracker的很多实现成果回馈到社区。我们今天看到的VMM都已经充分集成和借鉴了Firecracker。包括像最近因特尔主导的Cloud 、Hypervisor就大量地利用了Firecracker出现的一些成果,包括在容器的隔离方面,都对整个社区产生了巨大的影响。对于普通的 Serverless 函数开发人员来说,当我们理解Firecracker实现的机理,就可以更好地利用和充分实现函数的功能。例如Firecracker可以支持AVX指令,我们就可以在程序当中去利用这点加速我们的程序运行。例如Firecracker可以支持超线程(SMT)技术,可以利用超线程的方式使CPU的利用率达到极致,这些都是Firecracker能够带来的主要好处。同样,开源的实现也给我们很好的参考,当有志于打造属于自己的microVMM的时候,完全可以基于这样一个项目,来构造我们自己定制的一个microVMM的实现。

截止到目前,有来自48个开源社区的147个开发者为此做了贡献,其中很多开发人员也是Amazon全职的开发者,这个开发的成果不仅成为了Amazon Lambda这样的无服务器平台运行的基础,同样也被很多开源的社区和开源的项目所集成。这些集成的结果也使得Firecracker的影响力在整个开源社区变得越来越大,未来我希望Firecracker能够推动Rust-VMM、Cloud hypervisor能够最终成为一个统一的版本,提供给我们一个更好虚拟的环境。

如果大家关心Firecracker,我想为大家分享一下这个项目的设计原则。Firecracker的设计目标是面向云计算环境中 Serverless 的实现,天生就是面向多租户环境的microVMM。除此之外,不同的函数运行需要有CPU和内存的组合,所以它要支持各种类型不同的VCPU和内存组合的应用环境,有充分的资源管理和分配的机制。它允许超额订阅,这意味着当我们在一台物理服务器上支持这个特性的时候,我们可以极大程度上去超售相关函数的资源。那么超额订阅的结果,并不会影响我们具体函数的执行,只是让单台的物理服务器的利用效率得以提升。

突变的特性是指当创建新增Serverless VM的时候,可以保持一个固定的频率,以确保稳定持续地创建更多的VM,去满足多租户或者大规模并发的特殊场景。对于Firecracker性能上的限制,我们要求它仅仅受限于硬件的环境,而尽量减少虚拟化所带来额外的开销。对于整个环境来说,对它进行管理和控制,通过一组有效的RESTful API实现,使用这个RESTful API可以通过我们的程序、命令行工具以及相关的直接对于API的控制达成效果和目标。整个的VM的环境相比较传统的VM来说,可以说是轻量级以及超级简化的环境,例如它的设备只有6种最简单的基础设备,好处就是减少了额外开销,并且让产生攻击的攻击面积减小,并且性能和效率得到良好提升。

安全性是Firecracker非常重点和强调的特征,如果不能解决安全的问题,我相信没有任何一个生产环境可以大胆放心地使用 Serverless。如何提升安全性?简单来说就是有限的设备,像我刚才谈到的只有6种最简化的基础设备,并且它的功能级不是标准操作的全级,仅仅满足不同运行时最低可运行的要求和条件。在我们的Guest OS和Host OS之间进行交互的时候,由于这种开销相对来说比较大,所以如果能够有效减少这种开销,并且把开销的性能降到最低,会提升整个VM的性能。沙箱机制是我们有效的管理方法,不仅仅是通过虚拟化的方式实现沙箱,还需要把每一个VM控制在一个相对隔离的空间范围内,也就是所谓的既有的VMM。在实现这个产品上,选择一种安全、可靠的程序语言,也就是Rust,这是一个非常好的实践。对于每个Firecracker,它的实例对应的就是一个VM,而效率方面我们强调的是快速启动的性能,这也是Firecracker比较传统的VM,有很大优势的一个方面。在低内存、低开销,也就是每个VM的footprint在最小化方面,远远超过了传统的VM。

对于Firecracker的实现,开发人员关注的是这样几个方面:

在文件系统上,不同于一个标准的OS,不需要网络共享,所以它的文件系统是最小的文件系统级。也就是说没有文件共享的能力,我们并不需要在这个VM当中附加太多动态的设备,所以不需要去实现这个特点。在网络实现方面,由于它是一个虚拟化的网络,所以仅仅实现了TAP的网络接口,而不是别的接口。这样有限的接口,使我们的网络栈变得简单和容易实现。相比较QEMU的140万行代码,Firecracker只有区区8万行代码,从代码数量来看,就可以了解到它的规模和精简的程度。

在跨界通讯方面,主要使用VSOCK的机制,这个开销足以满足我们的需要。对于整个Firecracker的架构,我们可以看到这样的一个示意图。我们在最基础使用了QEMU虚拟化的技术,使用了内核所带给我们的虚拟化的特性,在此之上,我们实现了文件和网络接口的虚拟化抽象。有VMM和Seccomp这样的实现,6种最精简的设备去实现Firecracker的VM。如果大家看到这张图,就会理解我刚才所谈到的一个精简VM所提供最基础的环境。虽然从功能级方面无法跟标准的VM相提并论,但是在它的尺寸开销、性能、加载的速度方面会远远超过传统的VM。

在开发语言方面,它跟之前以往大家所习惯采用的语言不同,选择了Rust语言。之所以有这样的选择,来源于最大的挑战就是内存安全。由于指针滥用的结果,导致C++或者C语言当中存在着内存不安全的问题。如果这个问题持续存在的话,修复它的代价一定是非常高昂的。Rust的出现让我们获得了内存安全的机制,简单来说,RUST语言本身所具备的没有use-after-free这样的机制,使得我们的内存本身可以比较安全自由的使用。我们不会去读取一个未经初始化的任何内存,也就是内存释放之后一定会被初始化,不会被误读。同样,Rust本身存在安全的机制,没有了数据征用,这就使得我们在实现Firecracker的时候,由于语言的选择,降低了很多的难度。

同样,由于这样的语言选择,在内存的安全方面,由于选择了VM虚拟化的机制,以及VCPU半虚拟化的技术,这种技术已经非常成熟,所以实现难度很低,而且实现的标准应该非常好地与今天的技术相兼容。

线程安全方面,大家知道,所谓的线程就是VCPU,VCPU的概念跟Rust相结合,确保了我们的线程安全。通过模拟的技术,达成了对线程的一个实现。开发人员可以尽情地去使用所有的线程技术,而忽略掉线程背后实现具体上的物理实现。

归纳起来,这就是我们今天所谈到的Firecracker最主要的几个特点。我想跟大家重点强调一下,性能上的几个优势。例如,快速启动,在用户空间创建完整的Firecracker的VM,只需要最多125毫秒,这个相比传统的container或VM,优势是非常巨大的。如果我们从一个休眠的栈恢复到完整的VM环境当中,最少只需要5毫秒,这是一个了不起的成就了。

突变率可以达成每秒钟一个主机上创建150个以上的VMs,当我们遇到大规模并发请求或者集群调度的时候,可以提供很好的调入机制。内存开销方面,每一个Firecracker的VM,内存开销小于5M,这也意味着可以在物理机上尽可能多地集成更多的Firecracker的VM,可以运行更多的函数。

谈到所有的一切,通过这样一张图可以了解管理机制。在管理方面,最简单的方法就是利用我们的管理人员,通过我们的API对整个VM的实力进行注销、启动、资源分配和控制。我们有足够隔离的边界,针对资源进行通信。这些技术存在于之前已有很多的实现当中,那在这个环境当中,具体说在Firecracker的VM当中,更多实现的是简化,更安全以及性能的提升。

性能的表现究竟如何?这想必是大家非常关心的一点。我们可以看到这样一张图,这张图就是Firecracker的串行启动延迟的表现,我们选择的是Firecracker以及传统的VM进行对比的效果。所谓Preed Firecracker就是加载了Firecracker的守护进程,提前预热好这样的一个实例。我们会看到,Firecracker几乎是在150毫秒左右的区间去实现这样一个目标,远远优于传统VM技术200毫秒以上的开销。在并行启动的环境当中,我们看到Firecracker以及Firecracker Preed这样的技术带来的优势也远远超过传统的虚拟化技术。这就是在启动方面,Firecracker带来最直接的变化。

在IO方面,看一下QD1深度是1,4K的读取性能。从对比性能来看,在4K读的环境当中,跟传统的QEMU非常接近,当然在128K的场景下还有很多的提升空间需要改善。当达到队列深度位32的时候,吞吐量也可以看到跟传统的虚拟化技术包括跟裸机之间的对比,事实上在IO这个吞吐方面还需要性能上不断的提升。

最后想总结一下,究竟Firecracker为 Serverless 环境提供了哪些不一样的技术,以及带来了哪些优势?首先就是安全隔离机制。它的隔离的深度会更好,防御能力更强,最小的设备模型可以减小这个攻击面,所以安全隔离机制是满足生产环境。它是一个简化的设备模型,有限的设备导致性能的提升以及暴露给使用者的是受控的空间和环境,带来的直接好处就是它的启动时间以及引导进入OS的加载时间的巨大优势。第三点,高效扩展,强调的是它的内存开销,在足够小的环境下,可以在一个物理环境当中尽可能多地允许更多的 Serverless 环境被执行。

四、经验总结

最后,总结一下,在过去几年当中,应用Firecracker技术支持 Serverless 环境当中运行的经验教训。

第一,兼容性是硬道理。所有做的一切工作,都是为了满足硬件的兼容性,以确保开发人员能够更快地融入和接受这样新的技术。这些兼容性有很多很细节的问题,包括超线程的技术,内存管理技术,网络技术等等,很多问题都是在不断的摸索和实践当中发现。但是,兼容性是最重要的一点,如果不能够解决兼容性,我相信开发者不会接受这样的一个工具。除了一般意义上的软件兼容性之外,性能的兼容性也需要考虑。我们尽可能提供一个跟一台物理环境相接近的性能环境,如果性能兼容,相距较大的话,这恐怕也是开发人员拒绝的一个理由。

第二,不可变的环境,有运行时间的机器。Serverless 环境简单来说就是一个不可变的环境,不可变的环境意味着我们要对它进行初始化、预配置。有运行时间是强调它有一个超时的时间,这个环境当中确保整个系统的可靠与它的有效运行。有一些系统管理工具,在此实现当中已经证明会破坏我们不可变的特性。例如Linux 中的rpm、dpkg都会带来巨大的脆弱性和不确定性,所以这是我们尽力避免的特性。限制机器的最大生命周期可以有良好的运营效果,当然很多人诟病函数运行存在900秒的限制。希望未来这可以变成参数化的方法,配置环境的时候,灵活地定制,对于应用而言那样将会更好。

第三,要解决的问题永无止境。随着现在开发技术不断发展,新的技术不断涌现,对于 Serverless 环境的要求也会越来越高,相信今天的Firecracker还在不断增加新的特性,解决一些遗留的问题。只有保持这样的劲头,才能让microVMM更好地去支持未来的开发环境和应用。

对于未来,还有很多需要解决和发展的方向。2017年的10月份,Firecracker的项目正式启动,是考虑到了Lambda特殊的需求创建的。2018年的时候项目开源,2018年12月产生rust-VM,当时开源社区意识到了Firecracker和Cloud OS某种程度来说会有很多重叠的问题,需要帮社区的资源整合在一起,于是出现了rust-VMM,这也是一个非常有意思的项目,也许会对未来整个开源的虚拟化带来巨大的影响。

2019年,INTEL也主导了一个Cloud Hypervisor的技术,未来非常希望云上的Hypervisor能够被统一到一个新的架构下,也许是我们今天谈的技术,也许是其它新的技术。如果那样的一天到来,我们的无服务器以及虚拟化技术将变得无比美好。未来Firecracker还有很多问题需要解决,在性能方面的限制、在IO方面的不足等等,今天的IO特性更多依赖于一些Hypervisor的特殊的实现,比如说EC2对于Nitro的依赖,可以通过将网络以及存储的相关负载卸载到专用的芯片当中实现,未来这种优化还会持续,IO性能一定会有更大的提升。

调度尤其是对尾部的延迟,还有很大的提升空间,希望每一个实例的加载,VM运行的开销越来越小,延迟越来越低,这才是我们追求的目标。正确性的证明是非常有意思的话题。整个 Serverless 的function运行在一个完全托管的环境当中。对于开发者来说,意味着这是一个黑盒,我们需要了解运行环境的正确性与否,所以对于无服务器的环境来说,未来需要有更好的正确性证明的有效手段和工具,以确保我们的调试、部署和监控。在快照、内存的ballooning方面需要有很大的提升,以确保我们虚拟机总体内存的开销不能够超过物理机的实际内存等等,以确保每一代物理机能够被有效、正确地运行起来。

rust-VMM也是非常值得关注的方向,也许有一天rust-VMM会改写整个云计算环境的基础设施,对于未来的发展我们充满了各种希望,也希望这些开源的技术能够改变这一切!在Firecracker的网站当中能够看到这样一个现象,今天正在致力解决和增加新的特性,也希望更多的开发人员将你们的智慧、努力跟这样的一个开源项目结合起来,让这一切变得更美好,让这样一个microVMM成长更为迅速,对整个开源社区有更大的贡献。希望给大家带来一些启发,谢谢大家。

讲师简介

费良宏

Amazon Web Services 首席开发者布道师

Amazon Web Services 首席开发者布道师。20多年一直从事软件架构、程序开发以及技术推广等领域的工作。经常在各类技术会议上发表演讲进行分享,是多个技术社区的热心参与者。擅长Web领域应用、移动应用以及机器学习等的开发,也从事过多个大型软件项目的设计、开发与项目管理。目前专注于云计算以及互联网等技术领域,致力于帮助开发者构建基于云计算的新一代的互联网应用。

推荐阅读

GitHub Star数 4 万的贡献者教你如何做 Serverless 开发

Serverless + 低代码,让技术小白也能成为全栈工程师?

左耳朵耗子:Serverless 究竟是什么?

“坑”这么多,为什么我们还要做 Serverless?

点击观看峰会的精彩总结视频????


???? 错过了直播懊悔不已?本次峰会所有嘉宾的演讲视频回顾上线啦,点击「阅读原文」即可观看~

???? 看视频不过瘾还想要干货PPT?关注本公众号,在后台回复关键词「serverless」即可获取!

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1169

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 716

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1128

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 911

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 625

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1171

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1218

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2637

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 875

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 热爱开源,为我带来了什么?
下一篇: 初创企业的福音,还有这么贴心的云原生数据库?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值