Wasm 3.0史诗级发布,一文看懂它的前世今生

👉目录

1 Wasm 3.0 来了!

2 WebAssembly 的前世今生:从 Mozilla 说起

3 asm.js:WebAssembly 的前身,一种更快的 JS

4 WebAssembly:绕过 JS 直接生成机器码

5 WebAssembly 在 Web 端的应用

6 WebAssembly 在服务端的应用

7 总结

WebAssembly(WASM) 3.0 已经正式发布,这次的重磅更新并非一次常规的标准升级,从发布之初的 Web 第四门编程语言,生来背负取代Docker、JS 的期望,到现在可能引发所有研发人员的兴趣。

对前端而言,终于能把后端级别的逻辑带到浏览器跑,还不用怕性能和安全问题;

对后端而言,能在沙箱里安全跑第三方逻辑,把 Wasm 当成轻量替代容器的方案;

对全栈 / 架构师而言,能考虑“统一执行层”的架构方案,不再被语言、环境绑死;

对AI/大数据方向而言,能把 Wasm 当成更安全、更通用的推理执行载体。

01

Wasm 3.0 来了!

上周,WebAsssembly 发布了全新的 3.0标准,带来了扩展能力、安全性/可控性以及语言生态友好化的三条主线提升。

腾讯云开发者社区整理了 3.0版本中那些可能在未来几年撬动变革的特性,帮助你了解Wasm 3.0 的意义。

特性

主要改变

意义 / 带来的可能性

64 位地址空间

内存、表(tables)可以用 i64 地址代替过去只能是 i32。

把可寻址空间从 4 GB 拉到理论上的 16 EB(受限于硬件)—对于大数据、图形、科学计算、数据库、内存密集型服务特别关键。

多内存 (Multiple Memories)

一个模块里可以定义或导入多个 memory 对象,模块内可以直接操作多个 memory 之间的数据。

跨模块静态合并 (merge)、安全隔离(可将敏感区隔开)、buffer 分层、模拟多级内存架构等用途。过去这种操作必须拆模块,现在直接合模块级别支持。

垃圾回收 (GC)

在 Wasm 运行时引入自动管理的内存(堆对象、结构体、数组、tagged int 等)。 

对于高级语言(Java、Scala、Kotlin、OCaml 等)更友好,不再要在 Wasm 外部(如 JS host)做绕路处理。Wasm 本身能管理对象生命周期。

强类型引用 (Typed References / richer type system)

引用类型(ref)可标注被引用的堆结构类型,支持子类型、递归类型、函数引用的类型精化等。还引入 call_ref 无须运行时检查调用。 

减少运行时开销(类型检查),编译器可做更多优化;也让语言运行时在 Wasm 上更高效、更安全。

尾调用 (Tail Calls)

对普通函数调用和动态函数引用都支持尾调用语义(即不占额外栈帧)

对函数式语言、递归算法更友好;编译器可以做更多优化;避免栈溢出。

异常处理 (Exception Handling)

在 Wasm 内部原生支持 throw / catch 机制,有 exception tag + payload。 

不再要靠宿主语言(JS)或编译器 hack 来模拟异常;跨语言移植更自然、更高效。

放宽向量指令 / Relaxed Vector Instructions

在 SIMD 指令上引入“放宽版本”,允许针对边缘情况(某些硬件差异)选取实现方式。

在不同硬件上能跑更快、利用率更高;减少适配损耗。

确定性执行 (Deterministic Profile)

对本本来可能不确定的指令(如浮点 NaN、relaxed vector)加入标准默认的确定性行为。

对于区块链、可重放系统、状态同步场景非常重要。你要在不同平台跑出同样结果,有保证。

自定义注解语法 (Annotations in text format)

在文本格式里可以用注解,表示二进制里 custom sections 的含义。 

提高可读性、可扩展性,不破坏 Wasm 的核心义务,却给下游系统(编译器、工具链)更多空间。

JS 字符串内建 (JS string builtins)

在嵌入 Wasm 与 JS 的交互里,可以直接操作 JS 字符串,减少“跨语言桥接”开销。

对前端 / 混合环境很重要,字符串操作本来是性能瓶颈的地方。

新的规格工具链 (SpecTec)

Wasm 3.0 是第一个用新的 SpecTec 工具链产出的标准。

规范更可靠、可维护性更高,后续演进或扩展的基础更稳固。

同时,我们还梳理了WebAssembly这门第四Web语言的发展全过程,带你了解到它的过去现在和未来。

WebAssembly,前身技术来自 Mozilla 和 Google Native Client的 asm.js,首次发布于2017年3月。并于2019年12月5日正式成为 W3C recommendation,至此成为与 HTML、CSS 以及 JavaScript 并列的 Web 领域第四类编程语言。

在 Web 领域,已经有 JavaScript 这样的利器,而 WebAssembly 则是打开新世界的大门。WebAssembly 并不是要取代 JavaScript,而是要在图形图像处理、3D 游戏、AR/VR 这些应用领域开疆拓土。如今的现代浏览器已经越发朝着微型”第二操作系统“发展,人们希望在浏览器内能完成更多的事情,而 WebAssembly 作为 Web 端高性能应用的基石,正在让更多的应用场景在浏览器内变为现实。

除了在浏览器内实现高性能应用,WebAssembly 也可以脱离 Web 端在搭载了不同硬件和操作系统的各个平台运行,进一步实现当年 Java 所期望的“一次编译,多处运行”。WebAssembly 在服务端可用于微服务平台、无服务平台、第三方插件系统等场景。

02

WebAssembly 的前世今生:从 Mozilla 说起

   2.1 一家伟大的互联网企业

说起 WebAssembly,那就必须从一家没落而又伟大的互联网公司说起,它就是火狐浏览器的开发者 Mozilla。Mozilla 的前身是大名鼎鼎的网景公司(Netscape),也就是 JavaScript 的开发者。从做浏览器起家一路坎坷至今,Mozilla 最近更是频频传出裁员风波,其根源依然是没有找到太好的盈利点。作为互联网开源社区的领跑者,Mozilla 在技术上的成就远高于其在商业领域。除了 JavaScript 和 Filefox,Mozilla 还留下了 Rust、HTML5、MDN(Mozilla Developer Network)以及 asm.js 这些引领互联网行业发展的重要基石。

   2.2 脑洞大开的想法:浏览器里跑 C++

2012年 Mozilla 的工程师在研究 LLVM 时,突然脑洞大开提出了一个想法:类似游戏引擎这样的高性能应用大多都是 C/C++语言写的,如果能将 C/C++转换成 JavaScript ,那岂不是就能在浏览器里跑起来了吗?如果可以实现,那么浏览器是不是也就可以直接跑 3D 游戏之类的 C/C++应用?于是 Mozilla 成立了一个叫做 Emscripten 的编译器研发项目,Emscripten 可以将 C/C++代码编译成 JavaScript,但不是普通的 JS,而是一种被特殊改造的 JS,其被命名为 asm.js。

Emscripten 的官方描述是:

Emscripten is a toolchain for compiling to asm.js and WebAssembly, built using LLVM, that lets you run C and C++ on the web at near-native speed without plugins.

中文译文:

Emscripten 是一个基于 LLVM 的将 C/C++编译到 asm.js 和 WebAssembly 的工具链,它可以让你在 Web 上以接近原生的速度运行 C/C++而不需要任何插件。

如下图所示:实际上,不只是 C/C++代码,只要能转换成 LLVM IR 的语言,都可以通过 Emscripten 转换成 asm.js。

   2.3 另一次失败的尝试:Google Native Client

Google 在很早之前也一直致力于研究如何让 C/C++能够在 Chrome 里运行起来,并在2009年的安全领域顶级会议 IEEE Symposium on Security and Privacy 发表了 Google 的技术方案 NaCl(Google Native Client)以及 PNaCl(Portable Google Native Client)。NaCl 的本质也是一种沙盒技术,使用工具链编译后的 C/C++代码能够以接近原生应用的速度在 web 端运行,也可以与 JS 和 webapi 进行交互。NaCl 在安全这块做了大量的设计,其使用了内外双层沙盒,并利用 x86 内存分段机制来隔离内存,甚至还用上了静态代码分析技术来做沙盒里运行的程序进行检查。

然而在经过了8年的挣扎后,在2017 年5月30日 Google 宣布弃用 NaCl。其根本原因是 NaCl 这套方案只有自家的 Chrome 愿意配合支持,所以压根就不具备跨浏览器运行的能力。最终 Chrome 与 Mozilla 达成一致,共同推进 WebAssembly 方案,Chrome 也直接用 WebAssembly 替换掉了 NaCl。

03

asm.js:WebAssembly 的前身,一种更快的 JS

   3.1 C++转换 asm.js 示例

一般来说,asm.js 并不是直接编写的,而是一个面向 JS 编译器的中间产物。例如以下的 C++ 代码:

//计算i+1
int f(int i) {
return i + 1;
}
//计算字符串长度
size_tstrlen(char *ptr) {
char *curr = ptr;
while (*curr != 0) {
    curr++;
  }
return (curr - ptr);
}

使用 Emscripten 转换后,生成的 JS 代码如下:

function f(i) {
  i = i|0;
return (i + 1)|0;
}

function strlen(ptr) {
  ptr = ptr|0;
var curr = 0;
  curr = ptr;
while ((MEM8[curr>>0]|0) != 0) {
    curr = (curr + 1)|0;
  }
return (curr - ptr)|0;
}

可以看到这种生成的 JS 跟普通 JS 还是区别很大的,就像刚才我们所说,程序员不直接编写 asm.js 代码,这些看起来怪异的语法都是为了配合编译器生成更高效的机器码。比如在 asm.js 里反复出现的"按位或"操作,其目的是将原来 JavaScript 里的 double 类型计算转为整形运算(CPU进行整形运算的速度快于浮点型)。而这里被命名为 MEM8 的数组实际上充当了"堆"的作用。如果只是作为使用者可以不用深究这些优化的具体实现,直接使用 Emscripten 来帮助我们完成这一转换过程即可。

   3.2 asm.js 为什么比原生 JavaScript 快?

由于 asm.js 在浏览器中运行,其性能在很大程度上也取决于浏览器和 JS 引擎的优化支持。2015年6月,Microsoft Edge 也开始加入了对 asm. js 的支持。为了直观展示 asm.js 所带来的的性能提升,微软发布了一个叫做"Chess Battle"的 demo。Chess Battle 让两个版本的开源象棋 AI 对战,其中一个用 C 实现然后转成 asm.js,另外一个用原生JS实现。如下图所示,每个走棋回合限制为200毫秒,其中 asm.js 版本的 AI 因为可以在每个回合进行更多的评估运算(用于决定走棋策略),胜率获得了极大提升。

asm.js 运行的快慢取决于不同的测试用例、运行硬件、浏览器引擎优化程度等,一般来说我们可认为 asm.js 能达到原生 C/C++运行速度的50%,有些场景下甚至能持平 Clang 编译的 C/C++用例。asm.js 运行比原生 js 快,那么它如此高效的原因是什么呢?阮一峰在他的一篇博客里写到的结论是:

一旦 JavaScript 引擎发现运行的是 asm.js,就知道这是经过优化的代码,可以跳过语法分析这一步,直接转成汇编语言。另外,浏览器还会调用 WebGL 通过 GPU 执行 asm.js,即 asm.js 的执行引擎与普通的 JavaScript 脚本不同。这些都是 asm.js 运行较快的原因。

这篇博客应该是对很多人造成了误导,具体错误在于:

· 首先,"跳过语法分析,直接生成汇编"是不存在的,语法分析是编译中不可缺少的一环节,asm.js 跟原生 JS 的编译运行过程是一致的。

· 其次,WebG L作为一个图形 api 和 asm.js 技术可以说是没有任何直接关系,原生JS也调用 WebGL 来实现 GPU 硬件加速。

· 最后,也是最离谱的一点,WebGL 通过 GPU 执行 asm.js ?不管是 asm.js、原生 JavaScript 还是 WebAssembly 其编译产物都是 CPU 机器码而不是 GPU 机器码。而且 WebGL 只是一个图形渲染 api,就算是把J S 编译到 GPU 也需要类似 CUDA/OpenCL 这些通用计算 api 来支持。最新的 WebGPU 同时支持了图形和通用计算,这倒是目前 Web 端在 GPU 里"执行 JS"的可行方法。

先抛开JavaScript 不谈,我们可以思考一下,对于任何一门编程语言来说决定其运行快慢的根源是什么呢?我认为用一句话来总结就是:代码运行的快慢,从硬件层面上看,直接取决于生成的机器码所需时钟周期的总和。从编程语言层面上看,取决于编译后的产物在运行时有多少"动态决议"。

例如,弱类型语言比强类型语言慢,是因为编译时类型是不确定的,需要运行时进行额外的型别推导,这就是"动态决议";

例如,C++ 里虚函数比普通函数开销大,是因为编译时函数地址是不确定的。普通函数编译后生成的跳转目的地是一串固定的地址,而虚函数的跳转地址是在运行时从 CPU 的寄存器里读取的,这也是"动态决议",编译后的机器码多了一条寄存器取值指令;

类似的场景还有 GC 机制、模板编程、JIT 优化等等,归根结底就是如果在编译时候能完成更多事情,那么生成的机器码运行周期就越短,代码也就运行地越快。asm.js 在减少运行时的"动态决议”这里所做的工作,wiki 原文如下:

Much of this performance gain over normal JavaScript is due to 100% type consistency and virtually no garbage collection.

可翻译为:

与原生 JavaScript 相比,这里性能提升的主要原因是100%的类型一致性以及几乎没有(自动的)垃圾回收机制。

简而言之就是,asm.js 的实现去掉大部分的自动 GC 机制,然后改成了强类型语言,编译器能够更大程度地进行优化,这才是 asm.js 能比普通 JS 运行更快的原因。在 asm.js 里不再支持除了浮点和整形之外的类型,内存的开辟和释放也需要代码手动进行处理。部分引擎甚至还可以以 AOT 或者 JIT 的形式运行 asm.js。关于 asm.js 的原理,在微软的文档里也有一段更加详细的描述:

Asm.js is a strict subset of JavaScript that can be used as a low-level, efficient target language for compilers. As a sublanguage, asm.js effectively describes a sandboxed virtual machine for memory-unsafe languages like C or C++. A combination of static and dynamic validation allows JavaScript engines to employ techniques like type specialized compilation without bailouts and ahead-of-time (AOT) compilation for valid asm.js code. Such compilation techniques help JavaScript execute at “predictable” and “near-native” performance, both of which are non-trivial in the world of compiler optimizations for dynamic languages like JavaScript.

这段话从编译器优化的角度对 asm.js 原理描述地非常贴切了,比较难准确翻译,大概释义如下:

asm.js 是 JavaScript 的一个严格子集,是一种面向编译器的底层且高效的目标语言。作为一种子语言,asm.js 高效地为类似 C/C++这样的内存不安全语言描述了一个沙盒虚拟机。静态验证和动态验证的结合允许 JavaScript 引擎对有效的 asm.js 代码使用型别特化编译和提前(AOT)编译等技术。这样的编译技术可以帮助 JavaScript 具有"可预见性"和“接近原生”的性能表现,这两种特性在 JavaScript 这样的动态语言编译器优化中是非常重要的。

其中"bailouts"应该是微软这个JS编译器里的专用名词,没有特别合适的翻译。"predictable"可理解为“更少的动态决议”。asm.js 目前看已经是过时的技术,并非本文的重点也不再展开继续讨论,如果想继续了解 JavaScript 编译优化的实现细节,读者可参阅文献的内容自行研读。

04

WebAssembly:绕过 JS 直接生成机器码

Asm.js 的思路是将一种编程语言转换成另外一种编程语言,输出的还是 JS 代码。那么这里你肯定也想到了,我们为什么不能绕过 JavaScript ,将 C/C++代码直接转成浏览器可以识别的更底层的语言呢?这就是由 Asm.js 衍生出的WebAssembly 技术。

   4.1 WebAssembly 是什么?

如上图所示,为了能便于程序员阅读和编辑 WebAssembly,源码除了被编译成二进制外还会生成一份文本文件。左边红色部分是 C++源码,中间紫色部分是文本格式的 .Wat 文件的内容,右边蓝色部分是 .wasm 文件的内容。

多数情况下,人们把Wasm定义成 Web 上的编程语言,认为这是一个前端编程技术。其实这里有一些的误解,首先 Wasm 并不是一个新的"编程语言",没有人会手写 .wasm 文件来进行编程。WebAssembly 有一套完整的语义,但作为开发者并不需要去了解它,开发者依然可以继续使用自己熟悉的编程语言,由各个语言的编译器将其编译成 Wasm 格式后运行在浏览器内置的Wasm虚拟机中,我认为 Wasm 更倾向于是一个应用在web场景中的编译领域新技术。其次,Wasm 也并非只能运行在浏览器内,设计者对其抱有更加远大的宏图大业,这部分我们将在后面 Wasm 容器化这里继续展开讨论。

Mozzila 官方对 WebAssembly 的描述为:

WebAssembly is a new type of code that can be run in modern web browsers — it is a low-level assembly-like language with a compact binary format that runs with near-native performance and provides languages such as C/C++, C# and Rust with a compilation target so that they can run on the web. It is also designed to run alongside JavaScript, allowing both to work together.

可翻译为:

WebAssembly 是一种可以在现代浏览器中运行的新型代码——它是一种低级的类似汇编的语言,具有紧凑的二进制格式,运行起来具有接近原生的性能,其为 C/C++、C#和 Rust 等语言提供了一个编译目标,以便它们可以在 Web 上运行。它还被设计为与 JavaScript 一起运行,允许两者一起工作。

通过这段描述已经可以对 WebAssembly 有一个初步认识,我们再进一步给它拆开来看:

· 首先,WebAssembly 是一门新的编程语言,它于2019年12月5日正式成为与 HTML、CSS 以及 JavaScript 并列的 Web 领域第四类编程语言。

· 其次,WebAssembly 是"汇编语言"而不是高级语言,程序员不直接编写 WebAssembly 代码,而是通过特殊的编译器将高级语言转换成 WebAssembly 代码。

再次,WebAssembly 是预处理过后的二进制格式,它实际是一个 IR(Intermediate Representation)!类似 Java 的 ByteCode 或者 .Net 的 MSIL/CIL。

· 最后,WebAssembly 是 Web 上的语言,这意味着主流的浏览器可以读取并且执行它。

最后简单总结,程序员依然还是编写高级语言,然后通过“特殊的编译器”生成 WebAssembly 二进制代码,最终 WebAssembly 代码再被一个嵌入在浏览器里的"特殊的虚拟机"执行。这就是 WebAssembly 的全部工作过程。

   4.2 为什么需要 WebAssembly?

在 Web 领域,我们已经有了 JavaScript 这样利器,但美中不足的是 JavaScript 的性能不佳,即使可以通过第二章里提到的各种编译优化来解决一部分问题,但在类似图形图像处理、3D 游戏、AR、VR 这些高性能应用的场景下,我们似乎任然需要一个更好的选择。

“快”是相对的,目前我们可以认为在运行速度上:原生 C/C++ 代码 > WebAssembly > asm.js > 原生 JavaScript。其中 WebAssembly 比 asm.js 要快的原因在于:

1. WebAssembly 体积更小,JavaScript 通过 gzip 压缩后已经可以节约很大一部分空间,但 WebAssembly 的二进制格式在被精心设计之后可以比 gzip 压缩后的 JavaScript 代码小10-20%左右。

2. WebAssembly 解析更快,WebAssembly 解析速度比 JavaScript 快了一个数量级,这也是得益于其二进制的格式。除此之外,WebAssembly 还可以在多核CPU上进行并行解析。

3. WebAssembly 可以更好利用 CPU 特性,之前我们说到 asm.js 可以通过各种“奇技淫巧”来编译优化,但其还是受限于 JavaScript 的实现。而 WebAssembly 可以完全自由发挥,使得其可以利用更多 CPU 特性,其中例如:64位整数、加载/存储偏移量以及各种 CPU 指令。在这一部分,WebAssembly 能比 asm.js 平均提速5%左右。

4. 编译工具链的优化,WebAssembly 的运行效率同时取决于两部分,第一个是生成代码的编译器,第二个是运行它的虚拟机。WebAssembly 对其编译器进行了更多的优化,使用 Binaryen 编译器代替了 Emscripten,这部分所带来的的速度提升大约在5%-7%。

当然,速度上的提升并不是全部。WebAssembly 的意义在于开辟了一个新的标准,不再拘泥于 JavaScript 而是直接面向跟底层的机器码。用任何语言都可以开发 WebAssembly,而 WebAssembly 又可以高效运行在任何环境下,这也是 Mozilla 的程序员对 WebAssembly 抱有的最远大的宏图大业。文章将在第六章对 WebAssembly 在非 Web 端的应用继续展开讨论。

   4.3 WebAssembly 与 JavaScript 运行性能详细对比

关于 WebAssembly 的性能,整体上我认为可以描述为“很快,但是不够快”。也就是说,我们期望它比 JavaScript 快非常多,快个10倍或者8倍,但实际上只能快一点点,大概也就是不到2倍左右,而且在不同的测试场景下差异可能会很大。也许你会说100%的性能提升已经很高了,但实际上这也许不能说服大量开发人员完全转向一个崭新的有学习成本的技术。

Zaplib(一个高性能 Web 框架)的工程师从最大性能和标准性能两方面对 WebAssembly 与 JavaScript 性能进行更详细的对比,结论如下:

   3.3.1 最大性能(尽可能"奇技淫巧"地使用 JS)

在最大性能上,特殊编写的原生 JS 是可以跟 Wasm 大致持平的。其原因在于JS可以通过 ArrayBuffer 来模拟成一个"memory managed language":

1. 可以尽可能避免掉自动 GC 的额外开销。

2. 可以对数据的局部性(cache locality)进行优化来提升缓存命中,从而提升数据读写的效率。(缓存局部性对数组的性能很重要!)

3. 当你尽可能避免掉其它开销,只使用循环、局部变量、算术、函数调用的时候,原生 JS 会非常快。

举个例子如下,这是一个计算多个2维向量平均长度的 TS 函数

// Unoptimized Typescript
type Vec2 = { x: number, y: number };

function avgLen(vecs: Vec2[]): number {
    let total = 0;
    for (const vec of vecs) {
        total += Math.sqrt(vec.x*vec.x + vec.y*vec.y);
    }
    return total / vecs.length;a
}

这是使用了 ArrayBuffer 替换数组了实现:

// Optimized Typescript, using ArrayBuffers
function avgLen(vecs: ArrayBuffer): number {
    let total = 0;
    const float64 = new Float64Array(vecs);
    for (let i=0; i<float64.length; i += 2) {
        const x = float64[i];
        const y = float64[i+1];
        total += Math.sqrt(x*x + y*y);
    }
    return total / (float64.length / 2);
}

在示例中,ArrayBuffer 每16位存储一个二维向量,前8位是向量 x,后8位是向量y。后者代码的性能会远高于前者,具体细节有兴趣可以参考(
https://zaplib.com/docs/blog_ts ++.html)。总而言之就是,可以通过 JS 的 ArrayBuffer 来手动管理 JS 内存,尽量避免掉性能开销大的地方,剩下的普通指令的执行跟 Wasm 并无本质差异。除此之外,浏览器里的 JS 相比 Wasm 在某些方面甚至还具有优势:

1. JS 可以访问一些零拷贝(zero-copy)的方法。例如 TextEncoder 和 FileReader.readAsArrayBuffer,而 Wasm 还需要额外再进行一次内存拷贝。

而 Wasm 相比 JS 的优势在于:

2. SIMD 加速。SIMD.js 的 API 已经被弃用,取而代之的是 Wasm 的 SIMD 实现。

3. 前置的编译优化。

   4.3.2 标准性能(正常使用编程语言)

对于实际情况而言,用标准的JS的进行性能对比才是有意义的,原因在于:

1. 代码的编写复杂度和可维护性也是很重要的,"奇技淫巧"并不适合生产工作中使用。2. 代码工程会依赖大量第三方库,这些库大概率都是标准 JS 来编写的。

如上图,这个 3D 人物动画是一个经典的 CPU 计算密集的测试用例,且可以直观感受到性能在帧数上的表现(
http://aws-website-webassemblyskeletalanimation-ffaza.s3-website-us-east-1.amazonaws.com/)。感兴趣的同学可以在自己浏览器里尝试一下,当 3D 人物数量为100时 JS 版本会有明显卡顿,切换到 Wasm 则不会有卡顿感。

这是在17年 Wasm 诞生之初的测试,可以看到在不同的环境下 Wasm 比标准JS快了8-15倍。随着 JS 的不断优化,现在再去测试可能就不会有这么大的差异了。更重要的是,这个测试用例不一定能代表真实的 Web 应用,真正的 Web 应用可能不会命中这么多"优化项",8倍以上的性能差异往往只存在于测试用例中。这里我必须再重复一下就是,Wasm 快10%到1000%都有可能,不同的测试环境下不可一概而论。

   4.4 如何正确使用 WebAssembly?

首先需要再次强调的是,WebAssembly 的诞生并不是要取代 JavaScript,Web 端整个主框架还是 HTML+JS+CSS 这一套。Web 应用的大部分基础功能也依然是靠 JavaScript 来实现,我们只是将 Web 应用中对性能有较高要求的模块替换为 wasm 实现。在这样的场景下,正确使用 WebAssembly 的步骤为:

1. 整理 Web 应用中所有模块,梳理出有性能瓶颈的地方。例如你的 Web 应用里有视频上传、文件对比、视频编解码、游戏等模块,这些都是很适合用 WebAssembly 来实现的。相反,基础的网页交互功能并不适合用 WebAssembly 来实现。

2. 进行简单的 demo 性能测试,看是否能达到预期的加速效果。如果加速效果并不明显,那么就不适合切换到 Wasm。

3. 确定用来编译成 WebAssembly 的源语言,目前主流的语言基本都是支持 WebAssembly 的,唯一不同的区别是其编译器的优化程度。如果你使用过 C++、RUST,最好还是用这两种语言来编写,其编译优化程度会更高。当然了如果你想使用 PHP/GO/JS/Python 这些你更加熟悉的语言的话,也是不错的选择,毕竟有时候开发效率会比运行效率要更加重要。

4. 编码实现,然后导出 .wasm 文件。这一步基本没什么难度,确定了语言之后使用对应的编译器即可,需要注意的是记得尽量多打开 debug 选项,不然有运行时报错的话你就只能对着一堆二进制代码懵逼了。

5. 编写 JavaScript 胶水代码,加载 .wasm 模块。在最小可行版本的实现中,在 Web 上访问 WebAssembly 的唯一方法是通过显式的 JavaScript API 调用,而在 ES6 标准中,WebAssembly 也可以直接从<script type='module'>的 HTML 标签加载和运行。

   4.5 使用示例
   4.5.1 快速运行试验

看了刚才运行 WebAssembly 的步骤,是否觉得还是有些繁琐呢?没关系,这里教你一个快速体验运行 WebAssembly 的方法:

1. 打开任意的浏览器,例如 Chrome。

2. 按 F12,启动开发者工具。

3. 找到 Console 页签,复制这一段代码,回车运行。

WebAssembly.compile(new Uint8Array(`
  00 61 73 6d 01 00 00 00 01 0c 02 60 02 7f 7f 01
  7f 60 01 7f 01 7f 03 03 02 00 01 07 10 02 03 61
  64 64 00 00 06 73 71 75 61 72 65 00 01 0a 13 02
  08 00 20 00 20 01 6a 0f 0b 08 00 20 00 20 00 6c
  0f 0b`.trim().split(/[\s\r\n]+/g).map(str => parseInt(str, 16))
)).then(module => {
  const instance = new WebAssembly.Instance(module)
  const { add, square } = instance.exports

  console.log('2 + 4 =', add(2, 4))
  console.log('3^2 =', square(3))
  console.log('(2 + 5)^2 =', square(add(2 + 5)))

})

这里我们是通过直接手写二进制机器码的方式生成了一段 wasm 代码,并使用了 WebAssembly.compile 接口来进行编译,最后调用了 wasm 实现的  add 和 square 函数。如果顺利的话,你的浏览器会编译这段 WebAssembly 代码并调用执行,输出对应的计算结果,具体如下图所示:

当然,如果如果没有按预期输出的话,那就说明你当前的浏览器版本是不支持 WebAssembly 的。

05

WebAssembly 在 Web 端的应用

一家名为"Scott Logic"的软件开发商在2022年6月发布了2022年 WebAssembly 现状报告(这个统计允许开发者选择多个选项,所以总和是大于100%的),在关于 WebAssembly 应用的统计中有几个信息值得关注:

1. 首先,WebAssembly 最多的应用场景依然是在 Web 站点开发上,大约占65%。

2. 其次,WebAssembly 在 Serverless 和容器化方面的应用大幅增加,由去年的20%提升到了35%。

3. 最后,增长幅度最大的是在"作为插件环境"应用场景,WebAssembly 的沙盒化安全环境很适合用于托管不受信任的第三方代码。

本章会介绍一些公司内外的 Web 端应用场景,关于服务端的应用会在第五章继续介绍。

   5.1 常见 Web 端应用概览
   5.1.1 【Google-可视化】谷歌地球 3D 地图

在最早的版本 Google Earth 是只能跑在 Chorom 浏览器的,因为其底层用的是跟 WebAssembly 类似的 Native Client 技术。目前的 Google Earth 已经可以运行在 Firefox、Edge、Opera 浏览器,其关键的一点就是用WebAssembly 代替了原来 Native Client。

   5.1.2 【Bilibili-编解码】哔哩哔哩视频网站

B站 视频上传的功能里有大量的 Wasm 模块,类似视频上传、封面图处理这些都是计算比较密集的场景。如上图所示,B站 用到了 Wasm 版 FFmpeg 来加速视频编解码,这应该是 WebAssembly 最常见的应用了。除此之外还用到了Wasm 版 Tensorflow,这里应该是用来实现 "AI智能生成封面" 的功能。

   5.1.3 【Figma-设计工具】Figma 在线UI设计

Figma 是近年来少有的可以称得上拥有“硅谷速度”的创新型公司。2018年初,Figma 的估值才刚刚过1亿美元,还仅仅是一个小众设计工具,到了2021年,Figma 估值暴涨100倍来到了100亿美元,其在设计圈的地位已经足以跟此前几乎处于垄断地位的 Adobe 产品抗衡,成为了产品圈、设计圈内人人必用的工具。

Figma 可以说是典型的 WebAssembly 应用了,使用了 zaplib(一款基于 wasm 和 Rust 的高性能 Web 应用框架)来进行开发。外围的交互操作还是用原生的 JS+CSS+HTML 来实现的,中间核心绘图区域是一个由 wasm+webGL 来驱动的的 canvas 模块。

   5.1.4 【Adobe-设计工具】Photoshop Web 版

就在几年前,直接在浏览器中运行像 Photoshop 这样复杂的软件的想法还很难想象。然而,通过使用各种新的网络技术,Adobe 现在已经将 Photoshop 的公开测试版带到了网络上。

Adobe 工程师这里所说的新技术,其中很重要一部分就是 WebAssembly。除了解决性能问题,更重要的是 Photeshop 的 Web 端和 PC 端应用可以由同一份源码编译生成。Adobe 使用 Emscripten 将 Photeshop 的完整 C++ 工程直接移植到了 Web 端,而无需用 JS 重写。Emscripten 是一个功能齐全的工具链,它不仅可以帮你将 C++ 编译为 Wasm,还提供了一个转换层,可以将 POSIX API 调用转换为 Web API 调用,将 OpenGL 转换为 WebGL。

   5.1.5【Zoom-在线会议】Zoom Web版

将 Zoom 移植到 Web 端,其复杂程度绝对不低于前面所说的几个应用。除了视频流的处理,Zoom 还提供了自动字幕、虚拟背景等功能,这些都是典型的 CPU 计算密集应用。ZoomWeb 的核心是 WebRTC,在 WebAssembly 诞生后, Zoom 的工程师将 WebAssembly SIMD 的能力引入了 ZoomWeb。WebAssembly SIMD 提供了可移植、高性能的 SIMD 命令集,可用于目前绝大多数主流 CPU 架构。音视频编解码、图像处理这些都是 SIMD 的典型应用场景,ZoomWeb 中虚拟背景的底层计算就是利用 WebAssembly SIMD 来实现的。

   5.1.6【Google-机器学习】TensorFlow.js

TensorFlow.js 是一个 JavaScript 库,用于在浏览器和 Node.js 训练和部署机器学习模型。在2020年,TensorFlow.js 引入了一个新的 WebAssembly 加速后端。从 TensorFlow.js 2.3.0 版开始,Wasm 后端通过 XNNPACK 利用 SIMD 指令和多线程,速度提高了10 倍,其中 XNNPACK 是一个高度优化的神经网络运算符库。

TensorFlow.js 从2.1.0 开始支持 SIMD,从 TensorFlow.js 2.3.0 开始支持多线程。Wasm SIMD 是 wasm 标准第3阶段的提案,Wasm threads 是 wasm 标准第2阶段的提案,目前绝大多数浏览器环境都可支持该两种能力。SIMD 和多线程的性能增益彼此独立。TensorFlow的基准测试表明,SIMD 为普通 Wasm 带来了 1.7-4.5 倍的性能提升,而多线程在此之上又带来了 1.8-2.9 倍的加速。

   5.1.7 【FFmpeg-音视频处理】

FFmpeg 就不用多介绍了吧,20多年前 Fabrice Bellard 发起的 FFmpeg 项目不知道养活了多少公司和音视频开发者。XX 播放器,XX 格式工厂基本都是在 FFmpeg 上面套了个 UI。ffmpeg.wasm 的意义就在于可以不再完全依赖浏览器的音视频能力,强大的几乎支持所有格式的音视频处理能力可以被移植到 Web 端。根据目前了解到的信息,FFmpeg 在操作系统、硬件、驱动等环境支持的情况下,是可以利用 GPU 或者其它硬件来加速解码的。大多数浏览器也都支持硬件编解码加速,但运行在浏览器内的 ffmpeg.wasm 应该是只能纯 CPU 软解的,这里可能会存在一定的性能问题。

   5.1.8【Unity/Unreal-游戏引擎】H5 游戏开发、Web 端游戏运营工具

这是 Unity 在4年前发布的一个 demo,使用Unity开发并发布到 Web 端。其游戏效果已经很好了,且可在浏览器里流程运行。使用原始 HTML5 技术如果想达到跟这个 demo 一样的体验和性能,投入的成本将会非常大。目前所有版本的 unity 以及 Unreal4.18 之前版本的 UE,都支持将游戏内容打包发布到 Web 端。在 Unity 里的平台名叫"webGL",在 UE 里则是"HTML5"。将游戏内容发布到 Web 端,主要需要解决3个问题,首先是将引擎的底层代码和脚本代码编译成 wasm 的方式来执行,其次引擎的"平台无关层"需要适配 webGL 这个图形 api,最后则是适配浏览器的系统接口。在 wasm 未诞生之前,引擎则是将代码转成 asm.js 来执行。至于 UE 为什么在后面的主线版本不再支持 Web 端,官方给个说法是"未达到预期效果且不好维护"。

06

WebAssembly 在服务端的应用

看到这里你也许会觉得疑惑,WebAssembly 不是跑在浏览器里的前端技术?为什么能跟服务端的 Docker、K8S、容器化这些概念扯上关系?就像之前文章说到的,这绝对不是一个仅限于前端的新技术,WebAssembly 有着更远大的的宏图大业。

Docker 的创始人 Solomon Hykes 在 2019 年 3 月份发布了一条 Twitter 引起了众多讨论,译文如下:

如果2008年的时候,WASM 和 WASI(WebAssembly System Interface, WASM系统接口)这两个东西已经存在了的话,我们就没有必要创立 Docker 了。在服务器上运行 WebAssembly 是计算的未来,目前缺少的就是一个标准的系统接口,希望 WASI 能够弥补上这块缺失的拼图。

   6.1 WASI:解决跨平台运行操作系统的差异

如下图所示:WebAssembly 运行在浏览器内,与系统交互靠的是 JS 胶水语言的能力,JS 通过浏览器内核再到操作系统内核。而 WebAssembly 脱离了浏览器后,运行在各个操作系统中也需要抹平系统 api 的差异性,这就是 WASI 需要解决的问题。

WASI(WebAssembly System Interface, WASM 系统接口),这里的系统接口指的就是例如文件操作、网络连接、系统时钟、随机数之类的操作系统调用,开发 WASI 的唯一目的就是将 WebAssembly 向浏览器之外推进,最终能够真正做到一份 wasm 代码运行在所有不同环境不同操作系统的机器中。

例如 C 这样的语言可以跨平台运行,这实际上是源码级的跨平台,一次编写多次编译,编译器根据目标平台选择对应的系统 api。如下图所示:C 源码被 clang 编译了3次,生成了三份对应不同目标平台的机器码。

wasm 是二进制级别的跨平台,这种可移植性让用户分发代码更容易。wasm 只需要被提前编译一次,就能在不同操作系统上运行。在编译的时候并不确定其目标平台,wasi 这里实际需要的是一个跨平台的 runtime!如下图所示:C 源码只被编译了1次,.wasm 通过 WebAssembly runtime 运行在不同系统中。

看到这是不是有种熟悉的感觉了?因为 Java 也就是这么干的,WebAssembly runtime 对应的就是 JVM,.wasm 则对应 java bytecode。所不同的是, WebAssembly 支持了更多的语言,而且运行在浏览器里支持更加完备。

   6.2 WASI现在的进展?

WASI 实际上是一个标准,目前最主流的实现方案是 Bytecode Alliance 使用 Rust 开发的 Wasmtime。截止到我写这篇文章的时候已经有11.3K的 star。看了最新 git 记录,整个开发应该是仍然处于"疯狂打码中"的状态。

在2022年9月,Bytecode Alliance 发布了 Wasmtime1.0:

快!安全!能够用于生产环境!这就是开发团队对1.0版本最直接的介绍,如果说以前 WASI 还处于探索阶段,这个版本的推出已经意味着 WASI 可以在生产环境进行更多的尝试了,整个社区目前也是非常的活跃。

   6.3 WebAssembly 在服务端的应用

在云计算的概念里,服务端的容器虚拟化大概可以划分为三个不同的抽象层:

1. Hypervisor VM,或者又称 microVMs,其是最底层的虚拟方案,能够直接与硬件进行交互。常见案例有:AWS Firecracker、VMware。

2. 在往上一层是 Application containers,所熟知的 Docker 就在这一层,依然是比较"重"的虚拟方案。

3. 最上层是 High level language VMs,JVM、Python runtimes 以及 WebAssembly 都属于这一层。


那么在服务端,WebAssembly 到底可以应用在哪些方面?其优势是什么呢?官方给出的建议是有以下五个场景是比较适合的:

一、微服务/无服务平台,WebAssembly 是非常适合用作微服务和无服务平台的。后端即服务(Backend as a Service,BaaS),函数即服务(Function as a Service,FaaS)都可以归属到 severless 无服务模型。WebAssembly 的启动时间相比 Docker 或者其它 VM 要快很多,WebAssembly 的运行时是非常"轻"的,启动一个 WebAssembly 实例只需要5微秒。除此之外,轻量级所带来的另外一个优势就是可以在一台机器上搭载更多实例。

二、第三方插件系统,当平台需要运行第三方开发者的代码,安全性就是不可避免的问题。而 WebAssembly 是沙盒化的,并且第三方程序无法访问未明确交给给它的任何系统资源。除此之外,平台和第三方插件之间的通信也是很快的。

三、为数据库实现 UDF 功能,UserDefineFunction(用户自定义函数,UDF)是数据库应用程序加速的一种方法。指的是将逻辑代码放到数据库中运行,通过降低应用程序和数据库之间的交互开销来提升整个程序的运行效率。例如 Google BigQuery 允许用户从 SQL 查询调用以 JavaScript 编写的代码,阿里云的 MaxCompute 可以直接将 Java 或 Python 代码作为 UDF 嵌入 SQL。数据库可以基于 WebAssembly runtime 来实现 UDF 能力,其优势在于:支持更多语言、安全隔离、跨平台、性能好、冷启动快等。

四、搭建可信执行环境,Trusted execution environments (TEEs)指的是为不想或者不能信任底层系统的应用程序单独开辟一个在 CPU 上安全运行环境,此时的 TEE 应用程序独立于其它操作系统、虚拟环境、内核以及其它系统软件。TEE技术常用于移动支付、隐私计算等安全性要求较高的场景。使用WebAssembly搭建 TEE 的优势在于:支持更多语言、WebAssembly 运行时支持大多数主流 CPU 架构。

五、开发可移植的应用程序,借助跨平台的 WebAssembly runtime,WebAssembly 应用程序可以运行在不同 CPU 架构、不同操作系统的计算机上。开发者只需要专注于程序的逻辑功能,而不需要过多担心平台的差异性、性能、安全等问题。

07

总结

第一个问题:你的 Web 应用性能瓶颈在哪里?先想清楚这个问题再做优化本文的主角并非 webGL,但是文章里多次不可避免的提到,其根本原因就在于 Wasm 解决的是 Web 端 CPU 计算密集的性能问题,而性能瓶颈可能压根就不在这里。Figma 就是最典型的例子,他们使用wasm将应用移植到 Web 端,并对 Web 端的性能进行了大量优化,但最后复盘发现性能提升的真正来源其实是 webGL 渲染器的改进,也就是 GPU 硬件加速的收益,显然这跟 WebAssembly 并没有任何关系。

在之前我们有提到,Unreal 在4.23版本之后将 Web 端的支持从主线分支移除。但近期有一家叫做"Wonder Interactive"创业公司又将这部分能力弥补了回来,并且将在5月份的洛杉矶 GamesBeat 进行宣讲。在他们计划的工作里,UE5 的 Web 端支持将对接最新的 WebGPU 来实现,游戏 AI、寻路等场景也可以用 WebGPU 新增的通用计算(GPGPU)接口来加速。除此之外,游戏资源的压缩、下载和加载也都需要被考虑,WebAssembly 提供的能力也只是整个流程中的一个环节。

第二个问题:现在已经是2024年了,WebAssembly 到底算成功了吗?如果要从技术的成熟度上来说,我认为是成功的,WebAssembly 已经投入到了大量的生产应用中。

如果要从推广应用的角度来说,我认为目前是不成功的,因为90%以上的场景其实不需要 WebAssembly。

另外一个角度来说就是,WebAssembly 很快,但是还不够快,不足以让开发者完全转向拥抱一个崭新的技术。

第三个问题:我们如何拥抱 WebAssembly 这个新技术?有3个地方我觉得还是很有应用价值的:

· PC 端的应用移植到 Web 端,无需二次开发,保持多端代码一致性。

· 音视频处理这些高性能应用的场景,切换到 WebAssembly 确实能带来很大的性能提升。

· 后端微服务/无服务这一块,可以实现支持多语言的云函数之类的平台。

简单来说就 WebAssembly 并不是什么神奇的技术,更像是当年 JVM 未完成理想的开源 plus 版本,作为开发者没必要跟风追捧或者诋毁。不同的测试用例、硬件环境、编译器优化程度、浏览器引擎优化程度都会对 Wasm 的运行产生影响,不在具体场景下空谈性能都是没有意义的,根据自己的应用场景+性能测试结果+改造工作量综合评估是否使用即可。这篇文章的分享到这里就结束啦,感谢大家的阅读,觉得有用的不妨点个赞吧~

-End-

原创作者|段宇

感谢你读到这里,不如关注一下?👇

图片

你对 Wasm 3.0 有什么看法?欢迎评论留言分享。我们将选取1则优质的评论,送出腾讯云定制文件袋套装1个(见下图)。9月30日中午12点开奖。

图片

图片

图片

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 凡人程序员进入修仙时代?意图即代码的范式革命即将到来
下一篇: 一篇文,让你的Cursor、CodeBuddy们变更强!
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值