揭秘FPGA加速,到底牛在哪里?

腾小云导读:

为了进一步加速云计算的创新发展、建立云计算信任体系、规范云计算行业、促进市场发展、提升产业技术和服务水平,由中国信息通信研究院、中国通信标准化协会主办的“2018可信云大会”于2018年8月14日-8月15日在北京国际会议中心召开。

本文是腾讯云FPGA专家章恒在“2018可信云大会”上做的——《FPGA加速:面向数据中心和云服务的探索和实践》的演讲全文。

本文共:6732 字,预计阅读时间: 17 分钟

云计算已经发展了十余个年头,并逐渐形成庞大的产业规模,企业“上”云也并非难事。但不断出现的信息数据泄露事件给火爆的云计算敲响了警钟,企业开始逐渐意识到云计算存在的风险,明白部署哪一种云都有可能受到黑客攻击。虽然云计算可带来显著的优势,但潜在的风险也不容忽视。“2018可信云大会”将邀请行业内多位大咖人物共同探索可信云与云计算的创新发展路径。

以下是腾讯云FPGA专家章恒在“2018可信云大会”上做的——《FPGA加速:面向数据中心和云服务的探索和实践》的演讲全文:

章恒:各位嘉宾下午好,我是来自腾讯的章恒,今天分享的主题是《FPGA加速:面向数据中心和云服务上的探索和实践》。之前各位专家已经从学术界、标准化的方面讲述了高性能计算的应用、发展,我今天主要从工业界的角度来看,我们是在哪些实际场景里面,是如何应用FPGA进行加速的。

今天演讲主要分为三个部分,FPGA加速的原因,FPGA加速在数据中心的应用,和FPGA云服务的应用。

前面各位专家已经介绍了在数据中心里数据的快速增长。我们也看到了,在云上数据的增长每年呈30%左右,同时AI的快速发展也带来了对数据高性能计算的要求。这一方面导致数据呈指数增长发展,另一方面对这些数据处理需要的计算资源也相应的增长。传统的计算是用CPU来处理,而面临后摩尔时代,CPU的发展是停滞的,像以前两年翻一倍的性能增长,现在已经基本不可能。那如何解决计算性能的问题就需要我们寻找更高性能的芯片,GPU、FPGA、ASIC从而进入了大家的眼帘。

高性能的计算芯片,可以概括为两方面要求:第一是高吞吐能力,可以处理数据的增长。第二是低延时,对实时连接设备进行响应,提升用户体验,特别是5G和物联网的发展,带来了一方面是数据的增长,另一方面是对低延时的要求。

前面讲了几种计算芯片,CPU到FPGA到ASIC,它们有什么样的特点,是什么本质原因使得它们能达到高性能?在这几种计算芯片中,越往左编程的灵活性越高,越往右晶体管的效率越高。CPU是软件可以编程的,通用性非常高,可以面向各种软件算法。而ASIC电路是专有的硬件电路,是不可编程的,也就是说ASIC只能够针对该算法加速,这也是为什么它可以做到高性能,因为它上面每个晶体管都是为这个算法服务的。

GPU也是软件可编程,相比于CPU的不同之处在于,GPU有很多计算单元,对于可以并行、同时需要大量计算的算法来说,GPU相比CPU的计算效率是高的。FPGA是一个硬件电路可编程,和ASIC相同之处在于它也是针对算法构建的硬件电路,但是它是可以编程的硬件电路,也就是说可以针对每一种算法都搭建一个硬件电路,进行硬件加速。从整体来看,计算能力一方面是摩尔定律带来的,另一方面是计算芯片的硬件架构带来的,虽然摩尔定律走到了尽头,但我们可以通过计算芯片硬件架构的创新来提高整体的计算性能。

从整个产业界来看,在ASIC芯片方面,谷歌做出TPU芯片,用来做AI算法的加速,目前已经是第三代芯片了。Intel收购的Nervana、Mobileye芯片都是做AI方面的加速,国内寒武纪、地平线都有推出自己的AI算法芯片。

在FPGA方面,微软做到每一台服务器都带有一个FPGA,用作数据中心的应用加速,国内百度、阿里、腾讯都有用FPGA做应用加速。所以我们看到整个产业界呈现出异构计算百花齐放,软硬件结合,从通用到专用的发展趋势。

前面讲了各种计算芯片的特点,现在我们来说FPGA在数据中的加速有哪些优势。最右边是FPGA底层芯片的特点,FPGA里面有片上缓存的RAM,有计算资源还有一些逻辑资源,拥有这些资源以后可以针对每一种算法都搭建一个硬件电路来进行加速。

它的优势体现在:

1、高性能低延时,可以针对每一种应用算法定制硬件架构。

2、灵活可扩展,FPGA本身具备可编程性和丰富的IO管脚,使得FPGA在数据中心里面不仅在计算方面,也可以在存储、网络方面做到算法的演进发展。

3、FPGA本身的低功耗、低成本、高可靠性可以在数据中心里面方便部署和运维。

4、软硬结合。对于一个算法,并不是所有功能都要放到FPGA里面做加速,可以将适合CPU做的部分功能放到CPU上来做,适合FPGA做的,放到FPGA做加速。可以做到CPU+FPGA结合的方式,充分发挥相互的优势,从而达到系统的最优。

我们虽然看到了每种计算芯片各自的优势,但也看到计算芯片之间也是相互融合的,也就是说FPGA可以吸收ASIC的优势,CPU也可以吸收FPGA的优势。目前FPGA会融合ASIC的计算硬核,来提高整个计算性能;GPU也融合了矩阵计算的ASIC张量硬核,在V100里面已经做到这一点了,可以达到更高的AI的计算性能。所以说未来会不会有CPU、GPU、FPGA、ASIC全芯片融合?让我们拭目以待。

接下来我们介绍一下腾讯内部的FPGA加速,在实际场景里面的应用。我们于2014年开始用FPGA做加速,刚开始主要应用场景在QQ相册、微信朋友圈做图片转码的加速,后面也用FPGA做AI算法的加速。图片转码和AI加速获得了腾讯卓越研发奖,2017年,我们是国内第一家发布FPGA云服务器的厂商,我们也参加了FPGA顶级会议参展:FPGA2018。

接下来我们介绍一下在QQ图片转码场景下怎么用FPGA做加速。

众所周知,腾讯是个社交媒体的平台,像QQ、微信每天有大量的图片进行收发、传播,如果用户上传的Jpeg图片,在用户下载浏览的时候原封不动的传过去,对腾讯的CDN传输带宽压力很大,而且也没有必要。首先用户浏览图片的终端可能不同,有的通过PC来看,有的通过手机来看,手机终端的屏幕是相对来说比较小的,但是PC机屏幕是非常大的,所以没有必要在尺寸非常小的终端上传个大图,而可以传一个适配该屏幕大小的图片,这样CDN传输带宽就会减小。除了Jpeg,还有其他的图片格式,比如Webp、Hevc,这些格式相比Jpeg来说有更小的体积,所以当用户传Jpeg格式的图片时,我们可以转为Hevc格式或者Webp格式,让用户进行下载和体验。海量图片的处理包括多种图片格式的转化,还包括多尺寸、裁剪、锐化、旋转等操作。在未使用FPGA加速之前,用户通过PC终端或者手机终端上传它的图片,经过腾讯后台的接入层处理以后进行图片转码,多种图片格式、多个图片尺寸的转码结果存储在分布式存储系统里面,当用户在终端浏览的时候,对应的从分布式存储系统里面取出相应格式或者尺寸的图片给用户看。

那为什么图片处理是在用户上传端进行转码,而不是在用户需要的时候转码呢?主要是用户浏览图片的时候是希望点击即能看到,这就需要一个非常低的延时,低延时就是用户的体验要求。

我们用FPGA进行图片转码以后,可以充分利用FPGA低延时的处理特点,在整个图片转码的时候,不再需要存储不同格式的图片,而只要将一种格式、一种尺寸的图片存储在分布式系统里面,用户需要浏览的时候会根据用户终端进行实时转码,将转码的图片再发给用户,这样节省系统中分布式存储的压力。

在FPGA里面是如何做到的这一点的呢?我们在FPGA里面实现了几种图片格式的编解码核,确保图片可以进行流水并行和数据并行的处理,从而提升图片转码的性能,做到高吞吐低延时,我们做到了相比CPU延时降低3倍,吞吐增加6倍的效果。

这几年业内大家听到最多的名词就是人工智能,在人工智能这个场景腾讯的战略是AI in ALL,把各种AI技术和各种应用场景结合,比如医疗影像、信息安全、语音翻译等。

在信息安全场景上是如何用FPGA进行加速的?

首先QQ、微信上每时每刻都有大量的UGC图片上传,这些UGC图片比较少的是违禁图片,大量的是正常图片,对于比较少的违禁图片如何进行打击,我们也采用AI技术,并且结合FPGA高性能低延时的优势。这里展示了我们的整个处理逻辑,首先每天有上亿张图片上传到处理系统,会经过AI的极速模型,把正常图片过滤出来,对于少量的可疑图片留下来,经过二级AI极优模型来做判断,到底是不是有恶意的图片,通过两个AI模型和FPGA的加速达到高性能处理的效果。

具体在FPGA里面是如何做到AI算法加速的?

在FPGA里面实现了AI算法的基本算子操作,包括卷积、池化、归一化、激活函数,通过对这些基本算子的支持,做到对AI算法实时的处理。数据流水的输入和处理,FPGA中所有的计算单元都会同一时间内处理同一层的数据,这样可以达到低延时。以具体的Googlenet的算法模型为例,对比CPU、GPU和FPGA, 可以看到FPGA刚开始的时候就能够达到最大吞吐,GPU需要拼凑更大的数据做到高吞吐,但是它的batchsize越大延时越大,所以FPGA在跟GPU吞吐性能一样的情况下,FPGA延时比GPU降低10倍,整体的TCO可以达到50%的降低。

FPGA在加速AI方面具体有哪些方面的优势?总结来说主要有三个方面:

1、灵活可扩展,因为FPGA的可编程性,它可以快速支持AI算法的快速演进,支持DNN、CNN、LSTM以及决策树等,支持任意精度的比特,可以用任何比特来表征你的数据。同时还可以支持模型的压缩、稀疏网络等模型的构件。2、高性能低延时,可以构建实时的AI处理能力,特别到以后“端云结合”的应用场景,对于低延时的要求会更高。前面也介绍了,FPGA可以做到与GPU相媲美的吞吐性能,较GPU数量级提升的低延时推断能力。

3、开发环境持续优化。用户用verilog这种语言做FPGA开发是比较困难的,那如何在AI场景上,降低FPGA使用门槛呢?一方面是把FPGA里面的AI基本算子做进一步的优化,提供更加完善的算子库,另一方面是提供编译器给用户。这个编译器在使用的时候,用户只需要把AI模型通过编译器转化成FPGA认识的指令,通过这些指令来指导FPGA加速,通过这种方法使FPGA的易用性提高。

第三部分介绍一下在FPGA云服务方面的发展。

首先FPGA整个产业链是存在多个环节的,包括芯片原厂、硬件生产厂商、IP开发商、方案集成商。硬件生产商主要指生产板卡的,IP开发商是提供IP方案的,方案集成商是把方案、硬件板卡、方案打包的。FPGA云服务需要把这些技术资源整合,对用户形成最终服务。相比整个GPU产业链来说,GPU是从芯片制造到板卡,到最终的编程框架都提供解决方案,FPGA云服务也是想通过云服务的场景把以前碎片化的使用方式平台化的,降低FPGA的使用门槛。

这里介绍一下FPGA服务本身的价值:对于传统供应商来说,比如xilinx和altera芯片原厂,原来是对大客户直供方式,对中小客户是由代理商分销,他们不直接接触中小客户,FPGA销售增长缓慢;对于IP开发商来说以出售IP方式,不提供其他服务,IP只是零部件,并不是最终行业的解决方案。同时,因为IP本身担心产权泄露,一般要签署NDA并且要付费,所以整个交付周期是非常长,过程非常繁琐的,反过来会限制IP出售;对于方案集成商来说,原来的方式是技术人员带硬件设备拜访客户,现场演示讲解,最终把硬件设备留下来给用户进行验证测试,整个运营推广周期非常长,过程也是非常繁琐,硬件维护也非常麻烦。这是传统供应商的问题和痛点。

对于用户的痛点来说,想使用FPGA开发,需要解决FPGA板卡的生产制造,有了硬件板卡还要有做FPGA的软件开发,整个硬件制造和软件开发的周期特别长,带来使用FPGA的决策成本特别高,试错成本也特别高。对于不自己做开发而是直接购买解决方案的方式,用户相对来说更依赖方案集成商,方案价格贵、升级改造也慢。综上所述,FPGA本身没有成熟的开发生态,整个开发门槛高,反过来限制了FPGA生态的发展。

所以前面介绍的这些问题都是说,我们需要通过FPGA云平台的方式来打通FPGA的各个环节,包括硬件生产商、方案集成商、IP开发商和芯片原厂,通过在云平台上做出行业解决方案,对用户提供服务。这样用户使用FPGA的门槛就会降低,而且整个使用也会容易很多。

那通过这样一个FPGA云平台对前面的传统供应商有哪些价值,对用户有哪些价值。对于传统供应商来说,芯片原厂可以解决支持中小客户的难题,聚焦FPGA生态发展,新模式带来新的用户增长。IP开发商提供了在线的验证和测试,整个交付周期短,通过云覆盖更多的用户,增加销量。对于方案集成商来说就不再需要提供硬件售卖了,只需要通过FPGA云服务器的方式提供给用户购买,按需购买,运营推广周期会缩短,硬件平台也由云平台厂商负责。

对于想用FPGA的用户来说,它的开发周期会缩短,同时因为云平台是相对来说非常公开的技术竞技场所,如果你的方案做不到最优或者别人比你更好的话,这个方案别人也不会使用,所以一般来说云平台上都会使用最新的技术,这带来用户整个生产效率的提高。在解决方案方面,在云平台上直接购买解决方案,跟云用户的生产环境相结合,验证周期会缩短,试错成本低,决策成本会降低,同时云自身带来的弹性扩容和收缩,这些都给用户带来了价值。

腾讯的FPGA云服务是在2017年1月份国内第一家发布的FPGA云服务器,发布以后主要集中在自研和引入更多第三方方案提供商,提供更多的行业解决方案,包括图片处理、图片鉴黄和基因测序,让用户直接使用到行业解决方案。在硬件板卡上,之前是KU115,VU9P和Intel Stratix 10即将上线。对于FPGA开发者来说,如果想用FPGA云服务器做自己的FPGA开发,我们提供了FPGA开发平台,上面集成了PCLE通路和DDR控制器的HDK,在软件CPU侧有驱动的SDK,用户只需要关注自己逻辑的开发和软件侧应用程序的开发,可以节省整个开发周期。

前面讲的都是FPGA云服务本身。我们在通过FPGA云服务,跟各行各业相接触的过程中,我们也针对各个行业中,需要做高性能计算的场景做具体的应用加速。其中在基因测序方面,随着测序成本逐渐降低,数据分析成本在总体成本的占比提高。随着近年基因数据的爆发式增长,整个数据分析层面遭遇计算瓶颈。因此,我们通过FPGA对基因测序里面一些耗时长的算法进行加速,可以提高计算速度,降低成本。右图就是我们在二代基因测序的应用场景里面针对标准WGS流程,采用BWA和GATK的算法,针对人的全基因组的测序,用CPU需要30小时,用CPU+FPGA可以做到2.8小时,可以做到10倍的提升,现在这样一个行业解决方案已经在腾讯基因产品里面,完成了产品化,提供给用户使用。

最后谈一下针对FPGA云服务和FPGA行业自己的思考,FPGA云服务是个新生事物,虽然前面介绍了在各种应用场景下,使用FPGA加速获得很多好处,但是它的困难也有很多。

第一方面,目前各家云平台厂商都有提供FPGA云平台,而平台本身没有统一标准,相当于各家都在按照自己的思路做FPGA平台的开发。这就带来了一个问题,整个平台的碎片化特别严重,对于想要提供FPGA行业解决方案的厂商来说,需要根据各家云平台做适配,行业解决方案在FPGA云平台上的迁移成本非常高。当然,后面可能有FPGA云行业的标准,我也非常期待。

第二方面,它的开发门槛高,行业解决方案少。FPGA开发所使用的编程语言,相对来说还是非常底层的硬件电路的描述语言,编程语言的抽象化是比较低的。

第三方面,FPGA云的生态不太完善,没有形成正向循环,从开发者到行业解决方案、到客户使用、到更多开发者这样一个正向循环,导致行业解决方案还是各家云平台商在自研,没有发挥行业的力量。

目前腾讯FPGA云服务规划是:1、在FPGA云平台建设方面,硬件平台的升级和IP市场的推出,有更多AI等行业解决方案的推出。2、FPGA生态发展,我们希望能够连接开发者和使用者建立一个评价体系,推动FPGA解决方案的迭代。

最后FPGA在端侧也大有所为,因为FPGA本身有丰富的IO管脚,低延时的特性,端侧和云侧相结合的场景将会有非常大的发展空间。

作者介绍:章恒——腾讯云FPGA专家,目前在腾讯架构平台部负责FPGA云的研发工作,探索FPGA加速数据中心的应用,包括:图像处理、深度学习、SDN等。

——  完  ——

推荐阅读:

干货好文!腾讯云在多个场景中的AI落地实践

如何 “20分钟”快速写出一个AI工具?

广州“开四停四”交通限行,技术上是如何实现的?

腾讯觅影是如何借助AI技术实现乳腺癌诊疗的?

关注云加社区,回复 3 加读者群

点击这里更多干货

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: FPGA加速:面向数据中心和云服务的探索和实践
下一篇: 你有没有幻想过,和机器人来一场恋爱...
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值