5G下CDN技术与产业发展变化,将会如何引领时代发展?

640?wx_fmt=jpeg

导语 | 近日,云+社区开发者大会(北京站)圆满落幕。本次开发者大会的主题为“5G探索:核心技术与挑战”,邀请了腾讯内部及业内行业大咖就5G场景下的多个方向进行探讨。本文是廖龙老师关于5G下的CDN技术与产业发展变化,将会如何引领时代的分享。

一、过去十年,98%的网民进入了移动互联网

首先我们来回顾一下2G、3G、4G发展究竟什么样的曲线?

可能大家觉得世界变得很快,我们重新看一下。下图是来自于中国互联网报告的数据,2009年,3G刚开始,60%网民使用手机入网,到2018年98%人都有手机,这应该符合大家的预期(剩下2%人不知道在干啥?居然没有手机)。所以现在所有的网民基本都是移动网民。

640

我们原来很多设计是针对固定网络的,全国各地这么多用户在移动网络上使用,这些人当未来升级到5G时,有没有考虑过会面临什么样的新挑战?从这个数字可以看到中国数据发展很快,这是未来需要思考的东西。

2G成就了QQ,3G成就了社交、微博和微信,4G成就了视频,例如大家都用的快手、抖音、火山小视频等。还有一些直播类的,像是电商不做直播说不过去,都在炒这个热度。当然现在直播热度慢慢有所下降。而在5G时代下,流量会越来越大,可能这些东西会进一步兴起,甚至会有新的业务形态产生,当然现在也没有办法预计究竟产生什么样的新业务形态。

640

二、2020年,5G的商用元年

2020年这个时间点非常的关键,我们认为它是5G的商用元年。我们看到北上广深几个城市纷纷出台5G措施,2019年北京在五环以内有5G信号覆盖,四个城市都争抢说在2020年成为5G领先城市,全市内都有5G信号覆盖。不知道大家有没有买过新的5G手机?可以买回来之后试试下自己家里有没有5G信号。

640我来自于深圳,在深圳做很多的测试,例如跟5G实验室同事去深圳比较偏远的地方测,会很惊讶地发现,之前在那个地方测一些4G的功能,突然发现手机连上5G网络了。因此看到运营商一旦决定要做5G了,基站建设速度会非常的快,因为工信部要求他做,速度就会提升得很快。现在牌照和政策都已经出来了,我相信2020年会是一个不同寻常的年份。

三、CDN边缘计算在5G场景的探索

具体到5G的CDN和边缘计算,会给现在的业务带来什么样的变化?大家知道5G时代都讲高带宽、低延时、万物互联,所有人都可以随时随地联网,我待会讲一下腾讯云在这块小小的实践,也拓展一下大家的思路。

640

5G场景一:5G为网,万物互联

第一个可以看到的变化,就是万物互联。每个设备,包括提到的智能设备,会有一个架构上的变化。为什么这样讲?

当前的智能设备,一般会集成很多的芯片、组装了很多功能,才能够去做交付。比如说最早在做图像识别的腾讯优图实验室,在商店和超市里面去做监控、视频人物识别之后,会把一块安卓版配备GPU的“优图盒子”放在店里里面做计算,对本地的视频进行识别。因为AI的推理要求性能非常大,对视频类的数据延时要求比较低,所以只能搞一个性能比较高的板子放在店里去做本地的计算。我们看到,这种交付对于店长来说,搞这样一套东西好复杂、成本好高,可能店长会抵制,接入的意愿不大。现在慢慢有一种趋势,这些逻辑不在设备上做了,设备本身很轻。在5G时代,设备插插卡就OK了,它基于5G的低延时能力能够回传到云上,所有业务都在云上做,原来我们认为一定要在设备端上做的事情,现在端上都不做了,纯粹用网络传到云上做。在云上有一个最大的问题是延时太大的,把数据中心都放在北京这里,那广东的用户和海南的用户怎么办?海南的用户如果把视频传到北京真的很遥远,怎么去解决?

640

大家提到的边缘计算概念怎么做到的呢?设备端也可以是边缘,远离云数据中心的CDN节点也是边缘。因此,我们在CDN节点上做了很多尝试,因为CDN在全国各地都会有,每个省份和运营商都有自己的CDN节点比较靠近用户,例如在酒仙桥某个地方就有一个节点,它可以做到比较靠近用户,我们把逻辑从云中心迁移到CDN边缘节点上,通过这种比较靠近用户端的方式实现边缘计算的能力。

6401. 应用案例:直播边缘转码

我们在直播场景里面做了这个尝试,我们看到直播的数据不一定经过中心,在这里拍个视频可能在北京就直接看了,北京的节点能够就近处理,北京的片区用户就能够直接覆盖。大家知道很多直播不一定有很多人看,尤其冷门的直播,不像网红那样全国几万粉丝在看,有的主播粉丝少,可能就在片区周围有一些粉丝观看,这种特别的适合把他降到边缘计算去,因为边缘的能力比较靠近这些用户,并且边缘的能力可以省掉跟云中心之间带宽的消耗,能够在这一块降低很多的成本。我们在这里做了很多实践,比如说一些转码、连麦,像乔碧萝事件就是连麦功能,并且还有AI打码打了一个头像上去,我们逐渐尝试把这些计算逻辑放在边缘这里做,因为不能在手机上打码,手机上打码对主播端的性能要求太大,手机发热厉害可能会导致它卡。在云中心做因为比较远,效果也不高,我们在CDN边缘节点做尝试,打码、连麦这种典型的应用就可以在这里做,两个主播之间的连麦合成一个,最终让用户看到。这个场景的优化,我们效果很明显。

6402.应用案例:优Mall智慧零售

还有智慧零售行业,最开始想做一个性能比较强的板子,让每个商店的人买一台比家用路由器大一点的设备还要插电、插网络,还要搞个光纤去连,整套部署、实施是一件很麻烦的事情。如果做成只要插上卡,插200伏的普通电源,把数据都传到CDN节点去,通过几毫秒延时就能够处理这些数据。然后再决定业务的逻辑,这个是不是VIP会员,VIP会员来了我要很快给他做一个响应,告知这些商铺的店员去做服务。

640

智慧零售借助这个能力,可以实现很多店铺的智能化转变。比如说原来的店铺都是店长雇佣很多的员工在里面看铺,员工可能自己上班不积极天天玩手机,店长不在那儿看着也不知道。还有个场景,很多顾客到店里来,顾客喜欢看哪款,顾客流动线路图是什么样的,顾客在哪些货架前停留?这些东西都要进行分析,我们叫人的热力图,相当于之前做网页的时候鼠标移动的热力图一样。这种热力图可以拓展到人身上,这些都需要做算法的分析。这些算法做一样就需要加CPU,做两种能力就需要两个CPU,因此在端上做这件事情不利于未来的拓展,很可能加几个新功能就发热了。当移到边缘节点去以后,它能够很好的实现你算法的叠加,可以不断的更新、升级更多的算法,达到更高的效果。

3.应用案例:叮当语音助手

还有一个Case是把计算逻辑下沉到CDN节点上,例如叮当语音助手,腾讯的一个语音平台,专门提供语音操作的能力。

640

大部分同学都接触过智能音响,每次跟它对话的时候,比如问“今天天气多少度?”,某些智能音响会转一个圈,或者等2s反应一下才说今天若干度。它把语音返回到数据中心,数据中心转文字,识别之后在自己的领域里面查对应的答案,查到答案之后再把文字转成语音,再把语音发过来播放。基本逻辑听起来不复杂,但是语音转文字,文字再去做数据库查找非常的耗时,尤其语音转文字转到最后一个字,才知道这句话究竟是什么?做网页的人知道3s是一个极限,3s打不开这个网页方访客就要流失了,语音这个东西说句话都是2s,非常的挑战人的极限。

基于上述原因,腾讯音箱的团队努力想办法优化时延。他们发现,很多用户讲的问题大多数都是类似,经常喜欢问播放谁的歌,或者时不时的问天气多少度?或者最近流行周杰伦,很多人去播放周杰伦的歌。他们发现很多问题可以命中缓存,对计算能力的要求不是很大,这个时候可以把它下沉到CDN节点去做,这样做有一个好的地方,当你距离比较远,云距离数据中心比较远的时候,缩短一百毫秒的延时,累计下来就非常的可观,至少能降30%的总体时间,达到1秒多响应的效果。

5G场景二:低延时应用

我把计算转移到CDN边缘节点,还面临到另外一个问题。这么多的视频、这么高的视频板流,未来可能还有游戏,还有VR的视频,怎么样保证高稳定?前面提到5G下腾讯视频是300兆的带宽,下载一个游戏100兆的带宽,怎么保证这些用户稳定的传输呢?传统的CDN节点在服务移动网络用户时,是有很大的瓶颈的,接下来详细讲一下。

640

1.基础设施的各层级的延时

我们先看下,各个层级的基础设施它们的时延究竟怎么样?这里要理清楚一个概念,这里有两个网络,一个是固网,一个是移动网。很多时候大家提边缘计算这种新的概念都会想到是一个固网的东西,固网OC节点5毫秒,再下沉到就近的一座大厦可能就是1毫秒以内。这几个时延差异不大,到了移动网差异就大了。首先手机链接移动基站20毫秒过去了,20毫秒等于原来的设备差不多连到本地数据中心了。基站因为是在移动网络里,比如我是广东深圳的,深圳的核心网在广州,一般在每个地方的省会。二线城市、三线城市的流量先走到省会去,省会再做一个交换才回到数据中心。这里面又会有十几二十几秒的延时。如果看视频怎么办?四五十毫秒的延时,很可能会有一个波动,导致速度传输非常的不稳定。虽然你是100兆的带宽,经常几K、100兆不断地波动,会导致你的观看体验很不好。

6402.CDN下沉至边缘MEC的方案

鉴于前面提到的原因,我们去想做MEC的方案,进一步缩减这里的传输时延。MEC是下沉到边缘节点,在移动网络的基站那里。在基站上面部署很多的互联网设备,因为正常的基站都是自己的专有电信网络设施,需要改造加入通用的X86服务器进去。在这里加入服务器之后具备把内容和数据、计算下沉到这里的先决条件,并且它这里确实是离手机最近的一个地方。

MEC这个东西也比较有意思,在5G规范里,是有要求MEC具备哪些功能的。但是最早通信行业提出来,那时候并没有考虑到互联网人怎么去使用。反正就是说我有这个,你爱用不用。于是我们去用的时候才发现有个比较大的挑战。

大家可以把MEC理解为路由器,在这个地方有个路由器,所谓路由器是什么?原来你访问一个IP经过路由走到互联网去,你给它发一个指令就能说把路由器的数据流转到另一个地方。假设再看一个视频,你看着好好的,突然发的指令说把这个视频路由发到本地去,你会发现这个视频就断开了,原因是这边的服务器就收不到请求了,那边服务器就收到从中间开始的请求。做过互联网的人,尤其是参加面试被问过TCP/UDP的后台开发,会发现在TCP层级上这个数据是断开的,不管怎么搞就连不上。因此,在这个基本的场景里面,当你作为一个本地下沉的切换,这个用户就挂掉了。这在通信行业人的视角看,这个逻辑很合理;但是在业务层面上看,这个逻辑就很麻烦。

除了这个以外还有别的问题,从手机那边看,感知不到周边有MEC;从服务器这边看,也看不到周边的MEC。它像是一个黑盒,像你去政府办事,永远不知道政府那边有多少的关卡,怎么办呢?在标准设计的时候,就不打算告诉你这些事情,他以为自己玩的很好,结果你用的时候就很坑爹。包括5G实验室的同事在去年很多实践时,就提到很多的方法,行业内基本提了二三十种方法,想解决当时标准的坑,归下来有三大方案:

640第一,在手机端上做,APP方面想办法探测。用探测端口或探测IP方式探测。第二,是DNS中间网络交互过程中,尤其DNS层级做一个延时探测。第三是,网络出口这里,通过采用固定出口IB的方式做探测。每种方案各有优缺点,第1个方案对APP改造特别大,不是每个业务和用户都适合。第二个方案在DNS这快,对DNS要求很大,尤其是HTPS场景很难使用。腾讯视频的案例里面采用的是第三种NATP方案。

假设在下沉已经解决了,怎么样保证它的数据传输稳定呢?可能大家用手机用的比较多,也会经常遇到这样的场景,进电梯的时候手机信号没有了,甚至到这个门背后上厕所,一进厕所手机信号就没了。在人群拥挤的地方,发现4G信号也没有了。很多的场景在原来固网状态下根本没有遇到,因为当时TCP网络只考虑丢包,丢包一定是网络非常拥塞,很多这种场景在原来的网络协议上考虑不到,也是我们需要去解决的。腾讯内部有一套自己的网络协议和算法,去考虑很多这种事情。会把很多网络上的特色做分类,分类之后自己做一个机器学习,包括用常见的深度学习神经网络去调参数,调发送,是否要发送,是否要发大包,是否要发小包,做策略上的选择,同时还会做带宽上的优化。比如说你的手机是5G,带宽非常的充足,会尽量往大带宽上跑,这样,就能达到比较好的效果。未来5G我们设想到会往好几个方向去做,比如说通用的一个场景,常见的网页传输,还会有一种视频类的场景,这个会作为很独特的,大家都特别去看待的一个场景。还会做高并发的情况,包括未来HTTP3的协议,也会逐步去落地。这些协议原来已经不用TCP改用UTP了,在UDP的情况下会有新的特点出现,这是我们腾讯团队为了应对未来越来越大的带宽和不限流量的传输去做的思考。

640

5G场景三:高带宽应用

第三个场景,刚才讲到的5G大带宽。5G带宽非常大之后,大家想得到会看更大的视频,4K这个东西大家讲提了很多年,包括4K的电视也出了七八年。最近有的家里装的电视60、70寸,虽然提了很多年,但是4K不怎么流行。换一个思路去看,会发现我们在电脑上看的视频的确在逐渐产生变化。这里有一个最近的统计,可以看到很多视频的帧率悄悄的提升,原来看的是20帖、25帖,现在看到的主流是30帖,帖率越高说明视频的质量越高。还有视频的分辨率,以前看的720P是非常高清,现在1080P从3%上升到30%,已经成为三分天下,三分之一人看视频首选1080P。可能也不是他首选,是因为他买了会员,会员自动给他选高清。

640随着各个视频网站自己推出的4K之后,也是一样的,电视会帮助你主动选4K视频,在你不知不觉的时候,你就看到更高清的视频。包括这种电视带来的娱乐,包括这种视频带来的娱乐,以及包括抖音、快手随时随地去看,包括随时随地去玩游戏,这种娱乐会带来一个很大的挑战就是带宽,尤其是服务器这边带宽的挑战。这是2017年-2019年的一张图,会看到经常有人搞“6.18”、“双11”,一年每个季度都有很多的活动,每次活动都有带宽带来的大挑战。背后橘色是这次活动带来的带宽峰值,下面的绿色是这些服务器日常能支撑的带宽容量。

640

2017年的时候采用的方法,客户提前跟我说“双11”有活动、会涨多少倍,我们会去给客户准备这么多的设备堆资源。堆设备永远可以解决问题,靠运维手段解决问题。但是我们发现这样很累,每次活动搞一天,为了搞一天的活动,我要加两个星期的班才能堆好这些设备上线。在4G已经这么惨了,到5G是不是更惨,堆设备可能堆不完。尤其这种独角兽,比如说视频类的,抖音、头条已经非常大了,随便出现一个新业务的话,作为云厂商去承担会非常的辛苦。因此,我们开发了一个新系统,可以看到2017年下半年之后,我们的储备能力就不需要在经常扩容,可以很好的支撑不断突发的带宽需求,这个系统是什么?我们自己内部叫Volcano突发资源系统,Volcano就是火山的意思。专门形容火山即将喷发,这套系统能够应对火山喷发带来的冲击。技术原理是怎样的呢?每个服务器都有或多或少的资源空余,例如这台服务器日常也就跑60%的容量,属于高水位。还有30%的空间可以榨取,因此我们设定空间榨干所有的资源,榨干之后还要做一个预估,现在服务器是晚高峰,下一个时刻带宽可能跑到多少?不能榨到100%、120%,那个时候服务器崩了。

640借助这个之后,还有一个容器化的技术,可以做到把全网10几T的冗余资源带宽利用起来,通过高可靠技术快速的创建、快速申请IP、快速加入调度,能够在60秒内做好准备工作,在5分钟左右可以协调1个TB的带宽加入到新网,去服务这样的突发。

除了纯粹技术上的解决方案未来5G还会有产品上的能力包装解决方案。整个链路从中心到终端上,会有很多的公有云产品。例如我们潜心研究视频编码器,因为当前主流的编码器,它不一定能适应未来5G的编码。我们从编码器源头做起,让更好的编码产出更好的视频内容。

640

在比较边缘的CDN节点上我们做两个事情,一个是极速高清,借助超分辨率技术把低分辨率提升为高分辨率,比较适合于以前的港片,港片分辨率都很低,做出高分辨力出来。第二个是MEC下沉,MEC当前还有一些挑战,解决完这些挑战之后,我们把它上云给多的客户便捷实用,而不需要太关注运营商的坑,直接享受最新的技术,去提升我们业务的体验。最后,终端上还会有有X-P2P的能力提供给大家。

四、5G is coming

讲了5G的实践,也许不一定算是5G上的成功案例,毕竟大家都在摸索5G,所以抛砖引玉,供大家一起学习、共同进步,谢谢!

640

五、讲师介绍

640

廖龙,腾讯云专家工程师。2010年加入腾讯,曾参与QQ空间、QQ农牧场等项目。2014年开始负责腾讯云CDN研发,专注于后台技术架构设计研发,对点播直播性能优化有丰富经验,在海量突发服务有较多心得。现任腾讯云CDN技术负责人,主要关注边缘计算、全球加速、安全等领域。

---------下方更多精彩----------

干货下载




640?wx_fmt=jpeg

「Techo开发者」大会圆满落幕

汇聚150位海内外技术专家

聚焦热点技术、主流应用、开源生态和产品革新

独家「109份」干货PPT

限时免费下载

关注「云加社区」公众号,回复「Techo」领取。

640?wx_fmt=png

腾讯前端技术大会(TWeb)圆满落幕

W3C、腾讯、阿里……

众多知名互联网公司前端专家前来分享

聚焦小程序、工程化、Node、跨端应用

关注「云加社区」公众号,回复「TWeb」领取。

640?wx_fmt=gif

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 406

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1166

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 713

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 718

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 712

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 909

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 824

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 465

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 623

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 841

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1169

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1203

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1196

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2634

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 673
上一篇: 几乎所有企业都要参加的网络安全大考,应该如何准备?
下一篇: 冲上云霄!腾讯海量业务上云实践
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值