AIoT,构建更佳边缘AI能力

| 导语 7月27日,云+社区技术沙龙第24期“物联网技术与应用”圆满落幕。本期沙龙特邀请腾讯云技术专家对腾讯云全栈物联网产品进行了深度揭秘,针对腾讯云IoT全栈产品中的IoT平台、边缘计算、物联网安全、物联网操作系统、AIoT这五个产品进行全面的技术剖析和满满干货分享。下面是邓煜平老师关于如何快速构建边缘AI能力,云边协同对接,以及基于边缘AI能力的实践案例的分享。

前言

今天主要想跟大家分享一下我们物联网产品矩阵里面另外一个产品AloT产品。AloT我想这个词大家应该在最近听得比较热。我记得在2016年的时候,应该那个时候有一个词不知道大家有没有听过,叫ABC,如果关心云计算都比较了解ABC这三个词的含义。A是AI,B是Big Data,C是Cloud。它代表了当时整个业界的发展趋势,AI和云计算的结合。自此之后,很多AI结合云计算的应用就展现出来了,非常丰富。我们现在基于很多声音的识别,基于自然语音的处理,甚至基于图片的处理,比如说人脸支付还有包括人脸核身,通过线上的方式来实现身份认证、电子合同签约等等。这些围绕着我们个人的一些AI的应用,更多地是通过调用云端AI的能力,来实现AI应用的一些场景和实践。

我印象当中应该是从2017年底2018年初的时候,AloT这个词慢慢谈得比较多,这个也是结合物联网的发展趋势这样大的背景出现的。我们发现越来越多的AI会向物联网的设备进行迁移或者是结合,利用物联网的一些数据采集和搜集的技术来实现更多智能硬件和更多智能应用的一些场景,这个就是我们所谓的AloT词的含义。简单来说融合了AI和loT的一些产品特性,我们通过把一些AI和物联网的特性结合,来实现一款AloT的产品。

我的内容包括四个方面,一开始我会跟大家介绍AloT产品的特性以及我们这款产品里面应用到的技术架构,我尽量用深入浅出的语言和大家聊一下里面应用到哪些技术。这些技术我想也可以帮助大家在使用我们的产品,或者说大家自己设计其它产品的时候,我们的思路可以有所借鉴和分享。最后我们可以展示一下如何通过我们的产品快速搭建边缘AI能力以及我们实际解决方案的实例。

什么是AIoT产品及产品特性

刚刚讲AloT产品的出现主要是在ABC的场景之下,我们现在发现很多的AI能力正在逐渐下沉到边缘侧。为什么会有这样的情况?我们会发现智能硬件这层它的数据要上云,一般是要通过下面这层物联网物理链接层,物理链接层黄色这部分其实分为两块的接入方式,包括广域窄带和广域宽带这两种技术,例如我们谈的比较多的NBIoT、LoRa这是窄带的技术,还有是4G或者是2G等等这种广域的宽带接入。近场的接入通讯包括WI-FI、蓝牙等等不同的接入方式。通过这些链接方式之后,我们的数据会进一步进到运营商的接入网、核心网。腾讯也有相应的LPWA网络管理的核心网,在这层的数据进行汇聚和接入。最后到云计算的机房里面,这块我们有相应的窄带信令、宽带视频的产品。再通过一些消息队列,我们对接到云上的各种组件包括存储、数据库等等,进一步再到我们云上定义的这套AI的推理平台,实现我们刚刚讲的声音、图像、视频等AI处理。

1. 传统AI能力实现过程中的问题

大家可以看到整个的过程从数据链接到接入层再到运营商的核心汇聚层,最后到云计算机房,这个数据链路非常长,这里面会带来两个问题。

第一个我们在调用这样一个接口的时候,整个的延时会达到数百毫秒。数百毫秒级大家应该会有一些概念,比如说举一个形象的例子,大家平时去坐公交车坐地铁,我们去刷闸机,那个时间大概是从你的卡放到闸机一直到你进去,大概响应的时间是500毫秒。地铁闸机它要求一分钟通过的人必须达到40-50人,所以说如果我们这种AI的一些应用,如果我们的时延过长,会影响我们的一些用户体验。这是在时延方面带来的一些缺陷。

第二个关于流量。我再举一个身边的例子,大家可能用过家用摄像头,你可以把摄像头放在家里的客厅来监控或者是智能猫眼放在门外面去监控周围有没有敏感人员,也有小店铺的店主采用智能摄像头进行防盗监控。它们往往把视频推流到云端,或者是通过手机直接观看。我们算过一天所有的视频上云大概会有4个GB,会占用这么大带宽的消耗。而且往往很多的数据实际上你是不关心的,我主要想看今天发生的敏感事件,比如说在家里面宝宝有没有哭或者是宠物有没有乱抓一些东西等等,这些需要你花时间把所有录的视频去进行回看,往往这样的用户体验也不是非常好。

2. AI能力下沉到边缘侧的优势

我们的客户需求希望把一些AI能力下沉到边缘层,让我们的边缘设备能够自动处理你关心的一些数据,再把你关心的数据上报到云上。这样带来了两个效果:第一个你的带宽省了很多,因为我们只是把关键的数据放到云端看。第二个即使出现一些问题比如说敏感的人员,或者说刚刚讲的这种宝宝哭了或者是戴口罩、戴帽子的敏感人员靠近你家附近的时候,我们可以通过一些事件信息的上报通知我们的用户。而不是说我们把整个的视频传到云上,这样我们需要AI的推理能力能够进一步的加速。

所以说在这两个背景下,我们有了这样的需求,更多的场景需要我们的AI能力进一步下沉到边缘侧,同时我们的场景需要快速AI的技术能力。尤其在我们看到的四个场景里面,包括我们的智慧工厂,它有遍布各地的生产工厂,它们通过AI来进行缺陷检测,还有一种产品和半成品缺陷分类处理的时候,它是需要AI的计算能力能够在边缘侧快速地得到执行,然后它联动后面的执行机构来完成。那么像智慧零售里面用到的,需要快速进行边缘侧推理的场景也是非常显而易见和理解。我们看到无人货柜,我们看到有些无人货柜我们只要把门打开,取出一些商品关上你走开就可以了。在这个过程中它迅速在边缘侧完成了物品的分类、人脸的识别这两个点。物品分类对应你要扣多少钱,人脸识别对应从哪个账户扣钱。如果说AI的计算能力过慢,也会影响用户体验。

包括我们在农牧这个领域,很多的养殖场分散在全国各地,全国各地的网络带宽条件是非常恶劣的。在这样的情况下,我们如何能够为我们的客户提供更好的、成本更低的边缘AI的解决方案,是值得我们去思考的。这个我到最后一页给大家分享关于农牧非常有意思的一个应用场景和案例。我们需要在边缘侧迅速识别敏感特定的人员,还有对关键事件的上报,这些都是我们在边缘侧实现一个比较好的、具备快速推理能力的非常刚性的一个需求。

3. AIoT产品解决的问题

总结一下,我们的AloT产品它主要解决的问题,包括这几个方面:

  • 第一个有更快速的数据响应,我们本地的边缘智能硬件能够完成AI的推理和计算,将我们原来在云端AI调用产生的这种数百毫秒的延迟我们能够缩短到几十毫秒甚至是几毫秒,能够带来更好的用户体验,满足客户的需求。

  • 第二个我们能够实现更低的带宽和云存成本,也就是说我们通过本地边缘的AI推理,把我们的一些非结构化的数据,比如说我们的视频、图片等等我们把它转化为结构化的数据。比如说人脸的ID关键事件,我们把这些推送到云端。我们在云端使用的成本和我们网络带宽的消耗会相对比较少。

  • 第三个我们希望实现更便捷的系统部署和维护。也就是说我们很多的边缘设备它里面具备的AI能力是可以动态扩展,我们这个设备在部署完了之后可以不定期的给它添加不同AI推理的模型和能力。而不是在系统一部署的时候智能硬件只能实现人脸识别,下一步我可能要实现物体的分类或者车牌的识别。那我们可以通过我们这样的系统,让它能够像安装手机一样,能够动态地更新和下载。

  • 最后一块是我们希望为客户构建一站式的AI算法选择和硬件平台选择。我们的客户往往在寻找合适的AI算法和合适的AI硬件上面会花很多的精力,造成很多困扰,他需要去整合很多的资源,整合很多的算法公司,整合一些硬件公司。实际上我们希望AloT这个产品能够为客户一站式地把这些问题解决掉。这是我们这个产品所需要解决的问题。

4. AIoT的技术现状

刚刚我们谈了我们的构想非常好,而且客户需求也是客观存在的,我们现在技术如何,实际上已经能够促使我们的产品达到一个可以商业化的阶段。它主要是来源于四个技术的发展。第一个大家非常了解的容器编排技术,实际上腾讯云很多的业务都是基于容器化部署的架构来进行实施的。我们将来在我们的边缘智能硬件上面采用容器化编排技术就可以实现我们不同AI应用的动态加载和分析。同时也可以让我们的开发者,能够使它的开发和部署运维更加快捷地融为一体。这个是我们边缘侧软件运行架构带来的一个好处。

另外一块实际上大家也知道,AI为什么这几年这么火,其实AI采用的一些技术很早在80年代、90年代就已经提出来了,实际上AI的核心原理,基于机器视觉这种深度学习的技术,简单来讲是基于统计学的一些算法。通过统计学应用到的深度卷积神经网络的一些技术,我们来实现AI推理。这些技术往往促进了我们芯片和我们算法架构的演变。

也就是说现在AI之所以能够那么火,实际上依赖于我们AI硬件生态不断完善和丰富。我们发现原来能够处理AI的芯片最早可能是显卡GPU,或者是运算能力非常强的CPU。到第二个阶段我们发现有一些可以基于这种半定制化的FPGA的芯片出现,直到最近两年实际上很多厂商都推出了专门针对AI算法里面用到非常多共性的神经网络卷积算法加速的AI芯片,来降低我们在边缘侧AI算法产生的功耗以及整个硬件产品的成本。在算法框架和丰富的硬件芯片助推下,实际上整个边缘硬件和边缘AI这样的一个能力也逐步建立起来。

最后一个是我们的物联网技术,也通过多年的发展,现在涵盖从窄带到宽带,从广域到近场,不同的技术能够方便让我们的万物互联,方便让我们的设备数据采集到云端。所以说这四个趋势,我们认为已经能够促成AloT应用的成熟。

5. AloT产品主要的一些特性

AloT产品主要的一些特性,包括我们设备的自动接入。比如说边缘的智能硬件,我们可以让我们的设备通过很简单的方式接入到管理平台里面,能够实现离线AI的计算。同时我们也提供了一站式丰富的算法市场,可以让我们的用户在算法市场上面去自由选择它所希望采用的算法,包括我们熟知的人脸识别、物体分类、人体识别、车牌识别、缺陷检测、动作检测等等。这些一系列的算法市场,也可以直接在算法市场上进行下载。

当这些算法下载到我们这个平台上面来以后,可以实现非常快速的二次开发,我们可以基于算法市场里面提供的这些算法API,在边缘侧可以自己做二次开发和包装,让这些应用把AI计算出来的结构化数据推流上云。同时我们也可以在我们的控制台上一键部署这些应用。我们的开放平台也是支持各种不同主流的AI硬件平台。这个我到后面会介绍一下。

AIoT产品的技术架构

1. AIoT产品与其他产品的关系

这里比较简单地描述一下这个产品和其它产品的关系。实际上从这个图我们可以看到我们整个物联网AI的数据流图。这个是我们终端侧,中间是我们AI智能网关或者说硬件,这个是云上的一些组件,这边是我们在云上AI的技术产品。我们从这边的数据流过来,比如说刚刚结合我们的OS和SDK,可以把设备侧采集的各种数据上到边缘侧的网关,通过我们的网关上传到云上的IoT Hub,通过我们的规则引擎分发到我们相应的一些其它基础的AI产品里面。我们利用云上AI的产品,对这些数据进行处理,它的分类、打标签还有一些模型的训练等等。

我们搜集到这些数据以后,最后我们会生成一些模型文件,用这些模型文件把它通过我们的模型镜像仓库,下载到我们边缘智能硬件平台上来。我们训练出来的模型可以在我们的边缘硬件侧上面进行本地AI的推理。所以说整个的过程包括我们数据的采集以及模型的分发和本地的AI的推理流程,一共三个部分。当然我们也可以直接把我们预先训练好的模型,直接通过我们的平台下载下来,实现本地边缘AI能力的构建。这个是我们整个产品和其它物联网,就是今天这个演讲之前介绍的其它产品组件的一个关系,这些产品都是可以像搭积木一样,把它组合成一个整体的产品能力。

2. AIoT产品的总体架构

这个是我们整个AloT产品的总体架构,虚线框是我们整个AloT产品的产品能力,它包括蓝色这部分是我们部署在云上的组件,绿色部分是我们边缘侧的软件协议栈。我们云上的部分分为两块,一块是应用与模型分发平台,还有一个是应用与模型发布工具。我们通过云端的控制台来控制边缘的网关或者是边缘的智能硬件,然后边缘网关和边缘智能硬件可以直接在里面集成云上推送的组件,和我们云上其它的产品,比如说IoT Hub,比如说云上视频推流能力来进行打通。

下面分别给大家详细介绍各个部分产品的模块和设计的一些思想架构。这块是我们云端的架构还有发布工具。下面这块是我们应用与模型分发平台的整体架构。实际上它的架构基于四个模块:

  • 一块是我们的网络代理模块,这个主要是用来和我们边缘侧的盒子进行通讯,监控边缘侧硬件设备一些权限的认证和一些设备管理的能力。基于这样一个模块,我们可以实现对设备远程的激活、设备状态的搜集、管理等等。

  • 另外一块是我们镜像管理模块,它主要是用来支撑我们对不同的用户上传不同AI模型和AI应用去进行管理,包括用户自己上传自行开发的这种AI模型。我们也提供了一些公开使用的公有AI模型。通过这些镜像管理的模块来实现对应用的管理,以及应用可视化发布权限的管理。它是配合我们的应用与模型发布工具来完成的功能,也就是说用户可以通过我们的应用模型发布工具来实现它们AI应用的一些上传。

  • 还有我们的认证授权模块,这个主要是实现了对使用控制台的一些账号管理,包括我们对一些设备进行分组,我们可以通过一个模型,把它分发到分组划分的设备里面来。同时我们可以邀请协作者管理运行在不同设备上面不同的应用。我们的权限管理分为设备的管理和对应用的管理。这个是认证授权模块的部分。

  • 另外还有一些消息通知组件,这里就不详细的介绍。

这里面核心的点是实现了我们对不同的设备,不同的模型还有不同的人员,进行一个分组权限的管理。我们客户可以借助我们本地的应用与模型发布工具的架构,来实现对它本地镜像仓库里面AI模型的上传,和我们的模型镜像仓库进行打通,这个是在云端实现主要的一些产品功能。

3. 边缘设备侧里面协议栈的架构

下面介绍一下目前在边缘设备侧里面协议栈的一些架构。边缘硬件设备可以理解为就是一个智能的小网关或者是一个AI盒子。它的底层实际上是基于各种AI加速芯片的硬件平台,不管是使用CPU、GPU还是专门的人工神经网络加速芯片。在这样的硬件加速平台上面,我们可以支持主流的一些操作系统以及在上面基于容器引擎的架构。在这样的架构基础上,我们分为五个模块。最底下是我们的设备接入服务,实际上之前分享过边缘计算的架构,这里面架构的思路、想法是一致的。主要是完成对协议的转换,包括我们智慧建筑里面用到的协议,包括工业现场里面用到的协议等等,还有我们通用MQTT消息协议,以及我们宽带视频推流的一些协议等等。

这个部分是完成了网关下面管理的子设备的一些管理,比如说像摄像头这样子设备的管理。在中间主要是提供核心的服务,这些核心服务就包括这些不同服务之间的消息总线,它们数据流之间的一些交互以及不同的服务,后续继续动态加载进来的服务之间,它们服务的配置与发现。之前也分享过采用了微服务这样一套的设计架构。

再往上主要是我们的智能分析服务。这块除了一般意义而言像规则引擎、本地流数据库、时序数据库之外,最为重要的是这里面集成了AI的一些中间件。比如说基于Intel这种AI加速芯片里面,我们采用了OPEN VINO这样AI中间件让我们的客户非常方便基于它现有开发的模型,在上面进行一些快速的调用。那么在基于这样智能分析模块的服务之上,我们提供了两类,一个是模型应用服务。结合我们刚才讲的模型应用市场里面不同AI的应用和AI的算法模型,可以在本地化为客户输出不同的AI服务能力。

然后另外一块是云端的服务模块,这里面包括两个,一块是窄带信令的部分,一块是宽带推流的服务组件。与之对应的是打通了云端不同服务组件,例如视频推流组件等。

边缘侧的安全也是非常重要的,它包括硬件设备所涉及到安全的方方面面。其中像之前也有分享到的设备认证,我们采用了TID的设备认证协议,包括安全启动、安全存储、运行时保护等等。下图是整体的一个边缘侧协议栈的总览。

下面我就几个边缘侧的服务我快速和大家介绍一下。像这块我们刚刚讲的是基于一些动态服务的注册和发现,因为我们提到有一些服务是可以通过动态后续加载,里面核心应用的技术是用到服务注册和发现的运用。在我们的内部有一个注册中心,可以让不同的微服务之间通过查询注册中心,来获取其它服务所提供的一些API的接口和调用。同时注册中心也会负责不同微服务的健康检查。这个是我们在边缘侧动态服务注册上面采用的技术。

我们刚刚讲的边缘侧主要干三件事,一个是数据采集,还有一个是AI的推理能力,第三块把推理出来的结构化数据上云。这个部分实际上指的是数据采集。数据采集这部分我们采用了像Telegraf的容器化组件,我们可以用来实现对设备本地的一些关键数据的采集,包括我们CPU的状态,包括窄带消息、视频消息的采集,以及我们不同工业的协议,智慧建筑的协议,它们这里面不同协议以插件的方式接入到我们的数据里面。再通过这些数据,我们可以在本地的AI分析引擎进行处理,在云端进行可视化展示。同时我们也可以通过直接在边缘侧直接推流到我们的云端进行数据分析,这个主要是我们数据采集的框架。

第二部分刚刚讲的采集完了之后需要进行AI的结构化处理。我们可以看到红色框里面是AI模型的中间件,最下面我们可以通过我们的模型市场下载各种各样不同的模型。这些模型我们在边缘内部也采用集成了,比如说像主流的架构来支撑它把这种不同的模型,通过这种gRPC或者是我们在本地的Restful API封装,来提供给到算法容器来进行调用。

那么这个算法容器,它自身就集成了包括几部分的内容,比如说IPC摄像头推流的部分,包括视频的解码,解码完了之后输出的图片,我们通过调用TF serving的这个容器对这些图片进行人脸识别,缩放对齐。再对我们的人脸识别进行本地化的聚类。所谓的本地化聚类是指我们可以通过对同一个人他不同特征来进行聚类,最后对这个人生成一个唯一的face ID。再把这样的一个face ID直接推流到云上的IoT Hub,这个我们之前的课程也分享过了,IoT Hub主要承载窄带通讯的能力。

我们在这个算法的基础上其实也集成了我们AloT宽带视频的能力。当我们发现有一些敏感事件告警上云之后,本地的调用可以调用我们的视频推流能力,直接把现场的视频推到云上进行观看。比如说可以在我们的手机通过小程序或者是在PC客户端来进行观看。在云上的结构化数据可以再进行二次的聚类,这样可以让不同的盒子所产生的数据进行归一化的处理。这个是我们在AI数据处理这部分的架构。

当然我们也提供了一个更高级的版本,我们也可以让我们的开发者基于不同的模型和架构进行自己的一些自主化的封装,这个是比较适合于对AI架构有一定了解的开发者来使用。不再详细展开叙述。

除了刚刚AI的应用之外,这部分主要是我们的数据从采集再到我们AI的处理,我们需要把它推到云上。云上这块我们也集成了目前两大能力,一块是刚刚也有介绍,我们本地集成的IoT Hub SDK,可以快速让我们设备的结构化数据推送到我们的云端。同时我们也集成了我们视频的一些组件,能够在本地实现视频的推流,我们通过一些简单的配置即可获取推流URL,将需要采集的摄像头上面传输过来的一些视频,推送到我们的云端。让我们的客户可以通过推送上来的这种视频流,再通过拉流的方式在手机端上进行呈现。这是在边缘侧集成的两部分能力,一个是窄带通讯的能力,一个是宽带视频的能力。这个是边缘侧大体的架构,从我们的核心组件到数据的采集、边缘AI分析以及推送上云这四个部分。

另外一个是我们边缘侧的安全,包括了边缘侧的设备认证,实际上今天下午分享的另外一个课程TID有详细内容,这里我就不展开讲。实际上这里我们还有一个很重要的点,模型的版权保护。因为实际上我们提供的是开放的算法生态,很多算法公司非常关心,比如说我们部署在边缘侧设备上的算法模型是不是能够得到很好的保护,而不是被随意地拷贝走。这样我们训练出来的一些模型可以很轻易的被任意复制。我们在边缘侧实际上提供了这些模型版权保护的功能。这是边缘侧安全涉及到的两部分。

另外,我们提到过一个增量分发,也就是说我们会提供给客户设备一个标准的ISO包,这个ISO包里面会集成我们从操作系统到DOCKER引擎以及AI中间件的不同组件。那么这样做的一个好处实际上是利用了DOCKER容器增量分发的功能,也就是说我们在分发我们新的模型的时候,由于我们边缘侧的设备盒子已经集成了这些中间件,我们在分发的时候可以极大减少分发的大小和容量,来减少它对网络带宽和分发时间所造成的影响。这个也是我们利用了DOCKER技术所带来的良好特性。

我们这样的产品实际上也是支撑到一些主流的AI加速硬件平台,我们腾讯云也会优选推荐大家一些硬件加速平台。这些加速平台实际上是可以对AI算力进行灵活扩展。我们AI的芯片可以从2个扩展到4个甚至是8个。你可以自由根据成本的需要,对算力的需求,对这个算力进行自由的扩展。

如何快速搭建边缘AI能力

我们下面简单讲一下我们这个产品的使用步骤。包括设备的注册激活,选择相应的算法模型,选择完之后来进行部署,在云端进行展示和监控。具体的使用步骤这里稍微简单展示一下,包括我们购买或选择一款边缘智能硬件设备,我们可以在网上下载提供标准的ISO安装包,你接入到局域网和PC机连通之后,它就会自动发现这个设备,并且输入我们提供的设备码,你就可以来看到这样一个设备的激活和在线状态。然后可以登陆到我们的控制台上面,去选择我们提供的十几个模型,目前我们这个产品还在内测,我们现在提供了15个模型供开发者使用。

选择完模型之后,我们可以把它选择安装到我们指定的设备,包括你可以自定义部署的时间,如果部署时间比较长,你可以选择定义到晚上来进行部署。当然这个是我们使用的公开算法模型,我们也可以使用你自己开发的一些AI模型,你不用把它发布到我们公开的模型市场,你通过一些客户端的软件可以上传你自己开发的一些模型,通过我们的控制台分发到指定设备,最后可以通过云端监控设备上面CPU的占用情况、运行的参数情况等等。

应用解决方案示例

最后是实际的场景展示,包括我们通过边缘侧我们可以实现,大家可以看到这个屏幕展示是我们在云端上的网页,实际上所有的数据云端上面只上传了图片以及我们推理出来的性别、年龄、区间还有我们刚刚说的通过本地聚类实现的这种到访次数的统计等等。我们可以看到右边AI的盒子和我们的IPC的摄像头都是在本地的局域网里面,它不需要把我们的视频完全推流到我们的云端。这里是我们热力图的展示,它展示我们另外一个人体识别模型的效果。

这个很有意思,是我们客户做的一个案例。我们刚刚讲了智慧养猪的一个案例。我们发现很多的养殖场分布在全国各地,它的网络环境是非常差。现在我们客户通过用边缘AI的能力来实现了对猪数量的自动盘点以及猪体重的自动估重,这个体重的自动估重是可以实现精确的料肉比控制,可以为我们的客户控制养殖成本,也可以节省它的人力时间。所以说我们实实在在地体会到边缘AI不同于传统的云端AI能力所达到的一些效果。这就是我今天的分享,谢谢大家。

Q:您好,我问一下因为我看到了你现在所说的基于容器,因为最早的一些产品是基于(OPEN CL),有没有技术考虑把它做成非容器的?

A:我觉得这个问题非常好,容器这个技术它实际上会依赖于一个操作系统,实际上在有一些边缘智能硬件,它目前并没有,它的计算能力有可能非常弱。我们目前这个阶段想先把基于操作系统这种方式的容器技术能够进一步的完善。因为按照我们的判断,关于这块未来的硬件发展,它一定是往计算能力越强还有功耗成本更低这个方向去走。所以第一步会采用这种方式去做。当然您刚才提到的对有一些嵌入式设备,比如说像一些智能摄像头,它可能目前这个阶段里面不一定能够去支撑跑这么复杂的系统。在这样的场景下,我们可能会采取一些其它的方式做融合。这个是我们未来的一个规划和考虑。

当然我觉得什么时候去推出,还是需要结合我们硬件的发展状态,配合我们软件的一个架构来跟上。因为按照我们现在开发的趋势,实际上算力越来越强的CPU也会逐渐出现,有一些计算能力比较弱的这种场景,它用到芯片的算力包括本身的CPU的能力包括它的成本也都逐渐往下走。我觉得最好的例子是我们的手机芯片,手机芯片由于出货量巨大,还有它技术的融合,它的芯片也融合了一些AI的能力,那么它的技术也在往一些智能硬件设备上去做扩展。所以具体我们什么时候采用什么样的技术路线,我觉得需要综合考虑软、硬件产业的发展态势。

Q:邓老师您好,我想问一个问题怎么平衡云端模型的计算能力和计算的准确性。我们希望我们的数据在边缘计算是达到可控而且是可靠的模型。

A:其实我想说关于模型这块,实际上我们在云端上采用的AI模型和边缘侧采用的AI模型可以是一致的,只不过说它的计算平台是不一样的。在这种可靠性来讲,我觉得更多的可能是需要综合考虑,比如说云端AI考虑我们的调用网络的依赖,我们给云端AI输入参数的大小,以及我们云端AI使用会造成的其它成本。当然我们的边缘AI也不是完全没有缺点,比如说我们为了实现边缘AI,我们可能需要对边缘设备去做智能化升级,或者说我们把传统的摄像头统一接到边缘盒子上面,而这个盒子是带有AI能力的。所以说我觉得采用哪一种技术,需要综合从硬件成本、对网络的依赖、以及传输数据量三个角度去考虑,来综合评估到底我们采用哪一种方案去实现AI应用。

腾讯云高级产品经理。拥有十余年从物联网芯片设计、实时操作系统开发到SaaS服务开发的经验与产品策划经历,对物联网安全技术、无线连接技术、AI芯片等物联网关键技术有深入了解,尤其擅长软硬件结合的产品开发与策划工作。拥有大型物联网项目的实践经验。

邓煜平

 点击观看视频回顾 

关注云加社区公众号,回复“物联网沙龙”,获取完整PPT!

---------下方更多精彩----------

活动推荐

8月18日

杭州蘑菇街Denim&Canvas会议室

云+社区邀您参加云+社区开发者大会 杭州站

邀请业内技术大咖,剖析当前电商趋势

捕获云与小程序之力

点击图片即可免费报名

关注云加社区,回复 3 加读者群

点在看,让更多人看到!

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 10亿级存储挑战!看一看、微信广告、微信支付、小程序都在用的存储系统究竟是怎么扛住的?!...
下一篇: 游戏AI:只是AI间的游戏,还是游戏的未来?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值