架构师必备10大接口性能优化秘技,条条经典!

ca674dd72a781b9f2373c87b9685cbca.png

13815cb41b9ddf3df39382478e7dcad1.gif

👉目录

1 写在前面

2 防御性设计:验证

3 批量思想:解决 N+1 问题

4 异步思想:解决长耗时问题

5 并行思想:提升处理效率

6 空间换时间思想:降低耗时

7 连接池:资源复用

8 安全思想:漏洞防护

9 压缩:提速提效

10 解耦:消息队列

11 复用:设计模式

性能优化是软件项目开发过程中的一个永恒话题。我们不断地翻古书、找资料、访道友,不断提升,慢慢练成属于自己的七十二绝技。

本文总结了 10 种主流通用的接口性能优化手段,每一种都是经典方案,值得你的点赞转发收藏,一键三连!

关注腾讯云开发者,一手技术干货提前解锁👇

01

写在前面

性能优化是软件项目开发过程中的一个永恒话题。

随着功能迭代,复杂度不断增加,同时伴随着流量、数据不断增长,接口性能可能会逐渐下降,尤其是在高并发场景,性能问题就更容易暴露出来。这时,我们也不能闲着。开始翻古书、找资料、访道友,不断提升,慢慢练成属于自己的七十二绝技。

本文主要总结了日常开发中一些通用的优化手段,以期对日后的开发有所裨益。

1ff7b87f5b993fbe5a46f2034f08f28a.png

02

防御性设计:验证

   2.1 业务场景

在日常开发中,尤其是在 web 应用开发中,我们经常需要对数据的合法性进行验证。为了实现这一目的,我们通常会对参数进行一些前置验证。这些验证规则可以包括必填项、范围、格式、正则表达式、安全性以及自定义规则等。

通常,为简化业务逻辑,我们会借助一些第三方工具来进行这些通用性的检测。

   2.2 案例

⓵ Protocol Buffer Validation

如果是基于 pb 协议,可以启用 protoc-gen-validate (PGV) 自动化数据校验插件。配置规则如:

8b9444eecaa6d77b7146ddbcce20a80d.png

强校验 title 字段长度在 1 ~ 100 个字符:

string title = 1 [(validate.rules).string = {min_len: 1, max_len: 100 }];
一般地,保存数据库之前,为防止溢出,可对其长度做前置检查。

《约束规则》支持的类型有 Numerics、Bools、Strings、Bytes、Enums、Messages、Repeated、Maps 等。

⓶ Go Struct and Field validation

对于非 pb 定义的结构,也有一些类似的组件实现自动化校验。如 Go Struct and Field validation ,基本用法如下:

// User contains user information
type User struct {
  FirstName      string     `validate:"required"`
  LastName       string     `validate:"required"`
  Age            uint8      `validate:"gte=0,lte=130"`
  Email          string     `validate:"required,email"`
  Gender         string     `validate:"oneof=male female prefer_not_to"`
  FavouriteColor string     `validate:"iscolor"`                // alias for 'hexcolor|rgb|rgba|hsl|hsla'
  Addresses      []*Address `validate:"required,dive,required"` // a person can have a home and cottage...
}

详细参考 《常用的验证》。如果预置的 valadator 不满足需求,也可以自定义 validator。

https://github.com/go-playground/validator?tab=readme-ov-file#baked-in-validations

   2.3 小结

谚云:防御不到位,上线跑断腿

防御性设计是考虑使用者可能会错误使用的情况,从设计上避免错误使用,或是降低错误使用的机会。防御性设计可以让软件更安全、可靠,更方便地找到使用者的错误。

03

批量思想:解决 N+1 问题

   3.1 业务场景

N+1 查询问题指的是当查询一个对象的列表数据的时候,会首先查询列表中的对象的 ID,然后循环生成单独的 SQL/RPC 去查询对象的详细数据。这会导致 SQL/RPC 查询过多问题。

在一个循环内多次执行 RPC 调用或者数据库操作。数据量小的时候问题不大,能跑起来。随着业务的发展,数据量越来越大,或者要查询的 id 越来越多(特别是未加限制的时候),耗时部题可想而知,长尾会越来越多。

   3.2 案例

⓵ 循环中的 RPC

读取多条记录时在 for 循环中去分别读取单行。

for _, id := range ids {
    record := GetDetail(id)
    // do something ...
}

解决方案:改批量(一次从存储中取出所有 id 的结果)

records := GetDetails(ids)
// do something ...

   3.3 小结

谚云:积羽沉舟,群轻折轴

上述场景是一个典型的 N+1 问题,不限于读取,写入亦然。它可能导致性能问题和增加数据库负载。

为了解决 N+1 问题,开发人员可以使用一些技术,如批量加载(batch loading)、批量更新(Bulk Updates),从而减少请求次数。通过优化数据库查询和加载策略,开发人员可以避免 N+1 问题,并提高应用程序的效率。

04

异步思想:解决长耗时问题

异步思想是一种解决长耗时问题的方法,它通过将耗时的操作放在后台进行,不阻塞主线程或其他任务的执行,从而提高系统的响应性能和并发处理能力。

   4.1 业务场景

在处理一些复杂的业务场景时,对于部分操作考虑使用异步,可以大幅降低接口耗时。

比如,在做服务性能优化时,可以将如数据上报、流水日志等做异步处理,以降低接口时延。用户上传图片后的审核,音视频的合成等等。

   4.2 案例

⓵ 子过程改异步、协程

以文本配音(TTS)为例,【合成音频】和【添加音效】这两个子过程耗耗时比较长:https://kf.zenvideo.qq.com/help/doc?id=dcccf9045b50dca3

8c6102072eac576b9f0b8927e64b1525.png

我们可以把耗时长的部分封装到一个异步任务中,并生成一个任务 ID,后续可以查询处理进度和结果。音频生成部分改为异步任务是因为该子过程是文本配音的关键路径(主流程、耗时长),对非关键路径如【数据埋点】直接改为协程处理即可:

484a25c512d01785131dce89fc90cbef.png

⓶ 异步在数据库、消息队列的应用

异步处理在数据库中同样应用广泛,例如  Redis  的 bgsave,bgrewriteof 就是分别用来异步保存 RDB 跟 AOF 文件的命令,bgsave 执行后会立刻返回成功,主线程 fork 出一个线程用来将内存中数据生成快照保存到磁盘,而主线程继续执行客户端命令;Redis  删除 key 的方式有 del 跟 unlink 两种,对于 del 命令是同步删除,直接释放内存,当遇到大 key 时,删除操作会让  Redis  出现卡顿的问题,而 unlink 是异步删除的方式,执行后对于 key 只做不可达的标识,对于内存的回收由异步线程回收,不阻塞主线程。

MySQL  的主从同步支持异步复制、同步复制跟半同步复制。异步复制是指主库执行完提交的事务后立刻将结果返回给客户端,并不关心从库是否已经同步了数据;同步复制是指主库执行完提交的事务,所有的从库都执行了该事务才将结果返回给客户端;半同步复制指主库执行完后,至少一个从库接收并执行了事务才返回给客户端。有多种主要是因为异步复制客户端写入性能高,但是存在丢数据的风险,在数据一致性要求不高的场景下可以采用,同步方式写入性能差,适合在数据一致性要求高的场景使用。

此外,对 Kafka 的生产者跟消费者都可以采用异步的方式进行发送跟消费消息,但是采用异步的方式有可能会导致出现丢消息的问题。对于异步发送消息可以采用带有回调函数的方式,当发送失败后通过回调函数进行感知,后续进行消息补偿。

   4.3 小结

一些常见的异步编程方式有:

f7c46342971fb8c348b9d539dcf39965.png

需要注意的是,异步并没有缩短整体的响应时间,反而可能有所增加。异步编程有优点也有缺点,可根据自身业务选型:

优点:

  1. 提高系统的响应性能:异步编程可以避免长耗时操作阻塞主线程或其他任务的执行,从而提高系统的响应速度和用户体验。通过将耗时操作放在后台进行,主线程可以继续执行其他任务,不必等待操作的完成。

  2. 提高并发处理能力:异步编程可以与其他任务并发执行,充分利用系统资源,提高系统的并发处理能力。通过将多个任务同时进行,可以减少总体的处理时间,提高系统的吞吐量。

  3. 节省资源消耗:异步编程可以减少不必要的资源消耗。通过将耗时操作放在后台进行,可以避免占用过多的 CPU 时间和内存资源,提高系统的资源利用率。

  4. 提高代码的可读性和维护性:异步编程可以使代码更加简洁和易于理解。通过使用异步/等待或 Promise 等编程模式,可以以同步的方式编写异步代码,提高代码的可读性和维护性。

  5. 支持并行计算和分布式处理:异步编程可以支持并行计算和分布式处理。通过将任务分解为多个子任务,并使用多线程、分布式计算或 GPU 并行计算等技术,可以实现高效的并行计算和数据处理。

  6. 提高系统的可扩展性:异步编程可以提高系统的可扩展性。通过将任务分发给多个处理单元或节点进行并行处理,可以实现分布式的并发处理和负载均衡,提高系统的可扩展性和性能。

缺点:

  1. 复杂性增加:异步编程涉及到回调函数、Promise、异步/等待等概念和技术,对于初学者来说可能会增加学习和理解的难度。

  2. 错误处理复杂:异步编程中的错误处理可能会更加复杂,需要处理回调函数中的错误、Promise 链中的异常等情况,增加了代码的复杂性。

  3. 可能引发竞态条件:在并发环境下,异步编程可能会引发竞态条件(Race Condition)和数据一致性的问题,需要额外的并发控制和数据同步机制来解决。

  4. 调试困难:由于异步编程中任务的执行顺序和时间不确定,调试异步代码可能会更加困难,需要使用适当的调试工具和技术。

  5. 可能导致回调地狱:在复杂的异步操作中,使用回调函数可能会导致回调地狱(Callback Hell),使代码难以理解和维护。这可以通过使用 Promise、异步/等待等技术来缓解。

综上所述,异步编程具有许多优点,可以提高系统的性能和响应能力。然而,它也存在一些缺点,需要在设计和实现中注意解决相关的问题。合理地应用异步编程,可以最大程度地发挥其优点,减少其缺点的影响。

05

并行思想:提升处理效率

   5.1 业务场景

并行思想是一种同时执行多个任务或操作的方法,以提高系统的处理能力和效率。在并行思想中,任务被分解为多个子任务,并且这些子任务可以同时执行,充分利用多核处理器或分布式系统的资源。

   5.2 案例

⓵ 并发合成字幕 & 上传 cos

智影极速版剪辑器生成视频时,我们会把字幕轨道先合成一个字幕文件并上传到 cos:

3dde489f1e8ec3d7e5fc438b2999e627.png

因为生成 srt 字幕后还要上传,若串行执行的话,当字幕轨道比较多的时候(比如 10 个)最终的耗时可能就会比较长了。这时,并行处理就能极大地提升效率:

25dd140d16047f778dc40bb14f37a136.png

主要使用了 errgroup 这个包,伪代码:

package subtitle


import (
  "context"


  "golang.org/x/sync/errgroup"
)


// TracksAsSrt 轨道转字幕
func TracksAsSrt(ctx context.Context, tracks []*Track) (err error) {
  eg := errgroup.Group{}
  for i := range tracks {
    track := tracks[i]
    eg.Go(func() error {
      // 生成当前字幕轨的字幕文件名
      filename := GetSrtFilename(track)


      // 把轨道转为字幕
      srt := ConvertTrackToSrt(track)


      // 把字幕上传到 cos
      if _, err = tools.NewSrtCosHelper().Upload(ctx, filename, srt); err != nil {
        return err
      }
      return nil
    })
  }
  return eg.Wait()
}

性能对比:

简单起见,逻辑处理部分的耗时用 sleep 模拟。

file.go:

// TracksAsSrtSingle 轨道转字幕(串行)
func TracksAsSrtSingle(ctx context.Context, tracks Tracks) (err error) {
  for i := range tracks {
    i = i
    // 模拟耗时
    time.Sleep(100 * time.Millisecond)
  }
  return nil
}


// TracksAsSrtBatch 轨道转字幕(并行)
func TracksAsSrtBatch(ctx context.Context, tracks Tracks) (err error) {
  eg := errgroup.Group{}
  for i := range tracks {
    i = i
    eg.Go(func() error {
        // 模拟耗时
      time.Sleep(100 * time.Millisecond)
      return nil
    })
  }
  return eg.Wait()
}

压测结果符合预期:并行 10 个的话,性能提升 10 倍:

cpu: VirtualApple @ 2.50GHz
BenchmarkTracksAsSrtSingle
BenchmarkTracksAsSrtSingle-10 1 1003969084 ns/op 2410792 B/op 19474 allocs/op




cpu: VirtualApple @ 2.50GHz
BenchmarkTracksAsSrtBatch
BenchmarkTracksAsSrtBatch-10 10 100319896 ns/op 226600 B/op 2026 allocs/op

细心的读者已经发现,通过并行处理也能变相地实现批量。不一定非要被下游服务提供一个批量接口。

   5.3 小结

谚云:人多力量大

在现代操作系统中,我们可以很方便地编写出多进程的程序。多进程间的通信是需要重点考虑的事项之一,这种通信方式叫作 IPC(Inter- Process Communication)。

在 Linux 操作系统中可以使用的 IPC 方法有很多种。从处理机制的角度看,它们可以分为:

4acabefa8656c4278dbc62bd5acabd2b.png

并发这个概念由来已久,主要思想是使多个任务可以在同一个时间段内执行,以便能够更快地得到结果。

Go 最明显的优势在于拥有基于多线程的并发编程方式。协程有风险,使用须谨慎。协程不是越多越好,当可能出现大量 goroutine 时,可以考虑使用协程池对其管理。ants 是一个高性能且低损耗的 goroutine 池。

06

空间换时间思想:降低耗时

   6.1 业务场景

空间换时间思想是一种常见的优化策略,它通过增加额外的空间(内存、缓存等)来减少程序的执行时间。这种思想的基本原理是通过预先计算、缓存或索引等方式,将计算或数据存储在更快的存储介质中,以减少访问时间和计算时间。这样可以避免重复计算或频繁的磁盘访问,从而提高程序的执行效率。

   6.2 案例

缓存优化是性能优化中的一个重要环节,它可以显著提高系统的响应速度和吞吐量。常见的应用有:

aeea022de563d8595c068d92c8edb99c.png

  • 分布式缓存:

    • Redis(https://github.com/redis/redis)

    • Memcached(https://github.com/memcached/memcached)

  • 本地缓存组件:

    • bigcache(https://github.com/allegro/bigcache)

   6.3 小结

谚云:彼亦一是非,此亦一是非

使用缓存虽然可以提升服务端性能和用户体验,但是也会带来其他问题,如数据一致性问题。还有缓存雪崩、缓存穿透、缓存并发、缓存无底洞、缓存淘汰等问题。

Every coin has two sides。对于上述的缓存应用,可以根据自身的业务场景和系统架构进行选择和组合。以解决业务主要矛盾,不引入新问题为要。

07

连接池:资源复用

   7.1 业务场景

连接池(Connection Pool)是创建和管理连接的缓冲池技术。

连接池的原理是通过预先创建一定数量的连接对象,并将其保存在池中。当需要使用连接时,从池中获取一个可用的连接对象,使用完毕后归还给池,而不是每次都创建和销毁连接对象。这样可以避免频繁地创建和销毁连接对象,提高系统性能和资源利用率。

常见的连接池有:数据库连接池( go-redis 连接池、go-orm 连接池)、线程池(Go 协程池 ants)、HTTP 连接池等。

go-redis 连接池:

https://github.com/redis/go-redis/tree/master/internal/pool

go-orm 连接池:

https://github.com/go-xorm/manual-zh-CN/blob/master/chapter-01/1.engine.md

Go 协程池 ants:

https://github.com/panjf2000/ants

通常,连接池包含以下几个关键组件:

  1. 连接池管理器:负责创建、初始化和管理连接池。

  2. 连接对象池:保存连接对象的容器,提供获取和归还连接对象的方法。

  3. 连接对象:表示与资源(如数据库、线程、HTTP 服务器)的连接。

连接池的工作流程如下:

  1. 初始化连接池:创建一定数量的连接对象,并将其保存在连接对象池中。

  2. 获取连接:当需要使用连接时,从连接对象池中获取一个可用的连接对象。

  3. 使用连接:使用获取到的连接对象进行相应的操作,如执行数据库查询、执行线程任务、发送 HTTP 请求等。

  4. 归还连接:使用完毕后,将连接对象归还给连接对象池,使其可供其他请求使用。

  5. 销毁连接:当连接池不再需要时,可以销毁连接对象,释放资源。

d0a0580897d92fc27a04f6fc04addd8c.png

   7.2 案例

⓵ go-redis 连接池

总览下连接池的核心代码结构,go-redis 的连接池实现分为如下几个部分:

  1. 连接池初始化、管理连接;

  2. 建立与关闭连接;

  3. 获取与放回连接,核心实现 Get、Put;

  4. 监控统计 && 连接保活配置;

260790e2f7c9edb3ab1631bab6011899.png

图:go-redis 连接池的基本流程

原理可参考:《Go-Redis 连接池(Pool)源码分析》

   7.3 小结

总的来说,连接池是一种有效管理和复用连接的技术,它可以提高性能、节省资源、控制连接数、提高可靠性,并简化应用程序的编程。在高并发的场景下,使用连接池是一种常见的优化手段。

08

业务场景

   8.1 业务场景

安全思想是指在设计、开发和维护计算机系统和网络时,将安全性作为首要考虑的原则和理念。它强调在整个系统生命周期中,从设计阶段到实施和运行阶段,都要考虑安全性,并采取相应的措施来保护系统免受恶意攻击和数据泄露的威胁。

   8.2 案例

⓵ Go 安全编码实践指南

采用安全编码实践,可以提高应用程序的安全性,减少潜在的安全风险,并为用户提供更可靠和安全的体验。

本节内容摘自 OWASP 的 《Go-安全编码实践指南》

http://www.owasp.org.cn/OWASP-CHINA/go-webapp-scp-cn.pdf

b9a639dd9812b34744a7770359f7fc1b.png

其他:

  • 《OWASP 安全编码规范 快速参考指南》

    http://www.owasp.org.cn/OWASP-CHINA/owasp-project/download/OWASP_SCP_Quick_Reference_Guide-Chinese.pdf

  • 《十大关键 API 安全风险》

    http://www.owasp.org.cn/OWASP-CHINA/owasp-project/OWASPAPITop102019.pdf

  • CSRF 防御手册

    https://cheatsheetseries.owasp.org/cheatsheets/Cross-Site_Request_Forgery_Prevention_Cheat_Sheet.html

  • RE2

    https://github.com/google/re2

  • 《2021 OWASP TOP 10》

    http://www.owasp.org.cn/OWASP-CHINA/owasp-project/OWASP-TOP10-2021%E4%B8%AD%E6%96%87%E7%89%88V1.0%E5%8F%91%E5%B8%83.pdf

⓶ 业界安全事件分析与借鉴

时间事件原因分析我们的参考应对
45019三星引入 ChatGPT 后疑似泄露公司资料三星接入 ChatGPT 后有员工在使用过程中上传了源码和会议记录业界普遍怀疑 ChatGPT 可能收集对话数据用于训练迭代,可能会在其他对话中漏出不泄露公司敏感信息,以免触碰高压线
1、不把工作代码贴进 ChatGPT 对话中
2、对话过程中不输入公司敏感信息与资料,如密码密钥、业务数据、财务数据、用户个人数据、未公开算法等
44930黑客出售 2 亿 Twitter 用户个人资料推测为根据 2022 年漏洞泄露的数据做整理
2022 年漏洞原因:twitter接口会根据传入的邮箱或手机号返回对应的 twitterID
1、API 设计应避免泄露用户个人数据,特别是对不需要做身份校验的接口
4496945 亿条快递数据遭泄露可能为快递/电商平台等多个泄露源拼接而成,过往主要泄露原因包括:
1、API 接口漏洞导致泄露
2、内鬼泄露
3、云仓平台被植入木马后泄露
1、API 接口不返回多余信息;敏感 API 接口做严谨鉴权
2、内部人员权限按需最小化授予,管理平台限制导出条数
45005ChatGPT 部分用户可查看他人聊天记录所使用的redis python 客户端连接池存在 bug,对部分特殊场景的请求会错误分配到他人的处理连接,相应的返回他人的数据1、保持使用最新版或安全版本的第三方软件,对提示有漏洞的版本及时升级修复
2、优先从内部软件源下载第三方组件,其次从软件官网
44941俄罗斯科技巨头 Yandex 内部源代码泄露员工离职前恶意下载和泄露源代码

(twitter 3 月份也有员工泄露源码事件)
1、源码中不写入密钥密码等敏感数据,改为存放至七彩石或 KMS,收到类似风险提醒时切实修改,不随意忽略
2、公司对源码恶意下载和泄露有监控和审计溯源能力,建议团队内做好宣导,以免违规违法

   8.3 小结

谚云:防患于未然

安全思想和漏洞防护是保护计算机系统和网络安全的重要方面。通过将安全性纳入系统设计和开发的早期阶段,并采取相应的漏洞防护措施,我们可以降低系统遭受攻击的风险,保护用户的数据和隐私,确保系统的正常运行。

09

业务场景

   9.1 业务场景

在数据量稍大些的场景中,传输时间往往占耗时的大头。压缩算法在数据存储、数据传输和用户体验等方面都具有重要的作用,可以提高效率、节省资源和改善用户体验。

   9.2 案例

⓵ 压缩算法在 HTTP 协议中的应用

压缩应我们身边。

860b90c98a7a0cb7767acd1cc3bd0cb5.png

Content-Encoding 是 HTTP 协议中的一个头部字段,用于指示服务器对响应内容进行了何种类型的编码压缩。它的作用是告知客户端如何解码和还原服务器返回的压缩内容。

Content-Encoding 的作用包括:

  1. 压缩传输:通过使用 Content-Encoding 头部字段,服务器可以对响应内容进行压缩,减小数据的大小,从而减少传输的数据量和网络带宽消耗。这可以提高网络传输的效率,加快数据的传输速度。

  2. 节省带宽:通过压缩响应内容,Content-Encoding 可以减少数据的大小,从而节省网络带宽。这对于网络流量较大的网站和应用程序来说,可以降低服务器和网络的负载,提高整体性能和响应速度。

  3. 客户端解压缩:客户端在收到带有 Content-Encoding 头部字段的响应时,可以根据指定的压缩算法对内容进行解压缩。这样客户端就能够还原压缩前的原始内容,以便正确处理和显示。

常见的 Content-Encoding 值包括:Gzip、Deflate、Br 等算法。

对于 REST API 的开发者来说,资源表示压缩是一项非常重要的技术,可以帮助我们提高 API 的性能,减少响应大小,提升用户体验。

⓶ 压缩算法在构建部署项目的一次实践

先说结论:压缩平均节省了 90% 的时间。

本节将以 《速度与压缩比如何兼得?压缩算法在构建部署中的优化》为例,简要说明压缩算法在项目实践中的效果。

  • 文中用的是镜像的构建包数据;

  • 方案对比测试中选择了 1GB 左右的构建包进行压缩测试,既能覆盖 99% 的场景,也可以看出压缩算法之间比较明显的提升;

几种压缩算法对比:

文中测试了这几种算法结果(多次运行选择结果的中位数),数据对比如下表格:

bf3ddf46598e2e451e238d1d36aca412.png

Zstd 官方 Benchmark 数据对比

fee03a4b393a239abed413669451c51c.png

文中用 Zstd 对镜像的发布包做了测试,结论如下:

  • 我们采用 Zstd 默认的参数进行了测试,压缩时间 8.471 s 仅为原来的 11.266%,提升了 88.733%。

  • 解压时间 3.211 仅为原来的 29.83%,提升约为 70.169%。

  • 同时压缩率也从 2.548 提升到了 2.621。

优劣分析总结:

b55df0df2d5ec21ea93ef15e1e4836bc.png

在测试案例对比中,时间耗时的顺序为 Pzstd < ISA-L < Pigz < LZ 4 < Zstd < Brotli < Gzip (排名越靠前越好),其中压缩和解压缩的时间在整体的耗时上占比较大,因此备选策略为 Pzstd、ISA-L、Pigz。

详细的测试过程和方案对比可以参考原文:《速度与压缩比如何兼得?压缩算法在构建部署中的优化》

   9.3 小结

谚云:没有最好,只有最适合

压缩算法的衡量指标包括:压缩比、压缩/解压速度、CPU/内存占用等。这些指标通常是相互关联的,不同的压缩算法在不同的数据类型和压缩设置下可能表现出不同的性能。选择合适的压缩算法应综合考虑这些指标,并根据具体的应用需求进行权衡。

10

解耦:消息队列

   10.1 业务场景

消息队列是重要的分布式系统组件,在高性能、高可用、低耦合等系统架构中扮演着重要作用。可用于异步通信、削峰填谷、解耦系统、数据缓存等多种业务场景。

7d940209af469c434ac7011107834970.png

常用的消息队列实现有:Kafka、RabbitMQ、RocketMQ、Pulsar、ActiveMQ 等等。

   10.2 案例 

⓵ 解耦系统

以电商系 IT 架构为例。在传统的紧耦架构中,客户下单后,订单系统收到请求后,调用库存系统减库存。这种模式有如下缺点:

  • 订单系统与库存系统强耦合,可能是服务内 RPC 调用;

  • 遇到突发流量时,库存系统负载(查询、修改)。

引用 MQ 后的方案:

978654c7f61332fc8cfa87cb4db139b6.png

引入 MQ 后,订单系统和库存系统分别工作,解除了强耦合性。即便在下单时库存系统宕机了,也不影响正常下单(待库存系统恢复后,从 MQ 取出订单保证最终成功)。

电商网站中,新的用户注册时,需要将用户的信息保存到数据库中,同时还需要额外发送注册的邮件通知、以及短信注册码给用户。

⓶ 异步通信

电商网站中,新的用户注册时,需要将用户的信息保存到数据库中,同时还需要额外发送注册的邮件通知、以及短信注册码给用户。

传统的做法有两种:串行的方式、并行的方式。

串行的方式:

将注册信息写入数据库后,先发送邮件通知,再发送短信提醒。以上三个任务全部完成后,返回给客户端。

840bc17f7bdff5b60306dee3614ce1e9.png

图:串行发送

并行的方式:

将注册信息写入数据库成功后,发送注册邮件的同时,发送注册短信。以上三个过程完成后,返回给客户端。与串行的差别是并行的方式可以缩短处理时间。

c7e94a3dce49ede014db3376f18f3ea0.png

图:并行发送

消息队列:

引入消息队列后,非关键路径(通知部分)就可以异步处理了,从而实现快速响应:

  • 注册信息写入数据库成功后,再把发送注册邮件、注册短信的消息写入消息队列,返回给客户端;

  • 然后,服务端订阅消息队列(保证最终成功),分别发送注册邮件、注册短信。

999fb499309ec7ac95e6f4835a884a6a.png

⓷ 削峰填谷

像双十一、手机预约抢购等对 IO 时延敏感的业务场景,当外部请求超过系统负载时,如果系统没有过载保护策略,很可能会被短时的峰值流量冲垮。

3b59dc79ba55470f83b884bb31f48f02.png

针对这种洪峰流量,引入消息队列,将非即时处理的业务逻辑进行异步化,处理成功后通知用户(邮件、短信等)。这种削弱峰值流量延缓处理的方式,相当于给系统做了一层缓冲。

b2902b286ae8b14266cc2fb7f9c06e58.png

图:削峰填谷

上图中,黄色的部分代表超出消息处理能力的部分。把黄色部分的消息平均到之后的空闲时间去处理,这样既可以保证系统负载处在一个稳定的水位,又可以尽可能地处理更多消息。通过配置流控规则,可以达到消息匀速处理的效果。

⓸ 广播

假如,客户购买商品后,子系统会有以下动作:

  • 积分系统累积成长积分;

  • 赠品系统给客户发赠品;

  • 推荐系统推送商品周边;

  • …

凡此种种,这些子系统之间没有依赖关系。引入 MQ 可以大大简化业务逻辑:

  • 降低交易系统的复杂度,仅生产交易消息;

  • 解除系统间依赖,生产一次数据,可被不同子系统同时消费,多次复用;

  • 可以根据业务特性,延迟处理。

92758da908056535e525faca9613bc8e.png

⓹ 延时队列

消息队列可以实现一些延时操作,如定时调度、超时处理等。

分布式定时调度:

在需要精细化调度的场景中,如每 2 分钟触发一次消息推送。传统基于数据库的定时调度方案在分布式场景下(特别是数据量大的时候),性能不高,实现复杂。基于消息队列(如 RocketMQ)可以封装出定时触发器。

任务超时处理:

以购买火车票为例,我们在 12306 下单后暂未支付,订单是不会被取消的。而是等待一段时间后(如 30 min),系统才会关闭未支付的订单。可以使用消息队列实现超时任务检查:

675426bece4a8adb63bfa661f325f07c.png

基于定时消息的超时任务处理有如下优势:

  • 精度高、开发门槛低:基于消息通知方式不存在定时阶梯间隔。可以轻松实现任意精度事件触发,无需业务去重。

  • 高性能可扩展:传统的数据库扫描方式较为复杂,需要频繁调用接口扫描,容易产生性能瓶颈。消息队列具有高并发和水平扩展的能力。

其他:

延迟消息的使用场景很多,比如异常检测重试、订单超时取消等,例如:

  • 服务请求异常,需要将异常请求放到单独的队列,隔 5 分钟后进行重试;

  • 用户购买商品,但一直处于未支付状态,需要定期提醒用户支付,超时则关闭订单;

  • 面试或者会议预约,在面试或者会议开始前半小时,发送通知再次提醒。

   10.3 案例 

谚云:All problems in computer science can be solved by another level of indirection.

计算机科学中的所有问题都可以通过另一个中间层来解决。

11

复用:设计模式

   11.1 业务场景

内行的设计者知道:不是解决任何问题都要从头做起。他们更愿意复用以前使用过的解决方案。当找到一个好的解决方案,他们会一遍一遍地使用。因此,你会在许多面向对象系统中看到类和相互通信的对象的重复模式。

设计模式是软件设计中常见问题的典型解决方案。它们就像能根据需求进行调整的预制蓝图,可用于解决代码中反复出现的设计问题。

每一个模式描述了一个在我们周围不断重复发生的问题,以及该问题的解决方案的核心。这样,就能一次又一次地使用该方案而不必做重复劳动。

模式依目的可划分为三种:

  • 创建型(Creational):与对象创建有关,增加已有代码的灵活性和可复用性;

  • 结构型(Structural):处理类或对象的组合,并保持结构的灵活的高效;

  • 行为型(Behavioral):描述类或对象怎样交互和怎样分配职责。

   11.2 案例

各设计模式并不是孤立的,他们之间有着千丝万缕的联系:

f3c158410780d73959888aac87bcc242.png

——摘自 GOF 的 《设计模式:可复用面向对象软件的基础》。https://github.com/Seanforfun/Books/blob/master/Java/%E8%AE%BE%E8%AE%A1%E6%A8%A1%E5%BC%8F_%E5%8F%AF%E5%A4%8D%E7%94%A8%E9%9D%A2%E5%90%91%E5%AF%B9%E8%B1%A1%E8%BD%AF%E4%BB%B6%E7%9A%84%E5%9F%BA%E7%A1%80.pdf

限于篇幅,本文不再罗列各模式的具体实现。Go 版本实现可参考:《golang-design-pattern》

https://github.com/senghoo/golang-design-pattern

⓵ 创建型模式

  • 简单工厂模式(Simple Factory)

    https://github.com/senghoo/golang-design-pattern/tree/master/00_simple_factory

  • 工厂方法模式(Factory Method)

    https://github.com/senghoo/golang-design-pattern/tree/master/04_factory_method

  • 抽象工厂模式(Abstract Factory)

    https://github.com/senghoo/golang-design-pattern/tree/master/05_abstract_factory

  • 创建者模式(Builder)

    https://github.com/senghoo/golang-design-pattern/tree/master/06_builder

  • 原型模式(Prototype)

    https://github.com/senghoo/golang-design-pattern/tree/master/07_prototype

  • 单例模式(Singleton)

    https://github.com/senghoo/golang-design-pattern/tree/master/03_singleton

⓶ 结构型模式

  • 外观模式(Facade)

    https://github.com/senghoo/golang-design-pattern/tree/master/01_facade

  • 适配器模式(Adapter)

    https://github.com/senghoo/golang-design-pattern/tree/master/02_adapter

  • 代理模式(Proxy)

    https://github.com/senghoo/golang-design-pattern/tree/master/09_proxy

  • 组合模式(Composite)

    https://github.com/senghoo/golang-design-pattern/tree/master/13_composite

  • 享元模式(Flyweight)

    https://github.com/senghoo/golang-design-pattern/tree/master/18_flyweight

  • 装饰模式(Decorator)

    https://github.com/senghoo/golang-design-pattern/tree/master/20_decorator

  • 桥模式(Bridge)

    https://github.com/senghoo/golang-design-pattern/tree/master/22_bridge

⓷ 行为型模式

  • 中介者模式(Mediator)

    https://github.com/senghoo/golang-design-pattern/tree/master/08_mediator

  • 观察者模式(Observer)

    https://github.com/senghoo/golang-design-pattern/tree/master/10_observer

  • 命令模式(Command)

    https://github.com/senghoo/golang-design-pattern/tree/master/11_command

  • 迭代器模式(Iterator)

    https://github.com/senghoo/golang-design-pattern/tree/master/12_iterator

  • 模板方法模式(Template Method)

    https://github.com/senghoo/golang-design-pattern/tree/master/14_template_method

  • 策略模式(Strategy)

    https://github.com/senghoo/golang-design-pattern/tree/master/15_strategy

  • 状态模式(State)

    https://github.com/senghoo/golang-design-pattern/tree/master/16_state

  • 备忘录模式(Memento)

    https://github.com/senghoo/golang-design-pattern/tree/master/17_memento

  • 解释器模式(Interpreter)

    https://github.com/senghoo/golang-design-pattern/tree/master/19_interpreter

  • 职责链模式(Chain of Responsibility)

    https://github.com/senghoo/golang-design-pattern/tree/master/21_chain_of_responsibility

  • 访问者模式(Visitor)

    https://github.com/senghoo/golang-design-pattern/tree/master/23_visitor

   11.3 小结

正如前面提到的:“不是解决任何问题都要从头做起”。

设计模式是一种在软件设计中解决问题的方法论,它可以提高代码的可维护性、可重用性和可扩展性,同时也有助于提高软件系统的可靠性和稳定性。

-End-

原创作者|梁元铮

 70fe51a9158ff59334bfa0a56f1511f6.png

你有哪些好用的优化接口的技巧?欢迎评论留言。我们将选取1则优质的评论,送出腾讯Q哥公仔1个(见下图)。11月26日中午12点开奖。

64d031e9e7a2f02c1034058c4a958d08.jpeg

📢📢欢迎加入腾讯云开发者社群,享前沿资讯、大咖干货,找兴趣搭子,交同城好友,更有鹅厂招聘机会、限量周边好礼等你来~

99aece45f0580cbd7bf708ee10b24b27.jpeg

(长按图片立即扫码)

43538f42093f8e70073a867eea8e9ec4.png

089afe82da678986c77f1a9096ea7211.png

d0e713e2589c6691b6d28118c3963f09.png

aa4141add015f2c9204367be5c12ff56.png

8b3efa4e4ad43202c98415364ac684c7.png

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 404

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1162

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 424

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 713

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 715

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1125

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 710

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 708

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 906

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 821

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 464

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 574

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 621

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 838

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 756

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1161

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1202

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1195

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2631

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 626

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 607

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 873

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 889

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 760

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 418

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 673
上一篇: 第十届中国行业互联网大会暨腾讯云TVP行业大使三周年庆典圆满举办!
下一篇: 高可用这个问题,加机器就能解决?
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值