- 博客(3)
- 收藏
- 关注
原创 单Agent还是Multi-Agent? Agent架构选型核心知识点全总结
Agent架构选型核心要点总结 单Agent适合简单任务,优势在于低延迟、易调试和一致性,但当工具超过15个、任务步骤超20步或需并行处理时,性能会明显下降。Multi-Agent通过分治实现并行化、专项化和容错性,能有效解决复杂任务,但会引入通信和调试复杂度。架构选型需考虑任务可分解性、通信成本等因素,同时必须设计完善的失败处理机制,包括熔断、重试和状态回滚等。工具集中管理会导致注意力稀释和权限耦合,应按职责拆分到不同Agent。Multi-Agent失败处理需分层应对,包括故障识别、单点容错、级联阻断和
2026-04-20 15:41:23
556
原创 stable-diffusion-webui RAM内存泄漏问题
在一些复杂的应用中,在代码路径的某些地方可能没有正确释放内存。webui在切换模型时,会先check内存中是否有加载过此模型,如果有则直接从内存中读取,没有就去磁盘中加载,并且判断已加载模型数量是否大于checkpoint_limit,不满足则会在下次切换其他模型时将此模型权重加载到内存中(send_to_cpu())。一句话总结就是,webui在切换模型时,工程师偷懒了,并没有考虑在内存频繁读取和分配时做好垃圾回收和释放,导致重复向内存中写入模型权重,他们估计也发现了这个问题,怎么解决呢?
2024-05-24 18:36:39
2690
1
原创 HTML文档大纲提取
最近公司要做新版的帮助中心文档展示(开发文档、用户帮助文档),叫我来调研技术方案。要以最低成本最快时间完成。由于公司给用户的帮助文档之前都维护在语雀中,考虑到迁移成本和时间成本,优先考虑接入语雀Api完成需求。但是发现语雀只支持返回html和markdown源码,没有文档大纲的数据。所以需要我们的后端开发同学来提取大纲的数据,在github上找到了两三个相关项目代码,但都是以python实现的,代码很乱,也没有耐心去阅读实现思路。在此记录一下实现过程。
2022-09-05 10:44:51
723
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅