从DeepSeek到Manus:如何实现本地LLM微调+联网开发?

图片

图片

👉目录

1 LLaMA-Factory本地大模型微调

2 本地大模型联网功能开发

3 业务场景探索

4 未来展望与实践建议

从 ChatGPT 到 DeepSeek 再到最近大热的 Manus,AI 技术从模型端的破圈进一步扩展到了 Agent 方向。拥有一个定制化的、能够理解你业务需求的 AI 助手不再是科幻,而是触手可及的现实。

然而,市面上的通用大模型往往难以深入理解特定领域知识,更不用说完全掌控数据隐私。本文将带你走进 AI 定制化的世界,从模型微调到功能开发,从技术探索到产品思考,一站式解决你的 AI 落地难题。

关注腾讯云开发者,一手技术干货提前解锁👇

01

LLaMA-Factory本地大模型微调

当前,以Claude、DeepSeek、GPT等为代表的通用大语言模型展现出惊人的知识覆盖和任务泛化能力,但在垂直行业场景中常常面临“博而不精”的困境——医疗诊断时可能混淆专业术语、法律咨询时缺乏最新司法解释援引、金融分析时难以把握行业特有指标。这种通用性与专业性的矛盾,催生了“模型蒸馏-领域适配-任务聚焦”的三级进化路径:通过知识蒸馏压缩模型体积,依托行业语料进行领域微调(Domain Adaptation),最终基于具体业务需求实现任务专属优化(Task-Specific Tuning)。

本次实验选用DeepSeek开源的DeepSeek-R1-Distill-Qwen-1.5B模型(作者也想微调本地更大参数等模型,但碍于GPU算力有限,主要展示微调过程实现与原理),该模型采用知识蒸馏技术将原始Qwen大模型压缩至1.5B参数量级,通过LLaMA-Factory框架,展示如何将这款轻量化模型进一步微调为特定领域专家,验证“通用基座-行业中间层-业务终端”的渐进式优化路径。

模型微调的本质是参数空间的迁移学习,通过在目标领域数据上的梯度更新,使模型逐步弱化通用语义理解,强化垂直领域特征提取能力。这种技术路径不仅能够提升专业任务准确率(某医疗AI实验显示微调后诊断建议准确率提升41.2%),更可突破大模型固有的知识时效局限(通过注入最新行业数据更新模型认知)。本文将以完整的实验闭环,揭示大模型从“通才”到“专才”的进化密码。

   1.1 环境准备

机器信息:

名称描述
GPU类型Tesla T4
显存8GB
内存36GB
系统tLimux-集成版

3fe899b143a5dc5c9b51ffd3ca549ece.png

模型下载

基座模型(deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B)

pip install -U huggingface_hub
pip install huggingface-cli
export HF_ENDPOINT=https://hf-mirror.com #国内HF镜像代理 可选
huggingface-cli download --resume-download deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B --local-dir /data/llm/models/DeepSeek-R1-Distill-Qwen-1.5B

LLaMA-Factory安装

git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e .

基座模型部署及效果展示

启动 LLama-Factory webUI

cd LLaMA-Factory
llamafactory-cli webui

64866ce1b9c3a5187b29661817aafc54.png

浏览器访问 ip:7860

f5ddf4aa84feeb81259ec9f223655bd8.png

配置模型名称以及本地模型文件路径,然后点击加载模型,此时 LLaMA-Factory 就会加载路径下单模型。

此时在 ChatBox 与模型进行对话:

422d72067ea04328bdc41725516d1a74.png

   1.2 微调

微调数据准备

此处只有极少量数据,做案例使用,为了与基础模型做区别,在补充一个身份识别的预训练数据。

identity.json:

b692aa661ed7e88d5618e3f5507f8312.png

其中微调数据中:

字段名称定义示例说明
instruction需要模型完成的核心任务指令"介绍你自己"需用完整疑问句明确任务,如示例中的就业前景分析
input任务执行的补充输入信息""(示例为空)当需要额外数据时使用,如待翻译文本、待分析数据等
output对应指令的标准答案输出"xxxxx"(截断示例)应包含事实数据(如就业率)、逻辑框架(分点论述)、专业术语
history多轮对话历史记录[ ["之前问题1", "回答1"], ["之前问题2", "回答2"] ]可以为空

微调+原理解析

将微调数据放入到LLaMA-Factory/data/目录下。(注意:LLaMA-Factory 默认包含 identity.json数据集,覆盖即可)

ba863e678c57a02d437a5557c5fd0709.png

修改数据注册文件dataset_info.json文件。增加

b5dd8e774bb6414e1f85f527cb4b54de.png

微调原理简介:在预训练的模型基础上,用特定领域数据进一步训练以适配具体任务,例如:用法律文书数据微调模型以提升法律咨询准确性。

方法分类:

  1. 全参数微调:调整所有参数,适用于数据充足的场景。

  2. 轻量级微调:如LoRA(低秩适配),仅更新部分参数,降低计算成本。

这个实验场景中就是使用的LoRA进行微调。LoRA具体的原理可参考:https://arxiv.org/pdf/2106.09685

webui配置微调:

7800ebd6e9dad3e6d8c38fcd0d90d94f.png

llamafactory-cli train \
    --stage sft \
    --do_train True \
    --model_name_or_path /data/llm/models/DeepSeek-R1-Distill-Qwen-1.5B \
    --preprocessing_num_workers 16 \
    --finetuning_type lora \
    --template deepseek3 \
    --flash_attn auto \
    --dataset_dir data \
    --datasetidentity \
    --cutoff_len 2048 \
    --learning_rate 0.0002 \
    --num_train_epochs 10.0 \
    --max_samples 1000 \
    --per_device_train_batch_size 2 \
    --gradient_accumulation_steps 8 \
    --lr_scheduler_type cosine \
    --max_grad_norm 1.0 \
    --logging_steps 5 \
    --save_steps 100 \
    --warmup_steps 0 \
    --packing False \
    --report_to none \
    --output_dir saves/DeepSeek-R1-1.5B-Distill/lora/train_2025-03-02-15-57-16 \
    --fp16 True \
    --plot_loss True \
    --trust_remote_code True \
    --ddp_timeout 180000000 \
    --include_num_input_tokens_seen True \
    --optim adamw_torch \
    --lora_rank 8 \
    --lora_alpha 16 \
    --lora_dropout 0 \
    --lora_target all

llama-factory支持非常多的微调参数,了解详情可查看 llama-factory官方文档。这里由于是简单实验就不过多解释了。

50811532012e55b85e5c3b8e091d1ddf.png

然后开始训练模型(等待训练完成)。

微调后模型部署及效果展示

此时在使用上面相同的聊天内容询问模型,则回复的是我们训练数据中的内容。但此时需要加载俩个模型,一个是通用基础模型,一个是刚刚低秩的适配器。也就是此时,想让其他人使用这个模型,需要提供俩个模型文件,比较繁琐。

93795df9885a33163720b27914fc46b4.png

模型合并

为了解决上面需要导出多个模型文件的文件,所以需要将俩个模型进行一个模型合并。将 base model 与训练好的 LoRA Adapter 合并成一个新的模型。

llamafactory-cli export cust/merge_deepseekr1_lora_sft.yaml

合并配置文件:

### model
model_name_or_path: /data/llm/models/DeepSeek-R1-Distill-Qwen-1.5B/
adapter_name_or_path: /data/llm/models/LLaMA-Factory/saves/DeepSeek-R1-1.5B-Distill/lora/train_2025-03-02-19-26-55
template: deepseek
finetuning_type: lora


### export
export_dir: /data/llm/models/DeepSeek-R1-Distill-Qwen-1.5B-rcpc/
export_size: 4
export_device: cuda
export_legacy_format:

完成模型合并之后,会在目录下多一个模型出来。

0eb12903046106189270afc77d531d65.png

微调后新模型效果演示

此时使用LLaMA-Factory webui 加载新模型,然后与之对话。就可以得到微调后的模型了。

0a4802dbbace93304c18b81e634cb1ef.png

02

本地大模型联网功能开发

   2.1 整体架构

e1e0d6e3234f7e715ce858e963d9027f.png

   2.2 LLM 调用

流程图:

ef7ce803e550e2afbb3f202f37f95ea0.png

def call_llm(prompt: str, with_context: bool = True, context: str | None = None):

功能:调用本地运行的Ollama LLM模型生成回答。

参数:

  • prompt: 用户的问题/提示。

  • with_context: 是否使用系统预设的上下文规则。

  • context: 额外上下文信息。

实现细节:

  • 构建包含系统提示和用户问题的消息结构。

  • 使用ollama.chat进行流式响应(stream=True)。

  • 根据with_context参数动态调整消息结构。

  • 使用deepseek-r1:1.5b模型,通过生成器逐块返回响应。

  • 系统提示严格限制回答必须基于提供的上下文。

   2.3 向量数据库初始化

def get_vector_collection() -> tuple[chromadb.Collection, chromadb.Client]:

功能:初始化ChromaDB向量数据库连接。

关键点:

  • 使用nomic-embed-text:latest嵌入模型。

  • 创建持久化存储的客户端(路径./web-search-llm-db)。

  • 设置余弦相似度作为距离计算方式。

  • 返回可重用的集合对象。

技术参数:

Settings(anonymized_telemetry=False)  # 关闭匿名数据收集
metadata={"hnsw:space": "cosine"}      # 配置HNSW索引算法

   2.4 URL规范化

def normalize_url(url):

转换规则:

  1. 移除https://和www.前缀

  2. 替换特殊字符:

  • / → _

  • - → _

  • . → _

示例:

https://www.example.com/path  → example_com_path

目的:生成适合作为向量数据库ID的标准化字符串

   2.5 数据存储

def add_to_vector_database(results: list[CrawlResult]):

处理流程:

chunk_size=400       # 每块约400字符
chunk_overlap=100    # 块间重叠100字符
  1. 使用递归字符分割器:

  2. 创建临时Markdown文件加载内容。

  3. 通过UnstructuredMarkdownLoader解析文档。

  4. 为每个文本块生成:

  • 内容文本。

  • 元数据(来源URL)。

  • 唯一ID(标准化URL_序号)。

批量插入向量数据库。

   2.6 网页爬取

async def crawl_webpages(urls: list[str], prompt: str) -> CrawlResult:

核心技术:

  • 异步爬虫框架(AsyncWebCrawler)

  • BM25算法过滤相关内容:

BM25ContentFilter(user_query=prompt, bm25_threshold=1.2)
  • 浏览器配置:

headless=True     # 无头模式
text_mode=True    # 仅提取文本
page_timeout=20000  # 20秒超时

过滤策略:

excluded_tags = ["nav", "footer", "header", "form", "img", "a"]  # 排除导航元素
remove_overlay_elements = True  # 移除浮动元素

   2.7 爬虫合规检查

def check_robots_txt(urls: list[str]) -> list[str]:

实现逻辑:

  1. 为每个URL构造robots.txt地址。

  2. 使用RobotFileParser解析规则。

  3. 通过can_fetch判断爬取权限。

  4. 异常处理:

  • 无法访问robots.txt时默认允许。

  • 网络错误时保留URL。

合规性:确保遵守目标网站的爬虫规则。

   2.8 网络搜索

def get_web_urls(search_term: str, num_results: int = 10) -> list[str]:

功能流程:

  1. 排除视频类网站:

    1. discard_urls = ["youtube.com", "britannica.com", "vimeo.com"]

  2. 使用DuckDuckGo搜索API。

  3. 结果过滤:

  • 取前num_results个结果。

  • 转换结果格式为URL列表。

执行check_robots_txt二次过滤。

   2.9 效果展示

a9bf3ff42b58fcfffd43eb726568b470.png

03

业务场景探索

微调了模型、实现了联网功能后,需要思考如何将这些技术能力与实际业务结合。下面就针对中心主要产品,安全相关几个具体业务方向,探讨大模型可能的应用场景和实施思路。

   3.1 APK病毒检测:让AI学会“闻味道”

现在查杀手机病毒主要靠特征库比对,就跟用通缉令抓犯人似的。但病毒变种越来越快,这种办法容易漏网。大模型可以这么玩:

  1. 理解代码的“坏心思”:比如有个计算器APP非要读取通讯录,调教好的大模型能发现这种不合理行为,就算病毒换了马甲也能嗅出味道。

  2. 多维度关联分析:把APP的权限申请、后台行为、数据流向这些线索串起来看,就像老刑警破案时把各种线索拼出完整画像。

落地步骤可以分三步走:

  • 先准备一批病毒样本和正常APP的数据集,重点盯防数据窃取这类典型作恶方式。

  • 初期让AI当辅助侦探,帮着验证传统引擎发现的嫌疑对象。

  • 最终做成混合模式,传统方法快速初筛,AI负责深度研判。

难点在于怎么把APP的二进制代码“翻译”成AI能理解的语言,还要防止AI学得太死板只会认老病毒。

   3.2 网址安全检测:教AI识破“美人计”

现在钓鱼网站检测主要看域名黑名单、页面关键词,但高级钓鱼网站会玩文字游戏。大模型可以:

  • 看穿页面的“话术套路”:比如冒充银行官网要你输密码,AI能理解整个页面的诱导话术,而不是只会找“密码”这个词。

  • 综合判断多重证据:结合网址特征、证书信息、跳转轨迹这些线索,就像鉴宝专家要综合看材质、包浆、款识。

  • 识别高仿界面:有些钓鱼网站把LOGO微调几个像素,AI能像鉴假画一样发现细节破绽。

实施时需要训练AI重点看网页关键部位(比如登录框、客服弹窗),还要处理动态加载的内容。难点在于实时检测的速度,毕竟用户可不想等半天才出结果。

   3.3 APP隐私检测:当个“数据保镖”

现在隐私检测主要看权限列表以及沙箱动态环境行为监控,可以尝试增加与大模型的结合,做得更智能:

  • 查言行是否一致:比如隐私政策说不会收集位置信息,但代码里偷偷调用了定位接口,看看大模型是否能当场抓包,然后在沙箱动态环境行为监控结合,进行数据返哺,从而使LLM数据更完善,决策更准确。

  • 判断合理性:一个手电筒APP要读取通讯录?AI会质疑这和核心功能有毛关系。

  • 风险定级:结合数据类型(比如人脸比设备ID敏感)、使用场景来打分,像体检报告分不同风险等级。

关键在于从混淆代码里提取有效行为数据,还要处理不同国家的法规差异。

04

未来展望与实践建议

写到这里,也该收尾了。折腾了这么多技术细节和业务可能的探索,不妨放眼看看更大的图景——AI时代已经扑面而来,我们这些技术人该如何应对?

   4.1 AI技术趋势预测与应对策略

说实话,预测技术走向就像预测股市一样不靠谱,但有几个趋势我觉得八九不离十:

垂直领域模型将胜出通用模型

GPT-4很强,但在特定领域,一个精心微调过的小模型往往能达到90%的效果,成本却只有5%。前段时间看到几个创业公司的几个医疗领域的垂直模型,在诊断建议上的准确度竟然超过了通用大模型。

我个人判断,未来1-2年,会出现大量针对特定领域的精细微调模型,它们会在各自的赛道上挑战通用大模型的地位。这个趋势对我们意味着:与其花大力气追赶最新的通用模型,不如考虑如何在自己熟悉的业务领域构建专业模型。

多模态将成为标配,但别被噱头忽悠

现在谈AI的多模态能力已经不新鲜了,但我注意到一个有趣的现象:很多产品把多模态当作噱头,实际应用场景却相当有限。比如,一个企业内部的文档助手真的需要图像理解能力吗?大多数情况下并不需要。

我的建议是理性看待多模态:有些场景确实需要(如内容审核、智能安防),有些则纯属浪费资源。在技术选型时,先问问自己:“这个能力能解决什么实际问题?”别为了酷而追求酷。

T型技能结构更有竞争力

在AI时代,纯粹的技术专家可能不如复合型人才吃香。那些在AI浪潮中如鱼得水的企业与个人,往往不是算法最强的,而是那些既懂技术又懂业务的“T型人才”。

举个例子,一个既懂NLP又懂金融的工程师,比单纯的NLP专家或金融分析师更难被替代。因为他不仅知道“怎么做”,还知道“为什么做”和“做什么有价值”。

如果你还是技术路线的“I型人才”,建议尽快横向扩展一个业务领域知识,形成自己独特的复合竞争力。这条也适用于大部分业务,之前业务需要无数的构造地基,形成自己的护城河,但现在通用模型以及领域模型可以更快速的搭建极为强大的地基,在于竖型的垂直业务相结合,会延伸出更强大可靠的护城河。LLM+业务才是未来。

持续学习已经不是选项,而是必须

以前我们开玩笑说“每隔18个月,你的技术栈就会过时一半”。现在在AI领域,这个周期可能只有6个月。想想看,2022年底Stable Diffusion刚出来,到现在SDXL已经迭代了多少代?GPT从3.5到4,再到现在的Claude系列,变化有多快?

所以,如果想在当前领域发展,必须接受“永远在学习”的现实。

   4.2 开源与商业模式的思考

谈完技术和应用,我想分享一些关于AI时代商业模式的思考。

开源大模型与API服务将长期共存

有人预测开源模型会颠覆OpenAI这样的API服务商,我持保留意见。就像Linux的开源并没有消灭Windows一样,开源模型和商业API服务很可能长期共存,各自服务不同场景和用户群体。

开源模型的优势在于可控性和定制化,适合对数据安全有高要求或需要深度定制的场景;而API服务的优势在于使用便捷、持续更新、技术门槛低,适合快速验证和非核心业务场景。

垂直领域的AI服务商机巨大

与其在通用AI领域与巨头正面竞争,不如找准垂直领域深耕。我观察到这样一个现象,在医疗、法律、金融,安全等专业领域,用户更愿意为“懂行”的AI服务付费,哪怕它比通用模型“笨”一些。

大模型时代的护城河在哪里?

随着开源模型性能逼近商业模型,纯靠模型能力的护城河正在被削弱。未来的竞争优势可能来自:

  • 数据资产:独特的、高质量的领域数据。

  • 应用创新:基于AI能力的产品创新和用户体验创新。

  • 解决方案整合:将AI能力与行业知识和业务流程深度融合。

简单说,比拼的不再是谁有更强的大模型,而是谁能让AI更好地解决实际问题,创造真实价值。

   4.3 未来已来,诸君共勉

写了这么多,最后说点肺腑之言。

AI技术的发展速度远超我们的预期,我们正经历一场前所未有的技术革命。作为技术人,这既是挑战也是机遇。所以应该快速学习、勇于尝试。

回想我的AI探索之旅,最大的收获是思维方式的转变:不再把AI视为遥不可及的黑科技,而是当作可以掌握的工具和能力。只要肯下功夫,普通开发者也能驾驭这些技术,创造有价值的应用。

最后,与其焦虑AI会不会取代人类,不如思考如何与AI协同工作,发挥人类目前独有的创造力、判断力和同理心。技术再强大,也只是放大人类意志的工具,而不是替代人类价值的终极答案。

未来已来,但由我们共同塑造。诸君共勉!

-End-

原创作者|袁俊

感谢你读到这里,不如关注一下?👇

📢📢欢迎加入腾讯云开发者社群,享前沿资讯、大咖干货,找兴趣搭子,交同城好友,更有鹅厂招聘机会、限量周边好礼等你来~

图片

(长按图片立即扫码)

📢📢对 DeepSeek 的技术原理、部署教程、应用实践感兴趣的小伙伴,也可以扫下方二维码加入腾讯云官方 DeepSeek 交流群,不定时输出鹅厂大佬的实战教学!

图片

图片

图片

图片

图片

图片

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1169

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 716

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1128

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 911

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 625

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1171

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1218

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2637

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 875

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: 前端已死命题背后:UI开发范式的底层变革
下一篇: 一文看懂支付系统架构之第三方支付
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值