- 博客(88)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 蒙特卡洛算法实战
On-policy：用同一个策略同时做两件事：(1) 产生数据（behavior policy）(2) 被评估/被改进（target policy）。即：behavior = target（或至少 target 就是 behavior 的 ε-soft 版本）。Off-policy：用一个策略产生数据（behavior），但学习/改进的是另一个策略（target）。即：behavior ≠ target。常见是行为策略更“随机”，目标策略更“贪心”。2) 实操判断方法（看到代码怎么判）
2026-10-28 16:42:50
121
原创 使用conda环境报错-虚拟环境不存在
文章摘要： 在Python虚拟环境中执行pip install时出现"bad interpreter"错误，原因是conda环境的pip脚本指向了错误的Python解释器路径（原路径/data2/anaconda3/...已不存在）。该问题通常由环境迁移或路径变更导致。验证方法为检查which pip和head -1 $(which pip)的路径是否存在。解决方案包括：1）使用python -m pip临时绕过损坏的pip；2）通过conda install --force-reins
2026-08-11 17:30:59
17
原创 agent-MCP-A2A-ANP销售售后项目
本文介绍了一个智能售后中枢演示项目，该系统通过ANP、A2A和MCP三种协议的协同工作处理售后换货请求。ANP负责客服节点的负载均衡，A2A实现技术、政策和仓储专家的协作，MCP则提供订单、物流和工单的业务系统访问。项目包含模拟数据生成、协议实现和主编排逻辑，支持自动演示和交互模式。当用户发起售后请求时，系统会智能路由到负载最低的客服节点，通过专家分析判断是否符合换货条件，并自动生成工单和物流安排。测试案例显示系统能有效处理耳机和手表的换货请求，动态调整节点负载。该项目展示了多Agent系统在复杂业务流程中
2026-07-22 16:35:36
24
原创 agent的gradio修改
文章摘要： 该文档介绍了智能文档问答助手的Gradio界面升级适配过程。主要修改点包括： 针对Gradio 6.x API变更的适配： 移除已废弃的bubble_full_width参数，改用layout="bubble" 将theme参数从gr.Blocks()移至demo.launch() 更新Chatbot消息格式为{"role":"...","content":"..."}字典格式 系统功能说明： 支
2026-07-06 15:33:41
174
原创 为agent创建本地neo4j
摘要： 由于线上Neo4j免费账户到期，导致Agent模块无法运行。解决方案是在另一台Docker主机上部署Neo4j，并通过Bolt协议远程连接。步骤如下： 部署Neo4j容器：暴露7687端口，绑定到0.0.0.0，设置强密码。 网络配置：确保防火墙放行7687端口，限制访问来源为Pod网段或固定IP。 修改环境变量：更新Pod的.env文件，使用bolt://<IP>:7687替换原Aura配置。 验证连接：通过nc或curl测试端口连通性，运行Python脚本确认数据库初始化成功。 关键
2026-06-23 10:04:41
303
原创 agent环境安装spacy
【摘要】hello_agents项目的语义记忆模块因缺少spaCy语言模型（zh_core_web_sm和en_core_web_sm）导致实体识别功能受限。需在agent环境中安装与spaCy 3.8.x匹配的模型包，提供三种安装方案：1）官方命令自动下载；2）直接pip安装GitHub发布的wheel文件；3）离线下载whl文件后本地安装。当前环境因GitHub连接超时导致在线安装失败，建议优先采用离线方式。安装成功后需验证模型加载状态，至少安装中文模型即可支持核心功能。文档中已包含相关安装说明，若遇网
2026-06-11 16:46:36
140
原创 agent学习之qdrant记忆
本文介绍了如何配置和使用一个具备记忆与检索能力的AI智能助手系统。系统基于Qwen或GPT-3.5等大语言模型，通过环境变量配置API密钥和模型参数，支持本地或云端部署。核心功能包括工作记忆、情景记忆和语义记忆（需Neo4j支持），以及基于Qdrant向量数据库的RAG知识检索能力。测试脚本展示了如何初始化代理、注册记忆工具和RAG工具，并实现用户信息的记忆功能。系统还提供了不同规模的嵌入模型选择方案，从小型的0.6B到需要16GB显存的8B模型，以及快速验证的TF-IDF方案。最后提供了项目文档链接以供进
2026-06-04 11:42:25
92
原创 补充my_reflection_agent
本文介绍了一个基于ReflectionAgent框架的自定义反思智能体实现。该智能体通过"执行-反思-优化"的迭代循环处理任务，支持最大3次迭代优化。核心功能包括：1) 初始化时配置提示词类型和迭代次数；2) 运行时先进行初始执行，然后通过反思生成反馈，继而优化结果；3) 提供格式化提示词、判断终止条件和获取LLM响应等辅助方法。代码运行示例展示了处理"写一篇关于AI发展历程文章"任务时，智能体完整的三轮迭代过程，最终生成包含结构调整、内容补充和语言优化的改进版本。
2026-06-03 16:10:24
49
原创 agent tool 代码修复
这篇文章介绍了如何使用SerpApi进行网页搜索的代码实现。主要内容包括：1) 通过SerpApiClient获取搜索结果；2) 代码修改为使用search模块；3) 实现了一个ToolExecutor类来管理搜索工具；4) 展示了搜索功能的使用示例，包括注册工具、执行搜索和解析结果；5) 提供了测试代码，演示如何获取Python类型提示相关的搜索结果。代码支持解析知识图谱、直接答案和有机搜索结果，并包含错误处理机制。
2026-05-26 16:13:47
168
原创 nohup 运行python脚本看不到print日志
运行命令时看不到print日志。程序运行时的日志没有实时输出到 log_multi_audio.txt，而是等到程序结束后才一次性写入。
2026-05-22 17:11:51
75
原创 导出conda虚拟环境安装文件requirements
要“导出当前的虚拟环境”，通常是指 导出当前 Python 环境中所有已安装的包及其版本，以便在其他机器上复现相同环境。根据你使用的工具不同（ pip 、 conda 或 venv ），方法略有差异。
2026-05-06 15:42:12
79
原创 cuda版本冲突问题
🔍 错误信息总结： PyTorch version: 2.11.0+cu130 （编译时使用的 CUDA 是 13.0） NVIDIA driver version: 535.154.05 ，对应支持的 CUDA 最高为 12.4 Error message: The NVIDIA driver on your system is too old (found version 12040). Please update your GPU driver..
2026-04-28 10:44:33
137
原创 打印ascii码报错问题
你遇到的这个错误： UnicodeEncodeError: 'ascii' codec can't encode characters in position 6-16: ordinal not in range(128) 是因为你在 Python 3 中尝试打印一个包含 非 ASCII 字符 的字符串（如中文），但当前终端/控制台不支持 UTF-8 编码，或者没有正确设置输出编码。
2026-04-24 11:35:14
58
原创 grpo训练报错分析
摘要：本文分析了一个Python报错问题，AttributeError显示'Qwen2ForCausalLM'对象缺少'for_training'属性。问题根源在于混用了unsloth库的FastLanguageModel和HuggingFace原生模型类。解决方案建议统一使用unsloth.FastLanguageModel加载模型，并提供了修改后的load_model_and_tokenizer函数示例，强调避免直接使用transformers.AutoModelForCausalLM或PeftMode
2026-03-26 16:06:19
55
原创 在sft后原lora模型做grpo训练与新增lora层做grpo训练的区别
摘要：GRPO训练中存在两种LoRA微调方式：1）在已有LoRA权重上直接训练，参数规模小、效率高、稳定性好，适合快速优化；2）新增LoRA层训练，具有更好的模块化和隔离性，适合分阶段调试。代码实现上，前者直接加载现有LoRA模型，后者需额外创建新LoRA层。应用选择取决于需求：追求效率选方式一，需要灵活调整选方式二。两种方法均保持原始模型不变，但参数更新范围和训练特性存在显著差异。
2026-03-26 14:31:06
113
原创 训练数据量与epoch的关系
摘要：NLP和CV任务的epoch设置需结合任务类型、数据规模和模型大小。BERT微调通常3-10个epoch（小数据集3-5，中等2-5），蒸馏训练5-15个epoch。图像分类中，小数据集需50-200epoch，ImageNet约90epoch；目标检测如COCO需50-300epoch；图像分割任务通常需要更多epoch（小数据200+）。关键调整因素包括学习率、batch size、数据增强和优化策略，建议使用早停和学习率调度来优化训练过程。
2025-12-29 17:24:38
324
原创 Agent Demo初体验
交通查询 [done] -> 任务『提取出发地/目的地/时间进行交通规划：帮我规划下周去上海，预算3000，文艺风格』的结果：[{"type": "高铁", "price": 520, "duration": "5小时", "time": "进行交通规划：帮我规划下周去上海 09:00"}, {"type": "航班", "price": 860, "duration": "2小时", "time": "进行交通规划：帮我规划下周去上海 14:30"}]- 生成报告 [done] -> 旅行规划报告。
2025-11-04 16:14:34
361
原创 多模态BLIP2模型详解
BLIP-2模型采用两阶段训练策略实现高效的视觉-语言对齐。第一阶段通过冻结图像编码器（如CLIP ViT）和训练Q-Former适配器，建立基本的图像到文本映射能力；第二阶段针对具体任务（如VQA、图像描述）微调模型。与BLIP相比，BLIP-2通过冻结预训练组件和引入大语言模型显著提升生成能力。在多模态任务中，ITM（图像文本匹配）、ITC（图像文本对比）和ITG（图像文本生成）构成完整技术体系：ITM判断图文一致性，ITC学习模态间语义关系，ITG实现跨模态内容生成。这种分层方法既保留基础视觉特征，又
2025-10-11 17:31:59
608
原创 CLIP算法的应用场景
CLIP是一种多模态AI模型，通过对比学习将图像和文本映射到同一语义空间。其核心应用包括：图像检索（文本/图片搜索）、生成模型引导（AI绘画）、图像分类（自动打标签）、多模态问答、推荐系统、内容审核、教育辅助、移动端应用（实时图像理解）等。CLIP还可用于学术研究和小样本学习。该模型的优势在于强大的跨模态理解和生成能力，使其在电商、社交、教育、医疗等多个领域具有广泛应用前景。
2025-09-30 16:15:56
744
原创 ViT模型相关拓展总结
VisionTransformer（ViT）及其衍生算法已成为计算机视觉领域的重要突破。主要改进方向包括：1）架构优化（SwinTransformer的滑动窗口机制、PVT的金字塔结构）；2）混合设计（CoAtNet结合CNN与Transformer）；3）无注意力方案（MLP-Mixer）；4）轻量化版本（MobileViT）；5）自监督学习（DINOv2）。这些算法不仅提升了ViT在分类任务的表现，还拓展了其在检测、分割等密集预测任务的应用，同时探索了更高效的注意力机制和移动端部署方案。
2025-09-30 14:15:47
935
原创 大模型训练评估参数设置
这个错误表明你设置了 metric_for_best_model="eval_accuracy" ，但在评估过程中并没有计算 accuracy 指标。可用的评估指标只有： ['eval_loss', 'eval_runtime', 'eval_samples_per_second', 'eval_steps_per_second', 'epoch']。
2025-09-28 14:04:50
235
原创 按步数保存与按epoch保存的区别
这个错误表明你的训练参数配置存在冲突。load_best_model_at_end 要求保存策略和评估策略必须一致，但你设置了： 评估策略: steps （按步数评估） 保存策略: epoch （按周期保存）"steps" : 按步数评估（需配合 eval_steps ）"steps" : 按步数保存（需配合 save_steps ）save_strategy : 保存频率。"epoch" : 每个周期结束时评估。"epoch" : 每个周期结束时保存。"no" : 不评估。"no" : 不保存。
2025-09-28 13:55:30
223
原创 hugging face与modelscope下载模型与数据
方法1：使用 --cache-dir 指定下载目录方法2：使用 --local-dir 指定下载目录。
2025-08-19 17:29:41
1565
原创 grpo初试
进一步分析为什么 --trace-ascii 能工作而 --raw 不能？...这个输出是正确的，只是没有换行，放在了下一个命令行前面...
2025-08-13 11:11:54
1136
原创 安装带GPU的docker环境
1.安装NVIDIA容器工具包先验证NVIDIA驱动安装(nvidia-smi)使用更新后的方法安装工具包(避免弃用的apt-key)配置Docker使用NVIDIA运行时2.解决依赖冲突彻底卸载旧版本Docker和containerd清理残留配置文件使用--fix-broken修复依赖关系3.优化配置修改Docker存储目录位置正确设置容器资源限制(CPU/GPU内存)调整容器命名和管理方式
2025-07-15 14:29:44
1344
原创 Chatbox调用Fastapi服务实践
摘要：本文展示了如何用FastAPI部署一个模拟ChatGPT API的聊天服务。服务端代码实现了/v1/chat/completions接口，支持流式和非流式两种响应模式。配置允许跨域请求后，服务在8100端口启动。测试时，Chatbox向该接口发送包含对话历史的请求，服务端成功接收并返回预设的"你好"响应。日志显示完整的请求内容和200响应状态，验证了API的可用性。该实现可作为开发测试的简易替代方案，但实际应用中需扩展业务逻辑处理真实对话场景。
2025-07-07 11:29:18
353
原创 移动conda虚拟环境的安装目录
方法 | 适用场景 | 注意事项 || 重新创建环境 | 跨平台或需要彻底清理时 | 耗时较长 || 直接移动文件夹 | 同系统快速迁移 | 需修复路径和符号链接 || conda-pack | 大环境或网络受限时 | 需额外安装工具 |推荐优先级：方法 1 > 方法 3 > 方法 2如果环境较小或需跨平台，优先选择 重新创建；如果环境很大且网络差，用 conda-pack。
2025-07-02 14:09:06
887
原创 vllm推理实践
报错：仍然报GPU内存不足。 可以获得输出结果：完整代码2. vllm的chat模式推理报错如下：分析问题：修复1：使用 tokenizer.apply_chat_template 转换 messages将改为：成功输出：修复2：直接构造字符串 prompt（手动模板）将：改为：输出：
2025-07-01 09:54:19
672
原创 llama-cpp-python使用教程
llama-cpp-python使用教程摘要 本教程详细介绍了llama-cpp-python的安装、基础用法和高级功能。安装支持CPU、GPU（CUDA/Metal）及OpenBLAS加速，需配置对应环境。基础用法包括加载GGUF模型、文本生成和对话模式。高级功能涵盖GPU加速（设置n_gpu_layers）、多模态处理（图片描述生成）和流式输出。实用技巧包括模型量化（如Q4_K_M平衡性能与显存）、显存优化（内存映射）和性能调优（线程/批处理设置）。常见问题解决涉及CUDA路径配置、GCC升级等。适用于
2025-06-30 11:28:33
1164
原创 安装llama-cpp-python踩坑记
安装报错，分析如下：这个错误是因为 LLAMA_CUBLAS 选项已经被弃用，建议使用 GGML_CUDA 替代。你需要修改安装命令中的 CMake 参数。
2025-06-30 11:04:45
1664
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人