- 博客(4)
- 收藏
- 关注
原创 [特殊字符] 【保姆级教程】Windows下部署OpenCode并接入本地大模型(Ollama/llama.cpp)
本文介绍了在Windows下用Node.js部署OpenCode AI编程助手,并配置接入Ollama或llama.cpp本地模型。包含环境配置、npm安装、opencode.json文件编写及验证方法,并解答了常见问题。
2026-09-08 14:42:44
205
原创 4G显存就能微调大模型!Unsloth+DeepSeek全流程实战教程
本文介绍了使用 Unsloth 框架在消费级显卡上微调 DeepSeek-R1-Distill-Qwen-1.5B 大模型的全流程。只需 4G 显存即可完成微调,适合想深入了解原理的开发者。教程涵盖环境准备、部署安装、模型下载、微调(加载模型→训练→合并)等步骤,使用控制台命令行方式部署,操作简洁高效。文章配有多张实操截图,并提供了常见问题讨论方向。
2026-09-04 16:20:56
231
原创 告别积分排队!Trae 搭配 llama.cpp 本地部署编程大模型完整教程
Trae是字节跳动推出的AI原生开发工具品牌,涵盖TraeCode(AI原生IDE)、TraeWork(AI原生工作空间)等多款产品。TraeCode内置了强大的AI编程助手,支持代码补全、智能对话、Agent工作流等功能。然而,自带的模型要么收费,要么需要排队,还得扣积分。对于想要实现"token自由"的开发者来说,接入本地模型是一个极具吸引力的方案。本文将介绍如何通过llama.cpp本地部署大模型,并接入Trae实现免费、不限量的AI辅助编程体验。
2026-08-24 17:29:48
513
原创 【llama.cpp 离线 OCR】Windows 本地部署 PaddleOCR-VL/Qwen2.5-VL/Qwen3VL 三款多模态模型横评|发票 / LaTeX 公式 / 机械图纸全实测
本文介绍了一种基于llama.cpp框架的多模态VL模型本地化OCR解决方案,有效解决了在线OCR工具存在的数据隐私和商用成本问题。通过GGUF量化技术,在RTX5070Ti笔记本上实现了完全离线的OCR识别。文章详细对比了三款模型(PaddleOCR-VL、Qwen2.5-VL-7B、Qwen3VL-8B)在7类业务场景下的表现:PaddleOCR-VL在纯文字和公式识别上速度最快(411t/s);Qwen2.5-VL在票据结构化处理上表现优异;Qwen3VL-8B则在机械图纸解析和图像深度理解方面
2026-08-01 23:01:32
569
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅