自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(4)
  • 收藏
  • 关注

原创 [特殊字符] 【保姆级教程】Windows下部署OpenCode并接入本地大模型(Ollama/llama.cpp)

本文介绍了在Windows下用Node.js部署OpenCode AI编程助手,并配置接入Ollama或llama.cpp本地模型。包含环境配置、npm安装、opencode.json文件编写及验证方法,并解答了常见问题。

2026-09-08 14:42:44 205

原创 4G显存就能微调大模型!Unsloth+DeepSeek全流程实战教程

本文介绍了使用 Unsloth 框架在消费级显卡上微调 DeepSeek-R1-Distill-Qwen-1.5B 大模型的全流程。只需 4G 显存即可完成微调,适合想深入了解原理的开发者。教程涵盖环境准备、部署安装、模型下载、微调(加载模型→训练→合并)等步骤,使用控制台命令行方式部署,操作简洁高效。文章配有多张实操截图,并提供了常见问题讨论方向。

2026-09-04 16:20:56 231

原创 告别积分排队!Trae 搭配 llama.cpp 本地部署编程大模型完整教程

Trae是字节跳动推出的AI原生开发工具品牌,涵盖TraeCode(AI原生IDE)、TraeWork(AI原生工作空间)等多款产品。TraeCode内置了强大的AI编程助手,支持代码补全、智能对话、Agent工作流等功能。然而,自带的模型要么收费,要么需要排队,还得扣积分。对于想要实现"token自由"的开发者来说,接入本地模型是一个极具吸引力的方案。本文将介绍如何通过llama.cpp本地部署大模型,并接入Trae实现免费、不限量的AI辅助编程体验。

2026-08-24 17:29:48 513

原创 【llama.cpp 离线 OCR】Windows 本地部署 PaddleOCR-VL/Qwen2.5-VL/Qwen3VL 三款多模态模型横评|发票 / LaTeX 公式 / 机械图纸全实测

本文介绍了一种基于llama.cpp框架的多模态VL模型本地化OCR解决方案,有效解决了在线OCR工具存在的数据隐私和商用成本问题。通过GGUF量化技术,在RTX5070Ti笔记本上实现了完全离线的OCR识别。文章详细对比了三款模型(PaddleOCR-VL、Qwen2.5-VL-7B、Qwen3VL-8B)在7类业务场景下的表现:PaddleOCR-VL在纯文字和公式识别上速度最快(411t/s);Qwen2.5-VL在票据结构化处理上表现优异;Qwen3VL-8B则在机械图纸解析和图像深度理解方面

2026-08-01 23:01:32 569

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除