- 博客(2)
- 收藏
- 关注
原创 海光 DUC 环境(海光 DCU K100_AI)部署 Qwen3.5+vLLM(离线部署)
之前部署完 deepseek+ollama 之后就断开了算法服务器的外部网络,因为是本地物理机,连接网络很麻烦,就研究了下离线部署(之前很多环境已经装好了,会方便很多),这篇文档就当笔记了。为什么重新部署,因为 deepseek R1+ollama 几乎没法用。。
2026-08-11 13:50:15
649
原创 海光 DUC 环境(海光 DCU K100_AI)部署 ollama+deepseek
本文详细记录了在Kylin Linux系统上部署海光DCU显卡环境并运行ollama大模型的全过程。作者针对优快云上收费教程现象提出批评,强调官方文档免费可用。部署过程包括:1)驱动安装注意事项;2)推荐容器化部署方案;3)ollama编译适配海光显卡的特殊处理;4)模型部署测试方法;5)最终镜像打包方案。文章提供了完整的命令行操作指南,并分享了多个官方参考链接。作者最后强调国产化硬件开发需要保持耐心,体现了技术分享的开放精神。
2025-12-16 18:57:53
7190
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅