「 静静地做自己，让世界发现你 」
小伙伴们注意：公众号的推送机制不再按照时间前后推送了，微信公众号信息流乱序。君哥建议大家把科技毒瘤君公众号置顶（设为星标⭐），以便第一时间看到推送，非常感谢~
最全面的AI大模型本地部署指南！本文针对当前主流的四大部署工具进行深度技术解析，涵盖硬件选择、性能优化、场景适配等关键维度，助您掌握AI私有化部署的核心技术，手把手教你使用Ollama部署Deepseek模型。揭秘CPU/GPU部署技巧，提供工具选型决策树，助开发者快速实现大语言模型私有化部署，打造企业级AI解决方案。
常用工具
本地部署大模型常用的有下面的工具:
使用ollama 部署deepseek
1.下载ollama
ollam 提供了多平台的安装程序，直接按照官网的说明安装即可
官网地址：https://ollama.com/
如果你的macos 系统，也可以使用homebrew来安装
brew install ollama
2.下载deepseek模型
ollama 提供了多个模型，可以直接下载，也可以自己训练模型，这里我们直接下载deepseek模型,这里是下载默认的7b，如果你需要下载其他的，可以在后面 添加标签ollama run deepseek-r1 :1.5b,或者 7b,8b,14b,32b,70b等
ollama run deepseek-r1
如果你不想直接运行，也可以先下载模型，然后再run
ollama pull deepseek-r1
ollama run deepseek-r1
当终端显示如下，就说明运行成功了，你可以直接和他对话了。
如果想推出对话，直接输入 /bye即可。
3.添加ui界面
如果你还想添加ui界面，有很多的插件和程序可以使用，具体可以到ollam的github 上面来查询,常用的可能有Open WebUI,chatbox等，或者使用浏览器插件 Page Assist (Chrome Extension) 等。下面是使用 Page Assist 管理ollama 的界面。
4.管理运行的大模型
ollama 的管理命令有点像docker，可以通过ollama help ，查询都有哪些命令。例如查看模型（deepseek-r1）的信息
ollama show deepseek-r1
停止已经运行的大模型。
ollam stop deepseek-r1
列出已经下载的大模型
ollam list
5.删除模型
如果我们不用了，我们可以删除已经下载的大模型，来清理空间。
ollam rm deepseek-r1
请注意：这样下次运行需要重新下载模型。
本期下载
点赞+转发文章，支持一下
公众号回复「资源」获取下载，资源序号「001」
回复「加群」可免费加入公众号软件交流群
如何下载？请参考本文：如何下载公众号资源？
免责声明：以上资源皆来源于互联网公开分享的内容，仅用于个人学习使用，请禁止用于商业用途和倒卖，如真正需要，请支持版权方。
往期精选
「关注这个号的你可以说是很优秀了 」
▼
「博主都在使用的省钱公众号」
▼
听说，点「在看」和「赞」下期更精彩
▼
扫一扫
2659
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
