目录
一、实验
1.环境
(1)主机
表1 主机
| 系统 | 版本 | 软件 | IP | 备注 |
| Almalinux | 9.4 | Ollama Docker Cpolar |
192.168.204.150 | 配置:12C 16G |
(2)Termius连接主机

(3)查看系统版本
cat /etc/os-release
(4)DeepSeek-R1版本
表2 版本
| 模型 | 显存/内存 | 备注 |
| 1.5B | 需要4核CPU + 5GB内存 最低3GB显存(GTX1060+) |
|
| 7B | 需要8核CPU + 9GB内存 最低6GB显存(GTX1650+) |
|
| 8B | 需要8核CPU + 10GB内存 最低8GB显存(GTX1660+) |
|
| 14B | 需要12核CPU + 16GB内存 最低12GB显存(RTX3070+) |
|
| 32B | 需要16核CPU + 36GB内存 推荐24GB显存(RTX4090) |
|
| 70B | 需要32核CPU + 75GB内存 需要多卡(2xA100) |
家用电脑不适用 |
(5)查看cpu与内存
lscpu

free -m

(6)目标版本
主机配置:12C 16G
所以目标版本:14B
2.Almalinux 部署 Ollama
(1) 查阅
https://ollama.com/download/linux

(2) 预先安装软件包
安装包pciutils (查看pci总线设备信息)
安装包lshw (查看硬件信息)
yum install -y pciutils lshw

(
Almalinux升级DeepSeek - R1实验及问题解决

最低0.47元/天 解锁文章
1263

被折叠的 条评论
为什么被折叠?



