一、环境准备
硬件要求
**最低配置:**16GB 内存 + 8GB 显存(如 NVIDIA RTX 3060 12GB)。
**推荐配置:**32GB 内存 + 16GB 显存(如 NVIDIA RTX 4090)以获得更流畅体验。
软件依赖
Ollama: 用于本地运行大模型。
Docker: 用于部署 Dify 知识库应用。
Python(可选): 用于 API 调用示例。
二、安装 Ollama 并部署 DeepSeek-R1:7b
步骤 1:安装 Ollama
1、访问 Ollama 官网,下载 OllamaSetup.exe。
2、默认安装:双击安装包,按提示完成安装(默认路径为 C:\Users<用户名>\AppData\Local\Programs\Ollama)。
3、自定义安装路径(可选):
# 在cmd命令行中执行(示例路径为 D:\LLM\Ollama)
OllamaSetup.exe /DIR="D:\LLM\Ollama"
步骤 2:配置模型存储路径
1、修改环境变量 OLLAMA_MODELS,指向自定义存储目录(如 D:\Ollama_Models)。
2、重启 Ollama 服务使配置生效。

最低0.47元/天 解锁文章


被折叠的 条评论
为什么被折叠?



