DeepSeek 本地部署教程

最新推荐文章于 2025-02-24 23:06:22 发布

攻城狮 Ryan

最新推荐文章于 2025-02-24 23:06:22 发布

阅读量1k

点赞数 23

文章标签： AI deepseek 本地部署 chatgpt ollama

本文链接：https://blog.youkuaiyun.com/qq_62055863/article/details/145520115

版权

为什么需要本地部署deepseek？

DeepSeek本地部署带来了多方面的优势，具体来说：

‌数据隐私保护‌：本地部署能确保数据不会离开你的服务器，所有的数据处理都在本地进行，这大大提高了数据的安全性，无需担心数据在网络传输过程中被泄露或窃取。
‌灵活性与定制性‌：你可以根据业务需求灵活调整模型的参数和功能，这种灵活性使得DeepSeek能够更好地适应各种应用场景。
‌离线使用能力‌：无需依赖网络，随时随地都能调用AI能力，这使得在一些网络不稳定或无法联网的环境下，DeepSeek仍然能够正常工作。
‌成本效益‌：长期来看，本地部署可能比云服务更经济，特别是对于高频调用场景。这有助于降低企业的运营成本。
‌性能优化‌：本地部署可以利用个人电脑的强大算力，让模型运行不再受网络速度的限制，从而获得更加流畅、高效的AI使用体验。同时，还可以通过启用GPU加速等方式，进一步提升模型的推理效率。
‌模型更新便捷‌：你可以随时根据自己的需求更新模型，确保始终使用最新版本，享受最新的功能和性能优化。

部署教程

1.安装 Ollama

Download Ollama on Windows

Ollama 是一个开源的本地模型运行工具，可以方便地下载和运行各种开源模型，比如 Llama、Qwen、DeepSeek 等。这个工具支持 Windows、MacOS、Linux 等操作系统。

2.下载并运行本地模型

ollama run deepseek-r1:1.5b

另附不同模型所需的算力需求：

测试一下：

常用命令：

#退出模型
>>> /bye
#查看模型
C:\Users\chk>ollama list
NAME ID SIZE MODIFIED
deepseek-r1:1.5b a42b25d8c10a 1.1 GB 3 minutes ago

#启动模型
ollama run deepseek-r1:1.5b
>>>
#查看帮助
C:\Users\chk>ollama -h
Large language model runner

Usage:
ollama [flags]
ollama [command]

Available Commands:
serve Start ollama
create Create a model from a Modelfile
show Show information for a model
run Run a model
stop Stop a running model
pull Pull a model from a registry
push Push a model to a registry
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any command

Flags:
-h, --help help for ollama
-v, --version Show version information

Use "ollama [command] --help" for more information about a command.