DeepSeek-R1 70B,作为DeepSeek-R1系列中仅次于671B的次顶级模型,有着接近GPT-4的推理能力。
它不仅能够处理极其复杂的任务,如数学问题解决、编程辅助和科研分析,还能在多种应用场景中展现出色的性能。
然而,强大的模型往往伴随着复杂的部署过程。
R1系列的7B、8B等版本在速度、回答准确性和参数调用上远远低于满血版70B模型,而使用在线官网的问答,经常会出现服务器无响应的情况。那么为了解决大家的痛点,小编今天就教大家如何部署DeepSeek-R1 70B,免费拥有自己的满血AI!
这里为大家提供了本地部署教程:
1、安装ollama
运行命令进行安装:
curl -fsSL https://ollama.com/install.sh | sh
设置模型下载地址、开放ip及端口:
(可选)如有模型地址更改需求,可用下命令:
export OLLAMA_MODELS=/root/sj-tmp/ollama/models
设置ip地址及端口:
export OLLAMA_HOST=0.0.0.0:8080
然后记得通过