Ubuntu部署deepseek

一,下载和部署ollama

curl -sSfL https://ollama.com/install.sh | sh

或者手动下载安装

https://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64.tar.gz

离线安装ollama
一、创建ollama用户和用户组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

参数解释:

-r:创建系统用户。

-s /bin/false:禁止该用户登录系统。

-U:创建与用户同名的组。

-m:创建用户主目录。

-d /usr/share/ollama:指定用户主目录为 /usr/share/ollama。

二、手动下载安装ollama安装包
wget https://ollama.com/download/ollama-linux-amd64.tgz
或者
https://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64.tar.gz

将安装包解压到 /opt/ollama 目录:

 sudo mkdir -p /opt/ollama
 sudo tar -xzf o

### 部署 DeepSeek 大语言模型 要在 Ubuntu 系统部署 DeepSeek 大语言模型,可以通过 Ollama 工具完成。以下是具体方法: #### 1. 安装依赖工具 如果遇到 `-bash: curl: command not found` 或者 `-bash: sudo: command not found` 的错误,则需要先安装 `curl` 和 `sudo`。 对于缺少 `curl` 的情况: ```bash sudo apt update && sudo apt install curl -y ``` 如果没有权限执行 `sudo` 命令,可以尝试以下方式解决: ```bash apt update && apt install sudo -y ``` 这一步确保系统具备必要的基础工具[^1]。 #### 2. 安装 Ollama Ollama 是用于管理大语言模型的轻量级工具,支持多种架构和平台。通过以下命令安装 Ollama: ```bash curl https://ollama.ai/install.sh | sh ``` 此脚本会自动检测操作系统并下载对应的二进制文件。完成后验证安装是否成功: ```bash ollama version ``` 如果返回版本号信息,则说明安装成功[^2]。 #### 3. 下载 DeepSeek 模型 访问 Ollama 官网的 Models 页面,找到 DeepSeek-R1 模型的相关信息。这里以 8B 版本为例,输入以下命令下载模型: ```bash ollama pull deepseek-r1:8b ``` 该命令会在后台启动模型下载任务,最终占用约 4.9GB 存储空间。等待下载完成后即可使用模型[^3]。 #### 4. 测试模型运行 为了确认模型能够正常工作,可运行如下命令进行简单测试: ```bash ollama run deepseek-r1:8b --prompt "Hello! How are you today?" ``` 上述命令向模型发送一段提示文本,并接收生成的结果作为响应。如果有输出内容,则表明配置无误。 --- ### 注意事项 - 如果出现 **Error: could not connect to ollama app, is it running?** 错误,请检查服务状态: ```bash systemctl status ollama ``` 若未启动则手动开启它: ```bash systemctl start ollama ``` - 对于 NVIDIA 显卡用户,在 GPU 加速方面需额外注意驱动程序兼容性和 CUDA 支持状况。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

爱吃萝卜的美羊羊

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值