Ubuntu22.04安装Ollama部署DeepSeek-R1:32B模型

一、环境准备

1.硬件要求
  • GPU: 至少 NVIDIA A30/A100 (显存 ≥ 24GB)
  • 内存: ≥ 64GB RAM
  • 存储: ≥ 100GB 可用空间 (模型文件约 60GB)
2.软件依赖
# 验证NVIDIA驱动
nvidia-smi

二、Ollama安装

方法 1:install.sh安装

运行一下安装命令:

curl -fsSL https://ollama.com/install.sh | sh
方法 2:手动安装

注意
如果要从以前的版本升级,则应使用 first 删除旧库。sudo rm -rf /usr/lib/ollama

安装命令:
下载并解压缩包:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
### 在 Ubuntu 22.04安装 OllamaDeepSeek 的指南 #### 准备工作 确保系统已更新至最新状态,并满足最低硬件需求。运行以下命令来更新软件包列表和升级现有软件包: ```bash sudo apt update && sudo apt upgrade -y ``` #### 方法一:通过下载二进制文件安装 Ollama 此方法适用于希望手动控制安装过程的情况。 1. **下载并解压 Ollama 文件** 使用 `curl` 下载 Ollama 的 Linux AMD64 版本压缩包,并将其解压到 `/usr` 目录下[^1]。 ```bash curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz sudo tar -C /usr -xzf ollama-linux-amd64.tgz ``` 2. **验证安装** 运行以下命令以确认 Ollama 是否成功安装并可用: ```bash ollama version ``` 如果显示版本号,则表示安装完成。 #### 方法二:通过脚本自动安装 Ollama 这是最简单的方式,适合快速设置环境。 1. **执行自动化安装脚本** 执行以下命令以自动完成 Ollama安装过程[^2]。 ```bash curl -fsSL https://ollama.com/install.sh | sh ``` 2. **启动 Docker 支持(可选)** 若计划使用容器化方式管理模型,需先安装 Docker 并配置好权限。 ```bash sudo apt install docker.io -y sudo systemctl start docker sudo usermod -aG docker $USER newgrp docker ``` #### 安装 DeepSeek 模型 一旦 Ollama 成功安装,可以通过以下步骤加载 DeepSeek-R1:32B 模型1. **拉取 DeepSeek 模型** 使用 Ollama 提供的 CLI 工具下载所需模型。 ```bash ollama pull deepseek/r1:32b ``` 2. **验证模型是否存在** 列出当前已有的模型以确认其存在: ```bash ollama list ``` #### 设置远程访问支持 为了让其他设备能够连接到该服务器上的 Ollama 实例,需要启用 HTTP 接口[^3]。 1. **修改默认端口号(如果必要)** 默认情况下,Ollama 听取的是本地地址 (localhost),可通过编辑配置文件或将参数传递给服务实现外部网络访问。 2. **测试远程访问功能** 在 Windows 或其他客户端机器打开浏览器输入 URL 地址 `http://<Ubuntu_IP>:11434` 来查看页面响应情况。当看到 “Ollama is running” 字样时说明一切正常。 --- ### 注意事项 - 确认防火墙允许指定端口流量通行。 - 对于生产环境建议进一步加固安全性措施比如 SSL 加密传输数据流等操作。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值