Ollama部署deepseek模型

一、安装Ollama

如果想要在本地运行 DeepSeek 需要用到 Ollama 这个工具,这是一个开源的本地大模型运行工具。

我们可以访问 https://ollama.com/ 进入 Ollama 官网下载 Ollama

下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可

  • 下载(科学或网盘可提高下载速度)(龟速)
    在这里插入图片描述

  • 自定义安装路径【可选】【双击直接安装到c盘】

    OllamaSetup.exe /DIR=E:\ai\Ollama
    
    语法:软件名称 /DIR=Ollama安装目录
    

    在这里插入图片描述

  • 安装

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  • 检查是否安装成功【因为环境变量不是实时的,需要重新打开cmd】

    ollama help
    

在这里插入图片描述

二、下载部署 Deepseek 模型

  • 回到 https://ollama.com/ 网址

    搜索 需要本地部署的模型【Deepseek-r1模型】

    选择参数规模【1.5b】,相对较小的模型,适合资源有限的环境,或者在任务比较简单

    复制右边的指令

在这里插入图片描述

  • cmd运行指令ollama run deepseek-r1:1.5b,启动或下载1.5b参数规模的deepseek-r1

    首次运行会自动下载模型,下载完成后,可以直接进行对话

    再次运行可以直接进行对话,指令相同

    下载时可能掉线,再次输入指令重新运行即可继续下载

    在这里插入图片描述
    在这里插入图片描述

<think>好的,用户想知道如何在Ollama平台上部署DeepSeek模型。我需要根据提供的引用信息整理步骤。首先,安装Ollama,引用2和4提到了不同系统的安装方法,比如Mac用curl,Linux下载tgz包。然后下载模型,引用3说明要选GGUF格式的DeepSeek模型,复制Ollama的拉取命令,比如ollama run deepseek-ai/deepseek-llm。接着运行模型,验证是否成功。可能还要配置API,引用4提到安装后自带API,用curl调用。需要确保步骤清晰,分点说明,并且引用正确的来源。最后生成相关问题,比如安装失败怎么办,模型格式要求,API调用方法等。</think>### 如何在Ollama平台部署DeepSeek模型教程 以下是基于引用内容的详细步骤说明: #### 一、安装Ollama工具 1. **Linux系统安装** 执行命令下载并安装: ```bash sudo rm -rf /usr/lib/ollama curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz tar xzvf ollama-linux-amd64.tgz sudo cp ollama /usr/bin/ ``` 引用自[^4] 2. **Mac系统安装** 使用Homebrew快速安装: ```bash brew install ollama ``` 或直接通过官方脚本: ```bash curl -fsSL https://ollama.com/install.sh | sh ``` 引用自[^3] #### 二、下载DeepSeek模型 1. **选择模型格式** 需选择GGUF格式的DeepSeek模型,该格式为单文件结构,适配Ollama部署。 2. **获取模型拉取命令** 在模型仓库(如Hugging Face)中选择目标模型,点击「Ollama」按钮复制命令,例如: ```bash ollama run deepseek-ai/deepseek-llm ``` 引用自 #### 三、运行与验证 1. **启动模型服务** 执行拉取命令后自动启动: ```bash ollama run deepseek-ai/deepseek-llm ``` 2. **验证部署** 输入测试文本观察响应,例如: ```bash >>> 你好,介绍一下Ollama ``` 若返回合理回答则部署成功[^2]。 #### 四、API接口调用(可选) 部署完成后可通过自带API访问: ```bash curl http://localhost:11434/api/generate -d '{ "model": "deepseek-llm", "prompt": "为什么天空是蓝色的?" }' ``` 引用自 $$ \text{API响应状态码参考:} \begin{cases} 200 & \text{成功} \\ 400 & \text{请求参数错误} \\ 503 & \text{模型未加载} \end{cases} $$
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值