轻松部署 DeepSeek R1:基于 Ollama、Chatbox 平台的操作指南

在本地运行大语言模型(LLM),Ollama是个极为出色的开源平台,它以简单、高效著称,具备良好的扩展性,能够支持运行各类主流模型。接下来,为你详细介绍如何借助Ollama部署DeepSeek R1模型。

第一步:安装Ollama

  1. 下载:打开浏览器,访问Ollama官网https://ollama.com ,点击“Download”进入下载页面。该平台支持Windows、macOS和Linux系统,苹果平台无论是Intel内核还是M1系列均能适配。
    在这里插入图片描述在这里插入图片描述

  2. 安装(以Windows平台为例):在Windows系统下,获取对应的exe应用程序后,双击启动安装程序。安装过程中,全程选择默认设置,点击“Install”后一路确认到底。安装完成后,程序会自动启动,此时在电脑右下角的托盘区域,你将看到Ollama的应用图标。

在这里插入图片描述

  1. 验证安装:安装完成后,打开命令行窗口,输入以下命令:
ollama -v

若命令执行后,显示类似“ollama version is 0.5.7”这样的版本信息,即表明Ollama已成功安装。若此前已安装过Ollama,此步骤可将其更新至最新版本,当前最新版本为0.5.7 。

第二步:加载模型

  1. 选择模型:Ollama软件安装完成后,便要获取DeepSeek R1模型。再次打开Ollama官网,点击“Models”,在众多模型中,“deepseek - r1”位列榜首,十分醒目。
    在这里插入图片描述
  2. 模型详情与下载:点击“deepseek - r1”进入详情页面,可知该模型是DeepSeek的第一代推理模型,性能与OpenAI - o1相当。复制并在命令行中运行以下命令:
ollama run deepseek - r1

在这里插入图片描述
Ollama随即开始载入模型。首次运行此命令时,模型会通过网络下载,若后续再次运行,将直接从本地载入。默认下载的是7B Q4的量化版模型,其大小约为4.7G。

下载完成我们就可以用命令行进行对话了
在这里插入图片描述

第三步:安装ChatBox实现可视化交互

为了更便捷地与模型交互,摆脱命令窗口的限制,你可以安装ChatBox这一可视化界面工具。安装完成后,即可开启与DeepSeek R1的轻松对话之旅。
1.打开 https://chatboxai.app/zh 下载ChatBox
在这里插入图片描述2.打开软件设置本地模型
在这里插入图片描述在这里插入图片描述
查看安装的大模型的命令:

ollama list

删除大模型的命令:

ollama rm codellama:7b

好了,我们就可以自己研究本地的大模型了~

评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

無薪法师

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值