本地部署DeepSeek实操

下文所需软件已放到网盘中:

夸克网盘:链接:https://pan.quark.cn/s/1ab2bd13f1e4

百度网盘:链接:https://pan.baidu.com/s/1RPjoBs_RUJ6p0br7GchZQg 
提取码:o22h

第一步:下载安装Ollama

1.下载

打开浏览器,访问Ollama官网https://ollama.com ,点击“Download”进入下载页面。该平台支持Windows、macOS和Linux系统,苹果平台无论是Intel内核还是M1系列均能适配。

2.安装(以Windows平台为例)

在Windows系统下,获取对应的exe应用程序后,双击启动安装程序。安装过程中,全程选择默认设置,点击“Install”后一路确认到底。安装完成后,程序会自动启动,此时在电脑右下角的托盘区域,你将看到Ollama的应用图标。

3.验证安装

安装完成后,打开命令行窗口,输入以下命令

命令执行后,显示类似“ollama version is 0.5.7”这样的版本信息,即表明Ollama已成功安装。

第二步:下载 DeepSeek-R1

1.选择模型

Ollama软件安装完成后,便要获取DeepSeek R1模型。再次打开Ollama官网,点击“Models”,在众多模型中,“deepseek - r1”位列榜首,十分醒目。

2.模型详情与下载

选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。老宅这台机子是4060的显卡,选择8b的模型。

3.找到Windows【开始菜单】,鼠标右键点击【终端管理员】。

4、复制下边8b的代码。

5、粘贴到PowerShell(管理员)运行框,然后回车。

(这里会默认安装在C盘,注意C盘空间)

出现下载等待窗口,等待下载完成。

6、下载完成后稍微等待,看到success,即部署完成。

7、部署完成,send a message,输入内容即可开始对话。

第三步:Chatbox搭建

为了更便捷地与模型交互,摆脱命令窗口的限制,你可以安装ChatBox这一可视化界面工具。安装完成后,即可开启与DeepSeek R1的轻松对话之旅。

1.打开 https://chatboxai.app/zh

下载ChatBox

2.打开软件设置本地模型

好了,我们就可以自己研究本地的大模型了

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值