DeepSeek本地部署

前言

本系列文章旨在帮助企业搭建自己的人工智能,实现智能化运作,减低成本提高效率。
本文旨在说明deepseek的安装和部署,为人工智能化建立基础

安装ollama

访问https://ollama.com/
在这里插入图片描述
点击下载安装
在这里插入图片描述
下载完安装包之后,点击安装
在这里插入图片描述
软件默认安装在C盘

在这里插入图片描述
安装完成之后,可以验证安装是否成功:打开cmd,执行ollama

在这里插入图片描述

下载和安装deepseek模型

ollama是一个大模型工具,我们还需要下载实际的deepseek模型。
访问https://ollama.com/search

在这里插入图片描述
点击deepseek-r1

在这里插入图片描述
下拉框选择7b或者8b,看本设备的内存大小来决定,越大性能越好。

在这里插入图片描述
复制其脚本,在cmd中运行即可下载模型

在这里插入图片描述
接下来就是等待下载完成
在这里插入图片描述
下载完成之后,就可以开和大模型对话了
在这里插入图片描述

大模型转移

如果需要将大模型转移到其它盘符,需要对环境变量等进行设置
环境变量添加
OLLAMA_MODELS:E:\OLLAMA
在这里插入图片描述
用户变量添加
OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGINS:*
在这里插入图片描述

在这里插入图片描述
添加完成之后,打开cmd再次运行:ollama run deepseek-r1:14b 然后进行对话

初始的ollama安装路径为 C:\Users\admin\AppData\Local\Programs

chatbox对话界面

目前安装的deepseek的对话界面为命令窗口,在美观和使用上相对劣势,本章将讲解通过chatbox工具使用大模型。
访问https://chatboxai.app/zh,下载客户端
tips:也可使用“启动网页版”,两者功能类似
在这里插入图片描述
下载客户端安装包
在这里插入图片描述
安装客户端
在这里插入图片描述
安装完成之后,会自动打开软件以及其设置界面,我们选择第二个本地模型

在这里插入图片描述
选择Ollama API
在这里插入图片描述
配置如图
在这里插入图片描述
点击保存之后即可对话
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值