deepseek 本地化部署 - Ollama(小白也可部署)

Ollama介绍

Ollama 是一个开源的本地化大型语言模型(LLM)运行框架,支持通过简单的命令行操作管理和运行模型。

Ollama下载安装

下载安装包

Download Ollama on macOS

根据你系统选择下载对应的软件包安装,正常执行安装即可。

安装包下载慢的可以直接百度网盘下载。

链接: https://pan.baidu.com/s/1ZGKki5g2w3OPM5LZhkIeOQ?pwd=72c7 提取码: 72c7

查看运行

在电脑右下角可以看到Ollama在运行

也可打开浏览器,输入 http://127.0.0.1:11434/ ,查看Ollama是否运行。

打开系统CMD

搜索-输入“cmd”-打开“命令提示符”

查看版本

ollama -v

查看模型

查看ollama已有模型

ollama list

刚安装好的Ollama应该是没有任何模型的。

安装模型

设置系统变量

首先先设置模型存放地址的环境变量,否则模型会安装到C盘下。

搜索-输入“环境变量”-打开“编辑系统环境变量”

打开“环境变量”

系统变量-新建

变量名:OLLAMA_MODELS

变量值:你希望模型存储的地方

保存后重启电脑,系统变量需要重启电脑才能生效。

拉取模型

访问模型仓库,获取deepseek模型

https://ollama.com/library/deepseek-r1

根据电脑配置,选择对应的大小模型,点击复制拉取模型命令

参考配置

版本CPU核心内存硬盘空间显卡需求适用场景
DeepSeek-R1-1.5B最低4核(如Intel i5或AMD Ryzen 5)8GB12GB以上可选(无GPU加速时使用CPU推理)

教育领域:基础的AI教学和演示;

小型企业:简单文本生成;

个人开发:基础AI项目开发

DeepSeek-R1-7B8核以上(如Intel i9或AMD Ryzen 7)16GB32GB以上推荐8GB显存(如RTX 3060)

内容创作:创意写作;

客户服务:智能客服系统;

数据分析:简单数据分析和报告生成

DeepSeek-R1-14B12核以上(如AMD Ryzen 9)32GB80GB以上推荐16GB显存(如RTX 4090)

企业级应用:合同分析、报告生成;

长文本生成:新闻报道、学术论文;

多语言翻译:跨国企业

DeepSeek-R1-32B16核以上(如AMD EPYC 7003系列)64GB320GB以上推荐24GB显存(如A100 40GB)

专业领域:医疗、法律知识问答;

多模态任务:医学影像报告生成;

复杂数据分析:市场研究报告生成

DeepSeek-R1-70B32核以上(如AMD EPYC 9004系列)128GB700GB以上多卡并行(如4x RTX 4090或2x A100 80GB)

科研机构:前沿科学研究;

大型企业:大规模数据分析;

创意写作:科幻小说或剧本生成

模型评分对比

DeepSeek_R1论文

https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf

在命令提示符中执行命令

ollama run deepseek-r1:1.5b
或
ollama pull deepseek-r1:1.5b

启动模型

ollama run deepseek-r1:1.5b

向模型提问

至此,本地化部署deepseek完毕。

### DeepSeek 本地化部署与图形化界面教程 #### 安装准备 为了顺利进行DeepSeek本地化部署,需先准备好环境。这包括但不限于安装必要的软件依赖项以及硬件设备确认。 对于硬件方面,不同显卡具有不同的性能指标,选择合适的显卡有助于提高运行效率。例如 GTX1050TI 至 RTX3060Ti 的多种显卡选项及其对应的显存大小、CUDA核心数量和算力数据[^3]可以帮助用户评估自身需求。 #### 部署流程 具体来说,在执行本地化部署的过程中: - **第一步** 是确保已经成功安装 ollama 软件组件,这是构建整个系统的基石之一[^1]。 - 接着按照官方文档指示逐步设置开发环境,直至能够启动应用程序为止。 #### 图形化界面应用 引入图形化界面的主要目的是为了让操作更加直观便捷。通过这种方式,即使是没有深厚技术背景的人也能顺利完成复杂的配置任务。此过程不仅限于简单的点击按钮来完成命令下发;更重要的是它允许使用者更方便地监控程序状态、调整参数设定等高级功能。 #### 实际案例分享 有反馈指出,当完成了上述所有准备工作之后,实际体验下来会发现整个部署过程确实相对简便快捷,甚至有人形容其简易程度堪比日常办公软件Office的安装[^2]。 ```bash # 假设这里有一个用于验证安装成功的简单测试脚本 echo "如果一切正常,您应该能看到这条消息" ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值