DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

ChatBox调用Ollama本地部署的DeepseekR1 温馨提示:相关操作涉及一些操作的前提,如果看到这里0_O你并没有看过我的上一篇文章,建议你可以先食用一下Deepseek教程(详细!!!)|使用Ollama下载Deepseek,并在Pycharm使用_ollama下载deep seek-优快云博客。 阅读详情

一、Ollama

下载 Ollama

https://ollama.com/

  • Ollama 是一个用于管理和部署机器学习模型的工具。
  • 目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。

图片

安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标

图片

选择模型

点击Search models 搜索框,第一条就是 deepseek-r1 模型。

图片

这里我们发现了多个不同大小的模型,文件大小适配不同的设备

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

图片

借助网上大佬们整理的表格供大家参考,来确认你的电脑可以运行哪个模型:

图片

运行模型

运行模型很简单:确定模型后,复制这条指令到终端里

图片

当进度条跑满时,恭喜,你的电脑已经拥有了顶级的推理能力

使用 && 测试

这里我已经提前下好了,使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型,然后使用 ollama run 对应的模型 就可以了

图片

输入 /bye即可退出

图片

  • ollama 命令查看
admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
help        Help about any command

Flags:
  -h, --help      helpfor ollama
  -v, --version   Show version information

Use "ollama [command] --help"for more information about a command.

虽然这里终端已经可以使用了,但是还是不太方便。

  • 这里就有人要问博主了,你推荐的模型确实挺不错的,但是还是太吃操作了,有没有更加方便的使用方式呢?
  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二、Chatbox

浏览器搜索 Chatbox 并下载客户端或者网页版都可以

1.设置语言为中文并保存

图片

2.点击设置选择模型为 OLLAMA API

图片

为了确保可以连接到本地服务,大家按照提供的教程设置一下,不同的操作系统设置不太一样,然后选择 R1模型并保存

3.连接到本地服务教程跳转

图片

现在你就可以在 浏览器/客户端 上流畅的使用 R1 了。

创建你的专属 GPTs

点击我的搭档,创建搭档,给ai角色设定人格,你也可以选择现有的搭档,一个资深的行业专家就出现了。

图片

三、共勉

以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具 的理解,觉得这篇文章对你有帮助的,可以点赞收藏关注支持一波~

DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性:

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把都打包整理好,希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

read-normal-img

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

read-normal-img

read-normal-img

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】在这里插入图片描述

圖形介面聊天工具-Chatbox chatbox是一個圖形化的聊天介面,其優點是使用API Key做UI介面的聊天,且設定完後API Key後可以一鍵切換不同模型,方便根據任務作模型的選擇 阅读详情

相关推荐

Chatbox使用指南

Chatbox使用指南

weixin_65289420的博客 2万+

本地部署最强人工智能服务:方案(一)Chatbox+硅基流动(满血DeepSeek R1)

最近DeepSeek的服务器经常出现服务器繁忙,而且本地运行大模型很吃力,我的960m挺吃力的。不过华为后续和硅基流动一起搭建起了DeepSeek的API服务,注册就送14块钱,换算下来 4块/M token,如果不是特别大量的数据,也还是能用挺久的。支持了Windows\网页版\iOS\Android的版本,我选择window版本下载,直接下一步下一步安装即可。注意:第5步是点击被隐藏的密钥复制,粘贴在上一步的Chatbox的API密钥的位置。2、获取硅基流动的API密钥。1、Chatbox配置。

weixin_55010563的博客 9667

如何在离线的电脑上部署一个本地Deepseek(使用ollama)

例如,如果您的显卡显存为 16GB,官方推荐使用 32b 大小的 DeepSeek 模型。请根据您的硬件配置选择适合的模型版本,以获得最佳性能。首先我们需要将ollama和chatbox的安装包,Deepseek模型文件通过U盘或者光盘的形式导入到这台不能联网的电脑上。按照时间排序,找到最大的那个文件,就是gguf格式的模型,复制出来,改名为qwen2.5-coder0.5b.gguf。:基于开源模型(如 QWEN 和 LLAMA)微调,参数量从 1.5B 到 70B 不等,适合本地硬件部署。

qq_41854911的博客 1万+

简单三步走!电脑接入 DeepSeek R1 超简教程

简单三步走,10分钟之内就能接入 DeepSeek R1 助手:没有余额的要充值,我这里的是之前注册送的:DeepSeek API 开放平台:Chatbox。

飞询 5757

【AI】—— 手把手教你MAC上部署DeepSeek-R1

今天简单分享一下,如何在本地MAC电脑部署和运行deepseek,实现AI对话的功能,后面再研究DS的实现。

汤庆 1750

LAMMPS实操系列(一): 大量FCC-CoCrCuFeNi高熵合金建模与最稳定结构筛选

高熵合金(High-entropy alloys,HEA),是由五种或五种以上等量或大约等量金属形成的合金。由于高熵合金可能具有许多优秀的物理化学性质,因此在材料科学领域受到广泛关注

Ceshigo_CD的博客 3259

【AI】DeepSeek R1本地化部署 Ollama + Chatbox 打造最强AI工具

本文介绍如何通过本地化部署Ollama和Chatbox,利用DeepSeek R1模型打造强大的AI工具,涵盖Ollama和Chatbox的使用方法及相关操作步骤。

Nanki_的博客 2166

CIFAR-100模型性能对比:Top1与Top5错误率深度解析

本文深度解析了CIFAR-100数据集上Top1与Top5错误率的核心意义与差异。通过对比MobileNet、ResNet、DenseNet等主流模型的性能数据,揭示了模型架构、训练策略及数据集特性如何共同影响这两个关键指标,并为不同应用场景下的模型选择提供了实战指南。

weixin_28224217的博客 339

win10部署本地deepseek-r1,chatbox,谷歌网页插件Page Assist

win10部署本地deepseek-r1,chatbox,deepseek联网(谷歌网页插件,)

jingzilideniu的博客 1万+

PostgreSQL数据库全攻略:从入门到精通

本文是一份PostgreSQL数据库综合指南,涵盖安装配置、基础操作和高级管理。主要内容包括:1) PostgreSQL简介与各平台安装方法;2) 数据库基本操作,如创建数据库/表、CRUD操作、用户权限管理;3) 高级功能包括索引优化、事务控制、视图、存储过程、触发器和扩展模块;4) 数据库管理维护,涉及配置调优、备份恢复、性能监控和日常维护;5) 安全设置与高可用方案。指南提供了从入门到进阶的实用知识,强调结合官方文档进行深入学习,帮助用户高效使用这一功能强大的开源关系型数据库系统。

索大神的博客 1970

精益六西格玛Python数字化应用开发-Day18 应用场景:家电企业生产效率优化

本文将重点介绍专门针对精益六西格玛黑带使用场景的 Python 库,这些库功能侧重于数据分析和流程优化,特别适用于 DMAIC 方法论和看板管理。考虑到读者具备中高级Python 使用经验,我们将深入探讨各库的高级功能和实际应用应用场景。 某家电企业生产线自动化程度高,数据量巨大,希望通过精益管理提升生产效率。企业借助 Python 脚本,打通各类数据源(MES、ERP、设备日志),自动归集生产数据,分析各工序的生产节拍、设备停机、效率损失,快速定位瓶颈环节

m0_56592100的博客 906

零门槛打造最强AI大脑!手把手教你本地化部署DeepSeek R1:从Ollama安装到Chatbox可视化操作全攻略

Ollama 是一个用于管理和部署机器学习模型的工具。目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标点击Search models 搜索框,第一条就是 deepseek-r1 模型。这里我们发现了多个不同大小的模型,文件大小适配不同的设备DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。比如1.5B代表有15亿个参数。借助网上大佬们整理的表格供大家参考,来确认你的电

zhangbing_csdn的博客 3274

信号完整性之串扰

1.前言 串扰(Crosstalk)是指信号线之间由互感、互容而引起的耦合,由于这种耦合的存在,当某一信号线发生电平翻转时,在附近的信号线上将感应到一定程度的噪声。 2. 电路设计中抑制串扰的方法 2.1 控制高速信号线之间的间距和平行走线的长度 多个高速信号长距离平行走线时,其间距应遵循3W原则,如下图所示: 3W原则指两相邻信号线的中心间距不少于信号线宽度的3倍,当满足3W原则时,信号线之间...

sinat_15677011的博客 1万+

最强开源推理大模型 DeepSeek-R1 最清晰的免费本地部署使用教程

本文带来 DeepSeekR1 模型免费本地部署教程,因官网下载慢,在文末附上百度网盘链接。教程分两步,第一步,先前往 ollama 官网下载安装程序,在命令行输入 “ollama -h” 测试安装并查看命令。再依据显存选 DeepSeek-R1 模型,复制下载代码在命令行运行,用 “ollama list” 查看安装情况并运行模型。第二步,从 chatbox 官网下载安装程序,打开后在设置里将模型提供方设为 ollama,选好模型保存即可开启对话。最后,分享安装包百度网盘链接,欢迎点赞收藏支持。

weixin_56619527的博客 1万+

TMF8801 ToF激光测距传感器原理图设计,已量产(距离传感器)

这张 TMF8801 小板的外围结构就很有代表性。核心传感器是 U1 TMF8801,但真正构成量产价值的是外围那一圈:U2 把 VCC 整理成 3V,R1/R2/R5 与 R3/R4/R6 两组 10K 电阻稳定默认态,Q2 2N7002 和 U3 SN74LVC2G07DCKR 处理控制链路,传感器边上还有 C1/C4/C5 三颗 100nF 紧贴去耦。

不脱发的程序猿 162

从后端角度浅谈抗辐射设计----三模冗余(TMR)

三模冗余设计(TMR),是最常用的一种容错技术,三个模块采取相同的操作,以多数相同的输出作为表决系统的正确输出,即3取2,因为三个模块是相互独立的,而其中两个模块同时出错的概率是极小的,因此便可保证系统输出的可信度。然而这个设计也会存在面积浪费,功耗的增加,而且由于是冗余的设计,在后续进行综合或者pr的时候会被工具优化,因此需要对模块进行don’t touch设置;通过增值表得到,逻辑关系表达式为:Q=(Q1&Q2)|(Q1&Q3)|(Q2&Q3),通过工艺库的stdcell进行搭建,得到如下电路。

芯冰乐 328
上一篇: 快速构建和部署 RAGS:节省时间和最大化效率的逐步指南
下一篇: 30岁,零基础小白,计划转行前和AI大模型们聊了聊天
冻感糕人~
博客等级 码龄3年 8926粉丝 2393原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值