4个步骤,轻松在本地部署DeepSeek-R1大模型(保姆级教程)

Ollama 可以在 Windows 上运行了 阅读详情
AI摘要

本文分享了在本地电脑部署DeepSeek智能助手的步骤,包括下载Ollama、安装DeepSeek - R1模型、与模型对话及安装客户端等。还指出程序员应学习大模型,提供了LLM大模型经典书籍、报告合集、视频教程和开源教程等学习资源,以及详细的学习路线。

DeepSeek 太火了。火到直接出天际了,火到最近不但海量的涌入使用,更招致黑客的攻击。

多方原因,导致官网时不时的崩掉,无法使用。就像这个样子:

因此,这会来分享一下,如何在本地,自己的电脑上部署一个 DeepSeek 智能助手。

流程很容易,很简单的几个步骤,这篇文章教会你。

Mac 和 Windows 系统相通,基本一致的流程。

第一步,下载 Ollama

官网:https://ollama.com

打开官网,是这个样,很醒目的一个「Download」。

点击一下,下载对应系统的版本,即可。

我这里是 Mac 系统,所以直接显示的就是下载 macOS 版。

如果你们的网络不太好,我把 Mac 版和 Windows 版的都下载好附在文末的网盘了,提取就行了。

下载之后,Mac 版解压后,移到到应用目录中,Windows 版直接点击安装即可。

安装好后,在电脑上会看到这个图标,就说明安装成了,最简单的一步。

打开命令行终端,输入 ollama -v 测试一下,显示出对应版本,表示没问题。

命令式就是电脑上一个黑不溜秋的窗口,使用 Mac系统的,打开 Terminal,中文名叫「终端」。

Windows 系统上,搜cmd 就出来了,中文名叫「命令提示符」。

第二步,安装 DeepSeek-R1 模型

在 Ollama 官网的「Models」导航处,搜索「deepseek」。

第一个就是「deepseek-r1」模型,可见有多火。

点进去,可以看到有多个不同的模型,1.5b、7b、8b 等等。

这个 b 代表什么意思呢?

b 是 billion 首字母,十亿的意思。

代表的是参数的数量规模,越大,模型能够处理的任务越复杂。

不过下载哪一个,要根据自己的电脑配置来。

1.5b 是最小模型,大部分电脑都没有问题,可以带得动。

7b 版本,8G 的内存,配上 4G 的显卡,是 OK 的。

所以 7b 的版本,大部分电脑也都能支持。

电脑配置更高的,选更大的模型即可。

我这里选择的是 32b 的模型做演示。

将模型旁边对应的指令复制下来,也就是 「ollama run deepseek-r1」,粘贴到终端命令行里。

粘贴到终端的时候,后面会自动带上参数规模,比如 「deepseek-r1:7b」,我这里是 「deepseek-r1:32b」。

回车,等待下载成功。

看到 success,这就是下载好了。

第三步,和 DeepSeek 对话

模型下载好后,在终端里就可以和 deepseek 进行对话了。

到这一步,已经成功了,可以正常使用了。

如果觉得不够直观,可以安装个直观一点的客户端,ChatBox、Cherry Studio 等都可以。

第四步,安装客户端

这里我使用 ChatBox 集成 DeepSeek。

ChatBox 官网链接:https://chatboxai.app,下载对应系统的版本安装即可。

网络不好的,我安装包打包放在文末了。

然后打开,做个配置。

刚开始打开,会弹出这个框,点击「使用自己的 API Key 或本地模型」。

如果没有这个框,点击左边的设置,一样弹出参数设置框。

选好模型提供方为 ollama 和模型 deepseek-r1,然后保存即可。

然后开个新对话,选择「deepseek-r1」模型,这样就可以了。

可以愉快地玩耍了。

当然,也可以给 DeepSeek 设定一个角色,圈定大模型回答的范围。

这个样子:

以上,安装部署使用 DeepSeek-R1 的全过程。

程序员为什么要学大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容:

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容:

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容:

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容:

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

Ollama入门教程:从安装到运行的完整指南 随着人工智能(AI)技术的快速发展,大型语言模型(LLMs)逐渐成为了各行各业的重要工具。然而,使用这些强大模型的同时,数据隐私、处理效率和部署复杂度等问题也逐渐浮现。为了解决这些问题,Ollama 提供了一种创新的解决方案——通过本地化部署大型语言模型,不仅能够增强数据隐私性,还能提高模型的运行效率。本文将详细介绍如何下载和安装 Ollama,如何选择和运行不同的语言模型,以及 Ollama 的特点、适用场景、优缺点等内容,帮助大家深入了解这一平台。ollama官网🚪 ollama官方文档🚪 根据自己 阅读详情

相关推荐

Ollama:一个在本地部署、运行大型语言模型的工具

所谓自定义模型就是不适用Ollama官方模型库中的模型,理论可以使用其他各类经过转换处理的模型Ollama库中的模型可以通过提示进行自定义。python复制代码FROM llama3 # 设置温度参数 PARAMETER temperature 1 # 设置SYSTEM 消息 SYSTEM """作为AI智能助手,你将竭尽所能为员工提供严谨和有帮助的答复。"""Modelfile文档One-API是一个OpenAI接口管理 & 分发系统,支持各类大模型。这里使用Docker快速进行部署。拉取镜像。

2401_84495725的博客 6721

一文彻底整明白,基于Ollama工具的LLM大语言模型Web可视化对话机器人部署指南

在上一篇博文中,我们在本地部署了**Llama 3 8B**参数大模型,并用 Python 写了一个控制台对话客户端,基本能愉快的与 Llama 大模型对话聊天了。但控制台总归太技术化,体验不是很友好,我们希望能有个类似 ChatGPT 那样的 Web 聊天对话界面,本博文就安排起来……

老牛啊 1万+

本地部署 DeepSeek-R1 大模型

在本篇文章中,我将带你度过本地部署DeepSeek-R1模型的每一个步骤。通过Ollama和Open WebUI,你将会了解如何便捷高效地完成部署。这篇文章不仅是给你的一份指南,更是帮助你打开快速上手的秘籍。若想深入了解,请参考这篇文章。

weixin_44626085的博客 3262

使用ollama在本地部署llama3-8b大模型

使用ollama在本地部署llama3-8b大模型

weixin_39945822的博客 1万+

DeepSeek-R1蒸馏模型——DeepSeek-R1-Distill-Qwen-7B本地部署教程:从大模型到轻量化的高效路径

昨天小编已经为大家分享了DeepSeek-VL2的部署教程。今天将为大家带来DeepSeek-R1蒸馏模型——DeepSeek-R1-Distill-Qwen-7B。可能有小伙伴不是很清楚,什么是蒸馏模型?机器学习(ML)中的模型蒸馏是一种将知识从大型复杂模型转移到小型简单模型的技术。目标是创建一个较小的模型,保留较大模型的大部分性能,同时在计算资源、内存使用和推理速度方面更高效、部署更容易。这对于在资源受限的环境中部署模型特别有用。DeepSeek-R1-Distill-Qwen-7B的性能如何呢。

SJJS_1的博客 5242

本地部署 AI 大模型全指南:Ollama + DeepSeek-R1 + Open-WebUI 完整教程

随着 AI 领域的快速发展,越来越多的开源大模型正在支持本地运行。其优势在于 隐私保护、无需依赖云端、响应速度快Ollama是一款强大的工具,它提供了简洁的接口,让用户能够在本地高效运行各种开源大模型,如。本教程将详细介绍Ollama的安装、DeepSeek-R1 模型的本地部署,以及如何结合Open-WebUI进行可视化交互。如何在本地安装和配置 Ollama,为运行大模型提供便捷的工具和环境。如何下载并运行 DeepSeek-R1 模型,体验强大的 AI 推理能力。

2301_79972360的博客 2713

4个步骤,轻松在本地部署DeepSeek-R1大模型,大模型入门到精通,收藏这篇就足够了!(保姆级教程)

DeepSeek 太火了。火到直接出天际了,火到最近不但海量的涌入使用,更招致黑客的攻击。

Y525698136的博客 876

DeepSeek R1本地部署教程

当然,这几款模型中,参数越小的模型的回答准确率往往越低,即便思考过程摸着门道了,但后续也因不坚定而出错,遇上数学计算领域,不同量级模型的实力差距则会比较明显。依次输入只有4000字的文章和1000字左右的文章,前者回答依旧很迷糊,后者则能胜任,但处理1000字左右的文章稍显鸡肋,所以当个玩具还行,生产力还差点意思。如同调教赛车,每个参数都会影响最终的表现,在体验之前,建议在LM Studio的设置中,根据需求调整推理参数的能力,以优化模型的生成质量和计算资源分配。我们也做了一些简单的测试。

oYangYongJie的博客 2120

【清晰教程】本地部署DeepSeek-r1模型

安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。安装完成后,Ollama 会在后台自动运行,默认端口是 11434。:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。安装完成后,通过命令行检查Ollama的安装情况。:开源项目,拥有活跃的社区支持。

Frost_Descent的博客 4079

Windows上的本地化部署deepseek-r1,独享DeepSeek,真香 ,使用python调用非常快

欢迎来到涛涛聊AI。Ollama是一个强大的工具,可以帮助你在本地轻松部署和管理大语言模型,如deepseek-r1。DeepSeek-R1是由DeepSeek团队开发的第一代高性能推理模型,旨在通过强化学习提升大语言模型的推理能力。该模型采用大规模专家混合(MoE)架构,参数规模高达6710亿,是许多开源大模型的10倍。DeepSeek-R1在数学、代码和推理任务上表现出色,尤其在长链推理(CoT)方面表现优异。此外,它还支持模型蒸馏,能够将推理能力迁移到小型模型上,提升其性能。

涛涛讲AI 5707

CATIA_DELMIA_V5R2019安装包下载及安装教程破解

CATIA_V5R2019/DELMIA_V5R2019安装包下载及安装教程破解

一只机械工装熊的博客 8363

DeepSeek R1 本地安装部署(保姆级教程)

DeepSeek R1 是一款开源的AI模型,它与 OpenAI 的 o1 和 Claude 3.5 Sonnet 等顶级模型竞争,特别是在数学、编程和推理等任务上表现出色。它是免费的、私密的,并且支持在本地硬件上离线运行。DeepSeek R1 提供了多个版本,涵盖从轻量级的1.5B参数模型到功能强大的70B参数版本。从技术角度来看,它基于 Qwen 7B 架构,经过精简和优化,确保在保持强大性能的同时,提升了运行效率。

zhishi0000的博客 8万+

MT5交易软件系统源码

Manager配置的功能及权限:管理客户、开户,销户、入金、信用额度、修改定单、人工交易报表、设定点差、强制平仓、修改密码,设定持仓交割单或挂单小止盈止损点数;26、修改价格 27、更改K线图历史价格 28、同步历史数据;2、系统设置 3、交易管理 4、交易柜台 5、价格更改 6、多台服。务器联机 7、恢复交易历史 8、数据源调整 9、备份服务调整 10、交易市场设定 11、交易单更改 12、平台时间设定(全世界) 13、可添加商品;15、设置商品利息;独立主机(服务器、VPS、VM)

tutujunjun的博客 904

【DeepSeek】在本地计算机上部署DeepSeek-R1大模型实战(完整版)

本文介绍了如何在本地计算机上部署DeepSeek R1大模型,重点讲解了数据隐私、定制化、离线使用等优势,并提供了简便的安装步骤,适合普通用户和开发者,推动AI技术的普及与便利性。

Morse_Chen的博客 2万+

python音频信号分析

声音以具有诸如频率、带宽、分贝等参数的音频信号的形式表示,典型的音频信号可以表示为幅度和时间的函数

MAY的博客 2785

【从零开始学习 UVM】1.1、UVM 概述 —— Preface

【从零开始学习 UVM】1.1、UVM 概述 —— Preface

努力,加油每一天鸭~ 826

DeepSeek 本地部署详细教程,小白也能轻松搞定!

DeepSeek 作为国产开源大模型,近期因在线服务压力过大,本地部署需求激增。本教程将结合全网优质资源,手把手教你完成从环境配置到交互界面搭建的全流程,即使是零基础用户也能轻松掌握。

qq_20890935的博客 5万+

Node-RED系列(二二):使用dashboard搭配echarts制作漂亮的面板

在node-red中dashboard 是一个很常用的模块,其中它有一个chart节点可以用来制作一些图表,比如柱状图,折线图,饼图,但其中的图表并不是很美观,而且可配置项非常的少。 于是就有很多小伙伴找我做一套比较好看的图表面板,在对比了一下几个图表库,我选中了echarts。 不仅美观大方,而且非常容易集成,配置。下面先来看一下我做的效果。这里是直接做了四个折线图,第一个折线图有动态效果,第二个折线图是一个多线条的折线图,第三个折线图是在一个图例显示两个折线图。第二第三都可以用于数据对比。 第四个折线

知无涯 1万+

大模型deepseek-r1 本地Open WebUI部署详解

Open WebUI是一个用户友好的Web界面,专为本地大语言模型(LLMs)设计。它支持多种模型,包括Ollama和OpenAI兼容的API,并允许用户通过图形界面轻松调试和调用模型。Open WebUI的功能丰富,包括代码高亮、数学公式支持、网页浏览、预设提示词、本地RAG集成、对话标记、模型下载、聊天记录查看以及语音支持等。

王小工小工历程 1万+

Cesium.Ray 知识详解,示例代码

Cesium.Ray 是 CesiumJS 中用于表示三维空间中无限射线的核心类,广泛应用于地理信息系统(GIS)、三维可视化和碰撞检测等场景。射线由起点(origin)和方向向量(direction)定义,数学表达式为 ( P(t) = \text{origin} + t \times \text{direction} )。核心属性包括起点和方向向量,常用方法包括射线与平面的交点计算、根据距离获取射线上的点等。在 Cesium 中,Cesium.Ray 常用于地形碰撞检测、鼠标点选对象和雷达探测模拟等场景

大剑师兰特的GIS世界 425

彻底解决JDK安装包点击后无反应

jdk双击无法安装,jdk双击没反应,jdk安装包双击后没反应。

renkai721的专栏 8939

AI大模型(一)基于DeepSeek的本地大模型部署保姆级教程

AI大模型(一)基于DeepSeek的本地大模型部署保姆级教程:基于Ollama在本地部署并搭建DeepSeek-R1大模型,实现本地对话与服务,并解决Ollama存储位置修改和全局网络访问的问题,绝对保姆级教程,关注我带你探索更多未知世界。

这里是阿安的博客 2646

Plant Simulation 快速建模与布局(3)——自动生成的对象 代码“安全”删除管理

《PlantSimulation快速布局建模课程》教授利用SimTalk语言实现高效建模的技术要点,包括批量对象创建、阵列布局、属性管理及自动连接功能。重点讲解对象安全删除机制,通过existsObject检查对象存在性后使用deleteObject方法删除,避免程序报错。课程提供完整代码示例,展示如何通过循环结构实现矩阵布局对象的创建与安全删除,确保代码健壮性,显著提升建模效率。

qq_31964455的博客 119
上一篇: DeepSeek-R1大模型本地部署,保姆级教程!
下一篇: Ollama本地部署DeepSeek-R1:14b完全指南
Llama-Turbo
博客等级 码龄4年 9901粉丝 2022原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值