DeepSeek-R1大模型本地部署(保姆级教程)

简单三步

教你如何本地部署DeepSeek大模型

开启本地体验

本文将介绍如何在自己的电脑上本地安装使用DeepSeek大模型,无需登录DeepSeek官方网站与软件即可使用。

Step1:安装Ollama

下载网址:https://ollama.com/

Image

OLLAMA 是一个开源工具,专注于帮助用户在本地计算机上快速部署和运行大型语言模型(LLM)。它通过简化的命令行界面和预配置的模型包,降低了使用复杂AI模型的技术门槛,支持多种主流模型(如 Llama 3、Mistral、Gemma 等),适合开发者、研究人员及普通用户进行本地AI实验与应用开发。

  • 本地运行:完全离线使用,保护隐私且无需网络。
  • 跨平台支持:兼容 macOS、Linux 和 Windows(部分功能需Windows Subsystem for Linux)。
  • 轻量化与高效:自动优化模型加载,支持多GPU并行加速(需NVIDIA CUDA)。

进入官网主页后,点击Download,根据自己系统选择对应的安装包,下载后直接安装即可。注意:安装后不会出现图形化界面,需要通过命令行操作。

Image

在官网主页,点击中部需要的模型【DeepSeel-R1】(也可以在顶部搜索其他模型)即可跳转模型下载页面。

Image

包括基于Llama和Qwen的DeepSeek-R1蒸馏的六个密集模型。提供多种参数量的模型,根据自己电脑的显存大小选择对应参数量的模型,然后复制红框内的命令。注意:模型默认下载在C盘。

Image

根据自己电脑显存的大小,选择下载对应的模型。表格中左侧是显存大小,右侧是对应的命令。

Step2:下载模型

完成Ollama的安装和下载之后,单击鼠标右键,选择【在终端中打开】

Image

根据Step1中的内容,选择对应的模型,粘贴命令,回车即可自动下载对应模型。

模型安装成功后,会在命令行中显示Send a message(/? for help)

Image

至此,就基本完成本地部署,可以通过命令行聊天。但是命令行还是不太方便,请看接下来的内容。

Step3:安装PageAssist

我们用到PageAssist这款工具

开源地址:https://github.com/n4ze3m/page-assist

下载地址:https://chromewebstore.google.com/detail/page-assist-a-web-ui-for/jfgfiigpkhlkbnfnbobbkinehhfdhndo

Page Assist 是一个开源浏览器扩展,可为本地 AI 模型提供侧边栏和 Web UI。它允许从任何网页与本地模型进行交互。该插件需要在谷歌浏览器中下载,由于网络问题无法下载的朋友可以通过文末获取安装包,直接拖拽到浏览器中,即可安装。

  • 侧边栏:可以在任何网页上打开的侧边栏。它允许您与模型交互并查看结果。
  • Web UI:一个 Web UI,允许您像 ChatGPT 网站一样与您的模型进行交互。
  • 与网页聊天:您可以与网页聊天并询问有关内容的问题。

插件安装后,在浏览器中如下图所示,点击即可打开WEB界面。

Image

支持新建聊天、选择模型、选择Prompt、联网搜索。

值得一提的是,对于大多数用户而言,受限于显卡性能和设备算力,个人电脑本地部署AI模型往往难以达到“丝滑对话”的体验。那些体积小、能跑得动的轻量模型,虽说在功能上“够用”,但在语义理解、语言生成上的表现仍然有限,甚至有些“呆板”。但是想折腾玩一玩,熟悉下部署流程还是OK的。官方网站、APP的使用体验会更好,或者调用官方的API也不错,价格很低。

祝大家顺利解决相关的问题,也欢迎大家在评论区留言讨论!更多高级玩法,持续更新中~

如何学习AI大模型 ?

“最先掌握AI的人,将会晚掌握AI的人有竞争优势,晚掌握AI的人比完全不会AI的人竞争优势更大”。 在这个技术日新月异的时代,不会新技能或者说落后就要挨打。

老蓝我作为一名在一线互联网企业(保密不方便透露)工作十余年,指导过不少同行后辈。帮助很多人得到了学习和成长。

我是非常希望可以把知识和技术分享给大家,但苦于传播途径有限,很多互联网行业的朋友无法获得正确的籽料得到学习的提升,所以也是整理了一份AI大模型籽料包括:AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、落地项目实战等 免费分享出来。

👉点击即可获取大模型学习包2024年最新版👈

  1. AI大模型学习路线图

  2. 100套AI大模型商业化落地方案

  3. 100集大模型视频教程

  4. 200本大模型PDF书籍

  5. LLM面试题合集

  6. AI产品经理资源合集

大模型学习路线

想要学习一门新技术,你最先应该开始看的就是学习路线图,而下方这张超详细的学习路线图,按照这个路线进行学习,学完成为一名大模型算法工程师,拿个20k、15薪那是轻轻松松!

视频教程

首先是建议零基础的小伙伴通过视频教程来学习,其中这里给大家分享一份与上面成长路线&学习计划相对应的视频教程。文末有整合包的领取方式

技术书籍籽料

当然,当你入门之后,仅仅是视频教程已经不能满足你的需求了,这里也分享一份我学习期间整理的大模型入门书籍籽料。文末有整合包的领取方式

大模型实际应用报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。文末有整合包的领取方式

大模型落地应用案例PPT

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。文末有整合包的领取方式

大模型面试题&答案

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。文末有整合包的领取方式

领取方式

这份完整版的 AI大模型学习籽料我已经上传优快云,需要的同学可以微⭐扫描下方优快云官方认证二维码免费领取

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值