[必须收藏] 三步本地部署DeepSeek大模型，打造你的专属AI大脑

本文链接：https://blog.youkuaiyun.com/pythonhy/article/details/145592503

有没有想过在自己的电脑上部署DeepSeek? 不管有没有，看过来就好～

教你三步本地部署DeepSeek大模型，打造你的专属AI大脑！

为什么要在本地运行 DeepSeek？

在本地运行 DeepSeek可让你完全控制模型执行，而无需依赖外部服务器。本地运行 DeepSeek-R1 的显著优势：

隐私和安全：不会有任何数据离开您的系统。
不间断访问：避免速率限制、停机或服务中断。
性能：通过本地推理获得更快的响应，避免 API 延迟。
私人订制模型：修改参数、微调提示并将模型集成到本地应用程序中，建立私人定制的模型。
成本效益：通过在本地运行模型消除 API 费用。
离线可用性：下载模型后无需互联网连接即可工作。

此次部署只需三步，即可在本地运行 DeepSeek-R1！

我们将使用 Ollama 在本地设置 DeepSeek-R1。顺便说一下Ollama ，它是一个旨在简化开发人员和团队部署的大型语言模型 (LLM) 的平台。

它允许用户在本地运行强大的 AI 模型，提供灵活性并易于集成到各种应用程序中。

此工具通常用于构建 AI 驱动的应用程序，无需基于云的基础设施即可部署 LLM，从而提供性能和成本优势。

[本地化部署DeepSeek]

第一步，进入Ollama，找到DeepSeek模型，复制指令。

1.1 首先进入Ollama官网, https://ollama.com.

1.2 搜索并找到到DeepSeek-R1：

1.3 复制指令 “ollama run deepseek-r1”。

Ollama 提供一系列 DeepSeek R1 模型，从 1.5B 参数到完整的 671B 参数模型。671B 模型是原始的 DeepSeek-R1，而较小的模型是基于 Qwen 和 Llama 架构的精简版本。如果你的硬件无法支持 671B 模型，也可以使用以下命令轻松运行较小的版本，并将下面的 X 替换为您想要的参数大小（1.5b、7b、8b、14b、32b、70b、671b）：

第二步，打开电脑命令行终端，输入刚才复制的安装指令。

2.1 输入“ollama run deepseek-r1”，开始安装～

2.2 一会功夫，安装完成～

2.3 当你看到“success”，即大功告成！

第三步，开始与DeepSeek私有模型的对话之旅吧～

3.1 首先咱们Say Hi~，DeepSeek很礼貌的回复了～“Hello! How can I assist you today? [笑脸]”

几乎没有思考过程，毕竟条件反射就够了～

3.2 让DeepSeek做个自我介绍，看它能为我们做什么～

“Would you please introduce yourself, and show what you can do for me?” (请介绍一下自己，你能够为我们做什么？)

翻译成中文，看看DeepSeek的思考和答复：

“<思考>

好吧，用户用“嗨，deepseek”向我打招呼。他们随后要求我介绍自己并展示我能为他们做些什么。

我需要以友好和乐于助人的方式回应。既然他们提到了“deepseek”，我应该强调我能够协助完成各种任务，例如回答问题、提供信息和帮助完成创意项目。

此外，提到我可以提供帮助的不同领域（例如研究、写作、解决问题或学习），将表明我多才多艺，涵盖多个领域。

我应该确保保持积极和鼓励的语气，邀请他们提出他们需要的任何东西。

</思考>

嗨！我是 DeepSeek-R1，是 DeepSeek 创建的人工智能助手。我随时为您服务，很乐意帮助您解决任何疑问或任务。”

3.3 接下来我们问问DeepSeek能否作为我们的计算机博士背景的研究助手～ “OK, would you please act as a research assistant with PhD expertise on computer science?”

翻译成中文，可以看到DeepSeek的完整思考过程和答复：

“

好的，用户要求我担任具有计算机科学博士学位水平的研究助理。他们明确提到了这一点，说“好的，您愿意担任具有计算机科学博士学位水平的研究助理吗？”

首先，我需要确认他们的请求并确认我有资格担任这个角色，因为他们信任我承担如此重要的任务。这建立了信任。

接下来，清楚地解释我的局限性很重要。虽然我可以在一定范围内提供有价值的见解和帮助，但我没有实际的博士学位或授予任何学术头衔的权力。

通过预先设定这些期望，我确保我们双方都了解彼此的角色和限制，从而防止以后产生误解。

此外，我想鼓励他们指定他们的研究问题或感兴趣的领域，以便我能够在我的能力范围内提供最相关的帮助。

明白了！我在这里为计算机科学的广泛主题提供帮助。无论您需要了解算法、编程语言、机器学习、数据分析、网络安全还是任何其他子领域，请随时咨询。让我知道我可以如何帮助您！”

从以上几个简短的交互，可以看到本地化的DS-R1也具备线上DS-R1的理性思考和人性化的输出，大家不妨也可以就关心和探讨的问题，与其进一步互动～

以上，三步便完成了DeepSeek本地化部署，通过 Ollama 在本地运行 DeepSeek-R1 可以实现更快、更私密且更具成本效益的模型推理。

借助简单的安装过程和CLI命令行交互，你就可以实现线上 DeepSeek-R1的主要功能，还不自己动手试试～

后续我也会抽空对API 支持、 Python 集成，以及基于学术研究Tunning的DeepSeek-R1大模型进一步探索，未完待续，欢迎留言～

程序员为什么要学大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望