通过Ollama在本地安装和使用DeepSeek-R1

通过Ollama在本地安装和使用DeepSeek-R1

  • 1.安装ollama

    • 1.1 下载并安装
    • 1.2 修改ollama模型的存储目录
  • 2.安装deepseek R1

  • 3.通过命令行对话deepseek-r1

  • 4.通过前端页面 Page Assist 对话

  • 5.通过代码调用

随着蛇年的到来,深度求索(DeepSeek)在 AI 领域迎来了一个开门红,全新发布的 DeepSeek-R1 模型以其卓越的性能和超高的性价比,迅速成为业界关注的焦点,点开各大自媒体,基本都被刷屏。

无论是多轮对话、代码生成,还是数学推理,DeepSeek-R1 都展现出了强大的能力,尤其是在 数学推理代码生成 方面,表现尤为亮眼。

img

更令人惊喜的是,如此高性能的模型,价格却非常亲民,甚至完全开源,吸引了大量开发者和 AI 爱好者的兴趣。

许多用户希望在本地环境中安装和体验 DeepSeek-R1,以便更好地利用其能力,同时确保数据隐私和安全。然而,对于不熟悉大模型部署的用户来说,本地安装可能显得有些复杂。

幸运的是,现在有一个简单而高效的工具可以帮助我们轻松实现这一目标 — Ollama

Ollama 是一个用于在本地运行大型语言模型(LLM)的一体化工具。它允许用户在本地设备(如个人电脑或服务器)上运行和管理各种 AI 语言模型,而无需连接到云端。

无论是开发者还是普通用户,都可以通过 Ollama 快速上手 DeepSeek-R1,体验其强大的功能。

1.安装ollama

1.1 下载并安装

官网:https://ollama.com/

浏览器打开官方网站,点击“download”,下载最新版的ollama

img

双击OllamaSetup.exe安装

img

img

等待安装完成后,ollama会默认启动,并挂在右下角任务栏

打开CMD,执行ollama,看到ollama已经安装完成

img

1.2 修改ollama模型的存储目录

默认情况下,ollama模型的存储目录如下:

  • macOS: ~/.ollama/models
  • Linux: /usr/share/ollama/.ollama/models
  • Windows: C:\Users\<username>\.ollama\models

如果需要使用不同的目录,则需设置环境变量OLLAMA_MODELS, 把它设置为所选目录,如果不需要修改,直接跳到第2章

为了不占用C盘空间,我把ollama的模型都放到其他位置G:\litx\.ollama\models

  1. 打开 “设置”(Windows 11)或 “控制面板”(Windows 10)应用程序,搜索环境变量。
  2. 点击编辑账户的环境变量。
  3. 创建一个新变量OLLAMA_MODELS ,指向存储模型的位置G:\litx\.ollama\models
  4. 单击 "确定/应用 "保存。

2.安装deepseek R1

在CMD执行命令

ollama run deepseek-r1:7b

img

根据自己的网络情况,等待一段时间后,看到提示success,表示ollama已经下载好deepseek-r1:7b,并启动成功

DeepSeek-R1-7B,是通过R1蒸馏的小模型,在各方面超越了非推理模型如 GPT-4o-0513

img

因为我电脑配置太低,现在安装一个蒸馏的小版本7b

我的配置: 16G内存,RTX2050 4G版本的显卡

官方推荐: 至少有 8 GB 的 RAM 可用于运行 7B 模型,16 GB 可用于运行 13B 模型,以及 32 GB 可用于运行 33B 模型

3.通过命令行对话deepseek-r1

在提示符后输入问题:写一篇100字的科幻小说

看到deepseek r1:7b正常返回,输出速度正常偏慢

img

如果已经退出交互命令,可以再次执行ollama run deepseek-r1:7b,进入对话

4.通过前端页面 Page Assist 对话

Page Assist 是一个开源浏览器扩展,提供了一个侧边栏和网页用户界面,用于本地 AI 模型。它允许从任何网页与您的模型进行交互。

打开chrome应用商店,搜索“Page Assist”,点击安装

img

插件安装成功后,打开插件,看到插件已经检测到我们安装的ollama,提示:Ollama is running;

在上边模型列表中,选择我们正在运行的deepseek-r1:7b

img

在下边的对话框中输入问题:写一篇100字的科幻小说,看到deepseek-r1:7b正常返回

img

5.通过代码调用

安装依赖pip install ollama

流式调用:

from ollama import chat

messages = [
  {
    'role': 'user',
    'content': '天空为什么是蓝的?',
  },
]

for part in chat('deepseek-r1:7b', messages=messages, stream=True):
  print(part['message']['content'], end='', flush=True)

print()

返回:

<think>
嗯,今天老师在课堂上问了一个问题:“天空为什么是蓝色的?”我觉得这是一个很有趣的问题。其实,这个问题看似简单,但背后可能有很多科学知识在里面。我想先从我已有的知识出发,试着理解一下。

首先,我记得小时候看天空的时候,会觉得天的颜色是由云决定的。比如,下雨的时候天变灰暗,下雪的时候天就更白了。所以,蓝色应该是天空原本的颜色对吧?可是,为什么是蓝的呢?难道不是绿色或者黄色吗?

... 省略一堆字...

总结一下,我的理解是:因为阳光的白光在穿过地球的大气层时,各成分会让不同颜色的光线以不同的方式传播,而蓝色的光线由于其较短的波长更容易被散射,所以人们看起来天空是蓝色的。这可能解释了为什么天空通常是蓝色的原因。
</think>

天空呈现蓝色是因为太阳的白光在穿过大气层时发生了色散现象。阳光包含多种颜色的光,而不同颜色的光在大气中传播时会受到不同程度的影响。其中,蓝色的光具有较短的波长,在散射过程中更容易被分散到各个方向。这种现象使得天空看起来是蓝色的。

具体来说:

1. **白光与色散**:太阳发出的光芒是一种复合光,包含了不同颜色的光谱(如红、橙、黄、绿、蓝、靛、紫等)。当这束白光进入地球的大气层时,大气中的分子和小颗粒会对光线产生散射作用。

2. **波长的影响**:各种颜色的光具有不同的波长。蓝色光由于其较短的波长,在大气中更容易被散射,特别是分散到远处的天空区域。相比之下,红色和橙色等长 wavelength 光则主要集中在地面附近,不易被散射。

3. **几何视角**:当观察者位于地球表面时,阳光需要穿过相对较厚的大气层到达眼中。在这种情况下,蓝色光的散射更为明显,使得天空呈现出蓝色。

总结来说,大气中的分子和光线色散现象共同作用的结果,导致了我们看到天空呈现蓝色的现象。这种科学解释不仅解释了为什么天空是蓝色的,还揭示了光线在大气中传播时的复杂性。

Process finished with exit code 0

DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性:

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把都打包整理好,希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

read-normal-img

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

read-normal-img

read-normal-img

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费在这里插入图片描述

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值