Ollama部署国产DeepSeek-R1自然语言大模型

已于 2025-02-06 01:18:44 修改
阅读量416 收藏
点赞数 8
分类专栏： AI 文章标签： DeepSeek-R1 DeepSeek 深度求索 自然语言大模型 本地部署 自然语言处理 Ollama
于 2025-02-06 01:11:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zhangyikai666/article/details/145463627
版权

DeepSeek | 速度求索  👍

一、安装Ollama

可以参考我之前的文章

二、部署DeepSeek-R1自然语言大模型

​

DeepSeek-R1

##打开CMD

  >> ollama run deepseek-r1:模型参数

​

​

等待一些时间，看到四个100%进度条以及 ↓ 的提示

​

表示你成功的在你的电脑或者服务器上面部署了大模型

接下来你就可以使用大模型了！

【DeepSeek部署实战】基于Ollama+Chatbox零成本部署DeepSeek-R1系列模型攻略（Windows）
寻道AI，探索AI无限可能！
03-24 1517
在人工智能领域，DeepSeek 作为国产大模型的第一梯队选手，凭借其卓越的算法优化和高性能表现（支持代码生成、数学推理、多轮对话等场景）持续领跑行业。然而，尽管官方提供了免费的网页版服务，但在实际使用中，用户常常面临三大痛点：网络延迟高（尤其是在代码生成场景中）、隐私数据外泄风险以及高峰期服务器响应缓慢。为了解决这些问题，本文将介绍一种基于 Ollama 和 Chatbox 的黄金组合方案，手把手教您在 Windows 系统上实现零成本本地化部署 DeepSeek-R1 系列模型，
Windows本地部署DeepSeek-R1大模型实战：基于Ollama的极简指南
TKang8912的博客
02-03 5867
准备训练数据（JSONL格式）{"text": "<用户指令>优化客服话术</指令><响应>..."}# 启动微调部署效果评估响应速度：CPU模式约15 tokens/s，RTX4090可达85 tokens/s内存占用：7B量化版约5.8GB，完整版需18GB知识截止：2023年10月（可通过微调更新）最佳实践建议日常使用选择4-bit量化版本复杂任务启用GPU加速长期运行建议配置为Windows服务敏感业务数据启用TLS加密传输。
在Windows电脑上部署自然语言大模型：完整指南
qq_45058947的博客
07-27 2607
自然语言处理（NLP）的模型越来越强大，人们越来越想把这些模型部署在自己的电脑上。本文就将详细指导你如何在Windows电脑上部署自然语言大模型，包括CUDA的安装，运行环境的搭建，Python载入模型以及模型下载网址等内容。
DeepSeek R1重磅开源！一文读懂训练方法与RAG应用搭建
Z4400840的博客
02-04 2209
DeepSeek R1的特点在于使用强化学习（RL）进行后期训练。预训练：利用大规模语料库创建一个 “预测下一个单词” 的模型。监督微调（SFT）：使用高质量的、人工创建的指令-响应配对数据，针对特定任务对模型进行微调。基于人类反馈的强化学习（RLHF）：由人类评估模型的输出，并将评分作为奖励来更新模型。据说，DeepSeek R1在大规模地进行强化学习，尤其是上述的第三步。
利用Ollama部署DeepSeek模型
最新发布
优快云@YuanDaiMa2048的博客
05-06 814
介绍如何利用Ollama部署DeepSeek模型
Ollama部署中文版llama3模型
python123456_的博客
05-30 2375
从Llama3发布到现在，Github 以及 HuggingFace 平台上，可以看到已经陆陆续续地看到很多将其进行微调了一些这样的项目。目前效果最好的中文微调版是 HuggingFace 社区的 zhouzr/Llama3-8B-Chinese-Chat-GGUF 模型，该模型采用 firefly-train-1.1M、moss-003-sft-data、school_math_0.25M、弱智吧数据集。更多关于Llama中文项目的信息，可以看下这个Llama中文社区。
使用ollama搭建自己的本地中文大语言模型
aolan123的博客
07-16 5834
说到ai,大家应该不陌生了，它应该是目前最火的研究方向之一了，下面是目前比较流行的一些ai(人工智能大模型):openai的chatgptgoogle的GemmaAnthropic的Claude月之暗面的kimi阿里的通义千问百度的文心一言字节跳动的豆包但今天聊的是ollama这个开源框架加上开源模型来实现自己本地的ai。
如何在本地搭建Deepseek国产模型（图文详细）
llllllkh的博客
02-07 587
2.Win+R 输入cmd 回车 cmd中输入其中一个 越往前的对配置要求越低。5.将AI模型提供方改为Ollama 模型选择你下载的Deepseek版本。系统要求：Win10及以上。
使用ollama部署DeepSeek-R1-Distill-Qwen-1.5B
xuebodx0923的博客
02-07 3032
Ollama是一个基于 Go 语言的本地大语言模型运行框架，类 docker 产品（支持 list,pull,push,run 等命令），ollama将类似于镜像的大模型从中央仓库拉取到本地，可以把ollama看作，把ai大模型看作是镜像。DeepSeek，全称杭州深度求索人工智能基础技术研究有限公司。推出国产大模型DeepSeek-V3和DeepSeek-R1。总参数量为671B，激活37B。优势：1：开发费用超级低，训练成本约为558万美元，是美国最好的模型openAI o1开发费用的3%
Windows本地部署DeepSeek-R1大模型并使用web界面远程交互
等风来
02-06 5717
最近爆火的国产AI大模型Deepseek详细大家都不陌生，不过除了在手机上安装APP或者官网在线体验，我们其实完全可以在自己的Windows电脑上本地进行部署，并结合cpolar内网穿透工具轻松实现远程交互，带来更方便快捷的体验。之前就和大家分享过本地运行 AI 模型具有很多优势，比如隐私安全：你的所有数据都保留在你自己的机器上，不存在共享敏感信息的风险。快速响应：官方及三方访问量过大，延迟非常高，造成卡顿，本地部署大模型可以避免这种情况。
使用vllm部署DeepSeek-R1-Distill-Qwen-1.5B
xuebodx0923的博客
02-02 8294
是伯克利大学LMSYS组织开源的大语言模型高速推理框架，旨在极大地提升实时场景下的语言模型服务的吞吐与内存使用效率。也正是因为如此，DeepSeek R1价格非常便宜，每100万个输出tokens 2.19美元，而 OpenAI o1 则需要60美元，DeepSeek R1便宜 96.4%，性能却不相上下，完全就是逆风翻盘。推出国产大模型DeepSeek-V3和DeepSeek-R1。由于硬件的限制，我们下面用vllm部署了一个最小的模型DeepSeek-R1-Distill-Qwen-1.5B。
ollama解决国内下载慢的问题/国内下载/镜像
热门推荐
weixin_50150363的博客
09-23 7万+
github ollama界面右侧releases内复制下载链接。中下载（可右键下载文件复制下载链接）复制下载链接,于下载加速器。
ollama部署体验Chinese-LLaMA-Alpaca-3大模型项目
nlpstarter的博客
05-15 2997
使用Chinese-LLaMA-Alpaca-3项目中的模型，利用ollama进行了部署体验。
Ollama
天宇龙腾的博客
10-24 3898
安装成功后，在本地浏览器输入网址 http://127.0.0.1:11434/，如果出现 Ollama is running 证明服务运行成功，也可通过命令查看。，是目前本地部署大模型最便携的解决方案，配合OpenWebUi可以实现本地对话需求，支持FP16或FP32的模型量化，支持API服务。不同操作系统模型存放的位置不同。
Ollama：一个在本地部署、运行LLM大型语言模型的工具
2401_82469710的博客
06-26 4514
Ollama是一个专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计的工具。
Ollama部署和安装
weixin_63800045的博客
11-12 8562
ollama运行本地大模型
Ollama+DeepSeek+OpenWebUI/PageAssist+SpringAI本地部署+可视化+Java调用DS模型
python1222_的博客
02-17 1639
DeepSeek 是当下最好的开源大语言模型，本文先介绍怎样安装 Ollama，然后通过 Ollama 来部署 DeepSeek-R1 模型，之后介绍两种常用高质量的可视化模型界面（PageAssist 和 OpenWebUI 选择一个即可），最后介绍怎样通过 spring-ai-ollama 来便捷的调用 DeepSeek-R1 模型！
Ollama：一个在本地部署、运行大型语言模型的工具
weixin_59191169的博客
05-28 7879
所谓自定义模型就是不适用Ollama官方模型库中的模型，理论可以使用其他各类经过转换处理的模型Ollama库中的模型可以通过提示进行自定义。# 设置温度参数# 设置SYSTEM 消息SYSTEM """作为AI智能助手，你将竭尽所能为员工提供严谨和有帮助的答复。"""Modelfile文档One-API是一个OpenAI接口管理 & 分发系统，支持各类大模型。这里使用Docker快速进行部署。拉取镜像创建挂载目录启动容器访问IP:3001初始账号用户名为 root，密码为 123456。
Deepseek R1语言模型本地部署指南：硬件配置与优化
本手册为技术团队提供完整的本地部署指南，涵盖了从硬件配置、国产芯片适配、量化方案、云端替代方案，到完整671B MoE模型的Ollama部署方法。 2. 硬件配置要求: 根据模型参数的不同，需要的硬件配置也有所不同。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值