Deepseek老是崩溃？使用Ollama搭建自己的deepseek

最新推荐文章于 2025-06-02 10:14:27 发布

Heyqings

最新推荐文章于 2025-06-02 10:14:27 发布

阅读量259

点赞数 4

文章标签： llama deepseek 人工智能

本文链接：https://blog.youkuaiyun.com/heyiqingsong/article/details/145919011

版权

Deepseek老是崩溃？使用Ollama搭建自己的deepseek

哎，碰有~，你们不要再用Deepseek来算命了，你们这是纯纯浪费资源。。。就应该让我来😋

😢😢😢😢😢😢😢😢

这可太难受了使我不得开心颜，整日冥思苦想、夜以继日、辗转反侧、翻来覆去、梦寐以求，还有什么词来着？反正终于🤔……🤓☝️

下载部署Ollama

在部署Ollama时可能会遇到网络问题，绿色上网可参考【初晴】

如何绿色上网？

下载这部分我之前的文章中我讲到详见：

Ollama、轻量级AI 模型，Windows本地部署

下载Deepseek R1模型

前往Ollama的模型市场 library

https://ollama.com/library

在library中找到 deepseek-r1 可以看到对于deepseek-r1模型有许多的选择，这里我选择最小的1.5b，当然是越大效果越好，这个根据你自己的配置来选择

复制模型名+版本，我这里是deepseek-r1:1.5b,打开Ollama的WebUI，点击左下角个人找到点击【管理员面板】=》【设置】=》【模型】=》拉取模型就行

但是webui可能随着更新有些功能找不见了

我们也可以打开powershell输入ollama run deepseek-r1:1.5b

等待下载完成后就可以在webui中选择刚下载的模型

测试

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Heyqings

关注关注

4
点赞
踩
7

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

深度学习-130-RAG技术之基于Anything LLM搭建本地私人知识库的应用策略问题总结(一)

qq_20466211的博客

02-25

604

您的 LLM 在提问时如何或为什么不使用您的文档。幸运的是，实际上解决起来很简单！这些方法不仅仅只适用于AnythingLLM。

ollama安装遇到问题解决汇总

liangyely的博客

11-11

2万+

解决方法：无意间发现系统的防火墙打开了，于是关闭系统的防火墙，问题解决。检查发现进程正常，端口也正常，关掉杀毒软件，最后，

参与评论您还未登录，请先登录后发表或查看评论

ollama拉取模型报错解决方案！

Q794469的博客

05-15

2万+

开始以为清理一下缓存就可以了，后来发现不行。今天在用ollama拉取新的模型时出错了。然后重启了一下ollama服务就解决了。重启服务后重新拉取模型可以正常拉取了。

辣妈之野望 11 -- Ollama各大模型全方位对比5

ms44的专栏

02-10

693

StarCoder2 是下一代透明训练的开放代码 LLM，有三种大小：3B、7B 和 15B 参数。Llama 3.2 Vision 是 11B 和 90B 大小的指令调整图像推理生成模型的集合。Llama 3.2-Vision 多模态大型语言模型 (LLM) 集合是一组经过指令调整的图像推理生成模型，大小分别为 11B 和 90B（文本 + 图像输入/文本输出）。Llama 3.2-Vision 经过指令调整的模型针对视觉识别、图像推理、字幕和回答有关图像的一般问题进行了优化。

deepseek 本地化部署和小模型微调

陈锐的技术笔记

02-03

1万+

因为本人gpu卡的机器系统是centos 7, 直接使用ollama会报所以ollama使用镜像方式进行部署，拉取镜像ollama/ollama启动命令查看ollama 是否启动成功，Ollama 没有用户界面，在后台运行。打开浏览器，输入 “http://xx:11434/”，显示 “Ollama is running”。deepseek-r1 目前有7b, 32b, 70b, 671b 多个版本

辣妈之野望 10 -- Ollama各大模型全方位对比4

ms44的专栏

02-10

880

官网： https://github.com/imoneoi/openchat?OpenChat 是一套开源语言模型，通过 C-RLFT 进行微调：一种受离线强化学习启发的策略。一组针对各种数据进行训练的开源模型，在各种基准上都超越了 ChatGPT。已更新至版本 3.5-0106。已更新至OpenChat-3.5-1210，新版本的模型在编码任务方面表现出色，并且在许多开源LLM基准测试中得分非常高。基准测试基于Llama 2的模型经过微调，提高了中文对话能力。

告别DeepSeek崩溃！这7款Deep Seek平替AI工具又快又稳，免费还能联网！【2025年2月更新】

snookeryy的博客

02-20

4229

DeepSeek 官网入口、Deep Seek 下载使用、API 调用和本地部署攻略最新使用指南~【2025年2月更新】轻松使用 DeepSeek 网页版，快速稳定、不卡顿，支持 DeepSeek R1 满血版以及 ChatGPT o1、o3 大模型。本指南提供最全面的 DeepSeek 使用指南，包含 DeepSeek 官网入口、DeepSeek官网平替、DeepSeek 网页版、deep seek 下载使用、API 调用、DeepSeek 本地部署教程，助您顺畅使用 DeepSeek 和 Cha

服务器繁忙？10分钟本地部署DeepSeek+Milvus，增强版不排队！

ZILLIZ

02-05

1464

引言过去一个月的DeepSeek有多火？Sensor Tower数据显示，在其APP在最新的R1模型发布后，DeepSeek的前 18 天内下载量达到 1600 万次，几乎达到ChatGPT同一数据的两倍，不仅如此，DeepSeek还在全球140个国家的APP榜单中名列下载量排名第一。刚刚收工的国内打工人，更是摩拳擦掌，期待着DeepSeek在新的一年成为自己新的AI牛马。然而，暴涨的流量+层出不...

没想到吧？我的第一篇10万+文章是用DeepSeek写的，终于飞起来了！

2401_84494441的博客

02-04

4045

01 “DeepSeek”根据选题写出的框架和文章，我一笔未改我先问了它：我想写一篇“第一篇10万+竟然是DeepSeek写的，我终于也成为了风口上的那头猪了”，主要是写DeepSeek对自媒体行业的帮助，你能帮我建立一个框架吗？DeepSeek深度思考了27秒：它给出了一个框架，我个人觉得还挺清晰的。随后DeepSeek说：以下是为您设计的文章框架，结合个人故事与行业洞察，适合新媒体传播调性。标题：我的第一篇10万+竟是DeepSeek写的？我终于也成为风口上的那头猪了。

Cursor 破局的关键：两个 PMF | Cursor 底层模型 / 使用教程

u013669912的博客

09-25

1万+

……

《DeepSeek R1：大模型最简安装秘籍》：此文为AI自动生成

zheng_ruiguo的专栏

02-01

1467

DeepSeek R1 就像一颗充满潜力的种子，已经在人工智能的土壤中生根发芽。相信在未来，它将茁壮成长为一棵参天大树，为我们的生活、工作和社会发展带来更多的惊喜和改变。让我们共同期待 DeepSeek R1 在未来的精彩表现，勇敢地探索它的更多潜力，一起见证人工智能时代的辉煌篇章。

三步实现【DeepSeek】本地部署，告别服务器崩溃的烦恼！

最新发布

Genio_Wang的博客

06-02

当Spotify用Llama生成的个性化推荐文案让用户播放时长激增30%，当LinkedIn靠开源框架将社交推荐延迟降低40%——企业级AI战场正经历从“技术炫技”到“利润引擎”的残酷蜕变。

【深度学习-pytorch篇】5. 卷积神经网络与LLaMA分类模型

weixin_48846514的博客

05-28

483

卷积神经网络与LLaMA分类模型

LLaMaFactory 微调QwenCoder模型

qq_60245590的博客

05-29

506

仓库已经成功克隆下来了。下载QwenCoder模型。

LLama-Factory使用教程-2025最新版

weixin_35977125的博客

05-28

526

训练完成后，可以融合lora参数，导出作为一个新的模型。新的训练好的模型参数结构和原来的模型（例如qwen2.5-vl）结构一致。原来的模型怎么加载，新的模型就怎么加载。可以选择预览命令查看模型训练的实际指令，输出目录可以选择默认以时间戳命名的路径，确认没问题后点“开始”即可开始训练。前置条件：一台可用的gpu服务器、ubuntu操作系统。2. 启动LLama-Factory图形化界面。1. 下载LLama-Factory。Deepseek相关课程更新中。7.融合lora参数，导出模型。

LLaMaFactory - 支持的模型和模板 && 常用命令

qq_60245590的博客

05-29

954

多卡训练（使用2张GPU） CUDA_VISIBLE_DEVICES=0,1 llamafactory-cli train \ --model_name_or_path meta-llama/Llama3-8B \ --dataset alpaca_en,code_alpaca \ --template llama3 \ --bf16 true \ --deepspeed configs/ds_config.json。，确保模型按Qwen的指令格式处理输入输出（如特殊token和角色标记）。

DeepSeek-R1-0528-Qwen3-8B 本地ollama离线运行使用和llamafactory lora微调

weixin_42357472的博客

05-30

496

支持直接下载：Ollama拉取huggingface社区或modelscope社区的GGUF模型并部署。

LLaDa——基于 Diffusion 的大语言模型打平 LLama 3

weixin_46351593的博客

05-28

951

摘要：中国人民大学高瓴人工智能学院提出了一种突破传统自回归范式的大语言模型架构LLaDA（Large Language Diffusion with mAsking），通过扩散模型思想实现文本生成。该方法采用随机掩码-预测的逆向过程，以动态掩码比例训练模型全局推理能力。理论分析表明，其训练目标是对数似然的上界，数学框架具有严谨性。实验显示，8B参数的LLaDA在多项任务上与主流自回归模型LLaMA 3性能相当，证明了扩散模型在语言建模中的潜力。论文与代码已开源，为语言模型研究提供了新方向。

DEEPSeeK 本地部署不使用OLLAMA

02-19

### DEEPSeek 本地部署方案不依赖 OLLAMA 对于希望在本地环境中部署 DeepSeek 而不借助 Ollama 的用户而言，可以考虑直接利用 Docker 或者 Kubernetes 来实现这一目标。以下是两种主要方式： #### 使用 Docker 部署 DeepSeek 通过编写自定义的 `Dockerfile` 文件来构建适合 DeepSeek 运行环境的基础镜像，并安装必要的依赖库和服务组件。具体操作如下所示[^1]： ```dockerfile FROM nvidia/cuda:11.7.0-cudnn8-devel-ubuntu20.04 # 设置工作目录 WORKDIR /app # 安装 Python 和其他工具链 RUN apt-get update && \ apt-get install -y python3-pip git build-essential && \ pip3 install --upgrade pip setuptools wheel # 复制应用文件到容器内并设置权限 COPY . . # 安装应用程序所需的Python包 RUN pip3 install -r requirements.txt # 启动命令 CMD ["python3", "main.py"] ``` 此方法适用于那些熟悉 Linux 命令行界面并且愿意手动处理更多细节的人群。 #### 利用 Kubernetes 实现高可用性集群部署如果追求更高的稳定性和灵活性，则可以选择基于 K8s 架构搭建多节点分布式系统来进行 DeepSeek 的生产级别部署。这通常涉及到 Helm Chart 的创建与管理、StatefulSet 及 Service 对象的设计等方面的知识和技术栈。 ```yaml apiVersion: apps/v1 kind: Deployment metadata: name: deepseek-deployment spec: replicas: 3 selector: matchLabels: app: deepseek template: metadata: labels: app: deepseek spec: containers: - name: deepseek-container image: your-dockerhub-account/deepseek-image:latest ports: - containerPort: 8080 --- apiVersion: v1 kind: Service metadata: name: deepseek-service spec: type: LoadBalancer selector: app: deepseek ports: - protocol: TCP port: 80 targetPort: 8080 ``` 上述 YAML 片段展示了如何定义一个简单的 K8S deployment 和 service 结构用于发布 DeepSeek 应用程序实例。