deepseek-r1 本地部署

最新推荐文章于 2025-04-16 00:30:27 发布
最新推荐文章于 2025-04-16 00:30:27 发布
阅读量384 收藏 5
点赞数 4
文章标签： ai
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_46551671/article/details/145406868
版权

文章目录

一、安装

官网地址

https://www.deepseek.com/

官方文档

https://api-docs.deepseek.com/zh-cn/

1. 下载Ollama

https://ollama.com/

在这里插入图片描述
在这里插入图片描述
下载好后直接安装

2. 下载模型

（1）下载deepseek模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
备用镜像站：https://hf-mirror.com/

测试的话建议选择1.5B，复制参数到win cmd

ollama run deepseek-r1:1.5b

等待模型安装即可

（2）下载嵌入模型bge-m3

这个模型对中文的支持不错
在这里插入图片描述
在这里插入图片描述

ollama pull bge-m3
Deepseek+Ollama+Cherrystudio+beg-m3部署私人知识库
hongyan0921的博客
02-20 1664
Deepseek+Ollama+Cherrystudio+beg-m3部署私人知识库
OpenAI与开源多语言嵌入模型
安静的软件工程师
02-27 2327
OpenAI 与开源多语言嵌入模型
DeepSeek-R1最佳本地部署+知识库+联网搜索（2个安装包1条命令搞定）.pdf
02-10
DeepSeek-R1最佳本地部署+知识库+联网搜索（2个安装包1条命令搞定）.pdf
embedding模型bge-m3安装及Dify中调用
最新发布
weixin_47938735的博客
04-16 2885
设备：Ubuntu GPU服务器（离线）、Windows10（联网：我的本机电脑）工具：putty（操作离线服务器）、WinSCP（文件上传）前置条件：目标服务器已安装ollama模型（我的不是用docker安装的）
huggingface镜像站下载模型
qq_42504731的博客
08-01 1102
安装包：设置环境变量：执行命令：
BGE、FlagEmbedding
AI工程化、开源分享、文档翻译、代码笔记
05-01 3765
BGE、FlagEmbedding 一、关于 BGE 关于 FlagEmbedding、FlagOpen、BAAI 相关新闻 二、FlagEmbedding 项目 BGE-M3(Paper, Code) Visualized-BGE LongLLM QLoRA Activation Beacon LM-Cocktail LLM Embedder BGE Reranker BGE Embedding C-MTEB 三、FlagEmbedding 模型列表 四、RAG retrieval pipeline
使用Ollama本地部署DeepSeek
janthinasnail的博客
02-19 4977
选择Windows版本下载，下载完成后，双击该文件进行安装安装完成后，打开终端，输入。
【AI工作流】Ollama本地化大模型安装
AAI666666的博客
02-06 1万+
为了给以后的工作流和本地模型铺路，有必要说一下Ollama本地大语言后台的安装。
【教程】基于DeepSeek-R1的个人AI知识库，全本地部署，可断网使用
m0_59164520的博客
02-17 2117
从ChatGPT上线开始，我就有了一个想法，打造一个个人知识库，它可以充当我的第二大脑，记住我的尽量多的信息（包括隐私信息）。无论是我每天的琐碎事务，还是重要的决策和回忆，它都能存储并快速检索。当我问它“我去年5月做了什么？”时，它不仅能够从知识库中找到当时的记录，还能结合上下文和细节，帮助我回忆起那些可能遗忘的瞬间。但要实现这个想法，用在线服务肯定是不行的，我需要它完全本机运行。现在，有了可完全本机部署的deepseek-r1和bge-m3，加上界面优雅的Cherry Studio，是时候实现它了。
DeepSeek-R1推理开源源码+模型（本地部署）.zip
02-17
标题中所提及的"DeepSeek-R1推理开源源码+模型（本地部署）.zip"表明本压缩包文件包含了DeepSeek-R1项目的核心组件——推理引擎的源代码以及相关的机器学习模型文件。推理引擎通常指的是用于执行模型推理的软件组件...
一分钟学会！deepseek-R1本地部署教程（图文版）.docx
02-15
DeepSeek-R1本地部署教程主要分为以下几个步骤：首先，需要安装Ollama框架，这个步骤非常简单，就像安装普通软件一样，只需前往Ollama官网下载并安装即可。Ollama是一个运行大模型的框架，它的安装对于整个教程的...
一文读懂DeepSeek-R1本地部署配置要求（建议收藏）
03-01
知识点正文： DeepSeek-R1是一款人工智能模型，由Ollama平台提供。...强烈建议用户在进行本地部署时根据上述信息考虑自身需求和资源限制。同时，对于模型实际部署测试，应以官方具体部署测试结果为准。
DeepSeek-R1-Distill-Qwen-1.5B-Q8-0.gguf（第一部分）
02-14
在本例中提到的“DeepSeek-R1-Distill-Qwen-1.5B-Q8_0.gguf”文件是一个GGUF格式的文件，它代表了一个经过精简和优化的模型版本。这个文件特别标注为Q8_0量化版本，意味着它在保证模型性能的同时，还通过量化技术...
【LLM-RAG】BGE M3-embedding模型（模型篇|混合检索、多阶段训练）
发现问题，并解决问题，批判性思维
02-16 1万+
M3-Embedding联合了3种常用的检索方式，对应三种不同的文本相似度计算方法。可以基于这三种检索方式进行多路召回相关文档，然后基于三种相似度得分平均求和对召回结果做进一步重排。 多阶段训练过程： 在这里插入图片描述 第一阶段：第一阶段的自动编码预训练采用的是RetroMAE，在105种语言的网页跟wiki数据上进行，从而获得一个基底模型 第二阶段：在第一个数据源的弱监督数据进行预训练，这阶段的损失损失只考虑基于稠密检索的对比学习损失。 最后第三阶段会在第二，三个数据源的监督数据进行训练，这阶段
BGE家族新成员——下一代通用向量模型BGE-M3
Paper weekly
02-02 9253
Highlight:BGE-M3支持超过100种语言的语义表示及检索任务，多语言、跨语言能力全面领先（Multi-Lingual）BGE-M3最高支持8192长度的输入文本，高效实现句子、段落、篇章、文档等不同粒度的检索任务（Multi-Granularity）BGE-M3同时集成了稠密检索、稀疏检索、多向量检索三大能力，一站式支撑不同语义检索场景‍‍（Multi-Functionality）模型...
一文通透Text Embedding模型：从text2vec、openai-text embedding到m3e、bge
热门推荐
结构之法 算法之道
12-31 4万+
判断哪些文本嵌入模型效果较好，通常需要一个评估指标来进行比较，《MTEB: Massive Text Embedding Benchmark(海量文本嵌入基准)》就是一个海量文本嵌入模型的评估基准论文地址：https://arxiv.org/abs/2210.07316MTEB包含8个语义向量任务，涵盖58个数据集和112种语言。通过在MTEB上对33个模型进行基准测试，我们建立了迄今为止最全面的文本嵌入基准。我们发现没有特定的文本嵌入方法在所有任务中都占主导地位。
文本向量模型BGE与BGE-M3
beingstrong的博客
04-01 1万+
文本向量模型BGE与BGE-M3原理介绍
BGE M3-Embedding 模型介绍
asd8705的专栏
06-30 4094
BGE M3-Embedding来自BAAI和中国科学技术大学，是BAAI开源的模型。相关论文在https://arxiv.org/abs/2402.03216，论文提出了一种新的embedding模型，称为M3-Embedding，它在多语言性（Multi-Linguality）、多功能性（Multi-Functionality）和多粒度性（Multi-Granularity）方面表现出色。
TensorFlow相关组件的安装
AAI666666的博客
01-11 2872
TensorFlow相关组件的安装
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值