deepseek本机部署

最新推荐文章于 2025-02-28 15:21:02 发布
原创 最新推荐文章于 2025-02-28 15:21:02 发布 · 243 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#ai

部署运行你感兴趣的模型镜像

AI大模型deepseek


1. 安装ollama
    https://ollama.com/download
2. ollama中安装deepseek。 
    ollama run deepseek-r1:1.5b
3.安装anythingLLM
    https://anythingllm.com/desktop
4. 配置LLM提供商：配置为ollama，会自动选择为deepseek
    向量数据库。（可以选择Nomic-Embed-Text向量模型，也可以使用默认）
docker部署anythingLLM
    https://docs.anythingllm.com/installation-docker/local-docker
Nomic-Embed-Text 也是使用ollama安装。

测试：也可以使用postman
curl -X 'GET'   'http://localhost:3001/api/v1/admin/users' -H 'Authorization: Bearer MQ2V0KV-3A94463-NDBVAJ8-XA4SKX1'

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

willplay9
关注
DeepSeek 2.5本地部署的实战教程
herosunly的博客
09-22 19万+
本文主要介绍了DeepSeek 2.5本地部署的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 介绍 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 下载模型文件 3. 运行DeepSeek 2.5 3.1 简单测试 3.2 启动API服务
DeepSeek本地部署详细指南
热门推荐
m0_56896669的博客
02-01 14万+
通过上述步骤，你可以在本地成功部署DeepSeek模型，并通过Ollama或Open Web UI与模型进行交互。本地部署不仅能够保护数据隐私，还能根据需求灵活调整模型参数，满足不同场景下的使用需求。如果你在部署过程中遇到任何问题，可以在评论区留言，我们将一起解决。希望这篇教程能帮助你顺利部署DeepSeek模型，开启高效开发的新旅程！
使用 ollama 部署本地模型，零基础入门到精通，非常详细收藏我这一篇就够了
m0_65555479的博客
08-15 3203
在本地启动并运行大型语言模型。运行Llama 2，Code Llama和其他模型。自定义并创建您自己的。
DeepSeek+AnythingLLM打造自己大模型知识库
iNeuOS工业互联网操作系统
02-06 1952
有些用户或是专家在项目建设中提出来要提炼工艺库、模型库、算法库等知识库，可以试着让deepseek成为每个角色的助手，例如工艺的、信息化的、设备的、电气的等角色，让deepseek成为自己，再不断的迭代它。deepseek扮演AI助手的角色，应用越来越发挥出来应有的价值。
DeepSeek大模型应用开发-向量库（一文搞懂什么是向量库）
chajinglong的专栏
02-17 4313
首先，我们得搞清楚什么是向量。其实向量这个词并不复杂，别被数学课上的那些公式吓到了。简单来说，向量是一种可以表示方向和大小的数据结构。它可以是二维、三维，甚至是多维的。比如，我们在地图上定位一个位置，需要经纬度，这就是一个二维向量。而如果你在太空中飞行，那就得加上高度，变成三维向量。然而，在计算机世界中，我们可以创建任意多维度的向量。比如，当你在看一部电影的时候，某个推荐算法可能会把电影的各种特征（如类型、演员、评分等）转换成一个高维向量。这个向量代表了电影的特性，让机器能更好地理解它。
DeepSeek + AnythingLLM 简单三步搭建个人知识库，现在的我强的可怕！
2301_81940605的博客
02-12 6580
你想过和自己聊天吗？你想通过对话的方式读一本书，或看一篇几万字的论文吗？如果你有以下需求之一：1. 想将自己积累了很久的笔记整合起来，方便自己分析。2. 想建立自己的素材库。3. 你（或你的孩子）想通过对话聊天的方式学习新知识。那么建议你跟着这篇教程，赶紧搭建一套个人知识库，来快速检自己想要的信息。主流的个人知识库软件有 AnythingLLM、Dify、Cherry Studio、MaxKB 等。产品Github 关注数使用方式知识库说明官网地址Dify64.7kweb。
手把手教你用AnythingLLM搭建本地DeepSeek知识库，小白也能搞定！
pythonhy的博客
02-12 2443
你需要一个专属的个人知识库！今天教你用 AnythingLLM 和 DeepSeek 在本地轻松搭建一个，从此告别信息混乱，效率蹭蹭往上涨！
DeepSeek本机部署(基于Ollama和Docker管理）
2302_79135989的博客
01-31 2万+
基于Docker和Ollama管理的本地最强模型部署
精选资源
DeepSeek私有化部署指南及其一体机设计方案
最新发布
03-15
最后部分深入介绍了针对DeepSeek 671B和其他版本的国产DeepSeek一体机配置细节与应用场景，尤其是针对教育行业的解决方案，旨在帮助各类用户更高效利用AI资源。 适合人群：对企业架构师、IT技术人员、数据科学家，...
精选资源
2025山东大学：DeepSeek应用与部署（部署方案大全+API调用+业务应用）-80页.pptx
02-22
山东大学发布的《2025山东大学：DeepSeek应用与部署》演示文稿详细介绍了DeepSeek这一技术的最新发展，涵盖了从基础理论到实际应用部署的方方面面。DeepSeek是一个技术创新，专注于深度学习和强化学习的应用，旨在...
Windows中使用Docker安装Anythingllm，基于deepseek构建自己的本地知识库问答大模型，可局域网内多用户访问、离线运行
百年孤独百年的博客
02-12 8846
本文介绍了如何在 Windows 系统的 CMD 中使用 Docker 安装 AnythingLLM，并搭建自己的知识库问答大模型
Deep Seek大模型本地部署+AnythingLLM部署
weixin_58022259的博客
02-06 1125
Deep Seek大模型本地部署+AnythingLLM部署
在docker容器中运行vllm部署deepseek-r1大模型
qq_26572567的博客
02-28 2271
在docker容器中运行vllm部署deepseek-r1大模型
无敌了！快去试下，国产大模型deepseek-R1本地部署手册！！
2301_81940605的博客
02-05 2896
近期deepseek多次冲上热搜，又是多模态支持，又是开源发布R1模型，最近还受到了网络攻击。这篇文章介绍下如何快速部署deepseek-R1，本地访问，因为目前提供了最低7B数据集的模型。
DeepSeek+Ollama+AnythingLLM 本地部署完全指南，打造专属知识库
hugejiletuhugejiltu的博客
02-24 975
它提供了一种方法来将文本内容转化为高层次的向量表示，这些向量可以被用来进行各种 downstream的任务，例如文本分类、信息检索、机器翻译等。在集成到类似的系统中，nomic-embed-text 可以帮助将自然语言处理的内容嵌入到知识库或模型中，从而增强对文本数据的理解和处理能力。第一步：LLM 首选项（大语言模型选择）：选择Ollama，AnythingLLM会自动检测本地部署的模型，所以前提确保Ollama本地部署的模型正常运行。结果是参考刚才上传的知识库内容去回答了问题，内容准确度还是不错的。
AI(16)-anythinLLM-deepseek打造本地私有知识库
aggie4628的专栏
02-24 533
亲测可行，供大家参考
Ollama、DeepSeek和AnythingLLM搭建自己的知识库
luck332的专栏
02-09 614
要搭建自己的知识库，可以使用Ollama、DeepSeek和AnythingLLM这三个工具。你可以使用Ollama、DeepSeek和AnythingLLM搭建一个高效的本地知识库，实现自定义的AI助手功能。
搭建自己的专属AI——使用Ollama+AnythingLLM+Python实现DeepSeek本地部署
BetrayArmy的博客
01-31 1万+
最近DeepSeek模型非常火，其通过对大模型的蒸馏得到的小模型可以较轻松地在个人电脑上运行，这也使得我们有机会在本地构建一个专属于自己的AI，进而把AI“调教”为我们希望的样子。本篇文章中我将介绍如何使用Ollama+AnythingLLM+Python实现DeepSeek的本地部署，并训练一个自己的专属AI。
安装一个本地大模型
weixin_44357071的博客
09-24 1026
安装本地大模型之后，用如下方式启动 ollama run deepseek-v2:16b。
DeepSeek本机部署
02-09
### DeepSeek 本地部署指南 #### 环境准备 对于硬件需求，最低配置应具备支持AVX2指令集的CPU、16GB内存以及30GB存储空间；而推荐配置则建议采用NVIDIA GPU（如RTX 3090或更高级别）、32GB内存和50GB存储容量[^2]。 关于软件依赖方面，操作系统可以是Windows、macOS或是Linux。当计划利用Open Web UI时，则需预先安装好Docker工具。 #### 安装Ollama 为了能够顺利执行后续操作并启动DeepSeek模型，先要完成Ollama组件的安装工作。这一步骤具体可参照官方文档中的指导说明来实施。 #### 部署DeepSeek模型 依据个人计算机上的GPU显存情况选取合适的版本进行下载。通过命令提示符(cmd)，输入如下所示的命令以实现`deepseek-r1`模型的本地化运行： ```bash ollama run deepseek-r1:32b ``` 上述命令适用于具有较大显存量设备的情况，其中`:32b`表示该预训练模型参数量大小为32亿级别。如果有其他不同规格的需求，可以根据实际情况调整标签后的数值部分[^3]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值