轻松在本地搭建DeepSeek：Ollama + deepseek-r1:7b + anythingLLM

最新推荐文章于 2025-04-17 19:06:30 发布

原创

最新推荐文章于 2025-04-17 19:06:30 发布 · 1k 阅读

16 ·

CC 4.0 BY-SA版权

文章标签：

#前端

最近家属有个需求，想用DeepSeek，但是DeepSeek在线版总是服务器繁忙，而且不具备知识库的能力。

家里正好有台电脑闲置，索性尝试了一下本地部署。

最后选择的是Ollama + deepseek-r1:7b + anythingLLM


Ollama	deepseek-r1:7b	anythingLLM

一共3步就可以

下载Ollama

下载地址：https://ollama.com/

首页有个Download按钮，直接点击下载就好，下载完成后解压安装即可。

本地安装deepseek-r1:7b模型

ollama run deepseek-r1:7b

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

趁你还年轻233

关注关注

24
点赞
踩
16

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

【DeepSeek应用实践】Ollama Deep Researcher：Ollama平台部署DeepSeek-R1，打造本地AI研究助手

寻道AI，探索AI无限可能！

04-01

1801

在当今数字化信息爆炸的时代，高效获取和整理信息成为了科研工作和专业研究中的关键环节。随着人工智能技术的飞速发展，大语言模型（LLM）在信息处理和自然语言理解方面展现出了巨大的潜力。Ollama Deep Researcher 应运而生，它是一款结合了 LangChain 和 Ollama 框架优势的本地化 AI 研究助手，旨在通过自动化的方式帮助用户进行深度网络调研和报告撰写，为研究人员和专业人士提供了一种高效、安全且灵活的研究工具。

【DeepSeek应用实践】手把手教程：用 AnythingLLM + Ollama + DeepSeek-R1 搭建本地企业知识库

寻道AI，探索AI无限可能！

03-28

2116

在众多的技术方案中，我们选择了 AnythingLLM、Ollama 和 DeepSeek-R1 这一组合来搭建本地知识库。Ollama 作为一个轻量级的本地化大语言模型部署工具，支持多种模型，易于安装和使用，能够快速在本地运行强大的语言模型。DeepSeek-R1 是一个专为知识库问答设计的检索增强生成（RAG）模型，它结合了检索和生成的优势，能够快速从知识库中检索相关信息并生成精准答案。而 AnythingLLM 则是一个用户友好的界面工具，可以方便地连接 Ollama 和 DeepSeek-R1

参与评论您还未登录，请先登录后发表或查看评论

实战本地电脑部署 DeepSeek-R1

2401_82469710的博客

02-04

2516

DeepSeek-Math-7B部署笔记

Audiation88的博客

02-01

1223

该模型用于解决数学问题，7B参数与Float16的前提下，测试官方案例占用显存容量在9.5G至10.2G的情况。使用GPU加速回答时间基本上控制在10-30秒附近。

本地部署deepseek-r1:7b模型

一直在路上的小开发

02-10

1421

环境：win11 16G内存 NVIDIA GeForce RTX 2060显卡安装deepseek-r1:7b模型

Deep Seek R1本地化部署

晨曦之光Wing的博客

01-30

6912

【说明】操作系统：win10。使用工具：ollama

DeepSeek-R1（1.5B、7B、8B、14B、32B、70B、671b）的区别和应用

小九啥也不会

02-20

9366

【代码】DeepSeek-R1（1.5B、7B、8B、14B、32B、70B、671b）的区别和应用。

【技术前沿】五分钟打造你的专属 AI 助手：Ollama + DeepSeek R1 + AnythingLLM 完整整合指南

TT小子的博客

02-18

963

接下来，我们将一步步完成通过 Ollama、DeepSeek R1 与 AnythingLLM 搭建高效本地知识库系统的过程，系统中的每个组件都至关重要。：作为语言理解领域的 “新秀”，DeepSeek 专注于前沿人工智能技术研发，其开源的 R1版本在逻辑推理和处理复杂自然语言任务方面表现出色。凭借优秀的语言能力，它成为构建知识库的核心引擎。2. Ollama：这是一款专为本地运行大模型设计的工具，提供简单直观的命令行界面，拉取、运行和管理不同语言模型都变得轻松便捷，无需繁琐配置或高昂的云计算成本。

Ollama+Deepseek+AnythingLLM私有化大模型解析

weixin_47600479的博客

02-07

1937

这是一种深度学习搜索引擎技术方案，旨在从大量非结构化信息源中提取有价值的知识点并建立索引。对于建设企业内部或个人专属的知识管理体系非常有用。我用大白话解释一下，DeepSeek其实就是我们所说的一种大模型，其中DeepSeek-V3 在推理速度上相较历史模型有了大幅提升，在当前开源模型中位列榜首。是一款专注于文本生成优化的技术工具集，在提高生成质量的同时减少计算资源消耗。它可以对经过预处理的数据进行微调，使得最终得到的语言模型更高效准确地响应查询请求。

模型的快速下载（DeepSeek,任何模型都适用）

anningyue的博客

02-10

2万+

模型的快速下载（DeepSeek,任何模型都适用）

DeepSeek-R1不同版本的 1.5B、7B、8B、14B、32B、70B、671B 主要区别以及各个蒸馏版本的优缺点

最新发布

FeelTouch Labs

04-17

1802

DeepSeek和通义千问（Qwen）是两种独立开发的大语言模型，但通过知识蒸馏技术形成了协同关系。

DeepSeek Janus-Pro 7B 下载、安装与运行指南

qq_32358423的博客

02-18

3452

DeepSeek Janus-Pro 7B 是一款开源的多模态大模型，支持多模态理解与生成任务。由于其开源特性，开发者可以轻松下载并安装到本地环境或云端服务器中。

0llama AI Chatbot

fareast_mzh的博客

09-01

1591

https://ollama.com/download/windows

DeepSeek-llm-7B-Chat微调教程

zhishi0000的博客

12-25

1万+

高性价比：DeepSeek-V2模型以其史无前例的性价比著称，推理成本被降到每百万token仅1块钱，约等于Llama3 70B的七分之一，GPT-4 Turbo的七十分之一。架构创新：DeepSeek对模型架构进行了全方位创新，提出崭新的MLA（一种新的多头潜在注意力机制）架构，把显存占用降到了过去最常用的MHA架构的5%-13%，同时，独创的DeepSeekMoESparse结构，也把计算量降到极致。

DeepSeek本地部署保姆级教程（含更多资源分享）

Stephen___Qin的博客

02-07

1232

本文主要介绍了DeepSeek本地部署的详细步骤，针对近期频繁的服务中断和服务不可用的问题，提出通过本地部署的方式来保障正常使用、保护个人隐私和提高数据处理速度。具体地分为三个主要步骤：安装Ollama应用；选择合适版本（按硬件配置选取不同规格大小，如1.5B，7B，或32B版本），完成对 DeepSeek深度学习模型的下载与运行；安装图形化交互界面程序ChatBox，设置连接到刚装好的本地AI系统上，以便更好地与DeepSeek交流互动。

如何快速下载Huggingface上的超大模型，不用梯子，以Deepseek-R1为例子

扶着老奶奶闯红灯

01-22

1万+

就在昨天DeepSeek-R1模型问世即爆火，37B的大模型，你想部署一下试试吗？我就想试试，毕竟本人有8卡A100可以玩。首先我们需要从Huggingface下载模型权重，我在国内，文件太大了，下载不了。有方法，有教程，请仔细看。

《DeepSeek R1 人工智能大模型最简安装步骤》：此文为AI自动生成

zheng_ruiguo的专栏

02-01

2312

《DeepSeek R1 人工智能大模型最简安装步骤》

docker 环境部署vllm + deepseek -7B

XIAOTONGZHU的博客

03-10

2693

指定模型参数类型，可选项为 auto (自行根据情况加载) 、float32、bfloat16、float16等，可自行查阅部署模型可选参数类型有哪些，不知道的情况可选 auto。启用模型的自动工具选择能力，允许模型根据用户输入和预定义的工具列表，自动决定是否需要调用工具以及选择具体的工具。为容器分配一个伪终端（pseudo-TTY），使容器的输出格式化为终端友好的形式（如支持颜色、光标移动）。--served-model-name deepseek-7B 这个参数请求的时候需要用的。