轻松在本地搭建DeepSeek：Ollama + deepseek-r1:7b + anythingLLM

本地部署DeepSeek实现高效知识检索
最新推荐文章于 2025-04-17 19:06:30 发布
原创 最新推荐文章于 2025-04-17 19:06:30 发布 · 1k 阅读 · 16 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#前端

最近家属有个需求，想用DeepSeek，但是DeepSeek在线版总是服务器繁忙，而且不具备知识库的能力。

家里正好有台电脑闲置，索性尝试了一下本地部署。

最后选择的是Ollama + deepseek-r1:7b + anythingLLM
Ollama deepseek-r1:7b anythingLLM
在这里插入图片描述 在这里插入图片描述 在这里插入图片描述

一共3步就可以

  1. 下载Ollama

下载地址：https://ollama.com/

首页有个Download按钮，直接点击下载就好，下载完成后解压安装即可。

  1. 本地安装deepseek-r1:7b模型
ollama run deepseek-r1:7b
最低0.47元/天 解锁文章
【DeepSeek应用实践】Ollama Deep Researcher：Ollama平台部署DeepSeek-R1，打造本地AI研究助手
寻道AI，探索AI无限可能！
04-01 1801
在当今数字化信息爆炸的时代，高效获取和整理信息成为了科研工作和专业研究中的关键环节。随着人工智能技术的飞速发展，大语言模型（LLM）在信息处理和自然语言理解方面展现出了巨大的潜力。Ollama Deep Researcher 应运而生，它是一款结合了 LangChain 和 Ollama 框架优势的本地化 AI 研究助手，旨在通过自动化的方式帮助用户进行深度网络调研和报告撰写，为研究人员和专业人士提供了一种高效、安全且灵活的研究工具。
【DeepSeek应用实践】手把手教程：用 AnythingLLM + Ollama + DeepSeek-R1 搭建本地企业知识库
寻道AI，探索AI无限可能！
03-28 2116
在众多的技术方案中，我们选择了 AnythingLLM、Ollama 和 DeepSeek-R1 这一组合来搭建本地知识库。Ollama 作为一个轻量级的本地化大语言模型部署工具，支持多种模型，易于安装和使用，能够快速在本地运行强大的语言模型。DeepSeek-R1 是一个专为知识库问答设计的检索增强生成（RAG）模型，它结合了检索和生成的优势，能够快速从知识库中检索相关信息并生成精准答案。而 AnythingLLM 则是一个用户友好的界面工具，可以方便地连接 Ollama 和 DeepSeek-R1
实战本地电脑部署 DeepSeek-R1
2401_82469710的博客
02-04 2516
继昨天安装好最新版Ollama后，今天如约进行了本地版 DeepSeek-R1 的安装和运行。
DeepSeek-Math-7B部署笔记
Audiation88的博客
02-01 1224
该模型用于解决数学问题，7B参数与Float16的前提下，测试官方案例占用显存容量在9.5G至10.2G的情况。使用GPU加速回答时间基本上控制在10-30秒附近。
本地部署deepseek-r1:7b模型
一直在路上的小开发
02-10 1421
环境：win11 16G内存 NVIDIA GeForce RTX 2060显卡 安装deepseek-r1:7b模型
Deep Seek R1本地化部署
晨曦之光Wing的博客
01-30 6913
【说明】操作系统：win10。使用工具：ollama
DeepSeek-R1（1.5B、7B、8B、14B、32B、70B、671b）的区别和应用
小九啥也不会
02-20 9370
【代码】DeepSeek-R1（1.5B、7B、8B、14B、32B、70B、671b）的区别和应用。
【技术前沿】五分钟打造你的专属 AI 助手：Ollama + DeepSeek R1 + AnythingLLM 完整整合指南
TT小子的博客
02-18 963
接下来，我们将一步步完成通过 Ollama、DeepSeek R1 与 AnythingLLM 搭建高效本地知识库系统的过程，系统中的每个组件都至关重要。：作为语言理解领域的 “新秀”，DeepSeek 专注于前沿人工智能技术研发，其开源的 R1版本在逻辑推理和处理复杂自然语言任务方面表现出色。凭借优秀的语言能力，它成为构建知识库的核心引擎。2. Ollama：这是一款专为本地运行大模型设计的工具，提供简单直观的命令行界面，拉取、运行和管理不同语言模型都变得轻松便捷，无需繁琐配置或高昂的云计算成本。
Ollama+Deepseek+AnythingLLM私有化大模型解析
weixin_47600479的博客
02-07 1937
这是一种深度学习搜索引擎技术方案，旨在从大量非结构化信息源中提取有价值的知识点并建立索引。对于建设企业内部或个人专属的知识管理体系非常有用。我用大白话解释一下，DeepSeek其实就是我们所说的一种大模型，其中DeepSeek-V3 在推理速度上相较历史模型有了大幅提升，在当前开源模型中位列榜首。是一款专注于文本生成优化的技术工具集，在提高生成质量的同时减少计算资源消耗。它可以对经过预处理的数据进行微调，使得最终得到的语言模型更高效准确地响应查询请求。
模型的快速下载（DeepSeek,任何模型都适用）
anningyue的博客
02-10 2万+
模型的快速下载（DeepSeek,任何模型都适用）
DeepSeek-R1不同版本的 1.5B、7B、8B、14B、32B、70B、671B 主要区别以及各个蒸馏版本的优缺点
热门推荐
以为在机器学习领域与人工智能领域深耕多年的老牛
02-08 4万+
在人工智能大模型蓬勃发展的当下，DeepSeek-R1系列大模型凭借其出色的性能和广泛的应用潜力，受到了众多开发者和研究人员的关注。该系列包含1.5B、7B、8B、14B、32B、70B、671B等不同版本，每个版本都有其独特之处。今天，我们就来深入探讨一下这些版本的主要区别，以及各个蒸馏版本的优缺点，帮助大家在实际应用中做出更合适的选择。
Ollama本地部署deepseek-r1:8b
weixin_47695827的博客
01-29 7986
6GB显存本地运行deepseek-r1:8b，自定义模型身份。不需要任何客户端的可直接交互chat ui，仅支持ollama本地服务api参数修改`域名端口号`、`下拉选择模型`、`上下文`、`保存配置可清理上下文`、`md格式输出`、`重新回答`、`终止请求`、`导出记录`、`头像更换`操作。最重要的是只有一个`html`文件，拖拽到浏览器就能用。
DeepSeek-R1-Distill-Qwen-7B到底是什么
最新发布
FeelTouch Labs
04-17 1802
DeepSeek和通义千问（Qwen）是两种独立开发的大语言模型，但通过知识蒸馏技术形成了协同关系。
DeepSeek Janus-Pro 7B 下载、安装与运行指南
qq_32358423的博客
02-18 3453
DeepSeek Janus-Pro 7B 是一款开源的多模态大模型，支持多模态理解与生成任务。由于其开源特性，开发者可以轻松下载并安装到本地环境或云端服务器中。
0llama AI Chatbot
fareast_mzh的博客
09-01 1591
https://ollama.com/download/windows
DeepSeek-llm-7B-Chat微调教程
zhishi0000的博客
12-25 1万+
高性价比：DeepSeek-V2模型以其史无前例的性价比著称，推理成本被降到每百万token仅1块钱，约等于Llama3 70B的七分之一，GPT-4 Turbo的七十分之一。架构创新：DeepSeek对模型架构进行了全方位创新，提出崭新的MLA（一种新的多头潜在注意力机制）架构，把显存占用降到了过去最常用的MHA架构的5%-13%，同时，独创的DeepSeekMoESparse结构，也把计算量降到极致。
DeepSeek本地部署保姆级教程（含更多资源分享）
Stephen___Qin的博客
02-07 1233
本文主要介绍了DeepSeek本地部署的详细步骤，针对近期频繁的服务中断和服务不可用的问题，提出通过本地部署的方式来保障正常使用、保护个人隐私和提高数据处理速度。具体地分为三个主要步骤：安装Ollama应用；选择合适版本（按硬件配置选取不同规格大小，如1.5B，7B，或32B版本），完成对 DeepSeek深度学习模型的下载与运行；安装图形化交互界面程序ChatBox，设置连接到刚装好的本地AI系统上，以便更好地与DeepSeek交流互动。
如何快速下载Huggingface上的超大模型，不用梯子，以Deepseek-R1为例子
扶着老奶奶闯红灯
01-22 1万+
就在昨天DeepSeek-R1模型问世即爆火，37B的大模型，你想部署一下试试吗？我就想试试，毕竟本人有8卡A100可以玩。首先我们需要从Huggingface下载模型权重，我在国内，文件太大了，下载不了。有方法，有教程，请仔细看。
《DeepSeek R1 人工智能大模型最简安装步骤》：此文为AI自动生成
zheng_ruiguo的专栏
02-01 2312
《DeepSeek R1 人工智能大模型最简安装步骤》
DeepSeek+AnythingLLM搭建
03-08
### 搭建配置DeepSeek和AnythingLLM环境部署教程 #### 环境准备 为了成功搭建DeepSeek与AnythingLLM，硬件需求需满足特定条件。对于运行DeepSeek-R1-7B模型而言，CPU应具备至少8核（建议采用现代多核处理器），内存不少于16GB，硬盘空间至少8GB用于存储模型文件（大约占用4-5GB）。显卡方面，推荐配备拥有8GB及以上显存的设备，比如RTX 3070或4060系列，这有助于处理中等复杂度的任务如文本摘要、翻译以及轻量级多轮对话系统[^4]。 #### 安装步骤 ##### AnythingLLM下载 启动项目的第一步是从官方渠道获取最新版本的AnythingLLM软件包。确保遵循官方网站上的指导完成此过程，以获得最稳定的服务体验[^1]。 ##### 构建私有本地知识库 一旦完成了基础组件的安装，则可以着手建立个性化的私有数据库。借助于AnythingLLM直观的操作界面，即使是没有深厚技术背景的人也能够顺利完成这项工作。该平台允许用户上传文档资料并对其进行索引处理，从而形成可供查询的知识体系[^2]。 ##### 整合解决方案 通过集成Ollama、DeepSeek及AnythingLLM这三个工具，个人或者小型团队能够在保障信息安全的同时享受高效的自然语言处理能力。这种组合不仅提供了强大的功能支持，还特别强调了隐私保护的重要性，在当今重视数据主权的时代背景下显得尤为珍贵[^3]。 ```bash # 假设已准备好所需依赖项，下面是一些可能涉及的关键命令示例： # 更新系统包管理器缓存(适用于基于Debian/Ubuntu系统的Linux发行版) sudo apt update && sudo apt upgrade -y # 安装Python虚拟环境和其他必要的开发工具 sudo apt install python3-virtualenv build-essential libssl-dev zlib1g-dev \ libbz2-dev libreadline-dev libsqlite3-dev wget curl llvm libncurses5-dev \ xz-utils tk-dev libxml2-dev libxslt1-dev lzma lzma-dev git # 创建一个新的Python虚拟环境来隔离项目依赖关系 virtualenv venv --python=python3 # 激活新创建的虚拟环境 source ./venv/bin/activate # 使用pip安装来自PyPI仓库或其他源的目标程序及其依赖项 pip install deepseek anythingllm ollama # 这里仅为示意，请参照具体项目的README.md中的说明执行实际操作 ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

趁你还年轻233

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值