5分钟搞定！利用ollama部署Deepseek并且Anythingllm搭建知识库

原创 已于 2025-02-12 08:56:34 修改 · 714 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#AIGC #大数据

于 2025-02-08 16:53:36 首次发布

1.在官网下载ollama，由于访问受限整体下载时间在1-2小时左右

Ollama

2.下载安装好Ollama后，打开命令终端下载pull相关的deepSeek的版本

终端输入 ollama run deepseek-r1:7b（本机内存为32G，集成显卡GPU32G）

整体下载大概3个小时

                                                             图2 下载完成deepSeek R1 7b的版本

 3.在官网下载AnywayLLM，并且安装

https://anythingllm.com/

最低0.47元/天 解锁文章
【实战篇】【搭建本地私有化知识库：用 Ollama 和 AnythingLLM 打造你的专属 AI 大脑】
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
04-07 1082
最近 AI 火得一塌糊涂，ChatGPT、文心一言、Claude、DeepSeek…… 这些大模型让我又爱又恨。爱的是它们确实能干不少事儿，恨的是每次用都得联网，还得担心隐私泄露，关键是我这种“技术宅”总觉得：这玩意儿我能不能自己搞一个？于是，我开始研究本地化部署 AI 的方案。直到我发现了 Ollama 和 AnythingLLM，这两个工具简直是为我这种想搞私有化知识库的人量身定制的！今天，我就来手把手教你，用这两个工具搭建一个完全属于你的本地 AI 知识库。
玩转大语言模型——本地部署deepseek R1和本地数据库的小白教程(Ollama+AnythingLLM)
艾醒的博客
02-05 3869
最近deepseek模型可谓是非常火爆，尤其是deepseek R1的逻辑能力，并且deepseek R1还开放了多种参数大小的蒸馏模型，使得本地部署成为了可能。在本系列中上一篇介绍了在本地部署deepseek R1的用法，本篇将介绍如何部署本地大模型的数据库。
Ollama下载失败？试试离线安装
m0_54634272的博客
08-12 1万+
ollama下载总是失败？试试离线安装
手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
2401_86435672的博客
09-20 1万+
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。中文支持不够完善。\3. 文中提到的技术软件工具有：Ollama、Chatbox、Open WebUI、向量数据库、嵌入模型、本地模型 Gemma、AnythingLLM。
Ollama 离线安装
Jerry的博客
10-22 3231
下载地址 https://github.com/ollama/ollama/releases/我下载的是Ollama的v0.1.31版本，后面均以此版本为例说明。3. 离线下载Linux环境的Ollama安装脚本，并保存到。2. 根据CPU型号下载Ollama安装包，并保存到。5. 运行 install.sh脚本 ,安装。8. 关闭 Ollama 服务。1. 查看服务器CPU的型号。7. 运行大模型，如通义千问。6. 配置大模型下载目录。
Ollama | 本地部署运行开源大模型
2401_82469710的博客
11-26 1974
你有没有考虑过在本地运行开源LLM？你是否不得不手动下载庞大的模型文件？你是否努力构建本地模型的API？你是否尝试在本地管理多个模型？我猜你确实考虑过！这些都是繁重的体力劳动。幸运的是，这里有。Ollama是一款流行的大模型管理工具，用于在本地部署和运行大型语言模型 - https://ollama.ai/现在，你不再需要担心这些麻烦了，一款单一的应用程序可以解决所有这些问题。你只需要访问他们的官方网站，下载应用程序并进行安装。就这样！
使用ollama + AnythingLLM快速且简单的在本地部署llama3
2401_85327249的博客
07-18 2304
因为这个行业不同于其他行业，知识体系实在是过于庞大，知识更新也非常快。作为一个普通人，无法全部学完，所以我们在提升技术的时候，首先需要明确一个目标，然后制定好完整的计划，同时找到好的学习方法，这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费。
操作最简单的 DeepSeek 本地化部署后数据投喂方法，搭建你自己的专属 AI 知识库及注意事项 , AnythingLLM 下载分享
最新发布
业余编程
03-25 3413
手把手教你如何本地化部署 DeepSeek 并投喂数据完成个性化专业定制，小白也能操作，不用命令行进行设置，完全可视化操作。并且发现 1.5b 的资料总结能力相当糟糕，基本看不懂资料，资料中明确提示的内容它都不定归纳出来，相比之下，32b 基本工作正常，归纳资料逻辑清晰准确。
三分钟！教会你用DeepSeek搭建个人知识库
yizhen91y的博客
02-06 3124
三分钟！教会你用DeepSeek搭建个人知识库
DeepSeek R1+Anything LLM搭建私有化AI知识管理系统开源方案实测
饺子大魔王
03-13 1155
在这个数字信息爆炸的时代，如何让AI成为你的私人助理，不仅懂你的心思，还能精准解决专业难题？今天就带你一起探索在Windows电脑上轻松部署Ollama和DeepSeek R1大模型的秘密。别急着翻找复杂的云服务器配置教程了，有了开源神器Anything LLM和cpolar内网穿透工具的加持，只需几个简单步骤，你就能构建一个既能聊天又能学习的新时代AI助手！
在ubuntu系统中下载ollama并且修改ollama中模型的保存路径
2201_75299183的博客
10-25 2万+
（2）复制下载命令：这里需要科学上网后再用下面指令下载，不然非常的慢。（官网也有手动下载的流程，但是也很慢）（2）假如说我们现在要把保存路径改到/home下（我这里改到了/home目录下名为下载的文件夹中）（3）验证是否安装成功：下载好后在终端输入：ollama，显示如下页面说明ollama安装成功。（1）修改模型下载保存位置。（3）刷新配置并重启。
Ollama 国内安装慢，解决方案
热门推荐
lklk72的专栏
08-04 5万+
自从Ollama 更新到3.0版本后，国内安装Ollama都很慢，一直卡在下载中。通过修改脚本，可以解决,windows/mac/linux同样适用。
DeepSeek + Ollama + AnythingLLM实现本地化部署和构建自己的知识库
2301_76168381的博客
02-15 3544
在当今自然语言处理的快速发展中，Ollama 为开发者提供了一种简化的解决方案，使他们能够快速采用和实施先进的语言学习技术。安装完后，cmd进入命令提示符系统或Powershell，输入命令：ollama -h. 显示如下信息，说明安装成功。此外，AnythingLLM的安装和使用过程简单，支持Docker部署，使得用户可以快速搭建私人ChatGPT系统。：允许用户为每个工作区创建不同的AI代理，如专门处理Python代码或PDF文档的代理。：兼容免费的开源模型和需要付费的商用模型，提供极大的灵活性。
（超详细)AI大模型部署安装,傻瓜式安装配置步骤，解决一切问题
大模型研究中心
09-25 9334
Rerankers是Github上支持rerank模型本地化的一个开源项目，支持不同类型的rerank模型，比如transformer-based, API-based，RankGTP等。我理解transformer-based cross-encoder类型的模型是主流，所以后续采用的也是这种。我了解有限，建议参考github项目文档了解更全面的信息。
使用 DeepSeek-R1 与 AnythingLLM 搭建本地知识库
赵一舟的博客
02-01 2907
下载安装后执行，命令：ollama run deepseek-r1:1.5b。
Ollama Python Library 使用指南
大白菜代码的博客
12-11 1260
Ollama Python库提供了一种最简单的方式将Python 3.8+项目与Ollama集成。这个库支持同步和异步操作，可以轻松实现与Ollama模型的交互。',},])
【AI大模型】AnythingLLM构建专用知识库(问答增加个人文档)
DEVELOPERAA的博客
11-05 5962
【AI大模型】AnythingLLM构建专用知识库(问答增加个人文档)
AnythingLLM+Ollama，能否打造你的专属个性化AI助手？
xx_nm98的博客
10-24 6592
AnythingLLM是一个AI聊天系统，它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同，AnythingLLM支持本地开源和商用闭源的大语言模型（LLM），用户可以根据自己的需求和预算选择合适的模型。
本地部署deepseek的知识库怎么开放
03-22
### 如何配置和开放本地部署的 DeepSeek 知识库 为了使本地部署的 DeepSeek 知识库能够被外部访问，需要完成一系列网络和服务配置操作。以下是关于如何配置和开放本地部署的 DeepSeek 知识库的具体说明： #### 1. 配置 Ollama 和 Docker 的环境 Ollama 是用于管理大型语言模型（LLM）的一个工具，它支持将 DeepSeek 模型下载到本地运行。因此，在开始之前，需确保已成功安装 ollama 并将其与 Docker 结合使用[^1]。 ```bash # 安装 ollama 工具 curl https://get.ollama.ai/ | sh # 启动 ollama 服务 docker run --rm -p 11434:11434 ghcr.io/jmorganca/ollama:latest ``` 上述命令会启动 ollama 服务，默认监听端口 `11434`。如果此端口已被占用，则需要更改默认设置或调整防火墙规则以允许流量通过该端口。 --- #### 2. 使用 RAGFlow 构建知识库 RAGFlow 提供了一种结构化的框架来管理和查询个人知识库。要实现这一目标，可以通过以下方式构建并测试知识库的功能: - **克隆 RAGFlow 源码** ```bash git clone https://github.com/RAGFlow/RAGFlow.git cd RAGFlow ``` - **利用 Docker 进行本地部署** 创建一个容器实例并将所需文件挂载至其中以便后续更新数据集: ```bash docker build -t ragflow . docker run -d -p 8000:8000 --name=ragflow-container ragflow ``` 此时，RAGFlow 应用程序将在主机上的端口 `8000` 上可用。 --- #### 3. 开放公网访问权限 为了让远程设备能连接到您的本地服务器，您可能还需要执行一些额外的操作，比如 NAT 映射或者动态域名解析 (DDNS)[^2]。 - 如果路由器支持端口转发功能的话，那么就可以把内部 IP 地址映射给特定外网入口； - 或者考虑采用第三方服务商提供的隧道解决方案如 ngrok 来临时暴露 HTTP(S) 接口。 例如借助于 Ngrok 实现快速公开分享链接如下所示 : ```bash ngrok http 8000 ``` 这一步骤完成后将会获得一条独一无二 URL 可直接分发出去供大家试用体验效果啦！ --- #### 4. 整合 Open WebUI 用户界面 对于希望拥有更直观交互体验的朋友来说，不妨试试看引入开源项目——Open WebUI 。该项目不仅易于定制而且兼容性强，特别适合搭配像我们前面提到过的那些组件一起工作起来更加流畅自然[^3]。 只需按照官方文档指引逐步操作即可轻松搞定整个流程哦~ ```bash git clone https://github.com/open-web-ui/OpenWebUI.git cd OpenWebUI npm install && npm start ``` 最后记得再次确认所有依赖项均已妥善安置完毕之后再正式启动应用咯～ --- ### 总结 综上所述，从基础环境搭建直至最终呈现完整的在线服务平台之间存在着诸多环节需要注意细节处理得当才能达到理想中的成果展现形式。以上便是针对 “如何配置和开放本地部署的 DeepSeek 知识库？” 所作出的回答概述。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值