第三十三篇-Ollama+AnythingLLM基本集成

最新推荐文章于 2025-04-17 18:33:51 发布
最新推荐文章于 2025-04-17 18:33:51 发布
阅读量1.7k 收藏 2
点赞数 3
分类专栏： AI-LLM-实战 文章标签： 人工智能 chatgpt 开源
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/hai4321/article/details/139844953
版权

AnythingLLM

AnythingLLM专属私有知识库,可以使用本地OllamaLLM模型，可以上传文件，基于文件回答问题

启动ollama

参考
第二十五篇-Ollama-离线安装
第二十四篇-Ollama-在线安装

下载安装AnythingLLM

https://useanything.com/download

AnythingLLMDesktop.exe
点击安装，稍微等待一下

配置Workspace-LLM

第一次启动会需要创建一个Workspace，输入一个名称

在这里插入图片描述
点击设置按钮
在这里插入图片描述
弹出配置界面
在这里插入图片描述
选择LLM Preference配置LLM
在这里插入图片描述
可以选择你有的LLM资源，我选择本地Ollama
在这里插入图片描述
配置好LLM点击左下角回退Workspace界面

选中一个Workspace，可以问答了
在这里插入图片描述

配置Workspace-上传文件

在这里插入图片描述
点击上传按钮
在这里插入图片描述
点击选择文件，选择一个你要上传的文件，点击move to workspace
在这里插入图片描述
点击 Save And Embed

稍微等待一下，就可以基于这个文档回答问题了

AnythingLLM教程系列之 11 AnythingLLM+Ollama：将所有 LLM Runner 和所有大型语言模型整合在一起，支持的 LLM、嵌入模型、语音模型和矢量数据库
iCloudEnd的博客
06-21 1800
AnythingLLM 是一个全栈应用程序，您可以使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个私人 ChatGPT，没有任何妥协，您可以在本地运行也可以远程托管，并且能够与您提供的任何文档进行智能聊天。AnythingLLM 将您的文档划分为称为工作区的对象。工作区的功能与线程非常相似，但增加了文档的容器化。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文清晰。
AnythingLLM教程系列之 03无代码一路next部署anythingLLM docker （教程含安装步骤）
iCloudEnd的博客
05-06 3230
AnythingLLM 是最易于使用的一体化AI 应用程序，可以执行 RAG、AI 代理等操作，且无需任何代码或基础设施难题。您需要为您的企业或组织提供一款完全可定制、私有且一体化的 AI 应用程序，该应用程序基本上是一个具有许可的完整 ChatGPT，但具有任何 LLM、嵌入模型或矢量数据库。
手把手教你用AnythingLLM搭建本地DeepSeek知识库，小白也能搞定！
pythonhy的博客
02-12 1973
你需要一个专属的个人知识库！今天教你用 AnythingLLM 和 DeepSeek 在本地轻松搭建一个，从此告别信息混乱，效率蹭蹭往上涨！
AnythingLLM：五分钟在家用电脑快速搭建一个具备本地知识库能力的智能问答系统（附教程）
pythonhy的博客
04-15 747
AnythingLLM 是一款开箱即用的一体化 AI 应用，支持 RAG（检索增强生成）、AI 代理等功能。它无需编写代码或处理复杂的基础设施问题，适合快速搭建私有知识库和智能问答系统。
基于Ollama+AnythingLLM搭建本地私有知识库系统
热门推荐
sheex2012的博客
04-30 5万+
本文介绍了LLM在落地应用中的不足，并引入了RAG框架和原理，以及RAG在私有知识库建设中的重要作用。并以Ollama和AnythingLLM为实现手段，构建了并测试了本地知识库，测试结果表明，有了RAG的加持，LLM的回答结果更加贴切，有效。
macOS上运行 Ollama & AnythingLLM，打造自己的桌面智能体/知识库。
huachangzai的博客
05-09 1968
如果你不想通过命令行来使用Ollama，可以搭配一些界面来用。比如AnythingLLM。但是我发现，如果只是体验一下，没有必要使用doker这么麻烦的方式使用。比如我是macOs系统，apple芯片，就选了第一个安装。已经开发了多种系统的桌面端，直接下载使用即可。其他使用步骤与docker没区别，直接参考。下载安装Ollama可以参考前序文章。
AnythingLLM实操配置教程
学亮编程手记
02-22 2656
【代码】AnythingLLM实操配置教程。
大模型部署实战：基于Ollama + DeepSeek-R1 + OpenAI的混合架构
qq_32358423的博客
02-14 1824
在AI技术快速发展的今天，大语言模型（LLM）已成为开发者工具箱中的核心组件。然而，直接依赖云端API（如OpenAI）可能面临成本、隐私和延迟等问题。（OpenAI），我们可以构建灵活、可控且高性价比的混合架构。本文将手把手教你实现这一方案。无论是个人项目还是企业应用，这套方案都能为你提供强大的AI能力支撑。
离线部署大模型：ollama+deepseek+open-webui
呱牛 Just do IT
02-20 1732
ollama 是一个开源的本地大语言模型运行框架，它提供了非常简单便捷的使用形式，让用户可以十分方便的在本地机器上部署和运行大型语言模型，从而实现免费离线的方式使用 LLM 能力，并确保私有数据的隐私和安全性。
本地 AI RAG 系列之 使用 LangFlow 和 Ollama 构建无代码 RAG 聊天机器人 由于 ChatGPT，每个人都不需要付出太多努力。今天，开发您的第一个聊天机器人不需要任何编码技能
iCloudEnd的博客
07-10 506
在本文中，我们将使用 Langchain 的新平台 LangFlow 创建一个 RAG 聊天机器人。这个聊天机器人将基于两个开源模型：phi3（来自 Microsoft 的新轻量级 LLM 模型）和nomic-embed-text（Ollama 嵌入）。这两个模型在 Ollama 下可用。我们将逐步解释每个组件的工作原理。准备好了吗？
详细！离线部署大模型：ollama+deepseek+open-webui安装使用方法及常见问题解决
02-20 869
通过以上内容，我们了解了 ollama 在国内环境下的安装使用方法，并介绍了因为国内网络特色导致安装过程可能会遇到的常见问题及解决办法。希望这些内容对你有所帮助，如果你有任何问题或建议，欢迎在评论区留言交流。• ollama 官方站：https://ollama.com• ollama 中文站：https://ollama.org.cn• ollama 入门：https://ollama.readthedocs.io/quickstart/
AnythingLLMDesktop.exe
02-09
AnythingLLMDesktop.exe AnythingLLM安装文件。AnythingLLM‌是一个全栈的AI聊天系统，支持本地和云端部署，能够与多种大语言模型（LLM）和向量数据库兼容，适用于构建私有知识库和智能问答系统。它由Mintplex Labs Inc.开发，具有开源和可定制的特性，适合个人和企业使用。可以用于部署deepseek。
AnythingLLMDesktop-1.7.3.0 windows版本
02-07
AnythingLLMDesktop-1.7.3.0 windows版本
CentOS 7部署Ollama运行DeepSeek模型教程
最新发布
业精于勤，荒于嬉；行成于思，毁于随
04-17 537
CentOs 7部署Ollama运行DeepSeek模型教程
基于Ollama和AnythingLLM,搭建本地的知识库
2401_85375186的博客
06-04 4804
最近网上发现一款ollama的开发工具，不过他只能后台命令行操作，按时结合了anythingLLM以后，瞬间就高大上起来了。本篇文章结合了一些网上的材料，自己做了实践部署。主要分为两部分：安装Ollama模块 和安装AnythingLLM模块
使用AnythingLLM配置向量数据库
XZH_iD的博客
06-23 7992
AnythingLLM将文本文件矢量化，存入矢量数据库中，在后续进行提问时，将问题也转换为矢量数据前往矢量数据库中寻找，达到Anything都转化为LLM的效果。
AnythingLLM的联网搜索配置教程（SearXNG）
小for学习栏
03-18 2022
制造业客户将设备手册存入 AnythingLLM，通过 SearXNG 实时补充厂商技术公告；：配置 SearXNG 混合调用 Google（国际代理） + 百度（直连），自动翻译关键段落；：客服回答准确率从 68% 提升至 92%，知识更新延迟从 7 天缩短至 2 小时。：通过 RAG（检索增强生成）技术解析文档语义，支持多模态交互与代理执行；◦ 代码执行验证：对搜索结果中的数学公式/代码片段进行沙箱验证。◦ 网页内容抓取：基于搜索结果自动访问权威链接提取数据；
AnythingLLM 项目安装与配置指南
gitblog_01271的博客
10-18 8782
AnythingLLM 项目安装与配置指南 anything-llm 为开源和闭源的大型语言模型（LLMs）、嵌入器和向量数据库提供开源的ChatGPT体验。在一个应用中提供无限的文档、消息和并发用户，以及权限管理。 项目地址: ...
配置攻略！AnythingLLM本地知识库你用的还好吗？部署后必看（二）极简RAG流程原理及配置参数入门
DEVELOPERAA的博客
02-12 3678
配置攻略！AnythingLLM本地知识库你用的还好吗？部署后必看（二）极简RAG流程原理及配置参数入门
ollama+anythingllm
01-08
### 关于Ollama和AnythingLLM的技术介绍 #### Ollama简介 Ollama是一个开源的大规模语言模型服务工具，旨在帮助用户迅速在本地环境中启动并运行大规模的语言模型。借助此平台，用户仅需执行单一命令即可轻松部署诸如Llama 2乃至最新的Llama 3等开放源码版本的大规模语言模型到Docker容器内[^2]。 #### AnythingLLM概述 AnythingLLM提供了一种灵活的选择方案——自带的`AnythingLLMEmbedder`用于嵌入功能，并默认配置了一个高效的内置向量数据库LanceDB来支持其操作环境中的数据存储需求[^1]。 ### 实际应用案例分析 #### 部署流程说明 对于希望利用上述两项技术构建个人项目的开发者而言，可以从以下几个方面入手： - **环境准备**：确保已安装好必要的依赖项，比如Python解释器及相关库文件； - **获取资源包**：下载官方发布的最新版Ollama镜像以及AnythingLLM的相关组件； - **编写脚本**：创建适合特定应用场景的工作流定义文档（如YAML格式），指定所需加载的基础模型和其他参数设置； ```yaml version: '3' services: ollama_service: image: "ollama/ollama" ports: - "8080:8080" anythingllm_service: build: . depends_on: - ollama_service ``` - **测试验证**：按照官方指南完成初步集成后的基本功能性检测工作，确认各模块间交互正常无误。 ### 开发者社区贡献 考虑到当前网络上有关LLM方面的资料相对匮乏，新手入门难度较大这一现状，积极参与由Ollama发起的各种交流活动显得尤为重要。这不仅有助于降低学习曲线，还能促进整个生态系统健康发展[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值