手把手教你用AnythingLLM搭建本地DeepSeek知识库,小白也能搞定!

【大模型】Ollama+open-webuiAnything LLM部署本地大模型构建RAG个人知识库教程(Mac) 如果需要,可以使用AnythingLLM的开发者API进行自定义集成,以满足特定的业务需求。 阅读详情
AI摘要

本文介绍了用AnythingLLM和DeepSeek在本地搭建知识库的方法。准备好电脑、Docker和DeepSeek账号后,按步骤下载安装AnythingLLM Desktop,配置DeepSeek,创建知识库。还给出了知识库应用场景举例,以及进阶玩法。此外,分享了LLM大模型学习资源包和学习路线。

信息太多记不住?想找的资料总是散落在各处?

你需要一个专属的个人知识库!今天教你用 AnythingLLM 和 DeepSeek 在本地轻松搭建一个,从此告别信息混乱,效率蹭蹭往上涨!


你需要准备:

  • 一台电脑:配置别太差,内存最好 16G 以上。

  • Docker:一个用来运行 AnythingLLM 的工具,去官网下载安装就行。

  • DeepSeek 账号:注册一个,然后获取 API Key,这是连接 DeepSeek 的钥匙。如果要使用其他LLM模型,都是一样的流程。


本地 Desktop 搭建步骤

1. 准备工作

  • 下载 AnythingLLM Desktop 版本

  • 访问 AnythingLLM 官方 GitHub 页面:


  • 在 Releases 页面下载适合你操作系统的 Desktop 版本(Windows、macOS 或 Linux)。

  • 获取 DeepSeek API Key

  • 注册并登录 DeepSeek。

  • 在个人中心找到 API Key,复制保存备用。

2. 安装 AnythingLLM Desktop

  • Windows 用户:

  • 双击下载的 .exe 文件,按照提示完成安装。

  • 安装完成后,桌面会生成快捷方式,双击启动。

  • macOS 用户:

  • 双击下载的 .dmg 文件,将 AnythingLLM 拖到 Applications 文件夹。

  • 打开 Applications 文件夹,双击 AnythingLLM 启动。

  • Linux 用户:

  • 解压下载的 .tar.gz 文件。

  • 进入解压后的目录,运行以下命令启动:

./AnythingLLM


3. 配置 DeepSeek

  • 启动 AnythingLLM:

打开 AnythingLLM,进入主界面。点击左侧菜单栏的 Settings。


  • 选择 LLM Provider:

在 Settings 页面,找到 LLM Provider,选择 DeepSeek。

  • 输入 API Key:

在 API Key 输入框中,粘贴你从 DeepSeek 获取的 API Key。选择适合的模型(例如 deepseek-chat)。点击 Save 保存配置。


4. 创建知识库

  • 点击 Knowledge Bases:

在左侧菜单栏,点击 Knowledge Bases。点击 Create a New Knowledge Base。

  • 填写知识库信息:

输入知识库名称(例如 “我的学习笔记”)。添加描述(可选)。点击 Create 完成创建。

也可以从学术研究的角度创建知识库,可以帮助你更好地管理文献综述、数据集、数据分析、算法模型等内容。例如:

  • 文献综述库:用于存储和管理相关领域的经典论文和最新研究。

  • 数据集库:整理常用的公开数据集及其描述。

  • 数据分析库:保存数据分析方法和代码。

  • 算法模型库:记录算法实现和模型调优经验。

为每个知识库命名并添加简要描述,例如“文献综述库:存储 NLP 领域的最新论文”或“数据集库:整理计算机视觉常用数据集”。


  • 应用场景举例来说,比如文献综述库的使用:

在 文献综述库 中,点击 Add Documents,上传 PDF 格式的论文。你可以批量上传多篇文献,方便整理。为每篇文献添加标签,例如研究领域(NLP、CV、强化学习等)、论文类型(综述、实验、理论等)和年份(2020、2021、2022 等)。

上传完成后,你可以在聊天界面提问,例如:“这篇论文的主要贡献是什么?” 或 “列出最近 5 年关于强化学习的综述论文。”

AnythingLLM 会自动从文献中提取信息并生成回答,帮助你快速了解论文内容。


  • 再比如,你正在研究自然语言处理(NLP)领域:

你可以创建一个 文献综述库,上传最新的 NLP 论文,并添加标签(如“Transformer”、“BERT”)。

在 数据集库 中,整理常用的 NLP 数据集(如 GLUE、SQuAD),并上传数据加载代码。

在 数据分析库 中,保存文本分类和情感分析的代码。

在 算法模型库 中,记录 BERT 模型的实现和调优经验。

通过 AnythingLLM,你可以快速提问,例如:“BERT 模型的主要创新点是什么?” 或 “GLUE 数据集的下载链接是什么?”

系统会从知识库中提取相关信息并生成回答。

以上,大家可以自己动手试试建立自己的知识库,并通过提问的方式获取相应的信息,并进行管理~


5. 进阶玩法:

  • 训练你自己的 DeepSeek 模型,让知识库更懂你。

  • 把 AnythingLLM 和其他笔记软件连接起来,比如 Notion、Obsidian,打造你的知识管理生态系统。

  • 分享你的知识库,和小伙伴一起学习进步。

小提示:

  • 如果遇到问题,可以查看 AnythingLLM 官方文档。

  • 确保你的电脑性能足够,尤其是处理大量文档时。

篇幅有限,后续与大家分享~


通过 AnythingLLM Desktop 版本,你可以轻松在本地搭建一个功能强大的 DeepSeek 知识库。

无论是学习笔记、工作资料,还是个人兴趣收藏,都可以高效管理。赶紧试试吧!

以上,就是这么简单!赶紧动手试试吧,打造你的专属知识库,开启高效学习工作新篇章!

如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

基于此,我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近70次后,终于把整个AI大模型的学习门槛,降到了最低!

在这个版本当中:

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型教程已经给大家整理并打包,现在将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容:

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容:

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容:

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容:

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

macOS上运行 Ollama & AnythingLLM,打造自己的桌面智能体/知识库。 如果你不想通过命令行来使用Ollama,可以搭配一些界面来用。比如AnythingLLM。但是我发现,如果只是体验一下,没有必要使用doker这么麻烦的方式使用。比如我是macOs系统,apple芯片,就选了第一个安装。已经开发了多种系统的桌面端,直接下载使用即可。其他使用步骤与docker没区别,直接参考。下载安装Ollama可以参考前序文章。 阅读详情

相关推荐

超详细!本地部署 DeepSeek 模型全流程指南,搭建你的本地知识库

你是否好奇,那些强大的大语言模型是如何在电脑上 “跑起来” 的?想象一下,你可以在自己的设备上拥有一个智能助手,随时与它交流,获取知识,这是不是很酷?DeepSeek 模型就是这样一个强大的工具,它能为我们带来智能问答、文本生成等多种功能。然而,对于很多人来说,在本地部署这样的模型可能听起来有些复杂。别担心,本文将以最通俗易懂的方式,一步一步带你完成 DeepSeek 模型的本地部署,让你轻松拥有属于自己的智能小天地。

我是晚秋,我在这里,谢谢你的看见。 4656

AnythingLLM:基于RAG方案构专属私有知识库(开源|高效|可定制)

继OpenAI和Google的产品发布会之后,大模型的能力进化速度之快令人惊叹,然而,对于很多个人和企业而言,为了数据安全不得不考虑私有化部署方案,从GPT-4发布以来,国内外的大模型就拉开了很明显的差距,能够实现的此路径无非就只剩下国内的开源大模型可以选择了。而现阶段切入大模型应用落地最合适的方案依然是结合大模型基于RAG检索增强来实现知识库的检索和生存。从而构建个人或者企业私有化的本地知识库。

FrenzyTechAI的博客 2万+

AnythingLLMDesktop-1.7.3.0 windows版本

AnythingLLMDesktop-1.7.3.0 windows版本

AnythingLLM+Ollama,能否打造你的专属个性化AI助手?

AnythingLLM是一个AI聊天系统,它允许用户构建自己的私人ChatGPT。与依赖云服务的AI工具不同,AnythingLLM支持本地开源和商用闭源的大语言模型(LLM),用户可以根据自己的需求和预算选择合适的模型。

xx_nm98的博客 6881

【Excel VBA 编程】批量核对两张表格数据,行和列显示顺序均被打乱

利用数据字典在 Excel 中进行表格数据的核对,该表格含有多行多列,并且行和列顺序是打乱的,批量核对数据后将差异输出

wei1019的专栏 1293

【脑电分析系列】第7篇:频域分析基石 — 功率谱密度(PSD)的计算与常见方法对比

本文探讨了脑电图(EEG)频域分析的核心方法——功率谱密度(PSD)。通过对比基于快速傅里叶变换的周期图法和更稳健的Welch's方法,指出后者通过分段、加窗和平均处理,能有效降低估计方差,更适合分析非稳态的脑电信号。文章详细解析了关键参数设置对频率分辨率和统计稳定性的影响,并提供了Python计算实现。PSD分析将复杂的脑电信号转换为直观的频域特征,为研究认知功能和神经疾病提供重要依据。

qq_32516809的博客 1805

手把手教你用AnythingLLM搭建本地DeepSeek知识库,小白也能搞定(附教程)

你需要一个专属的个人知识库!今天教你用 AnythingLLM 和 DeepSeek 在本地轻松搭建一个,从此告别信息混乱,效率蹭蹭往上涨!

DEVELOPERAA的博客 2547

conda环境的复制、备份操作

请确保将 source_env 替换为你要复制的现有环境的名称,并将 target_env 替换为你要创建的新环境的名称。要备份一个Conda虚拟环境,你需要将环境的配置信息和依赖包列表保存起来,以便在需要的时候能够重新创建相同的环境。要将现有的 conda 环境复制为其他环境,可以使用 conda create 命令并克隆已存在的环境。

Dollhan的博客 3772

DeepSeek+AnythingLLM 搭建专属知识库,小白也能轻松拿捏!

DeepSeek+AnythingLLM 搭建专属知识库,小白也能轻松拿捏!

Gblfy_Blog 5748

Multisim滞回比较器电路设计与仿真实战:从理论到应用

本文详细介绍了Multisim滞回比较器电路设计与仿真实战,从基础理论到实际应用全面解析。通过门铃原理类比解释滞回特性,提供2-5V阈值检测电路的设计步骤和Multisim仿真技巧,并延伸至温度控制系统等实际工程应用,帮助读者掌握电路设计与优化的核心方法。

assembly8low的博客 1081

14、固态变压器(SST)供电的直流微电网控制策略解析

本文详细解析了基于固态变压器(SST)供电的直流微电网的分层功率管理与控制策略。重点介绍了二次控制和三次控制算法的原理及实现方式,探讨了将SST作为固态同步电机(SSSM)的控制概念及其频率调节方法。通过小型直流微电网的实验案例验证了控制策略的有效性,并对不同三次控制方法的优缺点进行了比较。最后,文章提出了未来控制策略的优化方向,包括通信技术提升、多目标优化和智能算法的应用,为直流微电网的可靠、高效运行提供了理论支持和实践指导。

star的博客 551

超详细保姆教程:跟我学,用Ollama + Chatbox/AnythingLLm搭配DeepSeek从零搭建本地知识库

当今公司各部门受繁杂信息困扰,急需专属知识小助手。本文聚焦本地搭建知识库的 AI 教程,核心工具为 Ollama、Chatbox 或 AnythingLLm 及 DeepSeek。Ollama 便捷下载模型,筑牢运行根基;Chatbox 等能精准输出办公知识;DeepSeek 凭检索担 “智慧担当”。这教程利于学生党学习,更是职场人提效利器,依之操作可快速打造 AI 小助手,攻克难题、推动公司发展。

weixin_37991383的博客 1万+

极智芯 | 解读国产CPU之海光

大家好,我是极智视界,本文分享一下 解读国产CPU之海光。希望我的分享能对你的学习有一点帮助。

极智视界 3319

手把手教程!本地部署DeepSeek + 知识库

如何用DeepSeeK和AnythingLLM搭建本地知识库系统!别着急,我会以Windows为主,顺便把Mac的操作也补充一下,手把手教你从头到尾搭建整个系统,保证你跟着做,分分钟拥有属于自己的本地知识库。

m0_70486148的博客 2681

RT-DETR改进策略【损失函数篇】| 通过辅助边界框计算IoU提升检测效果(Inner_GIoU、Inner_DIoU、Inner_CIoU、Inner_EIoU、Inner_SIoU)

为了弥补现有 IoU 损失在不同检测任务中泛化性弱和收敛速度慢的问题,·Inner-IoU·通过引入比例因子 “ratio” 来控制辅助边界框的尺度大小,利用不同尺度的辅助边界框来计算损失,从而加速边界框回归过程。

Limiiiing的博客 1965

面试真题集(十六):TensorRT基础

TensorRT面试真题解析:从模型优化到推理部署 本文精选了14道TensorRT面试题,涵盖选择题、简答题和场景题,深度考察推理工程师对TensorRT核心技术的理解。内容聚焦三个关键维度: 基础概念 FP16推理中Softmax层为何需保持FP32(数值稳定性) INT8校准原理(EntropyCalibrator2的鲁棒性优势) Plugin V3接口的构建/运行分离设计 性能优化 Conv-BN-ReLU融合减少40-60%延迟的关键机制(访存优化) 动态Shape配置策略(min/opt/max

PeterPan的博客 71

DeepSeek+AnythingLLM,搭建本地AI知识库,真的太香了!三分钟搞定智能助手,小白也能轻松上手!

你是否每次查找文档翻遍文件夹,会议纪要总在关键时刻“失踪”? 别慌! 今天揭秘一个“真香”组合——DeepSeek+AnythingLLM,轻松搭建本地知识库,AI秒变你的“第二大脑”!

2401_85325397的博客 1473

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

一文掌握DeepSeeK和AnythingLLM搭建本地知识库系统

本文详细介绍了使用DeepSeeK和AnythingLLM搭建本地知识库系统的完整步骤,包括安装准备、AnythingLLM安装、工作区创建、模型配置、文档上传与关联以及开始对话等。教程手把手指导读者完成整个过程,无需编程基础,即可拥有完全属于自己的本地知识库,提高工作和学习效率。文章还提供了资源获取方式,适合小白和程序员学习使用。

大模型训练 1278

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Ollama+AnythingLLM本地部署大模型DeepSeek,打造自己本地AI知识库

【喂饭教程】20分钟教会你本地部署DeepSeek-R1,并搭建自己的知识库(附Windows安装包+使用技巧),【AI】CherryStudio结合 Ollama 本地模型实现个人知识库,五分钟教你一键在WPS接入Deepseek,轻松配置API,实现智能对话、文档翻译等功能,全B站最用心的DeepSeek教程(没有之一),三分钟本地部署Qwen大模型,保姆级教程!超简单的部署教程,附安装包和微调文档!大模型如火如荼,DeepSeek异军突起,打造自己的AI知识库,学习大模型相关软件的使用和配合。

山塘小鱼儿的博客 1777

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

Deepseek搭建本地知识库

介绍搭建Deepseek本地知识库的方法。

lucky7213的专栏 847

10分钟搞定,DeepSeek+Ollama+AnythingLLM 本地部署完全指南,打造专属知识库

但是,仅仅运行一个大语言模型还不够。如何让它真正理解你的数据,回答你的问题?这时,AnythingLLM 就派上用场了。 它能将你的文档、笔记、网页等各种数据源连接到本地 Ollama 运行的 DeepSeek 模型,构建一个真正属于你的、个性化的知识库问答系统。告别在海量信息中苦苦搜索,让 AI 成为你高效的知识助手!

datian1234的博客 1562

用 DeepSeek 搭建个人知识库,彻底封神了!

作为程序员,时常有需求想要在本地建立一个快速响应、智能化的知识库系统。今天,就让我带你一块儿实现这个目标,搭建一个属于你的本地知识库。我们将使用DeepSeeK和AnythingLLM这两个工具,它们的结合可以帮助你快速搭建一个便捷的本地知识库系统。首先,确保你已经在本地部署了DeepSeeK。做好这些基础准备后,我们可以开始接下来的步骤了。

m0_59235245的博客 1983

10分钟搞定,DeepSeek+Ollama+AnythingLLM 本地部署完全指南,打造专属知识库。

1、列出本地可用的模型列表:ollama list2、启动模型:ollama runmodel_name3、查看模型信息:ollama showmodel_name4、删除指定模型:ollama rmmodel_name2 部署AnythingLLM2.1 下载安装打开官网地址:https://anythingllm.com/desktop,根据自己的系统选择下载的版本。默认路径安装,或者修改默认安装路径都可以。安装完成界面:点击完成自动跳转到AnythingLLM界面。

bagell的博客 1981
上一篇: 大模型实体书卖出10000册!这本《实战AI大模型》PDF无敌了(附PDF)
下一篇: 231页pdf大模型新书!《大型语言模型基础》东北大学NLP实验室出品(附PDF)
Llama-Turbo
博客等级 码龄4年 9901粉丝 2022原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值