麒麟系统DeepSeek——基于AnythingLLM搭建本地知识库(离线)大模型入门到精通,收藏这篇就足够了!

零基础使用Ollama+Anythingllm在离线电脑上本地部署deepseek及私有知识库 离线电脑上部署deepseek 阅读详情
AI摘要

本文介绍了在麒麟系统上部署Deepseek并基于AnythingLLM搭建本地知识库的详细步骤。涵盖了前期准备、软件下载与运行、配置工作区及调用模型等内容,适合初学者掌握大模型相关技能。

学习麒麟Kylin-Desktop-V10-SP1系统 部署好Deepseek后,基于AnythingLLM搭建本地知识库的详细操作步骤

特别说明 ② :由 于步骤较多,本篇仅介绍搭建本地知识库的基础方法,嵌入模型等后续更新

一、前期准备

1、成功安装麒麟系统

❝

说明:本次实验的安装的系统是Kylin-Desktop-V10-SP1

2、成功部署Deepseek

2.1 本地部署Deepseek

❝

麒麟系统本地部署Deepseek的方法:麒麟系统联网部署Deepseek的方法

2.2 离线部署Deepseek

❝

麒麟系统离线部署Deepseek的方法:麒麟系统离线部署Deepseek的方法

二、基于AnythingLLM搭建本地知识库

1、下载AnythingLLM软件

❝

1.访问【AnythingLLM 官网】(说明:作者网盘提供,公众号发私信 软件 即可获取最新分享链接)

AnythingLLM官网:https://anythingllm.com/

❝

2.点击【Download for desktop】

❝

3.点击【Linux】

❝

4.点击【Download for Linux】

❝

5.【复制】下载命令(说明:也可以直接粘贴)

​plaintext curl -fsSL https://cdn.anythingllm.com/latest/installer.sh | sh ​

❝

6.在桌面点击【鼠标右键】

❝

7.点击【打开终端】

❝

8.在终端空白处点击【鼠标右键】

❝

9.点击【粘贴】

❝

10.确认命令,无误后点击【enter键】

❝

11.等待下载完成

❝

12.在弹出的安全中心,点击 【始终允许】( 说明:若无提示,则跳过此步骤 )

❝

13.下载完成

2、运行AnythingLLM软件

❝

1.双击打开【用户】文件夹(说明:根据实际情况修改,本实验用户为hack)

❝

2.双击打开【AnythingLLMDesktop】文件夹

❝

3.双击运行【start】

❝

4.点击【直接运行】

❝

5.在弹出的安全中心,点击 【始终允许】( 说明:若无提示,则跳过此步骤 )

❝

6.软件运行成功

3、配置AnythingLLM软件

3.1 创建工作区

❝

1.点击【开始】

❝

2.点击【ollama】,然后点击【→】

❝

3.点击【→】

❝

4.点击【跳过调查】

❝

5.【输入】工作区名称,然后点击【→】(说明:根据实际情况修改,本实以hack为例)

3.2 修改显示语言

❝

1.点击【设置图标】

❝

2.将 Display Language 修改为 【chinese】

3.3 调用Deepseek模型

❝

1.点击【人工智能提供商】

❝

2.点击【LLM首选项】

❝

3.将 LLM 提供商修改为【Ollama】

❝

4.将 Ollama Model 修改为本地部署的Deepseek模型(说明:根据实际情况修改,本实以 deepseek-r1:1.5b 为例)

❝

5.按需修改 Ollama Base URL (说明:根据实际情况修改,由于本实验是本机故不做修改)

❝

6.设置完成,点击【返回图标】返回工作区

3.4 搭建知识库

❝

1.点击当前工作区后的【上传】图标(说明:根据实际情况选择,本实验以 hack 为例)

❝

2.点击 【Click to upload or drag and drop】

❝

3.选择需要上传的文档(说明:根据实际情况选择,本实验以 hack手机.docx 为例)

❝

4.点击【打开】上传

❝

5.文件上传成功

❝

6.【选中】需要移到工作区的文档

❝

7.点击【Move to Workspace】

❝

8.点击【Save and Embed】

❝

9.点击【Pin to workspace】

❝

10.点击【X】关闭

❝

11.测试

❝

12.效果对比

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2025 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享!

👇👇扫码免费领取全部内容👇👇

​

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI:

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

在这里插入图片描述

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析:

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明: AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

在这里插入图片描述

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

1Panel官方出品丨MaxKB:基于LLM大模型的知识库问答系统 1Panel应用商店上线AI问答系统MaxKB。 阅读详情

相关推荐

【实验笔记】麒麟系统DeepSeek——基于AnythingLLM搭建本地知识库(联网)

麒麟Kylin-Desktop-V10-SP1系统 部署好Deepseek后,基于AnythingLLM搭建本地知识库的详细操作步骤;无网安装用户,需要先下载好AnythingLLM软件安装包

qq_33216613的博客 2031

【AI大模型部署】本地离线部署大模型Ollama+AnythingLLM(保姆级)

Qwen7b.gguf是阿里巴巴的通义千问大模型,7B大模型,7亿参数,至少需要8G内存,越大回复越流畅

huang9604的博客 8724

强大的开源知识库问答系统MaxKB:支持快速嵌入到第三方业务系统

密码: MaxKB@123..你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 2,30 分钟内即可上线基于本地大模型的知识库问答系统,并嵌入到第三方业务系统中。你也可以在线体验:DataEase 小助手,它是基于 MaxKB 搭建的智能问答系统,已经嵌入到 DataEase 产品及在线文档中。MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。基于 LLM 大语言模型的知识库问答系统。开箱即用,支持快速嵌入到第三方业务系统,1Panel 官方出品。

specssss的博客 5544

本地离线DeepSeek AI方案部署实战教程【完全版】

本课程将引领您由浅入深地深入了解DeepSeek R1的本地部署流程,并教您如何添加AI模型,和利用Python编程进行AI系统相关开发,从而,打造完全属于自己的完整本地AI应用系统。无需高昂的硬件成本,只需一台普通电脑,您就能轻松部署这一强大的AI工具,实现生产力的飞跃提升。 ## 你将学到 * 学会DeepSeek R1在本地环境的私有化部署* 学会搭建完全离线本地私有的AI知识库* 学会如何让Deepseek使用你自己的数据进行推理* 认识和学习一些常用AI大模型* 掌握不同方案的本地AI离线部署运行方案* 打造完全自己自定义的AI知识库平台* 【进阶】Python编程实现:AI相关自定义机能开发和完整的自定义RAG应用开发

RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐

RAG+AI工作流+Agent:LLM框架该如何选择,全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐

丨汀、的博客 3万+

DeepSeek离线部署指南:内网AI知识库构建、量化与RAG实战

大语言模型(LLM)的私有化部署正成为政企数据安全与合规的刚需。DeepSeek作为开源权重模型,可在内网环境完成推理闭环,从源头规避涉密数据外泄风险。其部署不仅涉及模型选型与显存规划,还需通过AWQ/GPTQ量化、KV Cache调优等手段适配有限算力。结合RAG(检索增强生成)架构,可让模型基于企业知识库精准作答,显著降低幻觉。工程实践中,vLLM等推理框架、Embedding模型、向量数据库(Milvus)的协同,以及国产化平台(鲲鹏、昇腾、麒麟系统)的迁移适配,是落地关键。从性能验证到安全加固,完整

weixin_28224217的博客 329

麒麟系统DeepSeek——基于AnythingLLM搭建本地知识库(离线)

麒麟系统DeepSeek——基于AnythingLLM搭建本地知识库(离线)

huang9604的博客 1418

Silvaco Atlas入门指南——从零开始掌握半导体器件仿真

本文为Silvaco Atlas半导体器件仿真软件的入门指南,详细介绍了从零开始掌握该工具的核心流程。内容涵盖Atlas的基本概念、仿真流程、核心文件(输入、结构、输出文件)、交互式与批处理两种操作模式,并逐步演示了如何从定义网格、划分区域、设置电极到进行掺杂、选择物理模型并求解,最终获取和分析器件特性的完整步骤。旨在帮助微电子相关专业人员和工程师快速上手这一强大的“数字实验室”,提升半导体器件设计与研发效率。

weixin_29306317的博客 401

麒麟系统部署DeepSeek与AnythingLLM本地知识库实践

大语言模型(LLM)部署是当前AI工程化的重要环节,其核心在于实现模型的高效推理与知识管理。DeepSeek作为国产开源模型代表,采用Transformer架构,通过量化技术降低硬件门槛。在麒麟国产操作系统上部署时,需注意glibc版本兼容性等系统级问题。结合AnythingLLM工具可构建本地知识库系统,该方案特别适合政务、金融等对数据安全要求高的场景。实践表明,通过合理设置chunk大小(800-1200字符)和embedding模型,能显著提升检索准确率。同时调整temperature(0.1-0.7

weixin_33724059的博客 359

细说STM32单片机SPI-Flash芯片的FatFS移植及其应用实例详解

本文以开发板上的SPI-Flash芯片W25Q16为媒介详细介绍CubeMX中FatFS各个参数的意义和设置,分析生成的代码中FatFS各个文件的作用和关联,完成针对W25Q16的硬件访问层的移植。继续使用旺宝红龙开发板STM32F407ZGT6 KITV1.0。

wenchm的博客 1640

【开源数据集】电动车佩戴头盔检测数据集(TWHD)

佩戴头盔检测数据集VOC格式图像与标注数量各5448张

hzg19930513的博客 5169

麒麟10系统离线部署Ollama+DeepSeek连接AnythingLLM

首先我在自己电脑上的虚拟机中用的是麒麟10系统是有图形化界面的,但是我部署的电脑上是没有图形化界面的所以我这篇文章全部使用命令的形式去完成整个离线部署!因为要部署AnythingLLM我查资料大多数都不是用docker部署,但是 由于我部署的系统是没有图形化界面的,所以要使用docker来部署。1.先将docker.tgz包放在某目录下进行解压:tar -xvf docker-28.0.4.tgz。如果有小伙伴有性能需求可以去我提供的网站上找,如果只想测试一下可以在我的夸克网盘拿到所有包:"

l30911的博客 2692

波分复用-Zblock仿真

Z-BLOCK是一种用于光通信模块的光学元件,其核心结构是在玻璃块一侧贴有4个特定波长滤光片,另一侧镀有反射膜和增透膜。光信号在内部呈现Z字形反射路径,实现波长分离。文章以可见光LED为例,在ZEMAX中演示了非序列模式下的建模过程,重点介绍了滤光片和膜层的参数设置方法。需要注意的是,入射角度需根据玻璃折射率、通道高度和厚度精确计算,否则可能导致光泄漏。该建模方法同样适用于光通信中的光纤激光器系统。

Zhaxibamao的博客 1748

国产操作系统-银河麒麟本地化部署Ollama国产开源的AI大模型Qwen3

本文介绍了在银河麒麟操作系统虚拟机上部署通义千问Qwen3开源大模型的完整过程。通过Ollama框架实现模型本地运行,详细说明了安装配置步骤,包括防火墙设置、模型下载和网络访问配置。文章还对比了三种可视化方案:AnythingLLM的知识管理、Dify的多模型平台和Open-WebUI的聊天界面。在国产操作系统上成功部署国内领先大模型,为后续可视化应用奠定了基础,展现了国产技术生态的应用潜力。

键盘爱好者 4109

allegro如何设置走线等长

设置走线等长!

weixin_42499230的博客 6933

【FPGA教程案例89】编译码2——使用vivado核实现RS信道编译码

RS编码,又称里所码,即Reed-solomon codes,是一种前向纠错的信道编码,对由校正过采样数据所产生的多项式有效。当接收器正确的收到足够的点后,它就可以恢复原来的多项式,即使接收到的多项式上有很多点被噪声干扰失真。

FPGA/MATLAB学习教程/源码/项目合作开发 3542

本地化AI不求人:anything-llm离线部署完整教程

Anything-LLM让企业无需依赖云端即可搭建私有AI知识库,通过RAG技术实现文档智能检索与问答。借助Docker一键部署,支持多模型切换和细粒度权限控制,数据全程保留在内网,兼顾安全、效率与易用性,适合个人与团队构建专属智能中枢。

weixin_26907223的博客 1454

【深度学习新浪潮】李飞飞团队VAGEN框架深度解析:让VLM智能体学会“三思而后行“

VAGEN框架的真正价值,不仅在于性能指标的突破,更在于重新定义了VLM智能体的发展方向——人工智能的进步不应只追求"做得对",更要实现"想得清"。李飞飞团队通过强制显式思考、动态表示适配和精细化奖励三大创新,让智能体第一次具备了可解释的世界建模能力。正如人类通过"观察-预测-行动"认识世界,VAGEN为AI注入的这种思考范式,或许正是通往通用人工智能的关键一步。对于开发者而言,开源的VAGEN框架不仅提供了强大的工具,更揭示了一个重要理念:让AI学会思考,比让它学会执行更重要。

专注:太空算力、AI infra、异构调度、大模型成本工程 280

提示词工程:从入门到精通的完整指南(三)—— 结构化输出与预填充,提示工程入门到精通,收藏这篇就足够了!

提示词工程:从入门到精通的完整指南(三)—— 结构化输出与预填充,提示工程入门到精通,收藏这篇就足够了!

Y525698136的博客 756

4. SAP ABAP OData 服务 Data Provider Class 的 GET_ENTITYSET 方法实现指南

首先第19行CREATEDATA创建er_entityset实例,指定其类型为zcl_zbook_manage_mpc=>tt_book,接着把这个引用映射到刚刚第五行定义的FIELD-SYMBOLS变量上去,这样的话,接下来我们对FIELD-SYMBOLS进行的操作,就会自动反应回引用变量er_entityset.因为我们可能在这个方法里,返回多条图书信息,所以需要用内表类型,而非单条记录的ts_book.ts_book代表一本图书的数据结构。......

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 2962

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

Maxkb——无需代码,快速构建自己的AI助手

无需代码,快速构建一个属于自己的AI助手!

程序员阿龙的博客 2万+

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

别只会用别人的模型了,自学Ai大模型,顺序千万不要搞反了!刚入门的小白必备!

别只会用别人的模型了,自学Ai大模型,顺序千万不要搞反了!刚入门的小白必备!

2301_81888214的博客 1309

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

在win10上Ollama+Qwen2.5+AnythingLLM内网离线搭建RAG本地大模型知识库

(如果嫌响应速度慢,可以参考这个调一下GPU层数 https://blog.youkuaiyun.com/m0_57486465/article/details/139455076)使用AnythingLLM的API,参考这篇:https://blog.youkuaiyun.com/m0_51242270/article/details/142257192。GGUF有分不同量化的版本,好像有说明可以看适合哪种的,主要看自己显存大小,我找不到哪里可以看,4060的显卡下载了q5_0的还阔以。没啥好说的,找官网直接下载然后安装吧。

香蕉包子的博客 4219

Ollama【部署 07】搭建本地智能体的简单说明(局域网离线部署Ollama+模型迁移+Docker部署AnythingLLM)

本文介绍了本地部署智能体的两种方案:个人电脑部署和内网服务器离线部署。个人电脑方案包含安装Ollama运行工具、下载模型(如qwen3.5)和安装可视化界面Chatbox三个步骤。服务器离线部署则涉及Ollama安装、模型迁移(需复制模型文件和目录结构)以及Docker环境下的AnythingLLM部署。两种方案都提供了详细的安装验证方法和配置说明,其中服务器部署还包含性能优化参数设置。全文通过具体命令和截图指导用户完成整个部署流程,适用于不同环境下的本地AI服务搭建需求。

Java与大数据相关实践内容分享! 1829

最近,大模型岗位爆了。。。

重磅消息,国资委打响了国内AI第一枪!这意味着传统行业又迎来了一次大洗牌,现在国内头部人工智能公司已经开始用AI数字人助力各行各业,。除此之外,知名大厂也都在布局AI市场。懂的程序员年薪已经翻到风口之下,与其焦虑被行业淘汰,不如先人一步掌握 AI 大模型技术。为帮助大家提升竞争力,为了帮助普通程序员享受时代红利,掌控AI大模型技术,成为超级个体,给大家带来了AI大模型全套资料。

2301_82275412的博客 1554
上一篇: 基于Ollama+DeepSeek+AnythingLLM轻松构建本地大模型知识库
下一篇: 手把手教你 DeepSeek + AnythingLLM + Ollama 搭建本地知识库【图文详细教程】
Llama-Turbo
博客等级 码龄4年 9901粉丝 2022原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值