掌握DeepSeekR1大模型：手把手教你构建本地知识库，轻松成为专家

于 2025-03-20 16:15:51 发布
阅读量961 收藏 25
点赞数 11
文章标签： 人工智能 大语言模型 AI大模型 自然语言处理 deepseek 知识库 大模型应用
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/python1222_/article/details/146400032
版权

img

Ollama

1.安装Ollama

访问Ollama官网下载Ollama安装包，或者可以访问百度网盘地址：https://pan.baidu.com/s/1kOcyzb3QGMnJOoIVXka4NA?pwd=ziyu ，提取码是ziyu，双击安装包OllamaSetup.exe
img

img
点击Install即可一键安装。
img

2.验证Ollama

打开命令行界面。
img

img

命令

ollama --version

img

DeepSeek

1.安装DeepSeek

在命令行界面输入

ollama run deepseek-r1:1.5b

可以快速安装deepseek-r1:1.5b模型，结果如下图所示。

img

2.验证DeepSeek

输入“你是推理模型吗”来验证，成功结果如下所示。

img

AnythingLLM

1.安装AnythingLLM

访问AnythingLLM官网下载AnythingLLM安装包，或者可以访问百度网盘地址：https://pan.baidu.com/s/1kOcyzb3QGMnJOoIVXka4NA?pwd=ziyu ，提取码是ziyu，双击AnythingLLMDesktop.exe开始安装
img

img
点击下一步。
img

然后选择安装位置然后点击安装。
img
等待一段时间后出现如下界面说明安装完成。
img

2.配置AnythingLLM

双击桌面AnythingLLM图标打开，首次启动会出现Get started，点击即可。
img
接着直接点击右箭头，配置稍后再做。
img
继续点击右箭头。
img
继续点击右箭头。
img
起一个工作区名称然后点击右箭头进入工作界面。
img
在工作界面左侧点击扳手按钮进入设置界面。
img
在设置界面左侧人工智能提供商下的LLM首选项中进行相关配置，如果已经正确安装了Ollama并下载了deepseek-r1:1.5b，那么只需要在右侧LLM提供商下拉列表中选中Ollama，相关信息会被自动填充到相应位置，然后点击Save changes即可。
img

3.使用AnythingLLM

点击刚刚创建的工作区，然后点击upload a document进入文件上传界面。
img
点击上传或拖拽一个文件。
img
然后选中刚刚上传的文件并点击Move to Workspace将文件加载到AnythingLLM的本地知识库中。
img
然后点击Save and Embed。
img
出现Workspace updated successfully就表示知识库配置已经完成。
img
然后点击New Thread就可以开始一个新的对话了。
img

img
img

所有与AnythingLLM Desktop有关的数据将位于以下位置:
C:\Users\\AppData\Roaming\anythingllm-desktop\storage
目录下各个文件夹的含义:

  • lancedb：这是存储您的本地矢量数据库及其表的地方。
  • documents：这是任何上传文件的解析文档内容。
  • vector-cache：此文件夹是之前上传并嵌入的文件的缓存和嵌入表示。其文件名经过哈希处理。
  • models：系统使用的任何本地存储的LLM或Embedder模型都存储在此处。通常是GGUF文件。
  • anythingllm.db：这是AnythingLLM SQLite数据库。
  • plugins：这是存储您的自定义代理技能的文件夹。

一些问题

1.Show Citations太少

当您使用了多篇文档构建本地知识库时，AnythingLLM的回答仅使用了一篇或少部分文档，即Show Citations展示的文档数量较少，这可能是由于以下三个原因造成的：

  1. 提出的问题不需要那么多文档就可以回答。
  2. 应当修改向量数据库的搜索偏好为Accuracy Optimized，这将搜索更多文本块。
  3. 应当提高文档相似性阈值，这会减少筛选掉可能与查询无关的低分矢量块的概率。

可能不需要同时使用以上三种方法。

向量数据库搜索偏好和文档相似性阈值修改位置：
img

如何零基础入门 / 学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

那么我作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，希望可以帮助到更多学习大模型的人！至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

👉 福利来袭优快云大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

read-normal-img

640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉 福利来袭优快云大礼包：《2025最全AI大模型学习资源包》免费分享，安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。

【手把手】DeepSeek-R1本地部署：从零到API调用
chuweiyan的博客
02-01 5972
DeepSeek-R1 是 DeepSeek 研发的系列推理模型，2025 年 1 月 20 日，DeepSeek 正式发布 DeepSeek-R1 模型，并同步开源模型权重，且推出了 API 服务。
Java接入DeepSeek大模型：从零实现流式对话+多轮会话管理（完整项目实战）
wjianwei666的专栏
03-10 460
emitter.completeWithError(new RuntimeException("连接DeepSeek服务超时"));private static final Set<String> BLACK_WORDS = Set.of("暴力", "色情", "政治敏感");emitter.onCompletion(() -> log.info("SSE连接完成"));emitter.onTimeout(() -> log.warn("SSE连接超时"));// 每个路由基础连接数。
5 分钟用满血 DeepSeek R1 搭建个人 AI 知识库（含本地部署）
Jay的个人博客
02-04 6万+
备注：评论区回复“DeepSeek”，免费领取万字DeepSeek指南。看到这里，相信你已经找到最适合自己的 DeepSeek 个人知识库方案了。如果你和大多数人一样，选择使用官方 API ，那就不用再为性能和本地硬件资源发愁；如果你恰好有充足的算力和技术储备，本地部署也是个不错的选择。不过，在整个过程中，我想和你分享的不仅仅是这些技术细节。而是一个中国团队能做出世界级大模型，一个需要 +86 才能注册的大模型。很庆幸，我们能作为中国 AI 技术进步的见证人。当然，暂时的领先不是终点。
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1583
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
DeepSeek本地部署（保姆级）教程
小赵同学€的博客
02-06 7620
安装后在电脑开始页面启动 ollama，然后查看任务栏，有 ollama 图标意味着 ollama已经启动。此模型还可接入可视化页面，如有需要教程，可在评论区提出，小赵同学尽量满足各位的需求！当出现 success 时即表示部署成功！您可在本地进行信息检索和提问！打开下拉栏，选择自己电脑内存对应的版本，确保C盘有足够的内存空间。下载完毕后，双击下载文件进行安装，直到安装完成！我们回到 ollama 官网，在搜索栏搜索。当你下次需要使用时，只需要在CMD窗口运行。
保姆级教程！6个步骤讲清楚用DeepSeek搭建本地知识库
m0_59235699的博客
02-05 3万+
本地部署的最大意义在于利用DeepSeek大模型的能力加上自己的知识库，可以训练出一个符合自己需求的大模型。想象下如果你是一个医生，有一堆科研资料。你想拥有一个大模型机器人，学习了你所有的资料。每当你想查科研资料找到答案的时候，自己问这个机器人就好了。省去了自己很多查找资料的时间这就是本地部署+知识库的作用。是DeepSeek官网不具备的。因为这是训练的你的私有资料。今天就来分享下这个搭建过程。用到的工具组合是Docker+Dify+DeepSeek。
三分钟！教会你用DeepSeek搭建个人知识库
yizhen91y的博客
02-06 2826
三分钟！教会你用DeepSeek搭建个人知识库
【硬核教程】DeepSeek 70B模型微调实战：打造工业级AI开发专家（附完整代码+案例）
m0_60674045的博客
03-03 2549
工业软件 #AI大模型 #DeepSeek微调 #LoRA技术 #ColossalAI #PLC开发 #智能制造 #参数高效微调 #显存优化 #代码生成。工业软件面临代码规范严苛（IEC 61131-3）、多物理场耦合等特殊挑战(#)，传统大模型微调方案显存爆炸、训练周期长。：结合Colossal-AI的持续学习机制，定期注入新数据（如最新工业协议文档）进行增量训练。：代码编译通过奖励+5，符合编码规范奖励+3，运行时无逻辑错误奖励+10。：通过RAG（检索增强生成）接入企业内部知识库，动态补充上下文。
LangChain实战
2401_85325726的博客
07-25 1468
了解了LangChain的链式魅力，实战各种链， 并使用SequntialChain把链再链起来，完成更复杂效果。
Langchain实战
GodGump的博客
05-08 1197
LangChain是一个基于大语言模型（如ChatGPT）的Python框架，专为构建端到端语言模型应用而设计。它提供了一套全面的工具、组件和接口，旨在简化与大型语言模型（LLM）和聊天模型的交互过程，从而轻松创建出功能强大的应用程序。LangChain不仅方便管理语言模型的交互，还能将多个组件灵活链接，满足各种应用场景的需求。使用LangChain，您可以更加高效地构建出具有创新性和实用性的语言模型应用。（这个就是langchain配合文心生成的介绍）
DeepSeek本地部署教程(保姆级教程)
XXXXsssxwd的博客
01-30 1万+
【代码】DeepSeek本地部署教程(保姆级教程)
手把手带你搞懂Deepseek-V3 低成本知识库，收藏这一篇就够了！！
2401_85325397的博客
01-20 1万+
1 可以通过 api 添加各种模型 2 上传文档就能本地新建知识库 3 各种 AI 工具直接打开 4 知识库配合 deepseek 3 ，加上 COT 提示词 效果不错 5 还能画图 6 有简单 Artifacts 功能，直接渲染代码 7 可以多个模型一起回答问题，就是样式是直接铺下来的。
LangChain实战（国内大模型）| Chains的四个核心模块实测——LLMChain、SimpleSequentialChain、SequentialChain和LLMRouteChain
sinat_29950703的博客
05-24 3287
作为 LangChain 的核心模块之一，的重要性不言而喻。它相当于是所有复杂逻辑的基础，。Chain 的设计非常巧妙，可以说是大模型应用的最佳实践之一。Chain 的设计非常巧妙，也非常值得借鉴，也是为什么 LangChain 能火爆的主要原因之一。Chain的主要功能是根据需要将各种能力进行拼接和整合。
Langchain实战：基于Chain实现Prompt的高级应用
简简单单的学习笔记，致力于帮助更多前进路上的朋友~
04-26 3442
本文通过一个实战项目，介绍了Langchain中常用的API和方法，包括Chain、Prompt、StructuredOutput、asyncio等，解决实际生产中的问题。
DeepSeek本地部署，保姆级教程，带你打造最强AI
热门推荐
运维&陈同学的博客
01-28 22万+
配置后，Ollama 服务将能在当前网络（如家庭 Wifi）中提供服务。你可以使用其他设备上的 Chatbox 客户端连接到此服务。可能需要在防火墙中允许 Ollama 服务的端口（默认为 11434），具体取决于你的操作系统和网络环境。为避免安全风险，请不要将 Ollama 服务暴露在公共网络中。家庭 Wifi 网络是一个相对安全的环境。Ollama 服务的 IP 地址是你电脑在当前网络中的地址，通常形式如下。
GPT-3问答机器人实战【LangChain】
张伟的专栏
05-03 2235
ChatGPT 几个月前问世，并以其回答来自广泛知识集的问题的能力震惊了所有人。在 ChatGPT 展示大型语言模型的强大功能时，Dagster 核心团队遇到了一个问题。推荐：用 NSDT场景设计器 快速搭建3D场景。
【LangChain实战】LangChain快速入门
xqdd的专栏
11-28 849
大语言模型是一种人工智能模型，通常使用深度学习技术，比如神经网络，来理解和生成人类语言。这些模型的“大”在于它们的参数数量非常多，可以达到数十亿甚至更多，这使得它们能够理解和生成高度复杂的语言模式。你可以将大语言模型想象成一个巨大的预测机器，其训练过程主要基于“猜词”：给定一段文本的开头，它的任务就是预测下一个词是什么。模型会根据大量的训练数据（例如在互联网上爬取的文本），试图理解词语和词组在语言中的用法和含义，以及它们如何组合形成意义。它会通过不断地学习和调整参数，使得自己的预测越来越准确。
这怕是全网最强最简单的DeepSeek 本地化部署教程吧，赶紧收藏了！
python12345_的博客
02-06 2万+
DeepSeek持续爆火，估计有很多同学跟我一样一直在探索或者甚至到了深度的使用。但这些天我已经被「服务器繁忙，请稍后再试」搞得一点脾气没有了。作为一个前程序员，怎么能忍受呢？！于是，今天我花了一上午时间，直接在自己电脑本地上部署了DeepSeek-R1。下面是我记录本次部署的全过程，相信但凡你有一点点电脑使用经验，按着我这大白话的教程，只要三步，都能完成自己的AI本地化部署。注意：这里是两个“l”。进来之后是可以看到如下这样的一个界面，如果你没有看到的话，可能你进入错了。
大模型本地知识库：白嫖Qwen3大模型，手把手教你搭建本地知识库，打造最强大脑！
最新发布
05-14
<think>好的，我现在需要帮助用户了解如何使用Qwen3大模型搭建本地知识库。根据用户提供的引用内容，之前他们部署了Qwen2.5模型，现在想升级到Qwen3。我需要结合之前的回答和引用中的信息，给出一个清晰的步骤指南。 首先，用户提到了Ollama和Dify的部署，所以可能需要在教程中包含这些工具的使用。用户之前部署了Qwen2.5，现在转向Qwen3，我需要确认Qwen3是否支持类似的部署方法，或者是否需要额外的步骤。 接下来，用户提到要结合本地知识库作为Dify的上下文，这意味着需要将知识库集成到Dify中，可能涉及文档加载、向量化存储和检索增强生成（RAG）的应用。这部分需要详细说明如何处理知识库文件，如何配置Dify来使用这些数据。 另外，用户提供的引用中有关于资料领取的部分，但根据系统指令，应避免无关推广，所以需要忽略这部分内容，专注于技术步骤。 还需要考虑用户可能的痛点，比如环境配置、模型下载、知识库格式要求等。需要分步骤解释，确保用户能逐步操作，同时注意技术细节的正确性，比如正确的Ollama命令、Dify的配置参数等。 最后，生成相关问题时要围绕搭建过程中的常见问题、优化方法和应用场景展开，帮助用户进一步探索。</think>### 使用Qwen3大模型搭建本地知识库的详细教程 #### 一、环境准备与模型部署 1. **私有化部署Qwen3模型** 使用Ollama工具部署Qwen3模型（7B或更高参数版本）： ```bash # 拉取Qwen3模型（假设已支持） ollama pull qwen3:7b # 启动模型服务 ollama serve ``` 若官方未直接支持，可手动构建`Modelfile`： ```dockerfile FROM qwen/qwen3:7b PARAMETER temperature 0.7 SYSTEM "你是一个专业的知识库问答助手" ``` 2. **验证模型可用性** 通过CURL测试API接口： ```bash curl http://localhost:11434/api/generate -d '{ "model": "qwen3:7b", "prompt": "量子力学三大基本原理是什么？" }' ``` #### 二、知识库构建与处理 1. **文档格式规范** - 支持格式：PDF/TXT/MarkDown/HTML - 推荐预处理：使用Python库清洗文本 ```python from bs4 import BeautifulSoup def clean_html(raw_html): soup = BeautifulSoup(raw_html, "html.parser") return soup.get_text() ``` 2. **向量化存储** 使用LangChain构建向量数据库： ```python from langchain_community.embeddings import HuggingFaceEmbeddings from langchain_community.vectorstores import FAISS embeddings = HuggingFaceEmbeddings(model_name="BAAI/bge-base-zh") documents = [...] # 预处理后的文档列表 vector_db = FAISS.from_documents(documents, embeddings) vector_db.save_local("my_knowledge_base") ``` #### 三、Dify平台集成（社区版） 1. **部署Dify服务** ```bash git clone https://github.com/langgenius/dify cd dify/docker docker-compose up -d ``` 2. **配置知识库连接** 在Dify控制台： - 新建应用 → 选择「知识库问答」 - 上传预处理文档或连接现有向量库 - 设置检索参数： ```yaml retriever: search_type: "similarity" k: 5 score_threshold: 0.7 ``` 3. **RAG流程配置** ```python # 自定义处理链示例 from langchain_core.runnables import RunnablePassthrough retriever = vector_db.as_retriever() qa_chain = ( {"context": retriever, "question": RunnablePassthrough()} | prompt_template | llm | output_parser ) ``` #### 四、效果优化技巧 1. **混合检索策略** 结合关键词搜索与向量检索： ```python from langchain.retrievers import BM25Retriever, EnsembleRetriever bm25_retriever = BM25Retriever.from_documents(docs) ensemble_retriever = EnsembleRetriever( retrievers=[bm25_retriever, vector_retriever], weights=[0.4, 0.6] ) ``` 2. **查询扩展** 使用Query2Doc技术增强检索： ```python from transformers import pipeline expander = pipeline("text-generation", model="Qwen/Qwen1.5-7B") expanded_query = expander(f"生成与'{query}'相关的三个扩展问题") ``` #### 五、监控与维护 1. **日志分析配置** ```bash # 查看Dify请求日志 docker logs -f dify-api ``` 2. **知识库更新机制** ```python # 增量更新脚本示例 def update_knowledge(new_docs): global vector_db vector_db.add_documents(new_docs) vector_db.save_local("my_knowledge_base") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值