如何使用 DeepSeek-R1、LangChain 和 Ollama 构建隐私优先的 RAG

基于 DeepSeek R1 和 Ollama 开发 RAG 系统(含代码) 今天我们一起聊一下如何借助当下最热的开源推理工具 DeepSeek R1 和轻量级本地 AI 模型运行框架 Ollama,构建功能强大的 RAG 系统。 阅读详情

在本指南中,您将学习如何构建一个 检索增强生成 (RAG) 系统,该系统使用 DeepSeek-R1、LangChain、Ollama 和 Streamlit 在本地处理 PDF 文件。这个逐步教程结合了 LangChain 的模块化能力和 DeepSeek-R1 的隐私优先方法,提供了一个强大的解决方案,用于处理技术、法律和学术文档。

在这里插入图片描述

该项目将 LangChain(一个用于 RAG 工作流的 AI 框架)与 Ollama(用于 DeepSeek-r1 本地部署)和 Streamlit(用于用户界面)结合在一起。最终结果是一个能够 本地摄取 PDF 并 快速准确回答问题 的 AI 助手。

在本演示中,我们将使用一个 7B 参数的 DeepSeek-r1 精简模型,但如果您拥有更强大的计算能力,我建议使用其他 DeepSeek-r1 精简模型。

图片

为什么选择私人RAG解决方案?

基于云的AI解决方案功能强大,但通常面临诸如隐私风险和重复成本等挑战。通过利用LangChain的模块化框架,您可以创建一个具有众多优势的本地RAG解决方案:

  • • 数据隐私:所有操作都在本地进行,您的数据永远不会离开您的机器。
  • • 成本效率:无需昂贵的API订阅,此解决方案是免费的和开源的。
  • • 可定制性:LangChain的灵活性使您能够微调文档检索和响应生成管道。
  • • 强大的AI:与DeepSeek-R1集成,这是一个优化用于解决问题和技术任务的推理模型。

工具和技术:LangChain、DeepSeek-R1、Ollama、ChromaDB 和 Streamlit

该项目由以下部分组成:

  • • LangChain:RAG 流水线的核心框架,支持文档加载器、向量存储和 LLM 的集成。它允许根据您的特定需求定制模块化和可扩展的 AI 工作流程。
  • • DeepSeek-R1:一种用于编码、解决问题和技术任务的推理 LLM。提供多种精简版本以便与 Ollama 进行本地部署。
  • • Ollama:一个命令行工具,简化本地 LLM 和嵌入模型(如 DeepSeek-R1 和 mxbai-embed-large)的部署和管理。
  • • ChromaDB:一个向量数据库,用于存储和检索文档嵌入,以便进行基于相似性的查询。
  • • Streamlit:一个用于构建网页界面的 Python 库,使您的 RAG 应用程序用户友好且易于访问。

在这里插入图片描述

构建 RAG 流水线:逐步指南

以下是如何设置本地 ChatPDF 解决方案的步骤:

1. 安装先决条件

确保您已安装 Python 3.8+ 和 Ollama。运行以下命令:

curl -fsSL https://ollama.com/install.sh | sh
ollama -v  # 验证安装

下载所需的 AI 模型:

ollama pull deepseek-r1:latest # 默认 7B 模型
ollama pull mxbai-embed-large  # 嵌入模型

图片

2. 设置项目

克隆仓库并设置虚拟环境:

git clone https://github.com/paquino11/chatpdf-rag-deepseek-r1.git
cd chatpdf-rag-deepseek-r1
python3 -m venv venv
source venv/bin/activate

安装依赖:

pip install -r requirements.txt
3. 运行应用程序

启动 Streamlit 应用程序:

streamlit run app.py

在浏览器中访问应用程序,地址为 http://localhost:8501。上传您的 PDF 文件,调整检索设置并开始提问。

图片

使用 DeepSeek-R1、Ollama、LangChain 和 ChromaDB 构建 RAG 管道

该项目使用 LangChain 管理整个 RAG 工作流:

  1. \1. 使用 LangChain 进行 PDF 导入:
  • • 使用 LangChain 的 PyPDFLoader 和 RecursiveCharacterTextSplitter 读取并拆分 PDF 文件。
  • • 将块嵌入为向量表示,使用 OllamaEmbeddings。

2. 使用 ChromaDB 进行文档检索:

  • • LangChain 与 ChromaDB 的集成实现了快速的基于相似度的相关文档块检索。
  • • 自定义结果数量 (k) 和相似度阈值 (score_threshold),以更好地控制。

3. 使用 DeepSeek-R1 生成响应:

  • • 检索到的文档块被传递给 DeepSeek-R1,生成简洁且准确的答案。
  • • LangChain 的 ChatPromptTemplate 确保 AI 以用户友好的格式进行响应。

自定义检索设置以获得最佳结果

LangChain 使调整检索设置以获得最佳性能变得简单:

k: 检索结果数量控制响应中使用的文档块数量。

  • • 更高的 k: 更多上下文,响应较慢。
  • • 更低的 k: 更少上下文,响应较快。

score_threshold: 相似度阈值根据相关性过滤检索结果。

  • • 更高的阈值: 仅检索高度相关的块。
  • • 更低的阈值: 更广泛的上下文但不够精确。

图片

使用案例和测试您的 RAG 应用程序

以下是一些测试应用程序的示例:

测试PDF:
  • • 金融:分析财务报告并提取可行的见解。
  • • 医疗:总结研究论文或医疗指南。
  • • 教育:从电子书和学术论文中提取摘要或关键点。
示例问题:
  • • “这个 Python 库的关键特性是什么?”
  • • “本合同的第 5 节讨论了什么?”
  • • “总结一下这本电子书的第二章。”

结论

通过结合 LangChain、DeepSeek-R1 和 ChromaDB,您可以创建一个优先考虑隐私、灵活性和成本效率的 RAG 系统。这个本地 RAG 解决方案非常适合分析技术文档、法律文本等,而无需依赖基于云的工具。

DeepSeek无疑是2025开年AI圈的一匹黑马,在一众AI大模型中,DeepSeek以低价高性能的优势脱颖而出。DeepSeek的上线实现了AI界的又一大突破,各大科技巨头都火速出手,争先抢占DeepSeek大模型的流量风口。

DeepSeek的爆火,远不止于此。它是一场属于每个人的科技革命,一次打破界限的机会,一次让普通人也能逆袭契机。

DeepSeek的优点

read-normal-img

掌握DeepSeek对于转行大模型领域的人来说是一个很大的优势,目前懂得大模型技术方面的人才很稀缺,而DeepSeek就是一个突破口。现在越来越多的人才都想往大模型方向转行,对于想要转行创业,提升自我的人来说是一个不可多得的机会。

那么应该如何学习大模型

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

大模型岗位需求越来越大,但是相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。

read-normal-img

掌握大模型技术你还能拥有更多可能性:

• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;

• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;

• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;

• 更优质的项目可以为未来创新创业提供基石。

可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把都打包整理好,希望能够真正帮助到大家。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

read-normal-img

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

read-normal-img

👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

read-normal-img

read-normal-img

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

read-normal-img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】在这里插入图片描述

5分钟搭建私域RAG 系统:DeepSeek-R1 + LangChain + Ollama 目标是在本地运行一个 RAG 系统,能够处理 PDF 文档,保障数据隐私,并能高效回答与文档内容相关的问题 阅读详情

相关推荐

DeepSeek + LangChain 搭建本地知识库 RAG 系统(完全离线可用)

摘要:本文介绍如何利用DeepSeek和LangChain搭建本地RAG(检索增强生成)系统,实现企业级私有知识库。该系统通过向量化存储文档(支持PDF/Word/TXT等格式),在用户提问时检索相关片段并生成回答,保障数据完全离线运行。技术架构包括DeepSeek-R1模型、Chroma向量数据库和LangChain框架,详细提供了环境配置、文档处理、向量存储及问答链实现代码。方案优势在于数据隐私保护、专业回答生成和多格式支持,适合企业私有化部署。

斌味代码的博客 1587

如何使用 DeepSeek-R1、LangChain 和 Ollama 搭建隐私优先的 RAG 系统

赘述一下基本概念,检索增强生成(Retrieval-Augmented Generation,简称 RAG)是一种结合信息检索和生成式 AI 的技术架构。RAG 通过从外部知识库(如文档、数据库)中检索相关信息,并将其作为上下文输入给 LLM(大型语言模型),从而提高回答的准确性,减少幻觉问题。我们的目标是在本地运行一个 RAG 系统,能够处理 PDF 文档,保障数据隐私,并能高效回答与文档内容相关的问题。当然,通过修改代码,我们也可以实现处理其他类型的数据。PDF 文档上传。

2401_84208172的博客 2184

使用patchelf与独立glibc解决Cursor/VSCode远程开发环境兼容性问题

本文针对Cursor/VSCode远程开发连接Ubuntu 18.04、CentOS 7等老系统时因GLIBC版本过低导致的兼容性问题,提供了一套安全高效的解决方案。核心思路是通过编译独立的glibc-2.28环境,并利用patchelf工具修改远程服务端的node可执行文件,使其优先使用新版glibc,从而在不升级系统库、不影响系统稳定性的前提下,完美解决远程开发环境“罢工”的难题。

weixin_28835789的博客 583

Deepseek + RAG:创建本地运行智能体

学习如何通过,构建本地运行的智能 RAG 聊天机器人!本教程将带您逐步了解如何利用 RAG 技术,结合 AI 推理和知识检索能力,创建更加准确且知识丰富的 AI 响应。

Thales624的博客 1万+

图像质量评估(5) -- 畸变(Distortion)

当图像中原本应该是直线的地方看起来发生了不自然的变形或扭曲时,我们称为图像畸变。有三种类型的镜头畸变:桶形畸变(后文使用英文barrel),枕形畸变(后文使用pincushion)和胡子畸变(后文使用英文wavef或mustache,这种畸变里包含了桶形畸变和枕形畸变)。有一个重要的点需要注意,根据透镜的类型以及透镜是否能够从相机中移除等条件不同,畸变会有不同的表现。 总的来说,旋转对称光学系统功能上会产生和物体几何相似的图形。但也有少数特殊的系统是例外,例如鱼眼镜头,这种镜头几何是故意设计为

vivo01的专栏 2万+

Win10/Win11共享打印机0x00000709终极修复指南:从注册表到LPD协议的全面解决方案

本文提供了Win10/Win11共享打印机0x00000709错误的终极修复指南,涵盖从注册表修改到LPD协议的全面解决方案。通过详细分析错误根源、基础修复四步法、高阶LPD协议方案及企业级深度修复策略,帮助用户彻底解决打印机共享问题,提升局域网打印效率。

weixin_33724046的博客 313

DeepSeek本地部署:基于DeepSeek R1和Ollama开发RAG系统(有实例)

DeepSeek R 是一个强大的开源大语言模型,而 Ollama 提供了一种便捷的方式来本地运行和管理大模型。

pythonhy的博客 2834

大模型微调实战:LORA轻量级微调DeepSeek

LORA(Low-Rank Adaptation) 是一种高效的参数高效微调方法,其核心思想是通过在预训练模型的权重矩阵中引入低秩适配矩阵(低秩分解矩阵 A 和 B),仅对这部分新增参数进行训练,从而大幅减少计算和显存开销。与传统全参数微调相比,LORA 通过冻结原始模型参数,仅更新适配层参数,实现了轻量化训练。

dmx123789的博客 2166

使用Streamlit与DeepSeek API快速构建Chat应用

最近 deepseek 很火,其提供的 API 调用便捷性以及极具竞争力的价格(尤其是对中国用户赠送 10 元体验金),使得个人和小型企业也能轻松接入大模型服务。本文将介绍如何利用 Streamlit 框架快速搭建一个基于 DeepSeek API 的聊天机器人应用。通过上述步骤,我们成功创建了一个简易但功能齐全的聊天机器人应用。尽管市面上存在多种无需编程即可调用 API 的服务,如 Chatbox 或 AnythingLLM 等,但自己动手构建不仅能更好地满足个性化需求,还能加深对技术的理解。

细节处有神明的博客 1874

【数字孪生与仿真技术】05:从原理到实战:MATLAB/Simulink在航空航天GNC系统开发中的深度解析(含全流程代码与认证指南)

摘要:本文系统阐述MATLAB/Simulink在航空航天制导、导航与控制(GNC)系统开发中的核心应用。通过解析GNC系统高保真动力学建模、多源导航传感器融合、鲁棒控制算法设计等关键技术原理,结合Virgin Orbit运载火箭、CubeSat等真实案例,展示从需求分析、模型搭建、仿真验证到代码生成与认证的完整开发流程。文中提供1200余行关键代码、8个可复用Simulink模型及详细执行结果展示,涵盖DO-178C认证支持、实时性能优化等工业级开发规范,为航空航天工程师、科研人员提供可落地的参考方案。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1659

高通MBIM拨号流程简述

高通平台MBIM流程简述

不秃头的程序猿Gabriel的博客 5071

本地部署DeepSeek R1 + Ollama + XRAG:三步搭建RAG系统,并解锁全流自动化评测

大模型很多技术干货,都可以共享给你们,如果你肯花时间沉下心去学习,它们一定能帮到你!

2401_85375186的博客 956

六、大模型(LLMs)参数高效微调(PEFT) 面

链接: https://pan.baidu.com/s/1TYqdCK53tDFEYGtAvpnTbA 提取码: 6a9s。考核中的核心考点,并针对这些考点提供了详尽的解答。通过网盘分享的文件:06大模型(LLMs)参数高效微调(PEFT) 面。)有哪些方法,能不能稍微介绍一下它们间?这种微调方法和全参数比起来有什么劣势吗?能不能总结一下各种参数高效微调方法?高效参数微调,如何进行存储?多种不同的高效微调方法对比。模型显存占用的部分有哪些?微调方法为啥能加速训练?微调计算可训练参数的比例。

weixin_51988935的博客 537

从零开始:使用DeepSeek-R1 实现高效的本地 RAG

有小伙伴私信我,DeepSeek-R1能用来搭建 RAG(检索增强生成)系统吗?答案是绝对可以!春节前夕,我们接到了业务方的紧急任务,需要探讨如何将 DeepSeek-R1 快速集成到即将上线的项目中。经过多次深入讨论,我们团队决定在现有 RAG 系统的一个核心模块中使用 DeepSeek-R1,与原有的 Qwen 模型进行线上AB测试。更换完成后,我们对系统进行了一系列严格的测试,以确保其稳定运行。在经过彻底验证后,我们成功地在除夕之夜将系统上线。

zhishi0000的博客 3668

【数据分享】12.5米分辨率DEM地形数据(分省)

该数据来源于NASA地球科学数据网站(https://nasadaacs.eos.nasa.gov/),是ALOS卫星获取的高精度地形数据。该数据由于精度高,包括全省范围的数据和省内每个城市范围的数据!

JData_Engineer的博客 2174

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

使用langchain ollama gradio搭建一个本地基于deepseek r1的RAG问答系统

使用langchain ollama gradio搭建一个本地基于deepseek r1的RAG问答系统

weixin_62428212的博客 3972

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

基于 DeepSeek R1 和 Ollama 开发 RAG 系统

大家好,我是玄姐。正文开始之前,先给我自己打个广告,大家过年好,为了回馈粉丝们的支持,原价199元的《3天 AI Agent 智能体项目实战直播训练营》,直接降价到19元,今天再开放一天报名特权,仅限99名。回到正题。今天,我们探讨一下如何利用目前最受欢迎的开源推理工具 DeepSeek R1 和轻量级的本地AI模型执行框架 Ollama,来构建一个功能强大的 RAG (Retrieval-Aug...

musicml的博客 1417

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

【大模型系列篇】动手实践基于DeepSeek-R1和Ollama的RAG系统

本篇我们一起聊一下如何借助当下最热的开源推理模型 DeepSeek R1 和轻量级本地 AI 模型运行框架 Ollama,构建功能强大的 RAG 系统。比较早之前我们整理过一篇关于通过部署Ollama和Open WebUI来搭建本地的问答系统,后续也基于Ollama、Dify来复刻一套私有化部署的智能问答系统。Ollama 作为一款轻量级开源框架,为在本地运行 AI 模型提供了便捷高效的解决方案,是构建本地 RAG 系统的关键一环。DeepSeek R1 在 RAG 系统构建领域脱颖而出。

木亦汐丫 1426

大模型应用拆解之 本地RAG系统搭建:Langchain + Deepseek R1,小白也能轻松拥有专属AI助手!

本地 RAG 系统的搭建,不仅能让你拥有一个专属的 AI 助手,更能让你深入理解 RAG 技术的原理和应用。快去动手实践,探索更多 AI 的可能性吧!

huang9604的博客 1179

本地部署deepseek-Ollama+langchain+langserver

1.5B 是最小的模型,大小为1GB左右,7B,8B模型大小在8GB左右,想要调用模型的话根据自己电脑的配置选择(我个人下载体验了1.5B,8B模型),独立显卡3050 ti 4G显存 16G内存。它是免费的、私密的,并且支持在本地硬件上离线运行。从技术角度来看,它基于 Qwen 7B 架构,经过精简和优化,确保在保持强大性能的同时,提升了运行效率。DeepSeek 的最大亮点是,它能够与一些领先的商业AI模型相媲美,但作为开源项目,你可以在本地运行它,完全不依赖云服务器,从而更好地掌控你的数据。

wang987158的博客 996

使用 DeepSeek 和 Ollama 搭建一个本地知识库系统(文末包含完整代码)

用这个系统,你可以轻松地从 PDF 里提取信息,像跟人聊天一样问问题。赶紧试试吧,释放 AI 的潜力!完整版代码放在下方二维码↓↓↓。

xxue345678的博客 1874

使用 DeepSeek 和 Ollama 搭建一个本地知识库系统(包含完整代码)

用这个系统,你可以轻松地从 PDF 里提取信息,像跟人聊天一样问问题。赶紧试试吧,释放 AI 的潜力!我的DeepSeek部署资料已打包好(自取↓)但如果你想知道这个工具为什么能“听懂人话”、写出代码 甚至预测市场趋势——答案就藏在大模型技术里!❗️为什么你必须了解大模型?1️⃣ 薪资爆炸:应届大模型工程师年薪40万起步,懂“Prompt调教”的带货主播收入翻3倍2️⃣ 行业重构:金融、医疗、教育正在被AI重塑,不用大模型的公司3年内必淘汰3️⃣ 零门槛上车:90%的进阶技巧不需写代码!

优快云_430422的博客 1487

无需联网!DeepSeek-R1+本地化RAG,打造私有智能文档助手

我们面对DeepSeek-R1 这样的强思维链模型,除了在官网间或 Chat 一下,如何进一步的将其变成工作或生活场景的生产力工具?本篇试图给出一种基于RAG的回答。

韦东东的博客 983
上一篇: 教你本地复现Deep Research:DeepSeek R1+ LangChain+Milvus
下一篇: LangChain写AI Agent系列 之 模型调用、提示词、输出解析
冻感糕人~
博客等级 码龄3年 8926粉丝 2398原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值