掌握DeepSeekR1大模型:手把手教你构建本地知识库,轻松成为专家

使用DeepSeekR1+ Dify 搭建本地离线的高效快速知识库 私有化RAG 支持Ollama、Ktransformer 超简、实用教程 使用DeepSeekR1+ Dify 搭建本地离线的高效快速RAG知识库 支持Ollama、Ktransformer 超简、实用教程 本教程通过搭配离线版Deepseek蒸馏版(Ollama)或满血版(ktransformer),采用BGE-M3模型进行文本向量处理,能够实现本地高效率的RAG 阅读详情

img

Ollama

1.安装Ollama

访问Ollama官网下载Ollama安装包,或者可以访问百度网盘地址:https://pan.baidu.com/s/1kOcyzb3QGMnJOoIVXka4NA?pwd=ziyu ,提取码是ziyu,双击安装包OllamaSetup.exe
img

img
点击Install即可一键安装。
img

2.验证Ollama

打开命令行界面。
img

img

命令

ollama --version

img

DeepSeek

1.安装DeepSeek

在命令行界面输入

ollama run deepseek-r1:1.5b

可以快速安装deepseek-r1:1.5b模型,结果如下图所示。

img

2.验证DeepSeek

输入“你是推理模型吗”来验证,成功结果如下所示。

img

AnythingLLM

1.安装AnythingLLM

访问AnythingLLM官网下载AnythingLLM安装包,或者可以访问百度网盘地址:https://pan.baidu.com/s/1kOcyzb3QGMnJOoIVXka4NA?pwd=ziyu ,提取码是ziyu,双击AnythingLLMDesktop.exe开始安装
img

img
点击下一步。
img

然后选择安装位置然后点击安装。
img
等待一段时间后出现如下界面说明安装完成。
img

2.配置AnythingLLM

双击桌面AnythingLLM图标打开,首次启动会出现Get started,点击即可。
img
接着直接点击右箭头,配置稍后再做。
img
继续点击右箭头。
img
继续点击右箭头。
img
起一个工作区名称然后点击右箭头进入工作界面。
img
在工作界面左侧点击扳手按钮进入设置界面。
img
在设置界面左侧人工智能提供商下的LLM首选项中进行相关配置,如果已经正确安装了Ollama并下载了deepseek-r1:1.5b,那么只需要在右侧LLM提供商下拉列表中选中Ollama,相关信息会被自动填充到相应位置,然后点击Save changes即可。
img

3.使用AnythingLLM

点击刚刚创建的工作区,然后点击upload a document进入文件上传界面。
img
点击上传或拖拽一个文件。
img
然后选中刚刚上传的文件并点击Move to Workspace将文件加载到AnythingLLM的本地知识库中。
img
然后点击Save and Embed。
img
出现Workspace updated successfully就表示知识库配置已经完成。
img
然后点击New Thread就可以开始一个新的对话了。
img

img
img

所有与AnythingLLM Desktop有关的数据将位于以下位置:
C:\Users\\AppData\Roaming\anythingllm-desktop\storage
目录下各个文件夹的含义:

  • lancedb:这是存储您的本地矢量数据库及其表的地方。
  • documents:这是任何上传文件的解析文档内容。
  • vector-cache:此文件夹是之前上传并嵌入的文件的缓存和嵌入表示。其文件名经过哈希处理。
  • models:系统使用的任何本地存储的LLM或Embedder模型都存储在此处。通常是GGUF文件。
  • anythingllm.db:这是AnythingLLM SQLite数据库。
  • plugins:这是存储您的自定义代理技能的文件夹。

一些问题

1.Show Citations太少

当您使用了多篇文档构建本地知识库时,AnythingLLM的回答仅使用了一篇或少部分文档,即Show Citations展示的文档数量较少,这可能是由于以下三个原因造成的:

  1. 提出的问题不需要那么多文档就可以回答。
  2. 应当修改向量数据库的搜索偏好为Accuracy Optimized,这将搜索更多文本块。
  3. 应当提高文档相似性阈值,这会减少筛选掉可能与查询无关的低分矢量块的概率。

可能不需要同时使用以上三种方法。

向量数据库搜索偏好和文档相似性阈值修改位置:
img

如何零基础入门 / 学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

read-normal-img

640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

Ollama 可以在 Windows 上运行了 阅读详情

相关推荐

DeepSeek本地部署详细指南

通过上述步骤,你可以在本地成功部署DeepSeek模型,并通过Ollama或Open Web UI与模型进行交互。本地部署不仅能够保护数据隐私,还能根据需求灵活调整模型参数,满足不同场景下的使用需求。如果你在部署过程中遇到任何问题,可以在评论区留言,我们将一起解决。希望这篇教程能帮助你顺利部署DeepSeek模型,开启高效开发的新旅程!

m0_56896669的博客 14万+

一文彻底整明白,基于Ollama工具的LLM大语言模型Web可视化对话机器人部署指南

在上一篇博文中,我们在本地部署了**Llama 3 8B**参数大模型,并用 Python 写了一个控制台对话客户端,基本能愉快的与 Llama 大模型对话聊天了。但控制台总归太技术化,体验不是很友好,我们希望能有个类似 ChatGPT 那样的 Web 聊天对话界面,本博文就安排起来……

老牛啊 1万+

零基础搭建本地知识库:3步搞定Ollama+DeepSeekR1

本文提供了一份详细的本地知识库搭建指南,使用Ollama、DeepSeekR1和CherryStudio三个工具。首先介绍了硬件和软件准备要求,然后分四个步骤:1)安装Ollama作为模型运行环境;2)下载DeepSeekR1语言模型;3)配置CherryStudio构建知识库界面;4)导入数据并测试问答功能。指南强调操作简单,适合非技术人员,并包含常见问题解答。整个过程无需云端连接,确保数据隐私和安全,同时支持自定义内容扩展。通过这个方案,用户可以轻松建立专属的本地智能问答系统。

心旅的博客 1670

使用ollama在本地部署llama3-8b大模型

使用ollama在本地部署llama3-8b大模型

weixin_39945822的博客 1万+

DeepSeekR1本地化部署+个人知识库搭建,老旧笔记本也能跑出企业级AI!3步让人人都能拥有最强办公助手

然而,随着用户量的激增,DeepSeek的服务器频繁出现“服务器繁忙”的问题,这让很多用户感到困扰,这不仅影响了使用体验,还限制了AI的普及和应用。如果你也遇到过这样的问题,那么今天的内容绝对能帮到你!今天,我将手把手教你如何在本地电脑上部署DeepSeek R1模型,并搭建个人知识库,让你的老旧笔记本也能跑出企业级AI!每位打工人都应该拥有的AI智能办公助手

weixin_41593193的博客 1525

本地搭建RAGFlow:Ollama+deepseekr1极简指南

本指南教你如何在本地搭建基于RAGFlow的智能问答系统,只需三步:1)安装Python和Ollama;2)下载deepseek-r1中文模型;3)配置RAGFlow处理文档检索和答案生成。通过简单Python脚本即可实现文档问答功能,适合处理学习笔记等文本内容。整个过程无需联网,保护隐私且完全免费,初学者也能轻松上手。系统支持扩展更多文档或更换模型,是探索AI应用的理想入门项目。

心旅的博客 1147

零代码轻松搭建DeepSeekR1本地知识库

借助 API 接口,接入DeepSeek R1,满血复活

weixin_47778717的博客 314

LLM的MCP协议:初识MCP,搭建第一个MCP Server

MCP(Model Context Protocol),是一个开发的协议,标准化了应用程序如何为大模型提供上下文。MCP提供了一个标准的为LLM提供数据、工具的方式,使用MCP会更容易的构建Agent或者是基于LLM的复杂工作流。

Criss@陈磊 2万+

Cherry Studio搭建本地知识库,让DeepSeek R1发挥最大实力,彻底告别硬件限制!

今天我们——借助硅基流动的 API 接口,让你轻松接入DeepSeek R1模型,体验满血复活版R1的强大功能。今天给大家介绍一个新的工具,Cherry Studio,一款聚合主流大语言模型服务的桌面工具。它通过直观的可视化界面和远程API接口,实现了跨平台调用各类模型,既降低了对本地硬件的依赖,又大幅提升了使用效率,为大家搭建高效知识库提供了全新思路。打开Cherry官网:https://cherry-ai.com/download选择适配自己操作系统的版本进行下载。

m0_59164304的博客 5万+

光学薄膜设计入门:Essential Macleod中文版从安装到实战全攻略

本文为光学薄膜设计初学者提供Essential Macleod软件从安装部署到实战应用的全流程中文指南。详细解析了软件核心界面、材料管理及工作流程,并通过一个完整的宽带增透膜设计实例,手把手演示膜系构建、优化与分析方法,帮助用户快速掌握这一业界标杆工具,跨越理论与实操的门槛。

weixin_29309475的博客 983

1G/2.5G Ethernet PCS/PMA or SGMII

SGMII即Serial GMII,串行GMII,收发各一对差分信号线,时钟频率625MHz,在时钟信号的上升沿和下降沿均采样,所以总的数据速率为1.25Gbps=625Mbps*2。参考时钟RX_CLK由PHY提供,是可选的,主要用于MAC侧没有时钟的情况,一般情况下,RX_CLK不使用。收发都可以从数据中恢复出时钟。在TXD发送的串行数据中,每8比特数据会插入TX_EN/TX_ER 两比特控制信息,同样,在RXD接收数据中,每8比特数据会插入RX_DV/RX_ER 两比特控制信息。

sqzjiayou的博客 1万+

手把手教你本地部署DeepSeek R1!零代码也能玩转国产AI大模型

Ollama是一款开源的本地AI模型运行工具,它允许用户在自己的电脑或服务器上运行各种大语言模型(如DeepSeek R1)。相比于直接使用在线服务,Ollama的优势在于它完全本地化,数据隐私更有保障,同时运行速度也更快。

m0_65555479的博客 1085

用Multisim仿真一个9V供电的双工对讲机:从电桥原理到LM1875功放调试全记录

本文详细介绍了使用Multisim仿真9V供电的双工对讲机全过程,涵盖电桥原理、NE5532前置放大设计、LM1875功放调试及双工通信实现。通过实战案例解析,帮助读者掌握模拟电路设计与调试技巧,提升电子工程实践能力。

weixin_28678831的博客 115

基于DeepSeek-R1实现本地/API知识库,并接入微信BOT

在上一篇《[本地部署 DeepSeek-R1及微信机器人接入教程]》中,我们一起实现了本地部署DeepSeek-R1并接入了微信机器人,让它能跟我们聊天,今天,我要跟大家分享个更有意思的玩法:如何给咱们的 AI 助手喂点干货,让它变身成一个真正懂行的专业顾问!接下来我会手把手带大家完成整个知识库搭建过程,包括环境配置、知识库部署、上传资料,还有一些细节调优的小技巧。最后我们再把这个"充满知识"的AI接入微信机器人,打造一个真正懂你、懂行业的智能小助手!

m0_63171455的博客 7054

CentOS 7下Oracle 11G RAC静默安装避坑指南:从网络规划到共享存储配置全流程

本文详细介绍了在CentOS 7环境下进行Oracle 11G RAC静默安装的全流程,包括网络规划、共享存储配置和系统参数调优等关键步骤。特别针对静默安装过程中的常见问题提供了实用的避坑指南和优化建议,帮助技术人员高效完成企业级数据库部署。

weixin_29234509的博客 124

【原理图PCB专题】Cadence 17.4版本原理图及PCB 模块复用

在我们设计复杂板卡的时候,往往会遇到一部分电路被反复使用的情况。Cadence允许设计者一开始就将复用模块设计好,以后只要直接调用复用模块就可以直接用以设计更复杂的电路板了。这对于大规模集成设计无疑是非常好的选择,它不仅让设计者不必花费时间在相同模块反复设计上,更有利于电路的模块化设计。

一点硬件 2017

突破DeepSeek R1数据限制:轻松打造高效个人知识库

当你在使用DeepSeek或其它AI时,也许可能遇到这样的问题:❌你的知识迭代 VS 模型训练进度“刚整理完行业前沿白皮书,却发现DeepSeek还卡在半年前的版本断层”❌数据绞刑架 VS 硬盘保险箱“把机密合同喂给AI?这和在推特公开裸奔有什么区别”以上问题,可以通过使用DeepSeek构建一个私有知识库来解决。通过构建知识库:✅ 本地化模型实时吞噬新文档,你的知识库永远比大模型快一个版本周期✅ 数据从不出本地硬盘,不用担心数据系列。

2401_84204413的博客 1424

302.QoS实现工具之MQC

QoS 技术可以对网络中报文进行分类处理,根据优先级提供不同的差分服务,如何实现这种差分服务呢?我们有一种强大的配置方法 - 模块化 QoS 命令行 MQC(Modular QoS Command-Line)。下面就来介绍一下 MQC。

迷逝 1393

【保姆级教程】DeepSeek R1+RAG,基于开源三件套10分钟构建本地AI知识库

通过 Web 图形界面轻松管理 Linux 服务器,实现主机监控、文件管理、数据库管理、容器管理等功能。1Panel - 现代化、开源的 Linux 服务器运维管理面板 - 官网在线安装 - 1Panel 文档。

dsgdauigfs的博客 2503

微信支付PHP集成指南

完整实现建议参考微信支付官方文档,包含更多支付场景(H5支付、Native支付等)和安全性处理细节。微信支付在PHP中的集成主要涉及服务端接口的调用和支付流程的实现。

bqq506615054的专栏 158

【问题解决】Python 运行报错 `ModuleNotFoundError` 全网最全解决方案,一文搞定所有导包问题

本文全面解析Python中常见的ModuleNotFoundError和ImportError问题,提供从基础到高级的解决方案。文章首先分析问题原因,包括模块未安装、环境不一致、路径问题等,然后给出7种解决方案:安装缺失模块、检查Python环境、使用虚拟环境、添加搜索路径、相对导入、setup.py安装本地包和使用__init__.py。针对Jupyter Notebook、Docker容器等常见场景提供专门解决方案,并推荐使用requirements.txt、pipenv等预防措施。最后分享调试技巧,帮

博客 916

本地部署Anything LLM+Ollama+DeepSeek R1打造智能知识库并实现远程访问

本文主要介绍如何在Windows电脑上本地部署Ollama并接入DeepSeek R1大模型,然后使用强大的开源AI工具Anything LLM结合cpolar内网穿透工具轻松实现随时随地使用与上传内容来训练本地部署的大模型,无需公网IP,也不用准备云服务器那么麻烦!

m0_59235245的博客 4423

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

本地部署与远程访问:使用Anything LLM、Ollama与DeepSeek R1打造智能知识库

本文主要介绍如何在Windows电脑上本地部署Ollama并接入DeepSeek R1大模型,然后使用强大的开源AI工具Anything LLM结合cpolar内网穿透工具轻松实现随时随地使用与上传内容来训练本地部署的大模型,无需公网IP,也不用准备云服务器那么麻烦!

m0_65555479的博客 1万+

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

Deepseek R1打造本地化RAG知识库(一):安装部署使用详细教程

Deepseek R1打造本地化RAG知识库(一):安装部署使用详细教程

2401_82469710的博客 2491

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

上一篇: 【AI落地应用实战】篡改检测技术前沿探索——从基于检测分割到大模型
下一篇: 手把手实战:用 DeepSeek R1 + Ollama 搭建高效 RAG 系统!
AI程序猿人
博客等级 码龄3年 6517粉丝 561原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值