用DeepSeek和AnythingLLM搭建个人知识库,简单又省事,关键还好用

DeepSeek从发布R1版本后,瞬间掀起了全球关注热潮!无论是技术大咖还是普通用户,都迫不及待地在试用这个神器。从一线开发者到三四线城市的网友,大家都在争先恐后地探索如何利用DeepSeek优化自己的工作和生活。你也许已经在朋友圈看到各种关于DeepSeek的讨论和分享,也有些人已经用他提升了自己的工作效率,自媒体也使劲的宣传为自己赢得流量(也请用户谨慎区别,客观看待)

今天,分享一个通过DeepSeek和AnythingLLM来快速构建一个自己的个人知识库。如果你之前在自己的行业里有不少文档和资料,有时查找非常不方便,如果有一个本地的个人知识库,当需要查找某个信息时,不需要再翻找文档,让大模型为你提供快速、精准的答案,告别手动查找的繁琐,享受查询的高效体验。

关键不用担心你个人资料泄露,都在你本地设备部署,用的时候只需要对话,他自动给你找出具体信息。

不废话了,直接来看怎么搭建吧,通过演示后,希望给对你所启发,也可以搭建你自己的个人知识库、或者公司内部的资料库等等。

第一步:安装ollama

到官网直接去下载安装,地址:https://ollama.com/

Image

根据自己的电脑来选择安装win还是mac, 按照完成后双击就可以启动,可以在浏览器里查看ollama的状态,可以通过默认的端口地址来查看,打开对应的地址: http://localhost:11434/ 查看运行状态 Ollama is running 即可。

第二步:下载对应DeepSeek模型

可以在models里去查看你想安装的模型,我们这里选择的是DeepSeek的蒸馏版本。

Image

可以根据自己的电脑配置来选择对用的模型参数。

在这里多说一下,有些非技术的自媒体作者说,本地没必要部署DeepSeek,其实这也是片面的。具体要看你用大模型用来做什么,使用蒸馏过的模型对应个人使用来说还是很不错的,况且,对于在本地搭建个人知识库来说是足够用的。

在命令行运行:ollama run deepseek-r1:7b 等待下载完成后,就可以进行对话了,如下图里的演示:

Image

这样看模型已经正常运行并给出了相关的答案。但是这样只是说明工作正常,但回答的效果还远不行,毕竟我们使用的是7B的模型。而我们的目标是通过deepSeek来构建自己的知识库,也知识借助大模型的推理结合我们的相关资料来方便我们的检索和查询。

如果使用上边的方式还是不很方便的,接下来我们通过AnythingLLM来把相关资料投喂给大模型,并通过方便的UI界面来为我们构建知识库来服务。

第三步:安装AnythingLLM

AnythingLLM根据官方的相关描述,可以将任何文档、资源(如网址链接、音频、视频)或内容片段转换为上下文,以便任何大语言模型(LLM)在聊天期间作为参考使用。这样我们可以通过使用AnythingLLM来把自己的资料投喂给大模型来使用。

Image

同样的方式,我们只需要下载安装到本地即可。安装后我们点击开始即可,然后进行对应的设置。

Image

之前我们已经把deepSeek模型运行了起来,我们只需要在开始AnythingLLM时把对应的选项选择正确即可。

Image

点击右侧箭头,我们就可以使用了,如下图,可以构建自己的工作区,比如我这个已经建了个个人知识。

Image

第四步:投喂资料并使用

为了测试和演示我们搭建的个人知识库是否成功,我先通过上传方式把一份《出师表》的文章投喂给了大模型,这份文档里的我刻意添加了一句话,看看大模型能否正确推理并给出我这份资料的这句话。

Image

把这个文件进行上传,并进行问答,如果能准确推理并给出我们预期的这句话,那对应其他资料的查找和总结也就不在话下了。

我们把文件进行上传并到移动自己的个人知识空间里,如图,然后我们开始准备询问,能否找到我们预期的这句话。

Image

回到对话窗口,我们开始询问,可以看到他给的推理过程和相关的文件如下,看到了比较准确的推理过程。确实是我添加的一句话“需要大家学习一下出师表”

Image

可以看到他引用了文档里的内容,并找到真实的第一句话内容,而不是我们常规的第一句“先帝创业未半而中道崩殂,今天下三分,益州疲弊,此诚危急存亡之秋也”

总结一下

如果你有一些自己收藏或者历史书写的文章,都可以投喂给大模型,然后可以通过问答方式让他给你进行提取和总结,也可以找到具体的文档,这样对个人来说可以大大提供效率。

也可以通过这些资料的投喂,让他基于这些内容来进行重新创作并包含个人的一些风格和特点。

PS: 也欢迎大家评论和交流~ 更多文章也可关注微信公号:良技漫谈

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值