如何搭建个人AI知识库?零基础入门到精通,看这篇就够了!赶紧收藏!

以下内容来自newtype社群问答精选

如何搭建个人AI知识库?

分享一下我的整体思路。我觉得方法都是次要的,因为每个人的需求、情况都不同——唯有思路可以借鉴。

出发点和对应解法:

第一,信息过载,无法逐一细细消化。所以需要AI辅助,通过总结、提炼等方式帮助我们先快速、大致掌握。

第二,人脑不适合用来记东西,而应该用来做创造性的工作。所以需要“第二大脑 / Second Brain”来存储,需要AI根据语义进行检索(所有工具都有关键词检索,再加上语义检索就齐全了)。

第三,记笔记是对信息做预处理。记笔记的目的,是增援未来的自己。所以需要把信息层层筛选,最后挑选出来的、值得记下来的内容,用自己的话来记,而非复制别人的表述。

基于上面这三点,我设计了两套子系统,就像我在视频里介绍的:

外部信息处理。以AnythingLLM + 大模型为核心。

就像屠宰场一样,我把日常看到的、觉得有价值的信息都放到AnythingLLM里,用大模型这把“刀”,对所有信息作“肢解”,让我明白它们的“全身构造”,以及有哪些“部位”是有价值的。

这些有价值的内容,我会手动放到笔记里去——这一步只能自己来,因为如果没过自己的脑子、没亲手敲字的话,就一定不会成为自己的东西。

当然,针对特定信息,我还会用一些别的工具。比如AI相关的论文,我肯定会用txyz.ai来处理,这个网站 / 工具很专业,非常适合。

笔记生成。以Obsidian + 各种插件为核心。

就像视频里说的那样,我按照PAFP的逻辑建了四个文件夹,然后在里头建子文件夹,放对应的笔记。

Obsidian对笔记之间的逻辑关联做得很好。文件夹是一个关联逻辑。每条笔记还可以打上标签,这样一来,就可以跨过文件夹再去建立一个关联逻辑。更牛逼的是,一条笔记还可以链接到另一条笔记,这又是一种知识图谱的关联逻辑。通过这三层关联,我们就可以把笔记系统性地整理起来,变成一张网,而非一个个的散点。

在网的基础上,我们无论是查询还是搜索,都会有效得多。

我就是按照以上思路和方法,持续地把外部信息源源不断转化成我自己的东西。这种逐渐积累、内化的感觉,是非常让人欣喜的。

Ollama和LM Studio有哪些区别?

Ollama和LM Studio都属于在本地运行开源大模型的工具。直观上的区别在于,Ollama通过命令,LM Studio通过图形化界面。因此对新手来说,LM Studio会更亲切、更容易上手。

在后端把大模型跑起来还不够,还需要有前端的交互界面。

LM Studio在这方面做得很好。就像我在视频里说的那样,它的集成度非常高,从模型搜索和下载,到加载和对话,全都打包在一起了。

而Ollama是在终端里进行对话的,看起来特别简陋,于是有了Open WebUI这样的项目,给Ollama一个更加现代化的界面,类似ChatGPT的外观。不仅如此,Open WebUI还自带RAG,可以用它搭建知识库,以及具有账号管理的功能,方便多人使用。

上边介绍的,都属于Ollama和LM Studio的【客户端】模式。它俩还有【服务器】模式。简单来说就是,只是充当大模型在本地运行的工具/容器,然后打开一个通道/端口,给到其它应用。就像发电机一样,接了条电线出来,给到各种电器使用。

如何提升AnythingLLM精确度?

理解RAG的原理、流程,才好做优化,不管是自己手搓还是用现成工具。

RAG = 文档预处理 + Query理解 + 文档检索 + LLM生成

如果是用AnythingLLM之类的现成工具,在设置方面有几点要注意:

第一,嵌入模型的语言支持。比如,资料中英文都有的话,可以用Cohere Embed v3 - Multilingual,支持多语种。

第二,嵌入模型的Context Window。比如,Cohere Embed v3 - Multilingual是512 tokens。用Ollama、LM Studio的话,我记得会要求填写Max embedding chunk length,注意别瞎填。

第三,文本切块的尺寸(Chunk Size)和重叠(Overlap)。

尺寸要考虑两点:一是别超过嵌入模型的上限;二是资料的类型。如果资料都是一些短句、片段,比如单条的简短笔记,那么尺寸小一些可以避免一个切块中包含太多条不相干的内容,干扰大模型的理解。如果资料是成篇的文章,有比较强的连贯逻辑,尺寸就尽量大一些,否则把一个连贯段落切开就牛头不对马嘴了。

零基础入门AI大模型

今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

有需要的小伙伴,可以点击下方链接免费领取【保证100%免费

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

5.免费获取

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码或者点击以下链接都可以免费领取【保证100%免费】

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值