Phi3.5和Llama3.1在构建知识图谱应用中哪个更好用

一、原理介绍

Basic RAG的处理流程为提出问题，进入向量数据库检索出含义类似的chunk，将chunk与问题整合形成prompt，最终给用户恢复。传统rag在具体问题中处理能力优秀，如询问某产品价格。但是在处理宏观问题上存在问题，如查询技术团队的成果或询问书籍中主人公的人物关系。即所需信息散落在多个chunks之中（connecting the dots），大模型需要理解全文，提取关键信息，所以效果不佳。

这类问题有更高效的解决办法，即提前提取出关键信息，建立节点将其关联，构建知识图谱。提取信息构建知识图谱可以用llm构建，根据整理好的信息进行回复。这就是Graph RAG技术。比如“Who is Scrooge, and what are his main relationships?”，我们可以通过Scrooge的节点找到与他有重要关系的人，并再往下找的这些人的有关信息。这是Graph RAG另一大特征，即层次结构。将知识图谱进行聚类，把相应信息合并在一起，再整理出层次结构，即Community Detection算法。

二、实验分析 2.1 实验环境

2.1.1软硬件配置 1、硬件：macbook pro m2 内存8GB 2、服务器配置 RTX4090 内存24GB 3、软件pycharm、FileZilla 4、实验环境python3.10

2.1.2部署模型 1、构建知识图谱所用模型 a)llama3.1:8b b)phi3:14b c)phi3.5:3.8b 2、embeding模型 nomic-embed-text

2.2实验步骤 1、配置SSH 创建并开启服务器，注意python版本至少3.10以上 输入相应主机名、端口号、用户名 配置解释器，同步文件夹 导入相应环境 2、部署ollama并下载大模型 Linux输入以下命令进行下载 curl -fsSL https://ollama.com/install.sh | sh

安装完成输入如下命令启动ollama服务 ollama serve

使用如下命令下载大模型llama3.1:8b、phi3:14b、phi3.5

ollama run xxx:xb

使用如下命令下载nomic-embed-text模型

ollama pull nomic-embed-text

通过ollama list命令查看已下载模型 3、 安装graphrag所需环境 输入如下命令安装graphrag库

pip install graphrag

4、 创建input文件夹

mkdir -p ./ragtest/input

5、通过Filezilla导入预训练文本 6、初始化 使用如下命令对项目进行初始化 python -m graphrag.index --init --root ./ragtest 根据需要对项目中的参数进行调整 7、构建知识图谱 使用如下命令启动训练 python -m graphrag.index --root ./ragtest 结果图如下 2.3实验结果

基于llama3.1

1、 A Chrirmas Carol 询问英文问题 英文回答 询问中文问题 中文回答 中文回答书名出现错误 问题中增加书名细节 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

小结：llama3.1在回答英文和中文问题人物特征上细节有所欠缺，回答中文问题上出现如书名的错误。

基于phi3:14b

1、 A Chrirmas Carol

询问英文问题 英文回答 询问中文问题 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

基于phi3.5

1、 A Chrirmas Carol 询问英文问题 英文回答 询问中文问题 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

小结：phi3.5在英文回答中对人物特征的细节相较于llama3.1更丰富，中文回答上细节丰富度基本一致。
​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。