Phi3.5和Llama3.1在构建知识图谱应用中哪个更好用

最新推荐文章于 2025-12-04 13:49:48 发布
原创 最新推荐文章于 2025-12-04 13:49:48 发布 · 1k 阅读 · 17 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#知识图谱 #人工智能 #LLM #ai大模型 #大语言模型 #llama #大模型应用

一、原理介绍

Basic RAG的处理流程为提出问题，进入向量数据库检索出含义类似的chunk，将chunk与问题整合形成prompt，最终给用户恢复。传统rag在具体问题中处理能力优秀，如询问某产品价格。但是在处理宏观问题上存在问题，如查询技术团队的成果或询问书籍中主人公的人物关系。即所需信息散落在多个chunks之中（connecting the dots），大模型需要理解全文，提取关键信息，所以效果不佳。

这类问题有更高效的解决办法，即提前提取出关键信息，建立节点将其关联，构建知识图谱。提取信息构建知识图谱可以用llm构建，根据整理好的信息进行回复。这就是Graph RAG技术。比如“Who is Scrooge, and what are his main relationships?”，我们可以通过Scrooge的节点找到与他有重要关系的人，并再往下找的这些人的有关信息。这是Graph RAG另一大特征，即层次结构。将知识图谱进行聚类，把相应信息合并在一起，再整理出层次结构，即Community Detection算法。

二、实验分析 2.1 实验环境

2.1.1软硬件配置 1、硬件：macbook pro m2 内存8GB 2、服务器配置 RTX4090 内存24GB 3、软件pycharm、FileZilla 4、实验环境python3.10

2.1.2部署模型 1、构建知识图谱所用模型 a)llama3.1:8b b)phi3:14b c)phi3.5:3.8b 2、embeding模型 nomic-embed-text

2.2实验步骤 1、配置SSH 创建并开启服务器，注意python版本至少3.10以上 输入相应主机名、端口号、用户名 配置解释器，同步文件夹 导入相应环境 2、部署ollama并下载大模型 Linux输入以下命令进行下载 curl -fsSL https://ollama.com/install.sh | sh

安装完成输入如下命令启动ollama服务 ollama serve

使用如下命令下载大模型llama3.1:8b、phi3:14b、phi3.5

ollama run xxx:xb

使用如下命令下载nomic-embed-text模型

ollama pull nomic-embed-text

通过ollama list命令查看已下载模型 3、 安装graphrag所需环境 输入如下命令安装graphrag库

pip install graphrag

4、 创建input文件夹

mkdir -p ./ragtest/input

5、通过Filezilla导入预训练文本 6、初始化 使用如下命令对项目进行初始化 python -m graphrag.index --init --root ./ragtest 根据需要对项目中的参数进行调整 7、构建知识图谱 使用如下命令启动训练 python -m graphrag.index --root ./ragtest 结果图如下 2.3实验结果

基于llama3.1

1、 A Chrirmas Carol 询问英文问题 英文回答 询问中文问题 中文回答 中文回答书名出现错误 问题中增加书名细节 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

小结：llama3.1在回答英文和中文问题人物特征上细节有所欠缺，回答中文问题上出现如书名的错误。

基于phi3:14b

1、 A Chrirmas Carol

询问英文问题 英文回答 询问中文问题 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

基于phi3.5

1、 A Chrirmas Carol 询问英文问题 英文回答 询问中文问题 中文回答

2、Tree frog adhesion

英文问题1 英文回答 英文问题2 英文回答 中文问题 中文回答

小结：phi3.5在英文回答中对人物特征的细节相较于llama3.1更丰富，中文回答上细节丰富度基本一致。
​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。

知识图谱和大模型对齐不断微调
东方
02-23 239
融合训练后，大模型输出结果应该和知识图谱转换成的文字结果一致，如果不一致就还要对不一致的文本继续微调，一直到损失函数低于某个阈值才结束。融合训练后，大模型输出结果应该和知识图谱转换成的文字结果一致，如果不一致就还要对不一致的文本继续微调，一直到损失函数低于某个阈值才结束。融合训练后，大模型输出结果应该和知识图谱转换成的文字结果一致，如果不一致就还要对不一致的文本继续微调，一直到损失函数低于某个阈值才结束。跨学科任务智能体可以根据输入的跨学科任务，调用相应学科的专家智能体，协同完成任务。
使用 Unsloth 与 Ollama 使用和微调 Llama 3.2 的分步指南
iCloudEnd的博客
10-08 1470
Llama 3.2 是 Meta 的开源 AI 模型 (LLM)，有多个版本（仅用于多语言文本的 1B 和 3B 参数，以及用于接受文本和图像输入并输出文本的多模式输入的 11B 和 90B 参数）。在基准测试性能方面，轻量级模型与谷歌的 Gemma 2 2B IT 和微软的 Phi-3.5 进行了比较。在 1B 版本的大多数基准测试中，Llama 3.2 模型（1B 和 3B）通常表现优于 Gemma 2 ，但略低于 Phi-3.5多模态模型在基准测试中通常表现良好。
LLM之RAG实战（二十二）| LlamaIndex高级检索（一）构建完整基本RAG框架（包括RAG评估）
wshzd的博客
02-05 3031
解决这一问题的一种方法是让较小的块与父块（本例中为原始的100字块）相关，这样LLM将有更多的上下文来作为答案的基础，而不是试图生成自己的幻觉信息。换言之，10个单词的每个较小组块将与100个单词的较大组块相关，并且当给定的较小组块（10个单词组块）被识别为与回答用户问题相关时，父组块（100个单词组组块）将被检索并被发送到LLM。在传统的RAG应用程序中，我们使用相同的数据块来执行搜索检索，并将相同的块传递给LLM，以使用它来合成或生成答案。可以注意到的一件事是，文档在一个块中，让我们将其拆分为多个块。
RAG 流程及论文串烧
哇哇的博客
06-19 773
此外评估框架 (Truelens)[https://github.com/truera/trulens/tree/main] 推荐 RAG triad：检索结果和问题的相关性、回答问题的真实性（LLM 是否遵循检索结果进行回答）、以及问题和答案的相关性。使用答案忠实度和相关性作为生成的答案的真实度评价，并使用传统的上下文精度和召回作为检索部分的评估标准。RAG 性能评估包含多个方面，例如：答案相关性、答案忠实度、检索的上下文相关性等。所有 RAG 系统中的最后一步：根据检索到的上下文进行结果输出。
最强开源大模型一夜封神！Llama 3.1震撼发布，真正的全民GPT-4时代来了
2401_84206094的博客
07-29 651
开闭源大模型之争仍在继续……从Meta Llama 3.1系列模型的发布，可以看出开闭源大模型之间的差距正在缩小，且大有齐头并进、互相赶超之势。作为开源大模型阵营的忠实拥趸者，同时也是技术创新的先锋，Meta从Llama系列模型发布之初，就坚定要打造自己的开源生态圈。同时，相比于此前的Llama模型，此次新模型发布Meta还将在内部组建团队，让尽可能多的开发人员和合作伙伴使用Llama系列。Meta再度落子，使得开闭源模型之争的定论更加扑朔迷离。
Llama 3.1 开源AI大模型使用
pythonhy的博客
10-25 816
2024年7月24日，Meta宣布推出迄今为止最强大的开源模型Llama 3.1 405B，Llama 3.1的405B支持上下文长度为128K Tokens， 增加了对八种语言的支持，号称第一个在常识、可操纵性、数学、工具使用和多语言翻译方面与顶级人工智能模型相媲美的模型。
探索基于知识图谱的RAG在日本医学问答中的作用（使用小型开源LLM）
栖客
04-20 1150
大型语言模型（LLMs）在医学问答（QA）中表现出色，但由于隐私限制，像GPT-4这样的商业模型无法在临床环境中使用，这限制了其在日本语境中的有效性。因此，最近的研究集中在微调开源LLMs上，但将它们与检索增强生成（RAG）结合的潜力尚未得到充分探索。为填补这一空白，我们首次探索了一种基于知识图谱（KG）的RAG框架，用于日本医学问答的小型开源LLM。实验结果表明，基于KG的RAG对日本医学问答的影响有限。进一步的案例研究表明，RAG的有效性对外部检索内容的质量和相关性非常敏感。
LlamaIndex+Phi-3：知识图谱生成的黄金组合
m0_59235699的博客
03-06 902
检索增强生成 (RAG) 是一种流行的有效方法，可以将 LLM 应用于特定领域。但是，它会受到幻觉的影响。知识图谱的使用是处理这种困境的一种尝试。LlamaIndex 利用 LLM 不断提高的能力来协助从非结构化文档生成知识图谱，并提供对这些图谱进行高效查询的支持。在本文中，我们为此目的使用了 LlamaIndex 模块。通过不到 20 行代码，我们拥有了一个受知识图谱启发的有效问答系统，可以查询我们的本地文档。我们测试了最大路径数、源节点详细程度以及 LLM 本身的选择对响应生成性能的影响。借助。
使用 Ollama 和 DeepSeek 在 VS Code 中构建您自己的本地 AI 聊天助手
iCloudEnd的博客
06-14 214
虽然deepseek-r1:latest很棒，但我想给我的助手起一个个性化的名字，并可能自定义一个系统提示。Ollama 允许你使用 来实现这一点Modelfile。SYSTEM """"""这Modelfile告诉 Ollama：用作deepseek-r1:latest基底。设置一些生成参数，如temperature、、top_k和top_p。提供自定义SYSTEM提示。这对于定义 AI 的角色和一般行为至关重要。
五大主流大模型推理引擎深度解析：llama.cpp、vLLM、SGLang、DeepSpeed和Unsloth的终极选择指南
全世界的博客
06-04 2703
大模型五大主流推理引擎大盘点
Phidata系列教程之使用 Llama 3 Phidata Ollama 创建具有长期记忆、情境理解 AI 代理助手
iCloudEnd的博客
10-23 411
在本文中，我将指导您逐步使用 Ollama 、 Llama 3、Phidata 创建 AI 代理，使其能够执行功能和使用工具。为了构建 AI 代理，我将使用Phidata，这是一个专为制作自主助手而定制的框架。这些代理具有长期记忆、情境理解以及通过函数调用发起操作的能力（上图）。
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习与集成方法：组合多个学习器来提高整体性能
hiliang521的博客
12-02 810
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 945
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 1071
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
07_Spring AI 干货笔记之提示词
在科技的浪潮中，我们寻找着创新的火种，在代码的海洋里，我们编织着智慧的网。腾飞开源，就是这样一个由技术精英汇聚而成的博客平台，我们致力于分享在Java、Python、IoT和人工智能等领域的最新研究成果和实战经验。 在腾飞开源的博客上，你会看到紧跟技术前
11-30 1868
本文详细介绍了Spring AI中的提示词核心概念与API设计。提示词作为引导AI模型生成特定输出的关键输入，其结构从简单字符串演进为包含多角色消息的复杂形式。Spring AI通过Prompt和Message接口提供结构化提示词管理，支持系统、用户、助手等角色分配。PromptTemplate类实现动态内容渲染，并支持自定义模板引擎。文章还涵盖提示词工程的最佳实践与令牌机制，为开发者提供完整的提示词设计解决方案。
LMM-Det：让大型多模态模型在目标检测中脱颖而出
AI浩
12-01 1317
大型多模态模型因其在多模态理解、推理和上下文学习等方面的卓越能力，在人工智能研究和工业界引起了广泛的关注和兴趣。虽然 LMM 在图像描述、视觉问答和视觉定位等多模态任务上已展现出有前景的结果，但其目标检测能力与专业检测器相比仍存在显著差距。为弥补这一差距，我们摒弃了将重型检测器与 LMM 集成的传统方法，提出了 LMM-Det，这是一种简单而有效的方法，它利用大型多模态模型进行纯目标检测，而无需依赖专门的检测模块。
昇腾平台 vLLM 部署与性能优化实战：高吞吐推理落地指南
热门推荐
二哈喇子！
12-01 1万+
昇腾平台vLLM部署与性能优化实战摘要
【AI是否能替代IT从业者？】
博文致力于人工智能算法的探索研究；前后端分离项目的技术分享交流；专升本计算机基础课程内容讲解；各种中间件技术分享
12-03 1022
2025年IT行业面临AI深度重构：基础开发、测试、运维岗位替代率超60%，但AI相关新兴岗位激增380%。人类在复杂系统设计、伦理决策和跨界融合领域仍具不可替代性。微软等企业实践显示，人机协作可使效率提升40%。从业者需转型高价值领域（如Agent开发、大模型工程），掌握"技术+领域"双轨能力。AI本质是职业生态重构器，持续学习者的薪资溢价可达150%。建议立即评估岗位AI暴露指数，优先学习分布式架构优化、多智能体开发等技能。
建筑数字孪生与AI：工地数据化与智能决策解析
最新发布
Azhiyuanshijie的博客
12-04 191
数字孪生整合BIM模型、无人机影像、传感器数据，构建工地虚拟模型。施工状态、材料使用、设备运行数据被实时采集，支撑预测与优化。服务，将算法嵌入实际施工管理系统，实现数据采集、分析、优化和决策闭环。系统可与BIM、ERP集成，形成完整数字孪生解决方案。通过虚拟映射和AI算法，施工过程从经验驱动转向数据驱动。数字孪生+AI，让工地变成“数据实验室”，提升效率、降低风险，并推动建筑企业迈向智能化时代。，企业可展示施工技术实力，实现品牌影响力和潜在客户转化。：AI提出最优施工方案，提升效率和安全。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值