AI | 如何使用知识图谱和矢量数据库实现 Graph RAG

使用 DeepSeek R1 的 RAG 和 Graph RAG:一种更智能的方法 检索增强生成 (RAG) 和 Graph RAG 彻底改变了 AI 系统与数据交互的方式。通过将强大的检索机制与生成 随着高效且经济高效的开源模型DeepSeek R1的出现,构建优化的 RAG 系统变得比以往任何时候都更加容易。在本指南中,我们将介绍整个过程,包括设置、实施和实际用例。DeepSeek R1 是一种开源大型语言模型(LLM),旨在与 OpenAI 等专有 AI 模型竞争。它针对推理、基于检索的任务和成本效益进行了优化,使其成为开发强大的 RAG 系统的绝佳选择。主要优势包括MIT 许可证:开源且具有商业可行性。增强检索准确性:通过结构化推理提高搜索精度。成本效益:比专有模型更实惠。 阅读详情

在这里插入图片描述

本教程的附带代码在 https://github.com/SteveHedden/kg_llm

我的上一篇博文是关于如何在企业级实现知识图谱 (KG) 和大型语言模型 (LLM)。在那篇文章中,我介绍了 KG 和 LLM 目前交互的两种方式:LLM 作为构建 KG 的工具;以及 KG 作为 LLM 或 GenAI 应用程序的输入。下图显示了集成的两个方面以及人们将它们结合使用的不同方式。

图片

图片来自作者

在这篇文章中,我将重点介绍 KG 和 LLM 结合使用的一种流行方式:使用知识图谱的 RAG,有时也称为Graph RAG、GraphRAG、GRAG或Semantic RAG。检索增强生成 (RAG) 是关于检索相关信息以增强发送给 LLM 的提示,然后 LLM会生成响应。我们的想法是,你不必将提示直接发送给未经过数据训练的 LLM,而是可以使用 LLM 准确回答提示所需的相关信息来补充提示。我在上一篇文章中使用的例子是将职位描述和简历复制到 ChatGPT 中以写求职信。如果我向 LLM 提供我的简历和我申请的职位的描述,它就能对我的提示“给我写一封求职信”做出更相关的回应。由于知识图谱是为了存储知识而构建的,因此它们是存储内部数据和为 LLM 提示补充额外上下文的完美方式,从而提高响应的准确性和上下文理解。

重要的是,我认为经常被误解的是,RAG 和使用 KG 的 RAG(Graph RAG)是结合技术的方法,而不是产品或技术本身。没有人发明、拥有或垄断 Graph RAG。然而,大多数人都能看到这两种技术结合起来的潜力,而且越来越多的研究证明了结合这两种技术的好处。

一般来说,将KG用于RAG的检索部分有三种方式:

  1. 基于向量的检索: 对 KG 进行向量化并将其存储在向量数据库中。然后,如果您对自然语言提示进行向量化,则可以在向量数据库中找到与您的提示最相似的向量。由于这些向量对应于图中的实体,因此您可以在给定自然语言提示的情况下返回图中最“相关”的实体。请注意,您可以在没有图表的情况下进行基于向量的检索。这实际上是 RAG 的原始实现方式,有时称为 Baseline RAG。您可以对 SQL 数据库或内容进行向量化,并在查询时检索它。
  2. 提示查询检索: 使用 LLM 为您编写 SPARQL 或 Cypher 查询,使用该查询查询您的 KG,然后使用返回的结果来增强您的提示。
  3. 混合(向量 + SPARQL): 您可以以各种有趣的方式组合这两种方法。在本教程中,我将演示一些可以组合这些方法的方法。我将主要关注使用向量化进行初始检索,然后使用 SPARQL 查询来优化结果。

然而,有很多方法可以将矢量数据库和 KG 结合起来用于搜索、相似性和 RAG。这只是一个说明性示例,旨在强调每种方法的优缺点以及将它们一起使用的好处。我在这里将它们一起使用的方式——使用矢量化进行初始检索,然后使用 SPARQL 进行过滤——并不是独一无二的。我在其他地方见过这种实现。我听说的一个很好的例子来自一家大型家具制造商的一位员工。他说,矢量数据库可能会向购买沙发的人推荐除毛刷,但知识图谱会了解材料、属性和关系,并确保不会向购买皮沙发的人推荐除毛刷。

在本教程中,我将:

  • 将数据集矢量化为矢量数据库,以测试语义搜索、相似性搜索和 RAG (基于矢量的检索)
  • 将数据转换为 KG 以测试语义搜索、相似性搜索和 RAG (提示查询检索,但实际上更像是查询检索,因为我只是直接使用 SPARQL,而不是让 LLM 将我的自然语言提示转换为 SPARQL 查询)
  • 将知识图谱中的带有标签和 URI 的数据集矢量化到矢量数据库(我将其称为“矢量化知识图谱”)中,并测试语义搜索、相似性和 RAG (混合)

目的是说明知识图谱和矢量数据库在这些功能上的差异,并展示它们可以协同工作的一些方式。下面是矢量数据库和知识图谱如何协同执行高级查询的高级概述。

在这里插入图片描述

图片来自作者

如果你不想继续阅读,以下是 TL;DR:

  • 矢量数据库可以很好地运行语义搜索、相似度计算和一些基本形式的 RAG,但有一些注意事项。第一个注意事项是,我使用的数据包含期刊文章的摘要,即它包含大量与之相关的非结构化文本。矢量化模型主要在非结构化数据上进行训练,因此在给定与实体相关的文本块时表现良好。
  • 话虽如此,将数据放入矢量数据库并准备进行查询的开销非常小。如果您的数据集中包含一些非结构化数据,您可以在 15 分钟内进行矢量化并开始搜索。
  • 毫不奇怪,单独使用矢量数据库的最大缺点之一是缺乏可解释性。响应可能有三个好的结果和一个不太合理的结果,而且无法知道为什么会出现第四个结果。
  • 矢量数据库返回不相关内容的可能性对搜索和相似性来说是一个麻烦,但对 RAG 来说却是一个大问题。如果你用四篇文章来扩充你的提示,而其中一篇是关于完全不相关的主题,那么 LLM 的回应就会产生误导。这通常被称为“上下文中毒”。
  • 上下文中毒尤其危险的是,回应不一定在事实上不准确,也不是基于不准确的数据,只是使用错误的数据来回答你的问题。我在本教程中找到的示例是针对提示“口腔肿瘤的治疗方法”。检索到的一篇文章是关于直肠癌治疗方法的研究,该研究已发送给法学硕士进行总结。我不是医生,但我很确定直肠不是口腔的一部分。法学硕士准确地总结了这项研究以及不同治疗方法对口腔和直肠癌的影响,但并不总是提到癌症的类型。因此,在用户要求法学硕士描述口腔癌的治疗方法后,用户会在不知情的情况下阅读法学硕士描述直肠癌的不同治疗方案。
  • KG 能够很好地进行语义搜索和相似性搜索的程度取决于元数据的质量以及元数据所连接的受控词汇表。在本教程的示例数据集中,期刊文章都已用主题词标记。这些术语是丰富的受控词汇表的一部分,即美国国立卫生研究院的医学主题词(MeSH)。因此,我们可以相对轻松地进行开箱即用的语义搜索和相似性搜索。
  • 将 KG 直接矢量化到矢量数据库中以用作 RAG 的知识库可能会有一些好处,但在本教程中我没有这样做。我只是以表格格式矢量化数据,但为每篇文章添加了一个 URI 列,这样我就可以将矢量连接回 KG。
  • 使用 KG 进行语义搜索、相似性和 RAG 的最大优势之一是可解释性。您始终可以解释为什么会返回某些结果:它们被标记为某些概念或具有某些元数据属性。
  • 我没有预见到的 KG 的另一个好处是有时被称为“增强数据丰富”或“以专家身份绘制图表”的功能——您可以使用 KG 来扩展或优化您的搜索词。例如,您可以找到类似的术语、更窄的术语或以特定方式与您的搜索词相关的术语,以扩展或优化您的查询。例如,我可能从搜索“口腔癌”开始,但根据我的 KG 术语和关系,将搜索范围缩小到“牙龈肿瘤和腭肿瘤”。
  • 开始使用 KG 的最大障碍之一是你需要构建一个 KG。话虽如此,有很多方法可以使用 LLM 来加速 KG 的构建(上图 1)。
  • 单独使用 KG 的一个缺点是,你需要编写 SPARQL 查询来完成所有操作。因此,上面描述的即时查询检索非常流行。
  • 使用 Jaccard 相似度在知识图谱中查找相似文章的结果很差。如果没有指定,知识图谱会返回带有重叠标签的文章,例如“老年人”、“男性”和“人类”,这些文章可能远不如“治疗方案”或“口腔肿瘤”那么相关。
  • 我遇到的另一个问题是 Jaccard 相似度计算需要很长时间(比如 30 分钟)才能完成。我不知道是否有更好的方法(欢迎提出建议),但我猜想在一篇文章和 9,999 篇其他文章之间找到重叠标签需要耗费大量的计算资源。
  • 由于我在本教程中使用的示例提示很简单,例如“总结这些文章”——LLM 的响应准确性(对于基于向量和基于 KG 的检索方法)更多地取决于检索而不是生成。我的意思是,只要你给 LLM 相关的上下文,LLM 就不太可能搞砸像“总结”这样的简单提示。当然,如果我们的提示是更复杂的问题,情况会大不相同。
  • 使用向量数据库进行初始搜索,然后使用知识图谱进行过滤,可以得到最佳结果。这一点显而易见——你不会为了得到更糟糕的结果而进行过滤。但关键在于:知识图谱本身不一定能改善结果,而是知识图谱为你提供了控制输出以优化结果的能力。
  • 使用知识图谱过滤结果可以提高基于提示的准确性和相关性,但也可以根据提示的作者自定义结果。例如,我们可能想使用相似性搜索来查找相似的文章以推荐给用户,但我们只想推荐该用户有权访问的文章。知识图谱允许查询时访问控制。
  • KG 还可以帮助降低上下文中毒的可能性。在上面的 RAG 示例中,我们可以在矢量数据库中搜索“口腔肿瘤疗法”,然后仅过滤带有口腔肿瘤(或相关概念)标签的文章。
  • 在本教程中,我仅关注一个简单的实现,我们将提示直接发送到向量数据库,然后使用图表过滤结果。有更好的方法可以做到这一点。例如,您可以从提示中提取与您的受控词汇表一致的实体,并使用图表丰富它们(使用同义词和更窄的术语);您可以将提示解析为语义块并将它们分别发送到向量数据库;您可以在矢量化之前将 RDF 数据转换为文本,以便语言模型更好地理解它,等等。这些都是未来博客文章的主题。

步骤 1:基于向量的检索

下图从总体上展示了该计划。我们希望将期刊文章的摘要和标题矢量化到矢量数据库中,以运行不同的查询:语义搜索、相似性搜索和简单版本的 RAG。对于语义搜索,我们将测试“口腔肿瘤”之类的术语 — 矢量数据库应返回与此主题相关的文章。对于相似性搜索,我们将使用给定文章的 ID 在矢量空间中查找其最近邻居,即与本文最相似的文章。最后,矢量数据库允许使用 RAG 的一种形式,我们可以在其中用一篇文章补充提示,例如“请像向没有医学学位的人解释这一点一样解释这一点”。

在这里插入图片描述

图片来自作者

我决定使用来自 PubMed 存储库(许可证CC0:公共领域)的 50,000 篇研究文章的数据集。该数据集包含文章的标题、摘要以及元数据标签字段。这些标签来自医学主题词 (MeSH) 控制词汇词库。在本教程的这一部分中,我们只使用摘要和标题。这是因为我们试图将矢量数据库与知识图谱进行比较,而矢量数据库的优势在于它能够在没有丰富元数据的情况下“理解”非结构化数据。我只使用了数据的前 10,000 行,只是为了使计算运行得更快。

这是 Weaviate 的官方快速入门教程。我也发现这篇文章对入门很有帮助。

在这里插入图片描述

然后我们可以建立与 Weaviate 集群的连接:

在将数据矢量化到矢量数据库之前,我们必须定义模式。在这里我们定义要矢量化 csv 中的哪些列。如前所述,出于本教程的目的,首先,我只想矢量化标题和摘要列。
在这里插入图片描述

然后我们将此模式推送到我们的 Weaviate 集群:

client.schema.create_class(class_obj)

您可以直接查看 Weaviate 集群来检查其是否有效。

现在我们已经建立了模式,我们可以将所有数据写入矢量数据库。

在这里插入图片描述
在这里插入图片描述

要检查数据是否进入集群,可以运行以下命令:

client.query.aggregate("articles").with_meta_count().do()

由于某种原因,我的行中只有 9997 行被矢量化。¯_(ツ)_/¯

使用向量数据库进行语义搜索

当我们谈论向量数据库中的语义时,我们的意思是使用已在大量非结构化内容上训练过的 LLM API 将术语向量化到向量空间中。这意味着向量会考虑术语的上下文。例如,如果在训练数据中多次提到 Mark Twain 一词,而 Samuel Clemens 一词又在附近出现,则这两个术语的向量在向量空间中应该彼此接近。同样,如果在训练数据中多次出现 Mouth Cancer 一词和 Mouth Neoplasms 一词,我们预计有关 Mouth Cancer 的文章的向量在向量空间中应该靠近有关 Mouth Neoplasms 的文章。

您可以通过运行一个简单的查询来检查它是否有效:

在这里插入图片描述

结果如下:

  • 第一篇文章: “牙龈转移是上皮样恶性间皮瘤多器官播散的首发症状。”*这篇文章是关于一项针对恶性间皮瘤(一种肺癌)患者进行的研究,该研究已扩散到牙龈。该研究旨在测试不同治疗方法(化疗、去皮和放疗)对癌症的影响。这篇文章似乎很适合回归——它是关于牙龈肿瘤的,是口腔肿瘤的一个子集。
  • 第 2 篇文章: “小唾液腺肌上皮瘤。光学和电子显微镜研究。”*这篇文章是关于从一名 14 岁男孩的牙龈中切除的肿瘤,该肿瘤已扩散到上颌骨的一部分,由源自唾液腺的细胞组成。这篇文章似乎也是一篇适合回归的文章——它是关于从一名男孩的口腔中切除的肿瘤。
  • 文章 3: “下颌骨转移性神经母细胞瘤。病例报告。”*这篇文章是对一名下颌癌患者 5 岁男孩的病例研究。这是关于癌症的,但严格来说不是口腔癌——下颌肿瘤(下颌肿瘤)不是口腔肿瘤的一个子集。

这就是我们所说的语义搜索——这些文章的标题或摘要中都没有“嘴”这个词。第一篇文章是关于牙龈肿瘤的,是口腔肿瘤的一个子集。第二篇文章是关于牙龈肿瘤的,这种肿瘤起源于受试者的唾液腺,两者都是口腔肿瘤的子集。第三篇文章是关于下颌肿瘤的——从技术上讲,根据 MeSH 词汇表,下颌肿瘤不是口腔肿瘤的一个子集。尽管如此,矢量数据库知道下颌骨靠近嘴。

使用矢量数据库进行相似性搜索

我们还可以使用向量数据库来查找类似的文章。我选择了一篇使用上面的口腔肿瘤查询返回的文章,标题为*“牙龈转移是上皮样恶性间皮瘤多器官播散的第一个征兆”。*使用该文章的 ID,我可以查询向量数据库以查找所有类似的实体:

在这里插入图片描述

结果按相似度排序。相似度是通过向量空间中的距离来计算的。如你所见,最上面的结果是 Gingival 文章——这篇文章与它自己最相似。

其他文章如下:

  • 第四条*:“针对吸烟者的口腔恶性病变筛查可行性研究”。*这是关于口腔癌的,但是是关于如何让吸烟者报名参加筛查,而不是关于他们接受治疗的方式。
  • 文章 5:“扩大胸膜切除术和胸膜剥脱术治疗恶性胸膜间皮瘤是一种有效且安全的老年性细胞减灭术。”*这篇文章是关于在老年人中用胸膜切除术和胸膜剥脱术(切除肺部癌症的手术)治疗胸膜间皮瘤(肺癌)的研究。因此,这篇文章与间皮瘤的治疗类似,但与牙龈肿瘤无关。
  • 第三篇文章(从上往下):*《下颌骨转移性神经母细胞瘤。病例报告》。*同样,这是一篇关于下颌癌的 5 岁男孩的文章。这篇文章是关于癌症的,但严格来说不是口腔癌,而且这篇文章不像牙龈文章那样真正是关于治疗结果的。

有人可能会说,所有这些文章都与我们原来的牙龈文章相似。很难评估它们有多相似,因此很难评估相似性搜索的效果,因为这在很大程度上取决于用户对“相似”的定义。您是否对有关间皮瘤治疗的其他文章感兴趣,而第一篇文章是关于它如何扩散到牙龈的这一事实无关紧要?在这种情况下,第 5 篇文章是最相似的。或者您是否对通过治疗或预防来减少任何类型的口腔癌感兴趣?在这种情况下,第 4 篇文章是最相似的。矢量数据库的一个缺点是它是一个黑匣子——我们不知道为什么返回这些文章。

使用矢量数据库的检索增强生成 (RAG)

以下是如何使用向量数据库来检索结果,然后将结果发送到 LLM 进行汇总的方法(RAG 的一个示例)。

在这里插入图片描述

您可以看到以下响应:

“当然!这篇文章讨论的是患有一种名为上皮样恶性间皮瘤的癌症的病例。这种癌症通常始于肺部或腹部内膜。然而,在这种情况下,癌症扩散到身体其他部位的第一个迹象是在牙龈中发现的。这被称为牙龈转移。\n\n转移意味着癌细胞已从原始肿瘤扩散到身体的其他部位。在这种情况下,癌症在扩散到其他器官之前已经扩散到牙龈。这一点很重要,因为它表明癌症已经发展到晚期,甚至在被发现之前就已经扩散到多个器官。\n\n总的来说,这篇文章强调了早期发现和监测癌症的重要性,以及癌症扩散到身体意想不到的部位的可能性。”

我其实对这个回复很失望。摘要清楚地解释了这是一项跟踪 13 名转移性恶性间皮瘤患者接受不同治疗及其结果的研究。RAG 的输出将这篇文章描述为关于“一个人”的文章,根本没有提到这项研究。

我们不妨尝试总结几篇文章,而不是只总结一篇文章。在下一个示例中,我们使用与上面相同的搜索词(口腔肿瘤),然后将排名前三的文章连同提示“在此以要点形式总结关键信息。让没有医学学位的人也能理解”,发送给法学硕士。

在这里插入图片描述

结果如下:

- 转移到口腔的恶性间皮瘤很少见,颌骨中的病例多于软组织
- 此类癌症的平均生存率为 9-12 个月
- 对 13 名接受新辅助化疗和手术的患者的研究表明,中位生存期为 11 个月
- 一名患者的牙龈肿块是间皮瘤多器官复发的第一个迹象
- 对于有间皮瘤病史的患者,即使在罕见部位,对新生长病变进行活检也很重要
- 小涎腺肌上皮瘤可显示出恶性潜能的特征
- 下颌骨转移性神经母细胞瘤非常罕见,可表现为儿童溶骨性颌骨缺损和乳磨牙松动

我觉得这个回复比之前的回复好多了——它提到了第 1 条中进行的研究、治疗方法和结果。倒数第二个要点是关于*“小唾液腺肌上皮瘤。光学和电子显微镜研究”*文章,似乎是一行准确的描述。最后一条要点是关于上面提到的第 3 条,同样,似乎是一行准确的描述。

第 2 步:使用知识图谱进行数据检索

以下是我们如何使用知识图进行语义搜索、相似性搜索和 RAG 的高级概述:

图片

图片来自作者

使用知识图谱检索数据的第一步是将数据转换为 RDF 格式。下面的代码为所有数据类型创建类和属性,然后用文章和 MeSH 术语的实例填充它。我还创建了发布日期和访问级别的属性,并用随机值填充它们,仅作为演示。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

使用知识图谱进行语义搜索

现在我们可以测试语义搜索。然而,在知识图谱的上下文中,“语义”一词略有不同。在知识图谱中,我们依靠与文档相关的标签及其在 MeSH 分类法中的关系来获取语义。例如,一篇文章可能是关于唾液腺肿瘤(唾液腺中的癌症),但仍被标记为口腔肿瘤。

我们不仅会查询所有标有口腔肿瘤的文章,还会查找比口腔肿瘤更窄的任何概念。MeSH 词汇表包含术语定义,但也包含更宽和更窄的关系。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

以下是口腔肿瘤的所有替代名称和狭义概念。

在这里插入图片描述

图片来自作者

我们将其变成一个简单术语列表:

在这里插入图片描述

然后我们将这些术语转换为 MeSH URI,以便我们可以将它们合并到我们的 SPARQL 查询中:
在这里插入图片描述

然后,我们编写一个 SPARQL 查询来查找所有标有“口腔肿瘤”、其别名“口腔癌”或任何较狭义的术语的文章:

在这里插入图片描述在这里插入图片描述

返回的文章是:

  • 第 2 条(从上至下): “小涎腺肌上皮瘤。光学和电子显微镜研究。”
  • 第四条(自上而下): “针对吸烟者的口腔恶性病变筛查可行性研究。”
  • 文章 6: “胚胎致死异常视觉样蛋白 HuR 的表达与口腔鳞状细胞癌中的环氧合酶-2 之间的关联。”*这篇文章是关于一项研究,旨在确定一种名为 HuR 的蛋白质的存在是否与环氧合酶-2 的更高水平有关,环氧合酶-2 在癌症发展和癌细胞扩散中发挥作用。具体来说,这项研究的重点是口腔鳞状细胞癌,这是一种口腔癌。

这些结果与我们从向量数据库中得到的结果并无不同。这些文章都是关于口腔肿瘤的。知识图谱方法的优点在于我们确实获得了可解释性——我们确切地知道为什么选择这些文章。文章 2 标记为“牙龈肿瘤”和“唾液腺肿瘤”。文章 4 和 6 都标记为“口腔肿瘤”。由于文章 2 被标记为 2 个与我们的搜索词相匹配的词,因此排名最高。

使用知识图谱进行相似性搜索

我们可以依靠与文章相关的标签,而不是使用向量空间来查找相似的文章。使用标签进行相似性计算的方法有很多种,但在本例中,我将使用一种常用方法:Jaccard 相似性。我们将再次使用牙龈文章进行跨方法比较。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

结果如下。由于我们再次搜索 Gingival 文章,因此这是最相似的文章,这也是我们所期望的。其他结果如下:

  • 第 7 篇文章: “股外侧肌钙化性肌腱炎。三例报告。”*这篇文章是关于股外侧肌(大腿肌肉)钙化性肌腱炎(肌腱中形成钙沉积物)。这与口腔肿瘤无关。
  • **重叠术语:**断层扫描、老年人、男性、人类、X 射线计算
  • 第 8 条: “前列腺癌患者在前列腺特异性抗原水平升高时,雄激素剥夺疗法的最佳持续时间是多久。”*这篇文章是关于前列腺癌患者应接受多长时间的特定治疗(雄激素剥夺疗法)。这是关于癌症治疗(放射疗法),而不是口腔癌的治疗。
  • 重叠术语: 放射治疗、老年人、男性、人类、辅助
  • 文章 9: CT 扫描大脑半球不对称:失语症康复的预测因素。*本文探讨了大脑左右两侧的差异(大脑半球不对称)如何预测中风后失语症的康复情况。
  • 重叠术语: 断层扫描、老年人、男性、人类、X 射线计算机

此方法最好的部分是,由于我们在此计算相似度的方式,我们可以看到为什么其他文章相似——我们准确地看到哪些术语是重叠的,即哪些术语在 Gingival 文章和每个比较中是常见的。

可解释性的缺点是,根据之前的结果,我们可以看出这些文章似乎不是最相似的文章。它们都有三个共同的术语(老年、男性和人类),但这些术语可能远不如治疗方案或口腔肿瘤那么相关。您可以根据语料库中术语的流行程度重新计算一些权重——词频-逆文档频率 (TF-IDF)——这可能会改善结果。您还可以在进行相似性分析时选择与您最相关的标记术语,以便更好地控制结果。

使用 Jaccard 相似度对知识图谱中的术语计算相似度的最大缺点是计算工作量——运行一次计算就需要 30 分钟。

使用知识图谱的 RAG

我们还可以仅使用知识图谱进行检索部分来执行 RAG。我们已经有一个关于口腔肿瘤的文章列表,这些文章已保存为上述语义搜索的结果。要实现 RAG,我们只需将这些文章发送给 LLM 并要求其总结结果。

首先,我们将每篇文章的标题和摘要合并为一个大文本块,称为 combined_text:

在这里插入图片描述

然后,我们设置一个客户端,以便我们可以将此文本直接发送给 LLM:
在这里插入图片描述

然后我们给LLM提供上下文和提示:

在这里插入图片描述

结果如下:

- 一名 14 岁男孩的上颌前部有牙龈肿瘤,医生将其切除,并用光学和电子显微镜对其进行了研究
- 该肿瘤由肌上皮细胞组成,似乎是恶性的
- 电子显微镜显示肿瘤起源于唾液腺
- 这是唯一一例确诊的具有恶性特征的肌上皮瘤病例
- 进行了一项可行性研究,以提高高发地区口腔癌和癌前病变的早期发现率
- 烟草销售商参与分发传单,邀请吸烟者接受全科医生的免费检查
- 研究中纳入了 93 名患者,其中 27% 被转诊给专科医生
- 63.6% 的转诊患者实际上看了专科医生,15.3% 被证实患有癌前病变
- 一项研究发现,在口腔鳞状细胞癌 (OSCC) 中,蛋白质 HuR 和酶 COX-2 的表达增加之间存在相关性
- 细胞质 HuR 表达与OSCC 中的 COX-2 表达和淋巴结和远处转移
- 抑制 HuR 表达导致口腔癌细胞中 COX-2 表达降低。

结果看起来不错,即它很好地总结了语义搜索返回的三篇文章。仅使用 KG 的 RAG 应用程序的响应质量取决于您的 KG 检索相关文档的能力。如本例所示,如果您的提示足够简单,例如“在此处总结关键信息”,那么困难的部分是检索(为 LLM 提供正确的文章作为上下文),而不是生成响应。

步骤3:使用矢量化知识图谱测试数据检索

现在我们要联合起来。我们将为数据库中的每篇文章添加一个 URI,然后在 Weaviate 中创建一个新集合,在其中我们将文章名称、摘要、与其相关的 MeSH 术语以及 URI 向量化。URI 是文章的唯一标识符,也是我们连接回知识图谱的一种方式。

首先,我们在 URI 数据中添加一个新列:

在这里插入图片描述

现在我们为新集合创建一个包含附加字段的新模式:

在这里插入图片描述
在这里插入图片描述

将该模式推送到矢量数据库:

client.schema.create_class(class_obj)

现在我们将数据矢量化到新的集合中:

在这里插入图片描述
在这里插入图片描述

使用矢量化知识图谱进行语义搜索

现在,我们可以像以前一样对向量数据库进行语义搜索,但对结果具有更强的可解释性和控制力。
在这里插入图片描述

结果是:

  • 第一篇文章: “牙龈转移是上皮样恶性间皮瘤多器官播散的首发征兆。”
  • 第 10 条: “血管中心性面部淋巴瘤对老年男性的诊断具有挑战性。”*这篇文章讲述了诊断一名患有鼻癌的男性是多么困难。
  • 第 11 条: “下颌假癌性增生”。*这篇文章对我来说很难理解,但我相信它讲的是假癌性增生如何看起来像癌症(因此名称中带有“假”),但这不是癌症。虽然它似乎与下颌骨有关,但它被标记为 MeSH 术语“口腔肿瘤”。

很难说这些结果是否比单独的 KG 或向量数据库更好或更差。理论上,结果应该更好,因为与每篇文章相关的 MeSH 术语现在与文章一起被向量化了。然而,我们并没有真正对知识图谱进行向量化。例如,MeSH 术语之间的关系不在向量数据库中。

将 MeSH 术语向量化的好处在于可以立即获得一些解释——例如,第 11 篇文章也标记为口腔肿瘤。但将向量数据库连接到知识图谱的真正好处在于,我们可以从知识图谱中应用任何我们想要的过滤器。还记得我们之前如何在数据中添加发布日期作为字段吗?我们现在可以对此进行过滤。假设我们想查找 2020 年 5 月 1 日之后发表的有关口腔肿瘤的文章:
在这里插入图片描述
在这里插入图片描述

最初的查询返回了 10 条结果(我们将其设置为最大值 10),但其中只有 6 条是在 2023 年 1 月 1 日之后发布的。请参见以下结果:

在这里插入图片描述

图片来自作者

使用矢量化知识图进行相似性搜索

我们可以对这个新集合进行相似性搜索,就像我们之前对牙龈文章(文章 1)所做的那样:
在这里插入图片描述

结果如下:

  • 第三条: “下颌骨转移性神经母细胞瘤。病例报告。”
  • 第四条: “针对吸烟者的口腔恶性病变筛查可行性研究。”
  • 第 12 条: “伪装成间质性肺病的弥漫性肺内恶性间皮瘤:间皮瘤的一种独特变体。 ” 这篇文章介绍了五名男性患者,他们患有一种看起来很像另一种肺部疾病的间皮瘤:间质性肺病。

由于我们已经将 MeSH 标记矢量化,因此我们可以看到与每篇文章相关的标签。其中一些标签虽然在某些方面可能相似,但与口腔肿瘤无关。假设我们想找到与我们的牙龈文章相似但具体关于口腔肿瘤的文章。我们现在可以将我们之前对知识图谱进行的 SPARQL 过滤与这些结果结合起来。

口腔肿瘤的同义词和狭义概念的 MeSH URI 已保存,但需要向量搜索返回的 50 篇文章的 URI:

# Assuming response is the data structure with your 
articlesarticle_uris = [URIRef(article["article_URI"]) for article in response["data"]["Get"]["Articles_with_abstracts_and_URIs"]]

现在我们可以根据标签对结果进行排序,就像我们之前使用知识图进行语义搜索一样。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在矢量数据库最初返回的50篇文章中,只有5篇文章被标记为口腔肿瘤或相关概念。

  • 文章 2: “小唾液腺肌上皮瘤。光学和电子显微镜研究。”*标签:牙龈肿瘤,唾液腺肿瘤
  • 文章4: 《针对吸烟者的口腔恶性病变筛查可行性研究》。*标签:口腔肿瘤
  • 第 13 篇文章: “源自牙龈沟的表皮样癌。”*这篇文章描述了一例牙龈癌(牙龈肿瘤)。标签:牙龈肿瘤
  • 文章 1: “牙龈转移是上皮样恶性间皮瘤多器官播散的首发症状。”*标签:牙龈肿瘤
  • 第 14 篇文章: “腮腺淋巴结转移:CT 和 MRI 影像学表现。”*这篇文章是关于腮腺肿瘤(主要唾液腺)。标签:腮腺肿瘤

最后,假设我们想将这些类似的文章作为推荐提供给用户,但我们只想推荐该用户可以访问的文章。假设我们知道此用户只能访问标记为访问级别 3、5 和 7 的文章。我们可以使用类似的 SPARQL 查询在我们的知识图谱中应用过滤器:

在这里插入图片描述
在这里插入图片描述

有一篇文章用户无权访问。其余四篇文章如下:

  • 文章 2: “小唾液腺肌上皮瘤。光学和电子显微镜研究。”*标签:牙龈肿瘤,唾液腺肿瘤。访问级别:5
  • 文章 4: “针对吸烟者的口腔恶性病变筛查可行性研究。”*标签:口腔肿瘤。访问级别:7
  • 文章 1: “牙龈转移是上皮样恶性间皮瘤多器官播散的首发征兆。”*标签:牙龈肿瘤。访问级别:3
  • 第 14 篇文章: “腮腺淋巴结转移:CT 和 MR 成像结果。”*本文介绍的是腮腺肿瘤(主要唾液腺)。标签:腮腺肿瘤。访问级别:3

具有矢量化知识图谱的 RAG

最后,让我们看看将向量数据库与知识图谱结合起来后 RAG 是如何工作的。提醒一下,您可以直接针对向量数据库运行 RAG,并将其发送到 LLM 以获取生成的响应:
在这里插入图片描述

在此示例中,我使用搜索词“口腔肿瘤疗法”,并给出相同的提示,“在此以要点形式总结关键信息。让没有医学学位的人也能理解。”我们仅返回前三篇文章以生成此响应。结果如下:

- 转移到口腔的恶性间皮瘤很少见,平均生存期为 9-12 个月。
- 2012 年 8 月至 2013 年 9 月,13 名患者接受了新辅助化疗和根治性胸膜切除术,随后进行放射治疗。
- 2014 年 1 月,11 名患者仍然存活,中位生存期为 11 个月,8 名患者复发,2 名患者分别于手术后 8 个月和 9 个月死亡。
- 一名 68 岁的男性出现牙龈肿块,后来被确诊为恶性间皮瘤的转移性沉积,导致多器官复发。
- 当有间皮瘤病史时,活检对于新生长的病变非常重要,即使是在不常见的部位。
- 对于局部晚期直肠癌,新辅助放化疗可能是有效的,但有些患者可能反应不佳。
- 基因变异可能与直肠癌对新辅助治疗的敏感性或耐药性有关。
- 在直肠癌肿瘤中发现 1p、8p、17p 和 18q 染色体的丢失以及 1q 和 13q 染色体的增加。
- 特定染色体区域的改变与新辅助治疗的反应有关。
- 肿瘤细胞的细胞遗传学特征可能影响直肠癌对放化疗的反应。
- 鼻咽癌的调强放射治疗在局部控制和总体生存率方面取得了良好的长期结果。
- 急性毒性包括粘膜炎、皮炎和口干症,大多数患者经历 0-2 级毒性。
- 晚期毒性主要包括口干症,随着时间的推移会有所改善。
- 远处转移仍然是治疗失败的主要原因,凸显了对更有效的全身治疗的需求。

作为测试,我们可以准确地看到选择了哪三篇文章:
在这里插入图片描述

有趣的是,第一篇文章是关于牙龈肿瘤的,它是口腔肿瘤的一个子集,但第二篇文章是关于直肠癌的,第三篇文章是关于鼻咽癌的。它们是关于癌症的治疗方法,但不是我要搜索的那种癌症。令人担忧的是,提示是“口腔肿瘤的治疗方法”,结果却包含有关其他类型癌症治疗方法的信息。这就是有时所谓的“上下文中毒”——无关或误导性的信息被注入到提示中,导致 LLM 做出误导性回应。

我们可以使用 KG 来解决上下文中毒问题。下图展示了向量数据库和 KG 如何协同工作以实现更好的 RAG 实现:

图片

图片来自作者

首先,我们使用相同的提示对向量数据库进行语义搜索:口腔癌疗法。这次我将限制提高到 20 篇文章,因为我们要过滤掉一些文章。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

只有三篇文章被标记为口腔肿瘤术语之一:

  • 第四条: “针对吸烟者的口腔恶性病变筛查可行性研究。”*标签:口腔肿瘤。
  • 第 15 篇文章: “光动力疗法治疗大鼠腭粘膜化学诱发的癌前病变和鳞状细胞癌。”*这篇文章介绍了一种在大鼠身上测试的腭癌实验性癌症疗法(光动力疗法)。标签:腭肿瘤。
  • 文章 1: “牙龈转移是上皮样恶性间皮瘤多器官播散的首发征兆。”*标签:牙龈肿瘤。

我们将这些发送到 LLM 看看结果是否有所改善:
在这里插入图片描述
结果如下:

- 口腔癌很常见,通常直到晚期才被发现
- 进行了一项可行性研究,以提高高风险地区口腔癌和癌前病变的早期发现率
- 烟草供应商参与向吸烟者分发传单,要求全科医生免费检查
- 研究中包括 93 名患者,其中 27% 被转诊给专科医生
- 63.6% 的转诊患者实际上看过专科医生,其中 15.3% 被诊断出患有癌前病变
- 在患有化学诱发的癌前病变和腭粘膜鳞状细胞癌的大鼠中,研究了光动力疗法 (PDT) 作为一种实验性癌症疗法
- 使用光敏素和两种不同的激活波长进行 PDT,在 514.5 nm 组看到更好的效果- 恶性间皮瘤的牙龈转移极为罕见,存活率低
- 一项案例研究显示,一名患者的牙龈肿块是恶性间皮瘤多器官复发的第一个迹象恶性间皮瘤,强调了对所有新病变进行活检的重要性,即使是在不常见的解剖部位。

我们确实可以看到进步——这些结果与直肠癌或鼻咽肿瘤无关。这看起来像是对所选三篇关于口腔肿瘤疗法的文章的相对准确的总结

结论

总体而言,向量数据库非常适合快速启动和运行搜索、相似性(推荐)和 RAG 应用程序。所需的开销很少。如果您有与结构化数据相关联的非结构化数据,例如本例中的期刊文章,它可以很好地工作。例如,如果我们没有文章摘要作为数据集的一部分,那么它就不会那么有效。

KG 非常适合准确性和控制。如果您想确保输入到搜索应用程序中的数据是“正确的”,而“正确”是指您根据自己的需求做出的任何决定,那么就需要使用 KG。KG 可以很好地用于搜索和相似性,但它们满足您需求的程度取决于元数据的丰富程度和标记的质量。标记质量也可能意味着不同的事情,具体取决于您的用例——如果您构建的是推荐引擎而不是搜索引擎,则构建分类法并将其应用于内容的方式可能会有所不同。

使用知识图谱过滤矢量数据库中的结果可获得最佳结果。这并不奇怪——我使用知识图谱过滤掉我自己认为不相关或误导的结果,因此在我看来,结果当然更好。但关键在于:知识图谱本身不一定能改善结果,而是知识图谱为您提供了控制输出以优化结果的能力。

​

如何学习大模型

现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。

作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

在这里插入图片描述

二、AI大模型视频教程

在这里插入图片描述

三、AI大模型各大学习书籍

在这里插入图片描述

四、AI大模型各大场景实战案例

在这里插入图片描述

五、结束语

学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。

再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。

因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。

Claude Code(11):使用 fireworks-tech-graph 快速生成系统架构图 fireworks-tech-graph是一款AI生成架构图工具,能够通过自然语言描述自动生成专业级技术图表。该工具支持7种视觉风格(包括扁平图标、暗黑终端、工程蓝图等)和14种UML图表类型,特别适合AI系统架构设计。用户只需简单描述系统组件,即可一键生成SVG矢量图和高清PNG图片,无需学习复杂绘图工具。 阅读详情

相关推荐

LSG三叉戟:大语言模型 + 搜索 + 知识图谱

Elastic将AI放在了其官网主页的正中央。在视频演说中,Elastic的CEO Ashutosh Kulkarni首先认为"生成式AI和大语言模型从根本上来说是一种从信息系统中获取信息的更人性化、更直观的方式。" 但是,他认为Elastic的机会在于企业从根本上需要的是“隐私优先”的信息获得方法。

s13596191285的博客 135

综述 | 知识图谱向量化表示

作者丨窦洪健 学校丨中国人民大学在读硕士 研究方向丨推荐系统、文本生成 本文经授权转载自知乎专栏「RUC AI Box」。 前言 知识图谱主要的目标是用来描述真实世界中间存在的各种实体和概念,以及它们之间的关联关系。知识图谱常被应用于以下几个方面:(1)搜索(2)聊天机器人和问答系统。近年来一部分学者尝试将知识图谱引入到推荐系统中,并且取得了不错的结果。本

Paper weekly 5257

Python之美——Python2与Python3多版本共存

Python多版本共存的方法Python2、Python3共存的方法python2下载及环境变量配置第一步、打开Python官网,下载Python2第二步、python2环境变量配置测试结果 Python2、Python3共存的方法 方法如下: 1.先确保不同版本解释器的python.exe所在的路径在环境变量中 2.拷贝各自的python.exe并重命名即可 步骤(理解不了下面有图示): 1、首先你需要将不同的python版本安装,且都已经将跟版本的环境变量配置好了,python3和2的下载方式

chenchen5152的博客 3947

知识图谱表示

知识图谱的向量表示:将知识图谱中包括实体和关系的内容映射到连续向量空间方法的研究领域。(也叫做知识图谱嵌入、知识图谱的表示学习、知识表示学习)知识图谱嵌入方法的训练需要基于监督学习。在训练过程中可以学习到语义层信息。

weixin_42045968的博客 2266

iTunes登录协议全解析:从抓包到加密参数生成(含HTTPDebugger避坑指南)

本文深度解析iTunes登录协议,提供从环境搭建、绕过反调试机制到捕获网络流量的完整实战指南。重点剖析了如何利用HTTPDebugger等工具进行抓包,并详细解读了核心加密参数X-Apple-ActionSignature的生成逻辑,为网络安全研究员和协议分析工程师提供了一份详尽的逆向分析与协议复现教程。

weixin_28314575的博客 874

从原理到实践:MIPI D-PHY v1.2的HS-Deskew功能全解析(附时序图详解)

本文深入解析MIPI D-PHY v1.2的HS-Deskew功能,从技术背景到实现机制,详细介绍了其在2.5Gbps高速传输中的关键作用。通过时序图详解和实测数据,帮助工程师理解并应用这一技术,解决信号完整性问题,提升系统可靠性。

weixin_30300225的博客 309

知识图谱从入门到应用——知识图谱的知识表示:向量表示方法

前文已经介绍过,向量化的表示已经在人工智能的其他领域非常常见,例如在自然语言处理中,可以为句子中的每个词学习一个向量表示(Word Embedding),在图像视频中也可以为每个视觉对象学习一个向量表示。对于知识图谱,也可以为其中的每一个实体和关系学习一个向量表示,并利用向量、矩阵或张量之间的计算,实现高效的推理计算。

冯·诺依曼 1万+

FPGA实战:用Verilog实现Costas环载波同步(附Vivado2019.2仿真步骤)

本文详细介绍了如何在FPGA上使用Verilog实现Costas环载波同步,包括核心原理、Vivado2019.2工程配置、代码实现及仿真验证。通过正交下变频、相位误差检测和环路滤波等关键模块的设计,帮助开发者掌握数字通信系统中的载波同步技术,并提供了实用的调试和优化技巧。

k0l1m2n3o的博客 137

知识图谱与向量数据库的相遇

知识图谱是RAG系统中的一种重要的技术, 基于知识图谱的大模型应用也成为一个典型的架构模式。但是,在一般的RAG系统中, 都会用到向量数据库,那么,当知识图谱与向量数据库相遇后,会是怎样的场景呢?

m0_59235245的博客 1515

三极管特性曲线看不懂?手把手教你用Multisim仿真分析放大电路频率响应

本文针对模拟电路初学者,详细讲解如何利用Multisim软件进行电路仿真,将抽象的三极管特性曲线与放大电路频率响应分析变得直观可视。通过手把手教学,指导读者从导入三极管SPICE模型、仿真输出特性曲线,到分析动态工作点,最终使用波特图仪深入分析频率响应并进行补偿设计,有效帮助理解电路原理并指导实践调试。

weixin_29230059的博客 126

C#串口通信上位机开发实战:轻松实现硬件控制与数据交互

摘要:本文介绍如何使用C#开发串口通信上位机应用,实现与硬件设备(如传感器、PLC等)的数据交互。文章涵盖串口通信原理、开发环境配置、功能实现(串口连接管理、数据收发、实时显示)及UI设计,重点讲解SerialPort类的应用、多线程数据接收处理和错误优化。通过Windows Forms构建直观界面,帮助开发者快速掌握工业控制和自动化系统中的串口通信技术,为物联网和智能设备开发提供实用解决方案。全文约150字。

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 3040

知识图谱融入向量数据库,带来RAG效果飞升

随着大型语言模型(LLMs)在各种应用中的广泛使用,如何提升其回答的准确性和相关性成为一个关键问题。检索增强生成(RAG)技术通过整合外部知识库,为LLMs提供了额外的背景信息,有效地改善了模型的幻觉、领域知识不足等问题。然而,仅依靠简单的 RAG 范式存在一定的局限性,尤其在处理复杂的实体关系和多跳问题时,模型往往难以提供准确的回答。将知识图谱(KG)引入 RAG 系统为解决这一问题提供了新的路径。知识图谱通过结构化的方式呈现实体及其关系,能够在检索过程中提供更为精细的上下文信息。

Z4400840的博客 1428

下采样新突破!ADown模块让YOLOv11多尺度特征提取更精准

ADown 凭借可编程梯度信息与多分支特征聚合的创新设计,打破了传统下采样在特征保留上的固有局限。本教程从原理到代码实现,再到工业场景适配,完整呈现了其在 YOLOv11 中的集成路径。只需简单新增模块脚本并修改配置文件,你的目标检测模型就能在多尺度特征捕捉能力上实现跨越式提升——无论是学术研究中的小目标检测突破,还是工业场景下的复杂多尺度任务落地,ADown 都能成为你攻克下采样瓶颈的利器。现在就动手尝试,让你的检测模型在下一代下采样技术的创新中再上一个台阶吧。

know_F0727的博客 525

GraphRAG+Langchain实现大模型知识图谱

理解GraphRAG其实并不难,可以理解为由两个主要模块组成:1. 向量检索(Local Search)2. 局部知识图谱社区检索(Global Search)所谓 GraphRAG 一定程度上可以理解为使用 LLM 生成知识图谱,在对复杂信息进行文档分析时可显著提高问答性能,尤其是在处理私有数据时。GraphRAG构建流程主要是以下三个:1. 图表作为内容存储:提取相关文档块并要求 LLM 使用它们进行回答。这种变体需要一个包含相关文本内容和元数据的 KG,以及与矢量数据库的集成。

m0_59164304的博客 891

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

大模型论文 | Graph-RAG全面综述:如何用知识图谱+大模型解决信息检索难题?

本文为《Graph Retrieval-Augmented Generation: A Survey》的深度精读,对论文内容进行了总结与提炼,希望帮助读者快速把握核心要点。在关键部分还附有拓展阅读建议,以引导进一步深入学习。

老皮的博客 1209

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

数据分析与AI丨在企业环境中利用知识图谱赋能生成式 AI

Altair Graph Studio 作为企业级数据发现和集成工具集,可用于托管知识图谱。用户能够清理、协调和互连多源数据,简化对结构化和非结构化数据的访问。 Graph Studio 拥有集成多数据源的统一数据层,可快速解答用户的临时性问题,将分散的数据整合为企业专属的互连数据架构。

Altair 现已被全球工业软件领导者西门子收购,成为西门子数字化工业软件旗下成员,进一步巩固西门子在仿真和工业人工智能领域的全球领先地位,其技术正与西门子Xcelerator解决方案进行深度整合。 983

基于GraphRAG的SEO智能助手实战案例 - 解锁大模型和知识图谱结合的力量

本文介绍了如何利用LLM和知识图谱的强大功能制作AI助手,并详细解释了RAG和GraphRAG的应用。通过整合外部API,构建了名为VictorIA的SEO助手,该助手不仅能生成内容、传递SEO行业知识,还能与SaaS工具互动,展示了未来SEO自动化的潜力。知识图谱的应用与LMI框架的结合为助手的开发提供了重要支持。通过向LLM输入自然语言问题并与API进行交互,构建了一个信息丰富、有结构性的助手。GraphRAG方法虽然提高了答案的完整性,但也带来了一定的延迟。

xx_nm98的博客 996

GraphRAG:终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等!

GraphRAG 是一个旨在利用大语言模型(LLMs)从非结构化文本中提取结构化数据的数据处理工具套件。要了解更多关于 GraphRAG 及其如何增强 LLM 处理私有数据能力的信息,请访问 微软研究博客文章.

m0_59235245的博客 1324

【Rust日报】HelixDB - 用 Rust 构建的快速矢量图数据库

遍历是函数式的(如 Gremlin),语言是命令式的,语法是以 Rust 为蓝本的,并受到 Cypher 和 SQL 的影响。ripwc 专为速度和非常低的内存使用而设计,它计算行、字、字节、字符和最大行长度,就像 wc 一样,同时速度更快,并且与 wc 不同具有递归功能。将连接到其他节点的矢量节点视为任何图形数据库,它允许您在一个查询中从人员遍历到他们的文档,再到语义相似的报表。一切都是在没有外部库的情况下构建的,尽管我不太确定它是优点还是缺点,特别是对于 GUI,但我想它可以工作。

Rust语言学习交流 1051

从RAG到GraphRAG: 用知识图谱帮助RAG链接数据 — 海外GenAI公司Chanko实践

在AI对领域知识追求的探索中,我们从大型语言模型(LLM)的挑战到检索增强生成(RAG)和向量数据库提供的创新解决方案经历了复杂的路径。这一旅程将我们带到了一种新的RAG方法,即知识向量图谱。通过将向量搜索与图遍历无缝集成,我们正处于释放AI全面潜力以理解、连接和利用广阔知识领域的前沿。AI的未来不仅仅是信息的处理,而是将其编织成一幅相互连接的理解图谱,可以改变企业运营和决策的方式。知识向量图谱是我们朝着这个未来迈出的一步。

Z4400840的博客 598

MVP 聚技站|一文道尽 RAG,为大模型提供你的私有知识

M点击蓝字 / 微软开发者MSDN关注我们作者:王豫翔 - 微软最有价值专家(MVP)排版:Alan Wang王豫翔微软最有价值专家(MVP) 王豫翔,拥有20余年编程经验,Microsoft AI MVP,一直致力于分享 Azure AI 相关技术。曾在多个大型研讨会担任讲者,包含 TechEd、Tech Summit、Ignite China、Al Bootcamp 等。专注人工智能领域技术创...

dotNET跨平台 554

深入浅出LLM大语言模型

LLM(large language model,LLM)大语言模型是在2018年左右出现的一种语言模型,由具有许多参数(通常数十亿个权重或更多)的人工神经网络组成,使用无监督学习对大量未标记语料进行预训练生成通用模型,然后再在不同特定任务下进行微调。Large(大型): 表示该模型具有大量的参数、大量的语料、复杂庞大的结构Language(语言): 表示该模型用于NLP任务,可以处理和生成自然语言,如英语、中文等。

2401_85375298的博客 1046

大语言模型周报

图1 图像识别、推理和相应交叉能力的分类可视化。最终的分类描述了图像识别和推理能力,需要使用两种能力来实现。Meta人工智能团队和伊利诺伊大学香槟分校的研究人员共同探索了大型语言模型在处理需要多种能力结合的复杂任务时的表现。他们提出了“交叉能力”(cross capabilities)的概念,并建立了一个包含1400个经人类标注的提示的基准测试(CrossEval)。

2401_85375298的博客 755

读懂 GraphRAG:提升LLM企业落地能力,智能问答革命

在企业中单纯的使用LLM并不会产生太好的效果,因为它们不会对有关组织活动的特定领域专有知识进行编码,而这些知识实际上会给信息对话界面带来价值萃取。

2401_82469710的博客 882
上一篇: 提升LLM能力表现的四种AI代理策略
下一篇: 《开源大模型食用指南》,一杯奶茶速通大模型!新增Examples最佳实践!
冻感糕人~
博客等级 码龄3年 8926粉丝 2402原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值