GraphRAG的成本结构及优化建议

关注公众号“ONE生产力”，获取更多生产力资讯！

之前的文章我们介绍了微软的 GraphRAG（Graph Retrieval Augmented Generation，图检索增强生成）技术，它结合了知识图谱的精准性和大型语言模型的生成能力，从海量信息中挖掘有价值的见解至关重要，为我们提供了一种全新的方式来解锁非结构化数据的潜力。

但我们按照官方示例试用发现，虽然效果很好，但是价格实在贵得飞起，200页的小说花了11美元，传统RAG矢量化的成本不会超过0.01美元。那为什么GraphRAG如此昂贵呢？今天我们将深入探讨 GraphRAG 的成本构成，分析关键因素，并提供一些优化成本的实用建议。

GraphRAG的主要成本

1、构建图表：包括节点（关键实体）和边（实体间关系）的创建，这是成本的主要来源，包括：

1. 计算资源成本： GraphRAG依赖于强大的计算资源，这些资源包括CPU、GPU以及内存使用。这些计算资源的成本会随着数据集的大小、模型的复杂度和查询频率的增加而增加。对于需要处理大量数据或提供快速响应的场景，计算成本将是一个重要的开支。