开源！一文了解阿里一站式图计算平台GraphScope

简介：随着大数据的爆发，图数据的应用规模不断增长，现有的图计算系统仍然存在一定的局限。阿里巴巴拥有全球最大的商品知识图谱，在丰富的图场景和真实应用的驱动下，阿里巴巴达摩院智能计算实验室研发并开源了全球首个一站式超大规模分布式图计算平台GraphScope，并入选中国科学技术协会“科创中国”平台。本文详解图计算的原理和应用及GraphScope的架构设计。

一 什么是图计算

图数据对一组对象（顶点）及其关系（边）进行建模，可以直观、自然地表示现实世界中各种实体对象以及它们之间的关系。在大数据场景下，社交网络、交易数据、知识图谱、交通和通信网络、供应链和物流规划等都是典型的以图建模的例子。图 1 显示了阿里巴巴在电商场景下的图数据，其中有各种类型的顶点（消费者、卖家、物品和设备）和边（表示了购买、查看、评论等关系）。此外，每个顶点还有丰富的属性信息相关联。

图 1：阿里巴巴电商场景图数据示例

实际场景中的这种图数据通常包含数十亿个顶点和数万亿条边。除了规模大之外，这个图的持续更新速度也非常快，每秒可能有近百万的更新。随着近年来图数据应用规模的不断增长，探索图数据内部关系以及在图数据上的计算受到了越来越多的关注。根据图计算的不同目标，大致可以分为交互查询、图分析和基于图的机器学习三类任务。

1 图的交互查询

图 2：左，金融反欺诈示例；右，图学习示例。

在图计算的应用中，业务通常需要以探索的方式来查看图数据，以进行一些问题的及时定位和分析某个深入的信息，如图 2 （左）中的（简化）图模型可被用于金融反欺诈（信用卡非法套现）检测。通过使用伪造的标识符，“犯罪分子”可以从银行获得短期信用（顶点 4）。他尝试通过商家（顶点3）的帮助，以虚假购买（ 边 2->3）来兑现货币。一旦从银行（顶点4）收到付款（边 4->3），商家再通过其名下的多个帐户将钱（通过边 3->1 和 1->2）退还给“犯罪分子”。这种模式最终形成一个图上的闭环（2->3->1...->2）。真实场景中，图数据在线上的规模可能包含数十亿个顶点（例如，用户）和数千亿至万亿条边（例如，支付交易），并且整个欺诈过程可能涉及到许多实体之间包含各种约束的动态交易链，因此需要复杂的实时交互分析才能很好的识别。

2 图分析

关于图分析计算的研究已经持续了数十年，产生了很多图分析的算法。典型的图分析算法包括经典图算法（例如，PageRank、最短路径和最大流），社区检测算法（例如，最大团/clique、联通量计算、Louvain 和标签传播），图挖掘算法（例如，频繁集挖掘和图的模式匹配）。由于图分析算法的多样性和分布式计算的复杂性，分布式图分析算法往往需要遵循一定的编程模型。当前的编程模型有点中心模型“Think-like-vertex”，基于矩阵的模型和基于子图的模型等。在这些模型下，涌现出各种图分析系统，如 Apache Giraph、Pregel、PowerGraph、Spark GraphX、GRAPE 等。

3 基于图的机器学习

经典的 Graph Embedding 技术，例如 Node2Vec 和 LINE，已在各种机器学习场景中广泛使用。近年来提出的图神经网络（GNN），更是将图中的结构和属性信息与深度学习中的特征相结合。GNN 可以为图中的任何图结构（例如，顶点，边或整个图）学习低维表征，并且生成的表征可以被许多下游图相关的机器学习任务进行分类、链路预测、聚类等。图学习技术已被证明在许多与图相关的任务上具有令人信服的性能。与传统的机器学习任务不同，图学习任务涉及图和神经网络的相关操作（见图 2 右），图中的每个顶点都使用与图相关的操作来选择其邻居，并将其邻居的特征与神经网络操作进行聚合。

二 图计算：下一代人工智能的基石

不仅仅是阿里巴巴，近年来图数据和计算技术一直是学术界和工业界的热点。特别是，在过去的十年中，图计算系统的性能已提高了 10~100 倍，并且系统仍在变得越来越高效，这使得通过图计算来加速AI和大数据任务成为了可能。实际上，由于图能十分自然地表达各种复杂类型的数据，并且可以为常见的机器学习模型提供抽象。与密集张量相比，图能提供更丰富的语义和更全面的优化功能。此外，图是稀疏高维数据的自然表达，并且图卷积网络（GCN）和图神经网络（GNN）中越来越多的研究证明，图计算是对机器学习的有效补充，在结果的可解释性、深层次推理因果等方面将扮演越来越重要的作用。