GNN初学笔记（一）—— Relational inductive biases, deep learning, and graph networks简要解析

GNN初学笔记（一）—— Relational inductive biases, deep learning, and graph networks文献学习
（我会在每个术语解释后面加入自己的理解，若有错误恳请指正）

这篇文献首先阐释AI如何模拟人类的学习能力，即组合泛化能力（combinatorial generalization），总结了目前深度学习“端到端”（end to end）的模型，并将其与“手动设计结构”（hand-engineering）相结合，提出了“图网络”（the graph network）。
接着作者将各深度学习视作模块，对它们的关系归纳偏差（Relational inductive biases）做比较，引入对“Graph network”(简称GN块)的解释。先介绍了GN块的结构、算法，然后提出它的设计原则：灵活的表示（属性、图结构），可配置块内结构，可组合的多块体系结构。
最后提出讨论，对图网络的组合推广，局限性以及未来研究方向做了一个大致的说明。

一.摘要
在摘要中，作者提出
组合泛化是AI的首要任务，结构化表示以及计算能力是实现这个目标的关键
（We argue that combinatorial generalization must be a top priority for AI to achieve human-like abilities, and that structured representations and computations are key to realizing this objective. ）
然后由生物学通过自然以及人工培育合作的方式类比，我们应该
将手动设计结构与端到端相结合，构建可结构化的图网络。

二、介绍
在介绍中，作者用各种具体的例子阐述人类的学习能力对AI的启发。
人类的关键能力是以有限来表示无穷
（A key signature of human intelligence is the ability to make “infinite use of finite means”）
人类组合泛化的能力关键取决于我们表达结构和关系推理的认知机制。
（Humans’ capacity for combinatorial generalization depends critically on our cognitive mecha- nisms for representing structure and reasoning about relations.）
在学习时，我们要么将新知识融入我们现有的结构化表示中，要么调整结构本身来将旧的知识融入新的知识。
（When learning, we either fit new knowledge into our existing structured representations, or adjust the structure itself to better accommodate (and make use of) the new and the old ）
我们认为，现代人工智能的一个关键路径是将组合泛化作为首要任务，我们提倡采用综合方法来实现这一目标。
（We suggest that a key path forward for modern AI is to commit to combinatorial generalization as a top priority, and we advocate for integrative approaches to realize this goal.）

三、关系归纳偏差
box 1、关系推理
关系推理涉及操纵实体和关系的结构化表