表格理解专题（二）：单元格的特征提取

单元格的特征提取有什么好的方式
在 GNN 中节点特征的提取至关重要，尤其在表格数据中，不同特征的选择和处理方式会显著影响模型的表现。以下是一些适用于表格数据节点特征的提取方式：

1. 文本嵌入（适用于内容为文本的单元格）

• 预训练语言模型嵌入：可以使用 BERT、RoBERTa 等预训练的 Transformer 模型，将单元格中的文本内容编码成嵌入向量。这些嵌入向量捕捉了文本内容的语义信息。
• 词袋（Bag-of-Words）或 TF-IDF：对于内容简单、无上下文的表格，词袋模型或 TF-IDF 也是一种轻量的选择。尽管语义捕捉能力有限，但在特定领域内可能足够有效。
• 句向量模型：可以采用 Sentence-BERT 或 Universal Sentence Encoder 之类的模型，将文本转为句向量。句向量模型在表达句子级别含义时比单词级模型更高效。

2. 位置编码（Position Encoding）

• 表格中的单元格具有明确的行列位置，可以使用位置编码来表示每个单元格的相对位置。
• 行列索引࿱