embedding的综述

### 常用 Embedding 方法综述 #### 图形嵌入方法分类 在过去十年间,图形嵌入领域经历了显著的发展,主要集中在设计新型嵌入算法上。当前的嵌入方法大致可分为三类: 1. **基于因子分解的方法** 这种方法的核心在于将矩阵或张量中的关系数据转换成低维空间内的向量表示。典型代表有SVD(奇异值分解)、NMF(非负矩阵因式分解)。这类模型通常用于处理静态网络结构的数据集。 2. **基于随机游走的方法** 此类方法模拟节点间的遍历路径来捕捉局部邻域特性及其分布模式。DeepWalk 和 Node2Vec 是此类别下的两个重要实例。它们利用短语序列生成工具如Word2Vec 来训练节点表征,从而实现高效的图谱分析任务[^1]。 3. **基于深度学习的方法** 随着神经网络架构的进步,越来越多的研究转向探索如何结合自动编码器、卷积神经网路(CNNs) 或者循环神经网络(RNNs),甚至更先进的Transformer 架构来进行复杂拓扑结构的学习。GCNs (Graph Convolutional Networks), GATs(Graph Attention Networks) 属于这一范畴内较为突出的工作成果之一[^3]。 #### 文本嵌入技术——FastText 特点说明 除了上述针对图表数据类型的嵌入方式外,对于自然语言处理(NLP) 中不可或缺的文字信息表达也存在专门的技术手段。例如 FastText 就是一种有效的词嵌入方案,其特色在于不仅考虑整个词语本身的意义构建分布式表示,还进一步深入到字符级别(subwords),即把每个单词拆解为多个较小单位(n-gram fragments),以此增强对不同形式变化敏感的语言支持能力,并有效应对罕见字汇(out-of-vocabulary words)[^2]。 ```python import fastText model = fastText.train_unsupervised('data.txt', model='skipgram') print(model.get_word_vector("example")) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值