Toby的博客

将文本转化为向量try:continuereturn vec# 这段代码定义了一个函数 average_vec(text)，它接受一个包含多个词的列表 text 作为输入，并返回这些词对应词向量的平均值。该函数# 首先初始化一个形状为 (1, 100) 的全零 numpy 数组来表示平均向量# 然后遍历 text 中的每个词，并尝试从 Word2Vec 模型 w2v 中使用 wv 属性获取其对应的词向量。如果在模型中找到了该词，函数将其向量加到 vec 中。

此篇为翻译GENSIM官网中有关FastText model的内容。我用自己moke的数据代替原文中的语料做模型训练例子。之前文章介绍过word2vec模型有一个缺陷就是对于词库外的词不能给出向量表示，但是FastText模型可以很好的解决这个问题。FastText模型是Facebook开发的一个向量表征模型，它既支持直接调用，也可以根据自己的业务场景需求自己训练。下面介绍下FastText模型的几种快速启动使用方法。

我们希望通过自己训练业务相关的语料word2vec模型来获得词嵌入、词相关性查询等。根据自己的业务场景准备训练数据，比如用户在商城上的同购行为序列或同浏览行为序列。

使用graphframes创建图和查看图数据

2. 定义并实现一个输入起始点和随机游走步数的函数'''输入起始节点和路径长度，生成随机游走节点序列'''# 汇总邻接节点break# 从邻接节点中随机选择下一个节点# 试着从随机森林出发，采样五个节点。

Embedding简单例子

在特征提取中，可以在预先训练好的网络结构后修改或添加一个简单的分类器，然后将源任务上预先训练好的网络作为另一个目标任务的特征提取器，只对最后增加的分类器参数进行重新学习，而预先训练好的网络参数不被修改或冻结。实际上，微调要优于特征提取，因为它能够对迁移过来的预训练网络参数进行优化，使其更加适合新的任务。微调的大致过程是在预先训练过的网络上添加新的随机初始化层，此外预先训练的网络参数也会被更新，但会使用较小的学习率以防止预先训练好的参数发生较大改变。常用方法是固定底层的参数，调整一些顶层或具体层的参数。