CBOW原理运用CBOW模型，给出一个语句”i drink milk everyday“，预测 ”milk“。假设第一次随机化初始矩阵和第二次随机化初始矩阵分别为：

最新推荐文章于 2025-07-08 17:07:29 发布

原创最新推荐文章于 2025-07-08 17:07:29 发布 · 1.3k 阅读

3 ·

CC 4.0 BY-SA版权

机器学习笔记同时被 2 个专栏收录

20 篇文章

订阅专栏

Algorithm

3 篇文章

订阅专栏

本文通过实例演示了如何使用连续词袋(CBOW)模型预测句子中特定词汇的方法。以idrinkmilkeveryday为例，展示了词向量的构建、词向量的平均值计算以及最终得分向量的生成过程，所有步骤均使用MATLAB语言实现。

运用CBOW模型，给出一个语句”i drink milk everyday“，预测 ”milk“。假设第一次随机化初始矩阵和第二次随机化初始矩阵分别为：

写出：

1.第一层输入词向量(上下文嵌入词向量)，

2.词向量加总后的平均值

3.得分向量（输出层的输入向量）

”i drink milk everyday“，预测 ”milk“根据基本公式，使用MATLAB语言解答如下：

1.第一层输入词向量(上下文嵌入词向量)，

设：

i=[1 0 0 0]';

drink=[0 1 0 0]';

everyday=[0 0 0 1]';

milk=[0 0 1 0]';

w=[1 2 3 0; 1 2 1 2;-1 1 1 1];

第一层输入的词向量为

in_i =

-1]

in_drink =

in_everyday =

[ 0

1 ]

2.词向量加总后的平均值

avr=(in_i+in_drink+in_everyday)./3

avr =

[ 1.0000

1.6667

0.3333]

3.得分向量（输出层的输入向量）

由于w_prime=[1 2 -1;-1 2 -1;1 2 2;0 2 0];

score=w_prime*avr

score =

[ 4.0000

2.0000

5.0000

3.3333]

clc;clear all;
i=[1 0 0 0]';
drink=[0 1 0 0]';
everyday=[0 0 0 1]';
w=[1 2 3 0; 1 2 1 2;-1 1 1 1];
in_i=w*i
in_drink=w*drink
in_everyday=w*everyday
xw=in_i+in_everyday+in_drink

avr=(in_i+in_drink+in_everyday)./3
w_prime=[1 2 -1;-1 2 -1;1 2 2;0 2 0];

score=w_prime*avr