sdutstudent的博客

文章目录C&W Loss FunctionC&W 模型结构Word2Vec - CBOWC&W Loss Function∑(w,c)∈D∑w′∈Vmax(0,1−score(w,c)+score(w′,c)\sum_{(w,c)\in D}\sum_{w'\in V}max(0, 1-score(w,c)+score(w',c)∑(w,c)∈D​∑w′∈V​max(0,1−score(w,c)+score(w′,c)想起了机器视觉课上老师讲的损失函数。对于每个样本，其错误分

文本的向量化表示语言模型语言模型p(wi∣wi−4,wi−3,wi−2,wi−1)p(w_i|w_{i-4}, w_{i-3}, w_{i-2}, w_{i-1})p(wi​∣wi−4​,wi−3​,wi−2​,wi−1​)在得到前4个词后，得到当前词的概率最大。