交叉熵损失函数与参数更新计算实例（节点分类为例）

交叉熵损失与参数更新

数据准备

对于下面这样一个图网络网络：

假如我们得到了节点i的嵌入表示$z_i$数据如下：
$$\begin{gathered} id,x_0,x_1,x_2,x_3 \\ 1,0.5,0.6,0.7,0.8 \\ 2,0.3,0.8,0.3,0.4 \\ 3,0.7,0.9,0.6,0.9 \\ 4,0.2,0.1,0.2,0.3 \\ 5,0.8,0.4,0.3,0.2 \end{gathered}$$
为了方便说明，我们来处理一个对节点进行有监督分类的问题。
假设我们要对节点的嵌入表示进行分类
真实的类别如下：
1,3，属于第0类
2,4，属于第1类
5，属于第2类

分类层

我们对每个节点经过一个全连接层，我们随机初始化w0,w1,w2三个4维（嵌入向量维数）的权重向量（结果保留两位有效数字，下同）。
$w_0=[0.17,0.4,-0.14,0.51]$
$w_1=[0.75,-0.04,0.67,-0.18]$
$w_2=[0.53,-0.04,0.4,0.77]$
$b_0,b_1,b_2=0.05,-0.11,-0.32$
$w_i,b_i$对应将节点向量转化为节点属于i类的过程的一些权重；

于是对节点$z_1$,我们得到：

$h_1=[z_1{w}_0+b_0,z_1{w}_1+b_1$