Able的博客

softmax函数简写为Si=ei∑jejS_i=\frac{e^i} {\sum_j e^j}Si​=∑j​ejei​交叉熵损失函数L=−∑ktkln(y=k)L=-\sum_k t_kln(y=k)L=−∑k​tk​ln(y=k)。其中目标被的tkt_ktk​为1，其余类的tkt_ktk​为0.当预测为第i个时，可以认为ti=1t_i=1ti​=1，yiy_iyi​表示softmax值。...

add操作经典代表网络是ResNet，concate操作代表网络是Inception系统网络中的Inception结构和DenseNet。Resnet是做值的叠加，通道数是不变的，DenseNet是做通道的合并。你也可以这么理解，add是描述图像的特征下的信息量增多了，但是描述图像的维度本身并没有增加，只是每一维下的信息量在增加，这显然是对最终的图像的分类是有益的。而concat是通道数的合并，...