高维张量运算应用—卷积层的反向求导
一般形式的张量
所谓张量,不考虑物理意义,仅在形式上来看,是一个n阶的量ai1i2i3...ina_{i_1i_2i_3...i_n}ai1i2i3...in,张量积有以下特殊形式:
n=0时是标量。
n=1时是向量(矢量)。
n=2时是矩阵。
n更高时是高维张量。
在tensorflow中可以用tensor定义张量。
一般形式的张量积
以下用I,J,K表示下标集合(可以为空),iii,jjj,kkk 为下标。
关于张量积,cIK=aIJbJKc_{IK}=a_{IJ}b_{JK}cIK=aIJbJK,表示cIK=ΣJaIJbJKc_{IK}=\Sigma_{J}a_{IJ}b_{JK}cIK=ΣJaIJbJK,张量积有以下特殊形式:
c=aibic=a_ib_ic=aibi,对应向量点积c=aTbc=a^Tbc=aTb
cI=aIbIc_I=a_Ib_IcI=aIbI,对应张量的按元素积c=a⊙bc=a\odot b