符号(Notations)
(1) ff 表示多个函数的组合⎡⎣⎢⎢⎢⎢⎢f1(x)f2(x)⋮fm(x)⎤⎦⎥⎥⎥⎥⎥[f1(x)f2(x)⋮fm(x)]
(2)∇f(x)∇f(x)表示函数f(x)f(x)的梯度
(3)粗体符号表示矢量或者矩阵,比如xx表示一个矢量,HH表示一个矩阵。
2. 梯度
定义对于任意点(x∈Rnx∈Rn)的映射f:Rn→Rmf:Rn→Rm
f(x)=⎡⎣⎢⎢⎢⎢⎢f1(x)f2(x)⋮fm(x)⎤⎦⎥⎥⎥⎥⎥=[f1(x),f2(x),⋯,fm(x)]T(156)(156)f(x)=[f1(x)f2(x)⋮fm(x)]=[f1(x),f2(x),⋯,fm(x)]T
其中 fi(x)fi(x) 是一个 Rn→RRn→R 的映射。 ∂f(x)∂xj∂f(x)∂xj 定义为
∂f(x)∂xj=⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢∂f1(x)∂xj∂f2(x)