一个F范数对矩阵求导例子 1

本文通过三个具体实例,详细解析了标量对矩阵求导的过程,包括F范数平方的求导、矩阵差的F范数平方求导及涉及点乘运算的矩阵表达式的求导。

==PART1 ==

1. 问题

如何求下列表达式中的未知参数W?求偏导?
min⁡f(W)=min⁡w∥(XW∘D˘)B∥F2(0) \min f(W)=\min_w \|(XW \circ \breve{D})B\|_F^2 \tag{0} minf(W)=wmin(XWD˘)BF2(0)
其中 只有W是未知参数\textcolor{red}{只有W是未知参数}只有W是未知参数,且X∈Rn×m,W∈Rm×c,D˘∈Rn×c,B∈Rc×cX \in R^{n \times m}, W \in R^{m \times c}, \breve{D} \in R^{n \times c}, B \in R^{c \times c}XRn×m,WRm×c,D˘Rn×c,BRc×c
同时∘\circ 表示 Hadamard积,即矩阵按位乘(matlab的点乘)。

2. 推导过程

S=XW∘D˘S=XW \circ \breve{D}S=XWD˘,则
f(W)=∥(XW∘D˘)B∥F2=∥SB∥F2=tr(SBBTST)(1) f(W)=\|(XW \circ \breve{D})B\|_F^2 \\ = \|SB\|_F^2 \\ =tr(SBB^TS^T) \tag{1} f(W)=(XWD˘)BF2=SBF2=tr(SBBTST)(1)
由于有∂tr(XBXT)∂X=XBT+XB,(2)\frac{\partial{tr(XBX^T)}}{\partial{X}}=XB^T + XB \tag{2}, Xtr(XBXT)=XBT+XB(2)
所以
∂f∂S=SBBT+SBBT=2SBBT(3) \frac{\partial{f}}{\partial{S}}=SBB^T + SBB^T=2SBB^T \tag{3} Sf=SBBT+SBBT=

评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值