本文主要是介绍矩阵间的求导,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
最近由于需要手推一些最优化函数的求解公式,因此整理了一下各种矩阵间的求导法则,以方便理解相关库的代码或者自己动手代码实现。
二范数类的矩阵求导
- 形如
E = ∥ P ∥ 2 E = \left \| P \right \|^{2} E=∥P∥2
则有
σ E σ P = 2 P \frac{\sigma E}{\sigma P} = 2P σPσE=2P - 形如
E = ∥ P − Q ∥ 2 E = \left \| P- Q \right \|^{2} E=∥P−Q∥2
则有
σ E σ P = 2 ( P − Q ) \frac{\sigma E}{\sigma P} = 2(P-Q) σPσE=2(P−Q) - 形如
E = ⟨ Y , Z − P Q T ⟩ E = \left \langle Y, Z-PQ^{T} \right \rangle E=⟨Y,Z−PQT⟩
⟨ × ⟩ 表 示 对 应 元 素 相 乘 \left \langle ×\right \rangle表示对应元素相乘 ⟨×⟩表示对应元素相乘
则有
σ E σ Q = - Y T P σ E σ P = - Y Q \frac{\sigma E}{\sigma Q} = -Y^{T}P \frac{\sigma E}{\sigma P} = -YQ σQσE=-YTP σPσE=-YQ - 形如
E = ∥ Z − P Q T ∥ 2 E = \left \| Z-PQ^{T} \right \|^{2} E=∥∥Z−PQT∥∥2
则有
σ E σ Q = ( P Q T − Z ) T P σ E σ P = ( P Q T − Z ) Q \frac{\sigma E}{\sigma Q} = (PQ^{T}-Z)^{T}P \frac{\sigma E}{\sigma P} = (PQ^{T}-Z)Q σQσE=(PQT−Z)TP σPσE=(PQT−Z)Q
- 形如
E = ∥ P Q ∥ 2 E = \left \| PQ \right \|^{2} E=∥PQ∥2
则有
σ E σ Q = 2 P T P Q \frac{\sigma E}{\sigma Q} = 2P^{T}PQ σQσE=2PTPQ
形如
E = ∥ P Q − ξ ∥ 2 E = \left \| PQ-\xi \right \|^{2} E=∥PQ−ξ∥2
则有
σ E σ Q = 2 P T P Q − 2 P T ξ \frac{\sigma E}{\sigma Q} = 2P^{T}PQ-2P^{T}\xi σQσE=2PTPQ−2PTξ
这篇关于矩阵间的求导的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!