矩阵间的求导

2024-04-14 02:32
文章标签 矩阵 求导

本文主要是介绍矩阵间的求导,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

最近由于需要手推一些最优化函数的求解公式,因此整理了一下各种矩阵间的求导法则,以方便理解相关库的代码或者自己动手代码实现。

二范数类的矩阵求导

  1. 形如
    E = ∥ P ∥ 2 E = \left \| P \right \|^{2} E=P2
    则有
    σ E σ P = 2 P \frac{\sigma E}{\sigma P} = 2P σPσE=2P
  2. 形如
    E = ∥ P − Q ∥ 2 E = \left \| P- Q \right \|^{2} E=PQ2
    则有
    σ E σ P = 2 ( P − Q ) \frac{\sigma E}{\sigma P} = 2(P-Q) σPσE=2(PQ)
  3. 形如
    E = ⟨ Y , Z − P Q T ⟩ E = \left \langle Y, Z-PQ^{T} \right \rangle E=Y,ZPQT
    ⟨ × ⟩ 表 示 对 应 元 素 相 乘 \left \langle ×\right \rangle表示对应元素相乘 ×
    则有
    σ E σ Q = - Y T P σ E σ P = - Y Q \frac{\sigma E}{\sigma Q} = -Y^{T}P   \frac{\sigma E}{\sigma P} = -YQ σQσE=YTP  σPσE=YQ
  4. 形如
    E = ∥ Z − P Q T ∥ 2 E = \left \| Z-PQ^{T} \right \|^{2} E=ZPQT2

则有
σ E σ Q = ( P Q T − Z ) T P σ E σ P = ( P Q T − Z ) Q \frac{\sigma E}{\sigma Q} = (PQ^{T}-Z)^{T}P   \frac{\sigma E}{\sigma P} = (PQ^{T}-Z)Q σQσE=(PQTZ)TP  σPσE=(PQTZ)Q

  1. 形如
    E = ∥ P Q ∥ 2 E = \left \| PQ \right \|^{2} E=PQ2
    则有
    σ E σ Q = 2 P T P Q \frac{\sigma E}{\sigma Q} = 2P^{T}PQ σQσE=2PTPQ
    形如
    E = ∥ P Q − ξ ∥ 2 E = \left \| PQ-\xi \right \|^{2} E=PQξ2
    则有
    σ E σ Q = 2 P T P Q − 2 P T ξ \frac{\sigma E}{\sigma Q} = 2P^{T}PQ-2P^{T}\xi σQσE=2PTPQ2PTξ

这篇关于矩阵间的求导的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/901856

相关文章

hdu 4565 推倒公式+矩阵快速幂

题意 求下式的值: Sn=⌈ (a+b√)n⌉%m S_n = \lceil\ (a + \sqrt{b}) ^ n \rceil\% m 其中: 0<a,m<215 0< a, m < 2^{15} 0<b,n<231 0 < b, n < 2^{31} (a−1)2<b<a2 (a-1)^2< b < a^2 解析 令: An=(a+b√)n A_n = (a +

hdu 6198 dfs枚举找规律+矩阵乘法

number number number Time Limit: 2000/1000 MS (Java/Others)    Memory Limit: 32768/32768 K (Java/Others) Problem Description We define a sequence  F : ⋅   F0=0,F1=1 ; ⋅   Fn=Fn

线性代数|机器学习-P35距离矩阵和普鲁克问题

文章目录 1. 距离矩阵2. 正交普鲁克问题3. 实例说明 1. 距离矩阵 假设有三个点 x 1 , x 2 , x 3 x_1,x_2,x_3 x1​,x2​,x3​,三个点距离如下: ∣ ∣ x 1 − x 2 ∣ ∣ 2 = 1 , ∣ ∣ x 2 − x 3 ∣ ∣ 2 = 1 , ∣ ∣ x 1 − x 3 ∣ ∣ 2 = 6 \begin{equation} ||x

【线性代数】正定矩阵,二次型函数

本文主要介绍正定矩阵,二次型函数,及其相关的解析证明过程和各个过程的可视化几何解释(深蓝色字体)。 非常喜欢清华大学张颢老师说过的一段话:如果你不能用可视化的方式看到事情的结果,那么你就很难对这个事情有认知,认知就是直觉,解析的东西可以让你理解,但未必能让你形成直觉,因为他太反直觉了。 正定矩阵 定义 给定一个大小为 n×n 的实对称矩阵 A ,若对于任意长度为 n 的非零向量 ,有 恒成

python科学计算:NumPy 线性代数与矩阵操作

1 NumPy 中的矩阵与数组 在 NumPy 中,矩阵实际上是一种特殊的二维数组,因此几乎所有数组的操作都可以应用到矩阵上。不过,矩阵运算与一般的数组运算存在一定的区别,尤其是在点积、乘法等操作中。 1.1 创建矩阵 矩阵可以通过 NumPy 的 array() 函数创建。矩阵的形状可以通过 shape 属性来访问。 import numpy as np# 创建一个 2x3 矩阵mat

【UVA】10003-Cutting Sticks(动态规划、矩阵链乘)

一道动态规划题,不过似乎可以用回溯水过去,回溯的话效率很烂的。 13988658 10003 Cutting Sticks Accepted C++ 1.882 2014-08-04 09:26:49 AC代码: #include<cstdio>#include<cstring>#include<iostream>#include<algorithm>#include

算法练习题17——leetcode54螺旋矩阵

题目描述 给你一个 m 行 n 列的矩阵 matrix ,请按照 顺时针螺旋顺序 ,返回矩阵中的所有元素。  代码 import java.util.*;class Solution {public List<Integer> spiralOrder(int[][] matrix) {// 用于存储螺旋顺序遍历的结果List<Integer> result = new ArrayList

线性代数 第六讲 特征值和特征向量_相似对角化_实对称矩阵_重点题型总结详细解析

文章目录 1.特征值和特征向量1.1 特征值和特征向量的定义1.2 特征值和特征向量的求法1.3 特征值特征向量的主要结论 2.相似2.1 相似的定义2.2 相似的性质2.3 相似的结论 3.相似对角化4.实对称矩阵4.1 实对称矩阵的基本性质4.2 施密特正交化 5.重难点题型总结5.1 判断矩阵能否相似对角化5.2 已知两个矩阵相似,求某个矩阵中的未知参数5.3 相似时,求可逆矩阵P,使

最大子矩阵和问题归纳总结

一,最大子矩阵问题: 给定一个n*n(0< n <=100)的矩阵,请找到此矩阵的一个子矩阵,并且此子矩阵的各个元素的和最大,输出这个最大的值。 Example: 0 -2 -7 0 9 2 -6 2 -4 1 -4 1 -1 8 0 -2 其中左上角的子矩阵: 9 2 -4 1 -1 8 此子矩阵的值为9+2+(-4)+1+(-1)+8=15。 二,分析 子矩阵是在矩阵

3.门锁_STM32_矩阵按键设备实现

概述 需求来源: 门锁肯定是要输入密码,这个门锁提供了两个输入密码的方式:一个是蓝牙输入,一个是按键输入。对于按键输入,采用矩阵按键来实现。矩阵按键是为了模拟触摸屏的按键输入,后续如果项目结束前还有时间就更新为触摸屏按键输入。 矩阵按键开发整体思路: 由于矩阵按键就是GPIO的控制,所以不进行芯片和设备的分层编写,控制写在同一个文件中,最终向应用层提供一个接口。 代码层级关系: