线性代数|机器学习-P32循环矩阵的特征向量-傅里叶矩阵

本文主要是介绍线性代数|机器学习-P32循环矩阵的特征向量-傅里叶矩阵,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 1. 大纲
  • 2. 循环矩阵
    • 2.1 移位矩阵P
    • 2.2 P的特征值和特征向量
    • 2.3 循环卷积矩阵
    • 2.4 循环卷积计算
  • 3. 傅里叶矩阵

1. 大纲

  • 循环矩阵在机器学习,图像处理中的应用
  • 循环卷积矩阵的特征值,特征向量,卷积规则
  • 循环卷积矩阵多项式表达: C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1} C=c0I+c1P+c2P2++cn1Pn1
  • 离散傅里叶DFT介绍

2. 循环矩阵

2.1 移位矩阵P

我们定义一个移位矩阵P 表示如下:
P = [ 0 1 0 0 0 0 1 0 0 0 0 1 1 0 0 0 ] ; P x = [ 0 1 0 0 0 0 1 0 0 0 0 1 1 0 0 0 ] [ x 1 x 2 x 3 x 4 ] = [ x 2 x 3 x 4 x 1 ] ; \begin{equation} P=\begin{bmatrix} 0&1&0&0\\\\ 0&0&1&0\\\\ 0&0&0&1\\\\ 1&0&0&0 \end{bmatrix};Px=\begin{bmatrix} 0&1&0&0\\\\ 0&0&1&0\\\\ 0&0&0&1\\\\ 1&0&0&0 \end{bmatrix}\begin{bmatrix} x_1\\\\ x_2\\\\ x_3\\\\ x_4 \end{bmatrix}=\begin{bmatrix} x_2\\\\ x_3\\\\ x_4\\\\ x_1\end{bmatrix}; \end{equation} P= 0001100001000010 ;Px= 0001100001000010 x1x2x3x4 = x2x3x4x1 ;

  • 那么我们可以将一个循环卷积矩阵C 分解为移位矩阵P的多项式之和:
    在这里插入图片描述

2.2 P的特征值和特征向量

我们根据P来定义其特征值和特征向量可得:
P x = λ x → x 2 = λ x 1 ; x 3 = λ x 2 ; x 4 = λ x 3 ; x 1 = λ x 4 ; \begin{equation} Px=\lambda x\to x_2=\lambda x_1; x_3=\lambda x_2; x_4=\lambda x_3; x_1=\lambda x_4; \end{equation} Px=λxx2=λx1;x3=λx2;x4=λx3;x1=λx4;

  • 整理可得:
    x 1 = λ 4 x 1 → ( 1 − λ 4 ) x 1 = 0 → λ 0 = 1 , λ 1 = i , λ 2 = − 1 , λ 3 = − i \begin{equation} x_1=\lambda ^4x_1\to (1-\lambda^4)x_1=0\to \lambda_0=1,\lambda_1=i,\lambda_2=-1,\lambda_3=-i \end{equation} x1=λ4x1(1λ4)x1=0λ0=1,λ1=i,λ2=1,λ3=i
  • 也就是说P的根为 Z N = 1 Z^N=1 ZN=1的根,这里是N=4,所以有4个根;
    在这里插入图片描述

2.3 循环卷积矩阵

我们有一个循环卷积矩阵C,n行n列,因为矩阵C的特殊性,其斜线上的元素相等,所以可得:
C = [ c 0 c 1 c 2 ⋯ c n − 1 c n − 1 c 0 c 1 ⋯ c n − 2 ⋮ ⋱ ⋱ ⋱ ⋮ c 1 c 2 c 3 ⋯ c 0 ] ; \begin{equation} C=\begin{bmatrix} c_0&c_1&c_2&\cdots&c_{n-1}\\\\ c_{n-1}&c_0&c_1&\cdots&c_{n-2}\\\\ \vdots&\ddots&\ddots&\ddots&\vdots\\\\ c_{1}&c_2&c_3&\cdots&c_{0} \end{bmatrix}; \end{equation} C= c0cn1c1c1c0c2c2c1c3cn1cn2c0 ;

  • 那么可以将上述循环矩阵C用移位矩阵P进行展开可得如下:
    C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 \begin{equation}C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1}\end{equation} C=c0I+c1P+c2P2++cn1Pn1

2.4 循环卷积计算

假设我们有一个序列 x 1 ( n ) = { 1 , 2 , 3 } , x 2 ( n ) = { 5 , 0 , 4 } x_1(n)=\{1,2,3\},x_2(n)=\{5,0,4\} x1(n)={1,2,3},x2(n)={5,0,4},需要对其进行循环卷积计算,根据数字信号分析中可得:
x 1 ( n ) L ◯ x 2 ( n ) = [ ∑ m = 0 L − 1 x 1 ( m ) x 2 ( ( n − m ) ) L ] R L ( n ) \begin{equation} x_1(n)\textcircled{L} x_2(n)=[\sum_{m=0}^{L-1}x_1(m)x_2((n-m))_L]R_L(n) \end{equation} x1(n)Lx2(n)=[m=0L1x1(m)x2((nm))L]RL(n)

  • 转换成循环卷积如下:
    [ 5 4 0 0 5 4 4 0 5 ] [ 1 2 3 ] = [ 13 22 19 ] ; \begin{equation} \begin{bmatrix} 5&4&0\\\\ 0&5&4\\\\ 4&0&5 \end{bmatrix}\begin{bmatrix} 1\\\\ 2\\\\ 3 \end{bmatrix}=\begin{bmatrix} 13\\\\ 22\\\\ 19\end{bmatrix}; \end{equation} 504450045 123 = 132219 ;
  • 综上所述可得:两个序列的循环卷积运算可以转换为一个序列的循环卷积矩阵与另外一个序列的乘积。

3. 傅里叶矩阵

我们知道移位矩阵P的特征值为 z N = 1 z^N=1 zN=1的复数根,其特征向量如下:
q k = [ 1 , λ k , λ k 2 , ⋯ , λ k N − 1 ] ; λ k = e 2 π i N \begin{equation} q_k=\begin{bmatrix} 1,\lambda_k,\lambda_k^2,\cdots,\lambda_k^{N-1} \end{bmatrix};\lambda_k=\mathrm{e}^{\frac{2\pi i}{N}} \end{equation} qk=[1,λk,λk2,,λkN1];λk=eN2πi

  • 我们之前推导过对于任意的循环卷积矩阵C来说可以表示如下:
    C = c 0 I + c 1 P + c 2 P 2 + ⋯ + c n − 1 P n − 1 \begin{equation}C=c_0 I+c_1P+c_2P^2+\cdots+c_{n-1}P^{n-1}\end{equation} C=c0I+c1P+c2P2++cn1Pn1
  • 我们可得矩阵C的特征值和特征向量与P的特征值特征向量相同。我们两边同时乘以 q k q_k qk,且定义如下
    C q k = λ k ( C ) q k , P q k = λ k q k Cq_k=\lambda_k(C) q_k,Pq_k=\lambda_kq_k Cqk=λk(C)qk,Pqk=λkqk
    C q k = c 0 q k + c 1 P q k + c 2 P 2 q k + ⋯ + c n − 1 P n − 1 q k \begin{equation}Cq_k=c_0q_k+c_1Pq_k+c_2P^2q_k+\cdots+c_{n-1}P^{n-1}q_k\end{equation} Cqk=c0qk+c1Pqk+c2P2qk++cn1Pn1qk
  • 代入特征方程可得:
    λ k ( C ) q k = c 0 q k + c 1 P q k + c 2 P 2 q k + ⋯ + c n − 1 P n − 1 q k \begin{equation}\lambda_k(C)q_k=c_0q_k+c_1Pq_k+c_2P^2q_k+\cdots+c_{n-1}P^{n-1}q_k\end{equation} λk(C)qk=c0qk+c1Pqk+c2P2qk++cn1Pn1qk
  • 整理可得:
    λ k ( C ) q k = c 0 q k + c 1 λ k q k + c 2 λ k 2 q k + ⋯ + c n − 1 λ k n − 1 q k \begin{equation}\lambda_k(C)q_k=c_0q_k+c_1\lambda_kq_k+c_2\lambda_k^2q_k+\cdots+c_{n-1}\lambda_k^{n-1}q_k\end{equation} λk(C)qk=c0qk+c1λkqk+c2λk2qk++cn1λkn1qk
  • 整理可得:
    λ k ( C ) = c 0 + c 1 λ k + c 2 λ k 2 + ⋯ + c n − 1 λ k n − 1 \begin{equation}\lambda_k(C)=c_0+c_1\lambda_k+c_2\lambda_k^2+\cdots+c_{n-1}\lambda_k^{n-1}\end{equation} λk(C)=c0+c1λk+c2λk2++cn1λkn1
  • 我们知道: λ k = e 2 π k N = w k , w = e 2 π N \lambda_k=\mathrm{e}^{\frac{2\pi k}{N}}=w^k,w=\mathrm{e}^{\frac{2\pi }{N}} λk=eN2πk=wk,w=eN2π
  • 那么可得:
    在这里插入图片描述
  • 小结1:这么做的主要用于:[后续补充,要补充的逻辑思路太多了]
    两个序列的循环卷积为离散傅里叶 D F T 变换下的序列相乘 两个序列的循环卷积为离散傅里叶DFT变换下的序列相乘 两个序列的循环卷积为离散傅里叶DFT变换下的序列相乘
  • 小结2: 所有的循环卷积矩阵都可以分解为离散傅里叶矩阵F和系数序列c相乘,它们的特征向量一致。
    后续更新逻辑思维图 后续更新逻辑思维图 后续更新逻辑思维图

这篇关于线性代数|机器学习-P32循环矩阵的特征向量-傅里叶矩阵的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1129157

相关文章

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

Python循环缓冲区的应用详解

《Python循环缓冲区的应用详解》循环缓冲区是一个线性缓冲区,逻辑上被视为一个循环的结构,本文主要为大家介绍了Python中循环缓冲区的相关应用,有兴趣的小伙伴可以了解一下... 目录什么是循环缓冲区循环缓冲区的结构python中的循环缓冲区实现运行循环缓冲区循环缓冲区的优势应用案例Python中的实现库

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx

Java嵌套for循环优化方案分享

《Java嵌套for循环优化方案分享》介绍了Java中嵌套for循环的优化方法,包括减少循环次数、合并循环、使用更高效的数据结构、并行处理、预处理和缓存、算法优化、尽量减少对象创建以及本地变量优化,通... 目录Java 嵌套 for 循环优化方案1. 减少循环次数2. 合并循环3. 使用更高效的数据结构4

Python中顺序结构和循环结构示例代码

《Python中顺序结构和循环结构示例代码》:本文主要介绍Python中的条件语句和循环语句,条件语句用于根据条件执行不同的代码块,循环语句用于重复执行一段代码,文章还详细说明了range函数的使... 目录一、条件语句(1)条件语句的定义(2)条件语句的语法(a)单分支 if(b)双分支 if-else(

Java深度学习库DJL实现Python的NumPy方式

《Java深度学习库DJL实现Python的NumPy方式》本文介绍了DJL库的背景和基本功能,包括NDArray的创建、数学运算、数据获取和设置等,同时,还展示了如何使用NDArray进行数据预处理... 目录1 NDArray 的背景介绍1.1 架构2 JavaDJL使用2.1 安装DJL2.2 基本操

Python判断for循环最后一次的6种方法

《Python判断for循环最后一次的6种方法》在Python中,通常我们不会直接判断for循环是否正在执行最后一次迭代,因为Python的for循环是基于可迭代对象的,它不知道也不关心迭代的内部状态... 目录1.使用enuhttp://www.chinasem.cnmerate()和len()来判断for

Java循环创建对象内存溢出的解决方法

《Java循环创建对象内存溢出的解决方法》在Java中,如果在循环中不当地创建大量对象而不及时释放内存,很容易导致内存溢出(OutOfMemoryError),所以本文给大家介绍了Java循环创建对象... 目录问题1. 解决方案2. 示例代码2.1 原始版本(可能导致内存溢出)2.2 修改后的版本问题在

numpy求解线性代数相关问题

《numpy求解线性代数相关问题》本文主要介绍了numpy求解线性代数相关问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 在numpy中有numpy.array类型和numpy.mat类型,前者是数组类型,后者是矩阵类型。数组

JAVA中while循环的使用与注意事项

《JAVA中while循环的使用与注意事项》:本文主要介绍while循环在编程中的应用,包括其基本结构、语句示例、适用场景以及注意事项,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录while循环1. 什么是while循环2. while循环的语句3.while循环的适用场景以及优势4. 注意