【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（10）：线性变换定义

前言

Hello！小伙伴！
非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～
 
自我介绍 ଘ(੭ˊᵕˋ)੭
昵称：海轰
标签：程序猿｜C++选手｜学生
简介：因C语言结识编程，随后转入计算机专业，有幸拿过一些国奖、省奖…已保研。目前正在学习C++/Linux/Python
学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！
 
机器学习小白阶段
文章仅作为自己的学习笔记 用于知识体系建立以及复习
知其然 知其所以然！

往期文章

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（1）：集合与映射

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（2）：线性空间定义及其性质

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（3）：线性空间的基与坐标

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（4）：基变换与坐标变换

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（5）：线性子空间

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（6）：子空间的交与和

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（7）：欧氏空间

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（8）：标准正交基与Gram-Schmidt过程

【机器学习｜数学基础】Mathematics for Machine Learning系列之矩阵理论（9）：正交补与投影定理

3.1 线性变换定义

定义3.1 ：线性变换

设$\mathcal{A}$是数域$K$上线性空间$V$到$V$的一个变换，如果满足

• $\mathcal{A}(\alpha +\beta )=\mathcal{A}(\alpha )+\mathcal{A}(\beta )$
• $\mathcal{A}(k\alpha )=k\mathcal{A}(\alpha )k\in K,\alpha \in V$

则称，$\mathcal{A}$是$V$上的一个线性变换（或线性算子）

---

根据上面的定义，也可以定义

$$\mathcal{A}(k\alpha +l\beta )=k\mathcal{A}(\alpha )+l\mathcal{A}(\beta )\alpha ,\beta \in V,k,l\in K$$

作为$\mathcal{A}$是$V$的一个线性变换的充分必要条件

线性变换的简单性质：

（1）$\mathcal{T}(0)=0$

$\mathcal{T}(0)=\mathcal{T}(0\cdot \alpha )=0\cdot \mathcal{T}(\alpha )=0$

（2）$\mathcal{T}(-\alpha )=-\mathcal{T}(\alpha )$

$\mathcal{T}(-\alpha )=\mathcal{T}((-1)\cdot \alpha )=(-1)\cdot \mathcal{T}(\alpha )=-\mathcal{T}(\alpha )$

（3）$\mathcal{T}({\sum }_{i=1}^s{k}_i{\alpha }_i)={\sum }_{i=1}^s{k}_i\mathcal{T}({\alpha }_i)$

---

恒等变换

设$V$是任意一个数域$K$上的线性空间，定义如下映射

$$\begin{gathered} \mathcal{B}:V\to V \\ \mathbf{\chi }\to \mathbf{\chi } \end{gathered}$$

称该变换为恒等变换

零变换

设$V$是任意一个数域$K$上的线性空间，定义如下映射

$$\begin{gathered} \mathcal{O}:V\to V \\ \mathbf{\chi }\to 0 \end{gathered}$$

称该变换为零变换

数乘运算

设$V$是任意一个数域$K$上的线性空间，定义如下映射

$$\begin{gathered} \mathcal{K}:V\to V \\ \mathbf{\chi }\to k\mathbf{\chi }k\in K \end{gathered}$$

称该变换为数乘变换

$R^n$上的一个线性变换

$$\begin{gathered} \mathcal{T}:R^n\to R^n \\ \mathbf{\chi }\to A\mathbf{\chi } \end{gathered}$$

称$\mathcal{A}$是$R^n$上的一个线性变换

$R[ab]$上的一个线性变换

$R[ab]$表示$[ab]$区间上实连续函数构成的线性空间，定义

$$\begin{gathered} \mathcal{T}:R[ab]\to R[ab] \\ f(x)\to {\int }_0^{x}f(t)dt \end{gathered}$$

称$\mathcal{T}$是$R[ab]$上的一个线性变换

定义3.2

设$\mathcal{T}$是线性空间$V$上的线性变换

集合

R ( T ) = { T χ ｜ χ ∈ V } R(\mathscr{T})=\{\mathscr{T} \boldsymbol{\chi} ｜ \boldsymbol{\chi} \in V\} R(T)={Tχ｜χ∈V}

称之为$\mathcal{T}$的值域，也就是$V$在$\mathcal{T}$之下像的集合

---

集合

N ( T ) = { χ ｜ T χ = 0 , χ ∈ V } N(\mathscr{T})=\{\boldsymbol{\chi}｜\mathscr{T}\boldsymbol{\chi}=0,\boldsymbol{\chi}\in V\} N(T)={χ｜Tχ=0,χ∈V}

称之为$\mathcal{T}$的核域，也就是像为零元的那些源像的集合

定理3.1.1

$\mathcal{T}$是线性空间的一个线性变换，则$R(\mathcal{T})$和$N(\mathcal{T})$都是$V$的线性子空间

---

1）证明$R(\mathcal{T})$是子空间

证加法封闭性：

设$\alpha ,\beta \in R(\mathcal{T})$

则一定存在$\xi ,\eta \in V$，使得

$$\mathcal{T}(\xi )=\alpha ,\mathcal{T}(\eta )=\beta ,且\xi +\eta \in V$$

那么，有

$$\alpha +\beta =\mathcal{T}(\xi )+\mathcal{T}(\eta )=\mathcal{T}(\xi +\eta )\in R(\mathcal{T})$$

即

$$\alpha +\beta \in R(\mathcal{T})$$

证数乘封闭性：

设$\alpha \in R(\mathcal{T}),k\in K$，则一定存在$\mathcal{T}(\xi )=\alpha ,且k\alpha \in V$

那么，有

$$k\alpha =k\cdot \mathcal{T}(\xi )=\mathcal{T}(k\xi )\in R(\mathcal{T})$$

即

$$k\alpha \in R(\mathcal{T})$$

综上，$R(\mathcal{T})$是子空间

2）证明$N(\mathcal{T})$是子空间

证加法封闭性：

设$\alpha ,\beta \in N(\mathcal{T})$，依据$N(\mathcal{T})$定义可知

$$\mathcal{T}(\alpha )=0,\mathcal{T}(\beta )=0$$

从而，有

$$\mathcal{T}(\alpha +\beta )=\mathcal{T}(\alpha )+\mathcal{T}(\beta )=0+0=0$$

可以推导出

$$\alpha +\beta \in N(\mathcal{T})$$

若$\alpha$属于$N(\mathcal{T})$，则一定有$\mathcal{T}(\alpha )=0⟺$若 $\mathcal{T}(\alpha )=0$，则有$\alpha$属于$N(\mathcal{T})$

证数乘封闭性：

设$\alpha \in R(\mathcal{T}),k\in K$，依据$N(\mathcal{T})$定义可知

$$\mathcal{T}(\alpha )=0$$

从而，有

$$\mathcal{T}(k\cdot \alpha )=k\mathcal{T}(\alpha )=k\cdot 0=0$$

可以推导出

$$k\alpha \in N(\mathcal{T})$$

综上，$N(\mathcal{T})$是子空间

定理3.1.2

若$V$是$n$维线性空间，$\mathcal{T}$是$V$上的一个线性变换，则

$$dimR(\mathcal{T})+dimN(\mathcal{T})=n$$

一般称

• $dimR(\mathcal{T})$为线性变换$\mathcal{T}$的秩
• $dimN(\mathcal{T})$为线性变换$\mathcal{T}$的零度

定义3.3

设${\mathcal{A}}_1,{\mathcal{A}}_2$都是线性空间$V$上的线性变换

若对任意的$\alpha \in V$,都有${\mathcal{A}}_1\alpha ={\mathcal{A}}_2\alpha$

称${\mathcal{A}}_1$与${\mathcal{A}}_2$相等，记为

$${\mathcal{A}}_1={\mathcal{A}}_2$$

定义3.4

设$\mathcal{A},\mathcal{B}$都是线性空间$V$上的线性变换，定义$\mathcal{A}$和$\mathcal{B}$的和

$$(\mathcal{A}+\mathcal{B})(\alpha )=\mathcal{A}(\alpha )+\mathcal{B}(\alpha )\alpha \in V$$

$\mathcal{A}+\mathcal{B}$依然是$V$上的线性变换

定义3.5

设$\mathcal{A}$是线性空间$V$上的线性变换，定义数$k$乘以线性变换$\mathcal{A}$

$$(k\mathcal{A})(\alpha )=k\mathcal{A}(\alpha )\alpha \in V$$

$k\mathcal{A}$也是$V$上的线性变换

定义3.6

设$\mathcal{A},\mathcal{B}$都是线性空间$V$上的线性变换，定义$\mathcal{A}$与$\mathcal{B}$的积

$$(\mathcal{A}\mathcal{B})(\alpha )=\mathcal{A}(\mathcal{B}(\alpha ))$$

意思就是：$\mathcal{A}\mathcal{B}$是先对$\alpha$进行$\mathcal{B}$变换，再进行$\mathcal{A}$变换
同样，$\mathcal{A}\mathcal{B}$也是$V$上的线性空间

注意：一般来说，线性变化中的乘法不满足交换律，即$\mathcal{A}\mathcal{B}\ne \mathcal{B}\mathcal{A}$

但对于恒等变换$\mathcal{C}$,任意的线性变换$\mathcal{A}$，有

$$\mathcal{A}\mathcal{C}(\alpha )=\mathcal{A}(\alpha )=\mathcal{C}\mathcal{A}(\alpha )$$

---

如果线性变换$\mathcal{A}$是一一对应的变换，假设$\mathcal{A}(\beta )=\alpha$

那么一定存在$\mathcal{A}$的逆变换${\mathcal{A}}^{-1}$

$$\begin{gathered} {\mathcal{A}}^{-1}:V\to V \\ \alpha \to \beta \end{gathered}$$

即

$${\mathcal{A}}^{-1}(\alpha )=\beta$$

简单的理解:$\beta$可以通过线性变换$\mathcal{A}$变为$\alpha$，$\alpha$也可以通过线性变换${\mathcal{A}}^{-1}$变为$\beta$（因为是一一对应的）

那么，可以推导出

$$\begin{gathered} \mathcal{A}{\mathcal{A}}^{-1}(\alpha )=\alpha \\ \mathcal{A}{\mathcal{A}}^{-1}(\beta )=\beta \end{gathered}$$

说明：

• $\mathcal{A}{\mathcal{A}}^{-1}(\alpha )=\mathcal{A}({\mathcal{A}}^{-1}(\alpha ))=\mathcal{A}(\beta )=\alpha$
• $\mathcal{A}{\mathcal{A}}^{-1}(\beta )=\mathcal{A}({\mathcal{A}}^{-1}(\beta ))=\mathcal{A}(\alpha )=\beta$

即

$$\mathcal{A}{\mathcal{A}}^{-1}=\mathcal{C}$$

$\mathcal{C}$为恒等变换

---

线性变换的指数法则：

• ${\mathcal{T}}^0=\mathcal{C}$
• ${\mathcal{T}}^n=\underset{n个}{\underbrace{\mathcal{T}\mathcal{T}...\mathcal{T}}}$
• ${\mathcal{T}}^{-n}=\underset{n个}{\underbrace{{\mathcal{T}}^{-1}{\mathcal{T}}^{-1}...{\mathcal{T}}^{-1}}}$
• ${\mathcal{T}}^{m+n}={\mathcal{T}}^m\cdot {\mathcal{T}}^n$
• $({\mathcal{T}}^m{)}^n={\mathcal{T}}^{mn}$
• ${\mathcal{T}}^{-n}=({\mathcal{T}}^{-1}{)}^n$

---

设多项式$f(x)=a_n{x}^n+a_{n-1}{x}^{n-1}+...+a_{1}x+a_0{a}_i\in K$，$\mathcal{T}$是数域$K$上线性空间$V$的线性变换，由线性变换运算可知

$$f(\mathcal{T})=a_n{\mathcal{T}}^n+a_{n-1}{\mathcal{T}}^{n-1}+...+a_1\mathcal{T}+a_0\mathcal{C}$$

也是$V$的一个线性变换

结语

说明：

• 参考于 课本《矩阵理论》
• 配合书中概念讲解 结合了自己的一些理解及思考

文章仅作为学习笔记，记录从0到1的一个过程

希望对您有一点点帮助，如有错误欢迎小伙伴指正