MIT18.06线性代数课程笔记8：求解Ax=b、矩阵的秩以及矩阵的逆

本文主要是介绍MIT18.06线性代数课程笔记8：求解Ax=b、矩阵的秩以及矩阵的逆，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

课程简介

18.06是Gilbert Strang教授在MIT开的线性代数公开课，课程视频以及相关资料请见https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm。

课程笔记

1. 求解Ax=b

这里涉及两个问题：1. 是否有解 2. 如何求解

1.1. 是否有解

有两种方法：1. $b\in C(A)\Leftrightarrow \exists x\in R^n, Ax=b$ , where $A_{m\times n}$ 2. 对增广矩阵消元， $b$ 所在列不是pivot column。

对于第一种方法，如MIT18.06线性代数课程笔记6：vector space，subspace，column space，null space所述， $Ax$ 是 $A$ 的列向量的线性组合，所以 $Ax\in C(A)$ ，而且 $\forall v\in C(A), \exists x, Ax=c$ 。由此可证明第一个方法。但是这只是理论上的结论，实际应用中不如消元法方便。

如MIT18.06线性代数课程笔记7：使用消元法求解Null space中所述，对矩阵 $A$ 消元， $A=LU$ ，可以得到pivot column和free column，且有任意free column都可以表示为所有pivot column的线性组合（更严格的结论是任意free column都可以表示为之前列的线性组合）。证明也很容易，因为if $c=Ax\Leftrightarrow Ec=EAx$ ，since $E$ is invertible。所以对增广矩阵 $[A|b]$ 做消元，即 $E[A|b]=[U|b']$ ，若 $u'_i=0$ ，即 $U$ 的第 $i$ 行为0， $b'_i\neq 0$ ，则 $Ax=b$ 无解，因为 $b'$ 是 $[U|b']$ 的pivot column。所以 $b'\notin C(U)$ 。

1.2. 如何求解

如果有解的情况下如何求解的问题在MIT18.06线性代数课程笔记6：vector space，subspace，column space，null space有所阐述。具体地，就是先求解一个特解 $x_p$ ， $x_p$ 的获取比较随意，常用方法是对增广矩阵做消元之后令free column取0，这样就可以得到唯一解。然后因为 $\forall x\in R^n, Ax=b\Rightarrow A(x-x_p)=0\Rightarrow x-x_p\in N(A)$ ，固所有解集为 $\{x:x=x_p+x_n,\forall x_n\in N(A)\}$ 。至于 $N(A)$ 的求解方法详见MIT18.06线性代数课程笔记7：使用消元法求解Null space，简单的说就是令free column取值为 $n-r$ 个线性无关的基向量，然后求解 $Ax=0$ ，得到 $n-r$ 个 $N(A)$ 的基向量。

2. 矩阵的秩

矩阵的秩现在的定义是消元后主元的个数，也是pivot column的个数，使用 $r$ 表示。

设 $A_{m\times n}$ ，容易证明 $r\le m$ , $r\le n$ 。

并且通过 $r$ 与 $n,m$ 的关系，可以判断矩阵是否有解，以及解集的维数。

2.1. $r==m\Rightarrow$ 必定有解

笔者想到两种证明方法，一是 $U$ 中不存在零行，所以任意 $b'$ 都可以；二是有 $m$ 个pivot column，即有 $m$ 个线性无关基向量，其线性组合遍布整个 $R^m$ 。

2.2. $r==n\Rightarrow$ 有解必然唯一解

行满秩的情况下，没有free column，所以 $N(A)=\{\vec 0\}$ ，解集为 $\{x_p\}$ 。

但是不一定有解，因为 $n$ 个 $m$ 维向量构成的子空间维度为 $n$ ，不遍布 $R^m$ 。对于大多数的 $b$ 都无解。

2.3. $r==m==n\Rightarrow$ 有解且唯一解

行列均满秩的情况下，由上诉两个结论可知有解且唯一解。

2.4. 秩与可逆的关系

目前只讨论左逆元，即 $A^{-1}A=I$ ，则有只有 $r==n$ 时有逆元。即列满秩是 $A$ 存在左逆元的充要条件。

列满秩 $\Rightarrow$ $A$ 有左逆元
如上所述，因为列满秩，所以 $\exists E,EA=\begin{bmatrix}I\\0\end{bmatrix}$ 。即 $\exists E_1,E_2, \begin{bmatrix}E_1\\E_2\end{bmatrix}A=\begin{bmatrix}I\\0\end{bmatrix}\Rightarrow\exists E_1,E_1A=I$ 。 $E_1$ 即为 $A^{-1}$ ，所以 $A$ 存在左逆元。
$A$ 有左逆元 $\Rightarrow$ 列满秩

因为 $r(A^{-1}A)=n\le r(A)\le n\Rightarrow r(A)=n$ 。