线性代数笔记13--正交向量和正交子空间

2024-03-08 02:12

本文主要是介绍线性代数笔记13--正交向量和正交子空间,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

0. 四个子空间

在这里插入图片描述

1. 正交向量

两向量点乘为0,向量正交。
A ⊤ B = 0 A^{\top}B=0 AB=0

勾股定理
∣ ∣ x ∣ ∣ 2 + ∣ ∣ y 2 ∣ ∣ = ∣ ∣ x + y ∣ ∣ 2 ||x||^2+||y^2||=||x+y||^2 ∣∣x2+∣∣y2∣∣=∣∣x+y2
验证正交条件

∣ ∣ x ∣ ∣ 2 = x ⊤ x = x x ⊤ ∣ ∣ y ∣ ∣ 2 = y ⊤ y = y y ⊤ ∣ ∣ x ∣ ∣ 2 + ∣ ∣ y 2 ∣ ∣ = ∣ ∣ x + y ∣ ∣ 2 ⟺ x ⊤ x + y ⊤ y = ( x + y ) ( x + y ) ⊤ = ( x + y ) ( x ⊤ + y ⊤ ) = x x ⊤ + x y ⊤ + y x ⊤ + y y ⊤ y x ⊤ = x ⊤ y = x y ⊤ = x ⊤ y 2 x ⊤ y = 0 x ⊤ y = 0 ||x||^2=x^{\top}x=xx^{\top}\\ ||y||^2=y^{\top}y=yy^{\top}\\ ||x||^2+||y^2||=||x+y||^2 \iff\\ x^{\top}x+y^{\top}y=(x+y)(x+y)^{\top}=(x+y)(x^{\top}+y^{\top})=\\ xx^{\top}+xy^{\top}+yx^{\top}+yy^{\top}\\ yx^{\top}=x^{\top}y=xy^{\top}=x^{\top}y\\ 2x^{\top}y=0\\ x^{\top}y=0 ∣∣x2=xx=xx∣∣y2=yy=yy∣∣x2+∣∣y2∣∣=∣∣x+y2xx+yy=(x+y)(x+y)=(x+y)(x+y)=xx+xy+yx+yyyx=xy=xy=xy2xy=0xy=0

也即垂直的条件
x ⊤ y = 0 x^{\top}y=0 xy=0

举例:
x = [ 1 2 3 ] y = [ 2 − 1 0 ] x + y = [ 3 1 3 ] ∣ x ∣ 2 + ∣ y ∣ 2 = 1 + 4 + 9 + 4 + 1 = 19 ∣ x + y ∣ 2 = 9 + 9 + 1 = 19 x=\begin{bmatrix} 1 \\ 2\\ 3 \end{bmatrix} y=\begin{bmatrix}2 \\ -1\\ 0 \end{bmatrix}\\ x+y=\begin{bmatrix} 3 \\ 1\\ 3 \end{bmatrix}\\ |x|^2+|y|^{2}=1+4+9+4+1=19\\ |x+y|^2=9+9+1=19 x= 123 y= 210 x+y= 313 x2+y2=1+4+9+4+1=19x+y2=9+9+1=19

2. 正交子空间

空间 S S S正交空间 T T T:
∀ s → ∈ S , ∀ t → ∈ T : s → t → = 0 ⟺ s → ⊥ t → \forall \overrightarrow{s} \in S,\forall \overrightarrow{t} \in T: \overrightarrow{s}\overrightarrow{t}=0 \iff \overrightarrow{s} \perp \overrightarrow{t} s S,t T:s t =0s t

方阵行空间 C ( A ⊤ ) C(A^{\top}) C(A)与零空间 N ( A ) N(A) N(A)正交证明

A X = 0 [ r 1 r 2 r 3 . . . r m ] y = [ r 1 r 2 r 3 . . . r m ] [ x 1 x 2 r 3 . . . r n ] = [ 0 0 0 . . . 0 ] AX=0\\ \begin{bmatrix} r_1\\r_2\\r_3\\...\\r_m \end{bmatrix} y=\begin{bmatrix} r_1\\r_2\\r_3\\...\\r_m \end{bmatrix} \begin{bmatrix} x_1\\x_2\\r_3\\...\\r_n \end{bmatrix}= \begin{bmatrix} 0\\0\\0\\...\\0 \end{bmatrix} AX=0 r1r2r3...rm y= r1r2r3...rm x1x2r3...rn = 000...0
可以得到
y ⊥ r k y ⊥ a k r k y ⊥ ∑ k = 1 m a k r k y \perp r_k\\ y \perp a_kr_k\\ y \perp \sum_{k=1}^{m}a_kr_k yrkyakrkyk=1makrk
y y y N ( A ) N(A) N(A)空间任意一向量,所以得证。

N ( A ) 与 C ( A ⊤ ) N(A)与C(A^{\top}) N(A)C(A)是空间 R n R^{n} Rn中的正交全集。

3. 求解无解的 A X = b AX=b AX=b

求解无解的 A X = b AX=b AX=b是什么意思呢?
假设矩阵 m > n m \gt n m>n, b b b不能由 A A A中各列线性组合得到时。

实际情况就是,测量数据多于实际需要数据;

测量数据中可能混入了出错的数据,我们需要把错误的数据给筛选出去。

解决办法: 同时左乘 A ⊤ A^{\top} A变为了一个对称矩阵。
A X = b ⟶ A ⊤ A X ^ = A ⊤ b AX=b \longrightarrow A^{\top}A\hat{X}=A^{\top}b AX=bAAX^=Ab

N ( A ⊤ A ) N(A^{\top}A) N(AA)
不一定总可逆。

若矩阵
A = [ 1 1 1 2 1 5 ] A ⊤ = [ 1 1 1 1 2 5 ] A ⊤ A = [ 3 8 8 30 ] A= \begin{bmatrix} 1 & 1\\ 1 & 2\\ 1 & 5\\ \end{bmatrix} A^{\top}= \begin{bmatrix} 1 & 1 & 1\\ 1 & 2 & 5\\ \end{bmatrix}\\ A^{\top}A= \begin{bmatrix} 3 & 8\\ 8 & 30\\ \end{bmatrix} A= 111125 A=[111215]AA=[38830]
此时 A ⊤ A A^{\top}A AA可逆


A = [ 1 1 1 1 1 1 ] A ⊤ = [ 1 1 1 1 1 1 ] A ⊤ A = [ 3 3 3 3 ] A= \begin{bmatrix} 1 & 1\\ 1 & 1\\ 1 & 1\\ \end{bmatrix} A^{\top}= \begin{bmatrix} 1 & 1 & 1\\ 1 & 1 & 1\\ \end{bmatrix}\\ A^{\top}A= \begin{bmatrix} 3 & 3\\ 3 & 3\\ \end{bmatrix} A= 111111 A=[111111]AA=[3333]
此时 A ⊤ A A^{\top}A AA不可逆。

性质
N ( A ⊤ A ) = N ( A ⊤ ) r a n k ( A ⊤ A ) = r a n k ( A ) N(A^{\top}A)=N(A^{\top})\\ rank(A^{\top}A)=rank(A) N(AA)=N(A)rank(AA)=rank(A)

下节再证明吧。

这篇关于线性代数笔记13--正交向量和正交子空间的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/785641

相关文章

Java进阶13讲__第12讲_1/2

多线程、线程池 1.  线程概念 1.1  什么是线程 1.2  线程的好处 2.   创建线程的三种方式 注意事项 2.1  继承Thread类 2.1.1 认识  2.1.2  编码实现  package cn.hdc.oop10.Thread;import org.slf4j.Logger;import org.slf4j.LoggerFactory

【Prometheus】PromQL向量匹配实现不同标签的向量数据进行运算

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯,先赞后看哦~🎈🎈 🏆 作者简介:景天科技苑 🏆《头衔》:大厂架构师,华为云开发者社区专家博主,阿里云开发者社区专家博主,CSDN全栈领域优质创作者,掘金优秀博主,51CTO博客专家等。 🏆《博客》:Python全栈,前后端开发,小程序开发,人工智能,js逆向,App逆向,网络系统安全,数据分析,Django,fastapi

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

线性代数|机器学习-P36在图中找聚类

文章目录 1. 常见图结构2. 谱聚类 感觉后面几节课的内容跨越太大,需要补充太多的知识点,教授讲得内容跨越较大,一般一节课的内容是书本上的一章节内容,所以看视频比较吃力,需要先预习课本内容后才能够很好的理解教授讲解的知识点。 1. 常见图结构 假设我们有如下图结构: Adjacency Matrix:行和列表示的是节点的位置,A[i,j]表示的第 i 个节点和第 j 个

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

数学建模笔记—— 非线性规划

数学建模笔记—— 非线性规划 非线性规划1. 模型原理1.1 非线性规划的标准型1.2 非线性规划求解的Matlab函数 2. 典型例题3. matlab代码求解3.1 例1 一个简单示例3.2 例2 选址问题1. 第一问 线性规划2. 第二问 非线性规划 非线性规划 非线性规划是一种求解目标函数或约束条件中有一个或几个非线性函数的最优化问题的方法。运筹学的一个重要分支。2

【C++学习笔记 20】C++中的智能指针

智能指针的功能 在上一篇笔记提到了在栈和堆上创建变量的区别,使用new关键字创建变量时,需要搭配delete关键字销毁变量。而智能指针的作用就是调用new分配内存时,不必自己去调用delete,甚至不用调用new。 智能指针实际上就是对原始指针的包装。 unique_ptr 最简单的智能指针,是一种作用域指针,意思是当指针超出该作用域时,会自动调用delete。它名为unique的原因是这个

查看提交历史 —— Git 学习笔记 11

查看提交历史 查看提交历史 不带任何选项的git log-p选项--stat 选项--pretty=oneline选项--pretty=format选项git log常用选项列表参考资料 在提交了若干更新,又或者克隆了某个项目之后,你也许想回顾下提交历史。 完成这个任务最简单而又有效的 工具是 git log 命令。 接下来的例子会用一个用于演示的 simplegit

记录每次更新到仓库 —— Git 学习笔记 10

记录每次更新到仓库 文章目录 文件的状态三个区域检查当前文件状态跟踪新文件取消跟踪(un-tracking)文件重新跟踪(re-tracking)文件暂存已修改文件忽略某些文件查看已暂存和未暂存的修改提交更新跳过暂存区删除文件移动文件参考资料 咱们接着很多天以前的 取得Git仓库 这篇文章继续说。 文件的状态 不管是通过哪种方法,现在我们已经有了一个仓库,并从这个仓