数值分析复习:逼近理论的应用——最小二乘问题、解超定、欠定方程组

本文主要是介绍数值分析复习:逼近理论的应用——最小二乘问题、解超定、欠定方程组,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 逼近理论的应用——最小二乘问题、解超定、欠定方程组
    • 离散平方逼近
    • 最小二乘解

本篇文章适合个人复习翻阅,不建议新手入门使用
本专栏:数值分析复习 的前置知识主要有:数学分析、高等代数、泛函分析

逼近理论的应用——最小二乘问题、解超定、欠定方程组

离散平方逼近

设全空间 X = R n X=\mathbb{R}^n X=Rn, 在 R n \mathbb{R}_n Rn 中取 m < n m<n m<n 个线性无关的向量 ( X 1 , … , X m ) (X_1,\dots,X_m) (X1,,Xm),令 M = s p a n { X 1 , … , X m } M=span\{X_1,\dots,X_m\} M=span{X1,,Xm},则对任意 Y ∈ X \ M Y\in X\backslash M YX\M M M M 中存在唯一的最佳逼近元 X ∗ = ∑ i = 1 m c i X i X^*=\sum\limits_{i=1}^mc_iX_i X=i=1mciXi,其满足以下法方程组
∑ i = 1 m < X i , X j > c i = < Y , X j > \sum\limits_{i=1}^m<X_i,X_j>c_i=<Y,X_j> i=1m<Xi,Xj>ci=<Y,Xj>若设 A = [ X 1 , … , X m ] , C = [ c 1 , … , c m ] T A=[X_1,\dots,X_m],C=[c_1,\dots,c_m]^T A=[X1,,Xm],C=[c1,,cm]T,则方程组等效于
A T A C = A T Y A^TAC=A^TY ATAC=ATY

最小二乘解

求如下的最小化问题的解
x ∈ R n , s . t . min ⁡ ∣ ∣ A x − b ∣ ∣ 2 x\in \mathbb{R}^n,s.t.\min||Ax-b||_2 xRn,s.t.min∣∣Axb2由离散平方逼近的理论,其解满足
A T A x = A T b A^TAx=A^Tb ATAx=ATb

应用:求解超定、欠定方程组

我们把线性方程组 A x = b Ax=b Ax=b 中,
未知数多于方程个数的方程组称为欠定方程组
未知数多于方程个数且有矛盾方程的方程组称为超定方程组

欠定方程组一般有多个解,超定方程组一般无解,故在工程上常用1范数或2范数意义下的最佳逼近解来作为解,即上述的最小二乘解
x ∈ R n , s . t . min ⁡ ∣ ∣ A x − b ∣ ∣ 2 x\in \mathbb{R}^n,s.t.\min||Ax-b||_2 xRn,s.t.min∣∣Axb2其解满足
A T A x = A T b A^TAx=A^Tb ATAx=ATb

参考书籍:《数值分析》李庆扬 王能超 易大义 编

这篇关于数值分析复习:逼近理论的应用——最小二乘问题、解超定、欠定方程组的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/860233

相关文章

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

Spring事务中@Transactional注解不生效的原因分析与解决

《Spring事务中@Transactional注解不生效的原因分析与解决》在Spring框架中,@Transactional注解是管理数据库事务的核心方式,本文将深入分析事务自调用的底层原理,解释为... 目录1. 引言2. 事务自调用问题重现2.1 示例代码2.2 问题现象3. 为什么事务自调用会失效3

SpringBoot启动报错的11个高频问题排查与解决终极指南

《SpringBoot启动报错的11个高频问题排查与解决终极指南》这篇文章主要为大家详细介绍了SpringBoot启动报错的11个高频问题的排查与解决,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一... 目录1. 依赖冲突:NoSuchMethodError 的终极解法2. Bean注入失败:No qu

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

找不到Anaconda prompt终端的原因分析及解决方案

《找不到Anacondaprompt终端的原因分析及解决方案》因为anaconda还没有初始化,在安装anaconda的过程中,有一行是否要添加anaconda到菜单目录中,由于没有勾选,导致没有菜... 目录问题原因问http://www.chinasem.cn题解决安装了 Anaconda 却找不到 An

Spring定时任务只执行一次的原因分析与解决方案

《Spring定时任务只执行一次的原因分析与解决方案》在使用Spring的@Scheduled定时任务时,你是否遇到过任务只执行一次,后续不再触发的情况?这种情况可能由多种原因导致,如未启用调度、线程... 目录1. 问题背景2. Spring定时任务的基本用法3. 为什么定时任务只执行一次?3.1 未启用

MySQL新增字段后Java实体未更新的潜在问题与解决方案

《MySQL新增字段后Java实体未更新的潜在问题与解决方案》在Java+MySQL的开发中,我们通常使用ORM框架来映射数据库表与Java对象,但有时候,数据库表结构变更(如新增字段)后,开发人员可... 目录引言1. 问题背景:数据库与 Java 实体不同步1.1 常见场景1.2 示例代码2. 不同操作

Android Kotlin 高阶函数详解及其在协程中的应用小结

《AndroidKotlin高阶函数详解及其在协程中的应用小结》高阶函数是Kotlin中的一个重要特性,它能够将函数作为一等公民(First-ClassCitizen),使得代码更加简洁、灵活和可... 目录1. 引言2. 什么是高阶函数?3. 高阶函数的基础用法3.1 传递函数作为参数3.2 Lambda

如何解决mysql出现Incorrect string value for column ‘表项‘ at row 1错误问题

《如何解决mysql出现Incorrectstringvalueforcolumn‘表项‘atrow1错误问题》:本文主要介绍如何解决mysql出现Incorrectstringv... 目录mysql出现Incorrect string value for column ‘表项‘ at row 1错误报错

如何解决Spring MVC中响应乱码问题

《如何解决SpringMVC中响应乱码问题》:本文主要介绍如何解决SpringMVC中响应乱码问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Spring MVC最新响应中乱码解决方式以前的解决办法这是比较通用的一种方法总结Spring MVC最新响应中乱码解