一般迭代法(一)| 原理公式 + 迭代法的收敛性

2023-10-30 20:39

本文主要是介绍一般迭代法(一)| 原理公式 + 迭代法的收敛性,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一般迭代法

1. 基本原理和迭代公式

先看一个例子。设有两个函数 y = φ ( x ) y=\varphi(x) y=φ(x) y = x y=x y=x,欲求其交点 x ∗ x^* x。为此,可将函数 y = x y=x y=x改写成 x = y x=y x=y的形式,并给定一个初始值 x 0 x_0 x0,并进行如下计算:

(1)先计算函数 y = φ ( x ) y=\varphi(x) y=φ(x) x 0 x_0 x0处的函数值 y 0 y_0 y0,然后计算函数 x = y x=y x=y y 0 y_0 y0处的值 x 1 x_1 x1,即:
y 0 = φ ( x 0 ) , x 1 = y 0 y_0=\varphi(x_0), \quad x_1=y_0 y0=φ(x0),x1=y0
通过上述变换规则,由 x 0 x_0 x0得到 x 1 x_1 x1 x 1 x_1 x1一般不同于 x 0 x_0 x0,并且由 x 0 x_0 x0惟一确定。

(2)再计算函数 y = φ ( x ) y=\varphi(x) y=φ(x) x 1 x_1 x1处的函数值 y 1 y_1 y1,然后计算函数 x = y x=y x=y y 1 y_1 y1处的值 x 2 x_2 x2,即:
y 1 = φ ( x 1 ) , x 2 = y 1 y_1=\varphi(x_1),\quad x_2=y_1 y1=φ(x1),x2=y1
通过变换规则,由 x 1 x_1 x1得到 x 2 x_2 x2 x 2 x_2 x2不同于 x 1 x_1 x1并且由 x 1 x_1 x1惟一确定。

(3)这样一直计算下去,就有可能会得到这样的结果:计算函数 y = φ ( x ) y=\varphi(x) y=φ(x) x ∗ x^* x处的函数值 y ∗ y^* y,然后在计算函数 x = y x=y x=y y ∗ y^* y处的值时,得到的结果就是 x ∗ x^* x,即:
y ∗ = φ ( x ∗ ) , x ∗ = y ∗ y^*=\varphi(x^*),\quad x^*=y^* y=φ(x),x=y
即通过同样的变换规则,由 x ∗ x^* x得到的仍然是 x ∗ x^* x,并且该结果不再改变, x ∗ x^* x被称为不动点。上述按某种规则进行变换而得到某个数列 { x 0 , x 1 , x 2 , ⋯ , x ∗ , ⋯ } \{x_0,x_1,x_2,\cdots,x^*,\cdots\} {x0,x1,x2,,x,}的过程称为迭代过程。即:
x k + 1 = φ ( x k ) , ( k = 0 , 1 , 2 , ⋯ ) x_{k+1}=\varphi(x_k),\quad (k=0,1,2,\cdots) xk+1=φ(xk),(k=0,1,2,)
在上述迭代计算过程中,如果数列 { x 0 , x 1 , x 2 , ⋯ , x ∗ , ⋯ } \{x_0,x_1,x_2,\cdots,x^*,\cdots\} {x0,x1,x2,,x,}能趋向与某个极限值 x ∗ x^* x,则这个极限值必然是函数 y = φ ( x ) y=\varphi(x) y=φ(x) x = y x=y x=y的交点 x ∗ x^* x,或者是方程组 y = φ ( x ) y=\varphi(x) y=φ(x) x = y x=y x=y的解。于是,就得到了一种解方程的数值方法——迭代方法。下图从几何上描述了迭代的具体过程。

一般地,如果将方程组 y = φ ( x ) y=\varphi(x) y=φ(x) y = x y=x y=x消去y,则得到一个关于x的方程:
x = φ ( x ) x − φ ( x ) = 0 f ( x ) = 0 x=\varphi(x) \\x-\varphi(x)=0 \\f(x)=0 x=φ(x)xφ(x)=0f(x)=0
在这里插入图片描述

在方程 f ( x ) = 0 f(x)=0 f(x)=0中,两个函数的交点 x ∗ x^* x必定满足 f ( x ∗ ) = 0 f(x^*)=0 f(x)=0,即 f ( x ) = 0 f(x)=0 f(x)=0和方程组 y = φ ( x ) y=\varphi(x) y=φ(x) y = x y=x y=x同解。根据这一思路,上溯推导,就可得到方程 f ( x ) = 0 f(x)=0 f(x)=0迭代求根的一般方法。即对一个方程
f ( x ) = 0 f(x)=0 f(x)=0
进行等价变换,只要将其改写为隐式方程形式
x = φ ( x ) (1) x=\varphi(x) \tag{1} x=φ(x)(1)
就得到迭代的计算公式。并且,称 φ ( x ) \varphi(x) φ(x)为迭代函数(1)式一般迭代公式。由于 φ ( x ) \varphi(x) φ(x)中仍然含有未知数x,故方程(1)不能直接求解。如果给出一个迭代初值 x 0 x_0 x0,则隐式方程(1)可转化为显示方程:
x 1 = φ ( x 0 ) x_1=\varphi(x_0) x1=φ(x0)
这样,就可以导出一般迭代的格式:
x k + 1 = φ ( x k ) , k = 0 , 1 , 2 , ⋯ (2) x_{k+1}=\varphi(x_k),k=0,1,2,\cdots \quad \tag{2} xk+1=φ(xk),k=0,1,2,(2)
对于给定的迭代初值 x 0 x_0 x0,按迭代格式(2)反复计算,将得到一个序列 x 0 , x 1 , x 2 , ⋯ , x k x_0,x_1,x_2,\cdots,x_k x0,x1,x2,,xk。当 k → ∞ k\to \infty k,如果极限 l i m k → ∞ x k lim_{k\to \infty}x_k limkxk存在,则称该迭代格式 x k + 1 = φ ( x k ) x_{k+1}=\varphi(x_k) xk+1=φ(xk)是收敛的,并且,该极限就是方程 f ( x ) = 0 f(x)=0 f(x)=0的根,否则称该迭代格式 x k + 1 = φ ( x k ) x_{k+1}=\varphi(x_k) xk+1=φ(xk)是发散的。

例1:求方程 x 3 − x − 1 = 0 x^3-x-1=0 x3x1=0 x = 1.5 x=1.5 x=1.5附近的一个根

:可以将原方程改写为 x = x + 1 x=\sqrt{x+1} x=x+1 的形式。由此,可写出一般迭代格式为:
x k + 1 = x k + 1 3 , k = 0 , 1 , 2 , ⋯ x_{k+1}= \sqrt[3]{x_k+1},\quad k=0,1,2,\cdots xk+1=3xk+1 ,k=0,1,2,
取迭代初值 x 0 = 1.5 x_0=1.5 x0=1.5,按照上述迭代格式进行初次迭代,得到 x 1 = x 0 + 1 3 = 1.35721 x_1=\sqrt[3]{x_0+1}=1.35721 x1=3x0+1 =1.35721,继续迭代下去,直到第7次和第8次迭代结果分别是 x 7 = 1.32472 x_7=1.32472 x7=1.32472 x 8 = 1.32472 x_8=1.32472 x8=1.32472,两次迭代结果相同,便得到所求的根 x ∗ = 1.32472 x^*=1.32472 x=1.32472。下表列出了各次迭代的结果

在这里插入图片描述

在使用一般迭代法的过程中,迭代计算结果并不总是收敛的。如果将上述例题所给的方程改写为 x = x 3 − 1 x=x^3-1 x=x31,其迭代格式为 x k + 1 = x k 3 − 1 x_{k+1}=x_k^3-1 xk+1=xk31。若迭代初值仍取 x n = 1.5 x_n=1.5 xn=1.5,则 x 1 = 2.375 , x 2 = 12.3976 , ⋯ , x_1=2.375,x_2=12.3976,\cdots, x1=2.375,x2=12.3976,,这样继续迭代下去,显然得不到正确的结果,即当 k → ∞ k\to\infty k时不会趋于某个极限。这种迭代过程是发散的,而发生的迭代过程是毫无意义的。

下图给出了迭代发散过程的图解 ∣ φ ′ ( x ) ∣ > 1 |\varphi'(x)|>1 φ(x)>1时。因此,在使用一般迭代法时,必须首先检验迭代格式的收敛性

2. 迭代法的收敛性

定理1:设函数 φ ( x ) \varphi(x) φ(x) [ a , b ] [a,b] [a,b]上具有连续的一阶导数,且满足条件:

(1)对所有的 x ∈ [ a , b ] x\in[a,b] x[a,b],有 φ ( x ) ∈ [ a , b ] \varphi(x)\in[a,b] φ(x)[a,b]

(2)存在 0 < L < 1 0<L<1 0<L<1,对所有的 x ∈ [ a , b ] x\in[a,b] x[a,b],始终有 ∣ φ ′ ( x ) ∣ ≤ L |\varphi'(x)|\leq L φ(x)L,则方程 f ( x ) = 0 f(x)=0 f(x)=0 x = φ ( x ) x=\varphi(x) x=φ(x)有如下性质:

  • 在[a,b]上的解 x ∗ x^* x存在且惟一;
  • 对于任意的初始值 x 0 ∈ [ a , b ] x_0\in[a,b] x0[a,b],迭代过程 x k + 1 = φ ( x k ) x_{k+1}=\varphi(x_k) xk+1=φ(xk)均收敛于 x ∗ x^* x
  • 误差估计式为

∣ x ∗ − x k ∣ ≤ 1 1 − L ∣ x k + 1 − x k ∣ |x^*-x_k|\leq \frac{1}{1-L}|x_{k+1}-x_k| \\ xxk1L1xk+1xk


∣ x ∗ − x k ∣ ≤ L k 1 − L ∣ x 1 − x 0 ∣ ( k = 1 , 2 , ⋯ ) |x^*-x_k|\leq \frac{L^k}{1-L}|x_1-x_0|\quad (k=1,2,\cdots) xxk1LLkx1x0(k=1,2,)
定理1是一般迭代法的区间收敛定理。在该定理中,条件(1)保证 y = φ ( x ) y=\varphi(x) y=φ(x) y = x y=x y=x一定有交点,条件(2)保证方程若有根则必然惟一并且能用迭代法求解出来。这两个条件是充分条件而不是必要条件。下图给出了定理2的几何解释。其中:(a)表示同时满足两个条件的情形,(b)表示条件(2)不满足的情形,(c)表示条件(1)不满足的情形,(d)表示条件(1)和条件(2)同时都不满足的情形。因此,在用迭代法求方程的根时,构造的迭代函数 φ ( x ) \varphi(x) φ(x)必须同时满足两个条件。

在这里插入图片描述

定理1还给出来了迭代过程的终止条件,即:

一个收敛的迭代过程,虽然从理论上讲有 x ∗ = l i m k → ∞ x k x^*=lim_{k\to\infty}x_k x=limkxk,但在实际计算时,只能迭代有限次数,即只要迭代结果满足
∣ x k + 1 − x k ∣ ≤ ϵ |x_{k+1}-x_k|\leq \epsilon xk+1xkϵ
就能保证 x k x_k xk充分接近方程的根 x ∗ x^* x。该不等式称为迭代过程的终止条件。

例1中,由于同一方程一般可以构造出多个迭代函数,为了保证迭代过程收敛,根据定理1就能确定收敛的迭代函数 φ ( x ) \varphi(x) φ(x)以及选取迭代初始值 x 0 x_0 x0

一般说来,定理1中的两个条件在较大的有根区间上是很难保证的,因此要尽可能寻找足够小的方程根的分布区间。通常可在跟 x ∗ x^* x附近来考察其收敛性。于是,就有下面的一般迭代法的局部收敛定理。

在这里插入图片描述

定义1:对于迭代函数 φ ( x ) \varphi(x) φ(x),如果存在方程根 x ∗ x^* x的一个邻域 Δ : ∣ x − x ∗ ∣ ≤ δ \Delta:|x-x^*|\leq \delta Δ:xxδ,迭代过程对于任意初值 x 0 ∈ Δ x_0\in \Delta x0Δ均收敛,则称这种收敛性为局部收敛性

定理2:设 φ ( x ) \varphi(x) φ(x) x = φ ( x ) x=\varphi(x) x=φ(x) x ∗ x^* x的邻域内有连续的一阶导数,且
∣ φ ′ ( x ∗ ) ∣ < 1 |\varphi'(x^*)|<1 φ(x)<1
则迭代过程具有局部收敛性

注意:用迭代法求方程的根,选用不同的迭代函数,所得到的收敛性和收敛速度是不太一样的。因此,在实际计算中,应该选用收敛的迭代法以及收敛速度快的计算方法。

这篇关于一般迭代法(一)| 原理公式 + 迭代法的收敛性的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/310444

相关文章

深入探索协同过滤:从原理到推荐模块案例

文章目录 前言一、协同过滤1. 基于用户的协同过滤(UserCF)2. 基于物品的协同过滤(ItemCF)3. 相似度计算方法 二、相似度计算方法1. 欧氏距离2. 皮尔逊相关系数3. 杰卡德相似系数4. 余弦相似度 三、推荐模块案例1.基于文章的协同过滤推荐功能2.基于用户的协同过滤推荐功能 前言     在信息过载的时代,推荐系统成为连接用户与内容的桥梁。本文聚焦于

hdu4407(容斥原理)

题意:给一串数字1,2,......n,两个操作:1、修改第k个数字,2、查询区间[l,r]中与n互质的数之和。 解题思路:咱一看,像线段树,但是如果用线段树做,那么每个区间一定要记录所有的素因子,这样会超内存。然后我就做不来了。后来看了题解,原来是用容斥原理来做的。还记得这道题目吗?求区间[1,r]中与p互质的数的个数,如果不会的话就先去做那题吧。现在这题是求区间[l,r]中与n互质的数的和

hdu 4565 推倒公式+矩阵快速幂

题意 求下式的值: Sn=⌈ (a+b√)n⌉%m S_n = \lceil\ (a + \sqrt{b}) ^ n \rceil\% m 其中: 0<a,m<215 0< a, m < 2^{15} 0<b,n<231 0 < b, n < 2^{31} (a−1)2<b<a2 (a-1)^2< b < a^2 解析 令: An=(a+b√)n A_n = (a +

hdu4407容斥原理

题意: 有一个元素为 1~n 的数列{An},有2种操作(1000次): 1、求某段区间 [a,b] 中与 p 互质的数的和。 2、将数列中某个位置元素的值改变。 import java.io.BufferedInputStream;import java.io.BufferedReader;import java.io.IOException;import java.io.Inpu

hdu4059容斥原理

求1-n中与n互质的数的4次方之和 import java.io.BufferedInputStream;import java.io.BufferedReader;import java.io.IOException;import java.io.InputStream;import java.io.InputStreamReader;import java.io.PrintWrit

寻迹模块TCRT5000的应用原理和功能实现(基于STM32)

目录 概述 1 认识TCRT5000 1.1 模块介绍 1.2 电气特性 2 系统应用 2.1 系统架构 2.2 STM32Cube创建工程 3 功能实现 3.1 代码实现 3.2 源代码文件 4 功能测试 4.1 检测黑线状态 4.2 未检测黑线状态 概述 本文主要介绍TCRT5000模块的使用原理,包括该模块的硬件实现方式,电路实现原理,还使用STM32类

TL-Tomcat中长连接的底层源码原理实现

长连接:浏览器告诉tomcat不要将请求关掉。  如果不是长连接,tomcat响应后会告诉浏览器把这个连接关掉。    tomcat中有一个缓冲区  如果发送大批量数据后 又不处理  那么会堆积缓冲区 后面的请求会越来越慢。

PHP原理之内存管理中难懂的几个点

PHP的内存管理, 分为俩大部分, 第一部分是PHP自身的内存管理, 这部分主要的内容就是引用计数, 写时复制, 等等面向应用的层面的管理. 而第二部分就是今天我要介绍的, zend_alloc中描写的关于PHP自身的内存管理, 包括它是如何管理可用内存, 如何分配内存等. 另外, 为什么要写这个呢, 因为之前并没有任何资料来介绍PHP内存管理中使用的策略, 数据结构, 或者算法. 而在我们

Smarty模板执行原理

为了实现程序的业务逻辑和内容表现页面的分离从而提高开发速度,php 引入了模板引擎的概念,php 模板引擎里面最流行的可以说是smarty了,smarty因其功能强大而且速度快而被广大php web开发者所认可。本文将记录一下smarty模板引擎的工作执行原理,算是加深一下理解。 其实所有的模板引擎的工作原理是差不多的,无非就是在php程序里面用正则匹配将模板里面的标签替换为php代码从而将两者

Restful API 原理以及实现

先说说API 再说啥是RESRFUL API之前,咱先说说啥是API吧。API大家应该都知道吧,简称接口嘛。随着现在移动互联网的火爆,手机软件,也就是APP几乎快爆棚了。几乎任何一个网站或者应用都会出一款iOS或者Android APP,相比网页版的体验,APP确实各方面性能要好很多。 那么现在问题来了。比如QQ空间网站,如果我想获取一个用户发的说说列表。 QQ空间网站里面需要这个功能。