最优化考试之最速下降法

2023-12-25 18:12
文章标签 考试 下降 最优化 最速

本文主要是介绍最优化考试之最速下降法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

最优化考试之最速下降法

  • 一、最速下降法
    • 1.前置知识
    • 2.问题条件
    • 3.计算过程
    • 4.例子


一、最速下降法

1.前置知识

雅克比矩阵 ∇ f ( x ) {∇f(x) } f(x)的求法

2.问题条件

最速下降法的相关问题中的条件提炼出来如下,如果题目没有误差e,那就要求最后迭代出来的梯度值 ∇ f ( x ) {∇f(x) } f(x) 接近0或等于0,一般自行选取e。

  1. 目标函数 ∇ f ( x ) {∇f(x) } f(x)
  2. 初始点 x 0 {x}^{0} x0
  3. 误差 e

3.计算过程

  1. 选取初始点 x 0 {x}^{0} x0 k = 0 {k=0} k=0
  2. 计算 ∇ f {∇f} f( x k {x}^{k} xk) ,若|| ∇ f {∇f} f( x k {x}^{k} xk)|| < = e {<=e} <=e,停止迭代,输出结果 x k {x}^{k} xk
  3. 计算梯度 d = − {d=-} d= ∇ f {∇f} f( x k {x}^{k} xk)
  4. 下一个迭代点 x k + 1 {x}^{k+1} xk+1= x k {x}^{k} xk+ t k {t}_{k} tk* d {d} d
  5. 设函数 g ( t ) = f ( {g(t)=f(} g(t)=f( x k + 1 {x}^{k+1} xk+1),对 g ( t ) {g(t)} g(t)求导,计算当 g ′ ( t ) = 0 {g'(t)=0} g(t)=0 t {t} t的值;因此推导出 x k + 1 {x}^{k+1} xk+1,k=k+1,迭代到第二步

4.例子


在这里插入图片描述


根据3的步骤开始,先求初始点的雅克比矩阵 ∇ f ( x 1 ) = [ 6 x 1 − 12 , 8 x 2 − 24 ] T { ∇f(x^1 )=[6x_1-12,8x_2-24]^T} f(x1)=[6x112,8x224]T


梯度 d = − {d=-} d= ∇ f {∇f} f( x 1 {x}^{1} x1),下一个迭代点 x 2 = x 1 + d ∗ t 1 {x^2=x^1+d*t_1} x2=x1+dt1


设函数 g ( t 1 ) = f ( x 2 ) = 3 ∗ ( − 12 ∗ t + 2 ) 2 {g(t_1 )=f(x^2 )=3*(-12*t+2)^2} g(t1)=f(x2)=3(12t+2)2


g ( t 1 ) {g(t_1 )} g(t1)求导,当 g ′ ( t 1 ) = 0 {g'(t_1)=0} g(t1)=0时, t 1 = 1 / 6 {t_1=1/6} t1=1/6,代入求得 x 2 = [ 2 , 3 ] T {x^2 =[2,3]^T } x2=[2,3]T


计算得 ∇ f ( x 2 ) = 0 {∇f(x^2)=0} f(x2)=0,因此 x 2 {x^2} x2为最优解点,最优解为 f ( x 2 ) {f(x^2)} f(x2)

这篇关于最优化考试之最速下降法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/536454

相关文章

2024年流动式起重机司机证模拟考试题库及流动式起重机司机理论考试试题

题库来源:安全生产模拟考试一点通公众号小程序 2024年流动式起重机司机证模拟考试题库及流动式起重机司机理论考试试题是由安全生产模拟考试一点通提供,流动式起重机司机证模拟考试题库是根据流动式起重机司机最新版教材,流动式起重机司机大纲整理而成(含2024年流动式起重机司机证模拟考试题库及流动式起重机司机理论考试试题参考答案和部分工种参考解析),掌握本资料和学校方法,考试容易。流动式起重机司机考试技

hdu 2093 考试排名(sscanf)

模拟题。 直接从教程里拉解析。 因为表格里的数据格式不统一。有时候有"()",有时候又没有。而它也不会给我们提示。 这种情况下,就只能它它们统一看作字符串来处理了。现在就请出我们的主角sscanf()! sscanf 语法: #include int sscanf( const char *buffer, const char *format, ... ); 函数sscanf()和

软考系统规划与管理师考试证书含金量高吗?

2024年软考系统规划与管理师考试报名时间节点: 报名时间:2024年上半年软考将于3月中旬陆续开始报名 考试时间:上半年5月25日到28日,下半年11月9日到12日 分数线:所有科目成绩均须达到45分以上(包括45分)方可通过考试 成绩查询:可在“中国计算机技术职业资格网”上查询软考成绩 出成绩时间:预计在11月左右 证书领取时间:一般在考试成绩公布后3~4个月,各地领取时间有所不同

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

✨机器学习笔记(二)—— 线性回归、代价函数、梯度下降

1️⃣线性回归(linear regression) f w , b ( x ) = w x + b f_{w,b}(x) = wx + b fw,b​(x)=wx+b 🎈A linear regression model predicting house prices: 如图是机器学习通过监督学习运用线性回归模型来预测房价的例子,当房屋大小为1250 f e e t 2 feet^

华为OD机试真题-学生方阵-2024年OD统一考试(E卷)

题目描述 学校组织活动,将学生排成一个矩形方阵。 请在矩形方阵中找到最大的位置相连的男生数量。这个相连位置在一个直线上,方向可以是水平的,垂直的,成对角线的或者呈反对角线的。 注:学生个数不会超过10000 输入描述 输入的第一行为矩阵的行数和列数, 接下来的 n行为矩阵元素,元素间用""分隔。 输出描述 输出一个整数,表示矩阵中最长的位

AI学习指南深度学习篇-带动量的随机梯度下降法的基本原理

AI学习指南深度学习篇——带动量的随机梯度下降法的基本原理 引言 在深度学习中,优化算法被广泛应用于训练神经网络模型。随机梯度下降法(SGD)是最常用的优化算法之一,但单独使用SGD在收敛速度和稳定性方面存在一些问题。为了应对这些挑战,动量法应运而生。本文将详细介绍动量法的原理,包括动量的概念、指数加权移动平均、参数更新等内容,最后通过实际示例展示动量如何帮助SGD在参数更新过程中平稳地前进。

AI学习指南深度学习篇-带动量的随机梯度下降法简介

AI学习指南深度学习篇 - 带动量的随机梯度下降法简介 引言 在深度学习的广阔领域中,优化算法扮演着至关重要的角色。它们不仅决定了模型训练的效率,还直接影响到模型的最终表现之一。随着神经网络模型的不断深化和复杂化,传统的优化算法在许多领域逐渐暴露出其不足之处。带动量的随机梯度下降法(Momentum SGD)应运而生,并被广泛应用于各类深度学习模型中。 在本篇文章中,我们将深入探讨带动量的随

软考(计算机技术与软件专业技术资格(水平)考试)

天行健,君子以自强不息;地势坤,君子以厚德载物。 每个人都有惰性,但不断学习是好好生活的根本,共勉! 文章均为学习整理笔记,分享记录为主,如有错误请指正,共同学习进步。 月下飞天镜,云生结海楼。 ——《渡荆门送别》 信息系统项目管理师备考专栏 软考全称:计算机技术与软件专业技术资格(水平)考试 官网直达:中国计算机技术职业资格网 文章目录 软考介绍1.

2024年【防爆电气】考试题库及防爆电气复审模拟考试

题库来源:安全生产模拟考试一点通公众号小程序 防爆电气考试题库根据新防爆电气考试大纲要求,安全生产模拟考试一点通将防爆电气模拟考试试题进行汇编,组成一套防爆电气全真模拟考试试题,学员可通过防爆电气复审模拟考试全真模拟,进行防爆电气自测。 1、【单选题】Exib级的本安设备可连接到()危险场所。(  C  ) A、0、1区 B、0、2区 C、1、2区 2、【单选题】充油型电气设备