自动驾驶 8-2: 平方误差准则和最小二乘法 (下) Squared Error Criterion and the Method of Least Squares (Part 2)

本文主要是介绍自动驾驶 8-2: 平方误差准则和最小二乘法 (下) Squared Error Criterion and the Method of Least Squares (Part 2),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在上一个视频中, 我们看到了如何使用最小二乘法来求解 给出一组噪声测量值的更正确的电阻值。 在这个视频中,我们会问这个问题, 如果我们怀疑某些 我们的测量质量比其他人更好? 到本视频结束时, 你将能够推导出和最小化 加权最小二乘准则 这将让我们处理测量 不同的质量并将这种新方法与 正则或普通最小二乘法 我们在上一个视频中讨论过。 让我们开始。

我们可能想要信任的原因之一某些测量比其他测量更多 是它们可能来自更好的传感器。

例如,我们的一些电阻测量 可能来自比其他万用表贵得多的万用表。 此外,从现在开始, 我们也将放弃我们只是估计的假设 一个参数并推导出更一般的正规方程。 这将使我们能够制定一种方法 一次估计多个参数。

例如,如果我们想一次估计多个电​​阻值。 让我们从使用以下通用符号开始。

我们将有一组与一组相关的 m 个测量值 n 个未知参数的线性模型。

回想一下 H 是 rj cobian 矩阵 其形式和条目将取决于手头的特定问题。 一种解释普通方法的方法 最小二乘法是说我们隐含地假设 每个噪声项 v_i 是一个独立的随机变量 跨测量并具有 如果您愿意,可以使用相等的方差或标准差, 正如我们在上一个视频中提到的 IID。 如果我们假设每个噪声项都有不同的方差, 我们可以如下定义我们的噪声协方差。

有了这个定义,我们就可以定义一个加权最小二乘准则。 通过扩展这个表达式, 我们可以明白为什么我们称之为加权最小二乘法。 每个平方误差项现在加权 与相应测量相关的方差的倒数。

换句话说,噪声的方差越低, 越强烈 相关的误差项将在损失函数中加权。

我们更关心来自低噪声测量的误差 因为那些应该告诉我们很多关于 我们未知参数的真实值。

在我们看到如何最小化这个新的加权标准之前, 让我们看看如果我们设置所有的会发生什么 噪声标准偏差到相同的值 sigma。

在这种情况下,我们可以分解出分母的方差。 由于 sigma 平方项是 常数它不会影响最小化。

这意味着在方差相等的情况下, 使我们的加权最小二乘准则最小化的相同参数 还将最小化我们的普通最小二乘法 我们应该期望的标准。

回到我们的加权最小二乘标准, 我们像以前一样处理它的最小化, 我们取一个导数。

在一般情况下,我们有 粗体向量 x 中的 n 个未知参数, 这个导数实际上是一个梯度。

设置零向量的梯度, 然后我们求解我们最好的或最优的参数向量 x hat。

这导致另一组正规方程 这一次称为加权正规方程。

让我们看一个例子 这种加权最小二乘法是如何工作的。 我们将采用之前收集的相同数据, 但现在假设最后两次测量实际上是用 噪声方差小得多的万用表。 这里要小心,我们列出的数字是 标准偏差,这就是为什么它们的单位是欧姆。

为了在我们的配方中使用它们, 我们需要对它们进行平方以获得方差。 定义我们的变量,然后 评估我们的加权最小二乘解, 我们可以看到我们得到的最终电阻值是多少 更接近于更准确的万用表按预期测量的结果。

这是方法的快速总结 最小二乘法和加权最小二乘法。

通过使用加权最小二乘法, 我们可以改变每次测量对最终估计的重要性。

与他人一起工作很舒服很重要 不同的测量方差和 也有有时相关的测量。

自动驾驶汽车将有许多不同且复杂的传感器 板,我们需要确保我们正确地建模了我们的错误源。

所以,你有它,加权最小二乘法。

在本视频中,我们讨论了如何 某些测量值可能来自传感器 更好的噪声特性,因此应该 在我们的最小二乘标准中权重更大。

使用这种直觉,我们推导出加权最小二乘准则和 相关的加权正规方程可以求解为 产生一组常数参数的加权最小二乘估计。

在接下来的视频中, 我们将研究修改最小二乘法以递归工作, 即基于流来计算最优估计 测量而无需事先获取整个集合。 当我们查看状态估计时,这将非常重要, 或者估计随时间不断变化的数量的问题。

第 1 课补充阅读:平方误差准则和最小二乘法

补充阅读:平方误差准则和最小二乘法
要了解有关平方误差标准和最小二乘法的更多信息,请查看以下一些资源:

  • 这是科罗拉多大学 PhET 交互式模拟项目提供的交互式最小二乘拟合模拟器:https://phet.colorado.edu/sims/html/least-squares-regression/latest/least-squares-regression_en.html
    在这里插入图片描述

  • 您可以在佐治亚理工学院的在线教科书中找到关于最小二乘法的概述:Dan Margalit 和 Joseph Rabinoff,交互式线性代数。

  • 在Wikipedia上阅读有关最小二乘法的更多信息。

  • 阅读Dan Simon, Optimal State Estimation (2006) 的第 3 章第 1 节和第 2 节。

参考

https://www.coursera.org/learn/state-estimation-localization-self-driving-cars/lecture/Ewy9K/lesson-1-part-2-squared-error-criterion-and-the-method-of-least-squares

这篇关于自动驾驶 8-2: 平方误差准则和最小二乘法 (下) Squared Error Criterion and the Method of Least Squares (Part 2)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/193534

相关文章

usaco 1.2 Palindromic Squares(进制转化)

考察进制转化 注意一些细节就可以了 直接上代码: /*ID: who jayLANG: C++TASK: palsquare*/#include<stdio.h>int x[20],xlen,y[20],ylen,B;void change(int n){int m;m=n;xlen=0;while(m){x[++xlen]=m%B;m/=B;}m=n*n;ylen=0;whi

poj 1258 Agri-Net(最小生成树模板代码)

感觉用这题来当模板更适合。 题意就是给你邻接矩阵求最小生成树啦。~ prim代码:效率很高。172k...0ms。 #include<stdio.h>#include<algorithm>using namespace std;const int MaxN = 101;const int INF = 0x3f3f3f3f;int g[MaxN][MaxN];int n

poj 1287 Networking(prim or kruscal最小生成树)

题意给你点与点间距离,求最小生成树。 注意点是,两点之间可能有不同的路,输入的时候选择最小的,和之前有道最短路WA的题目类似。 prim代码: #include<stdio.h>const int MaxN = 51;const int INF = 0x3f3f3f3f;int g[MaxN][MaxN];int P;int prim(){bool vis[MaxN];

poj 2349 Arctic Network uva 10369(prim or kruscal最小生成树)

题目很麻烦,因为不熟悉最小生成树的算法调试了好久。 感觉网上的题目解释都没说得很清楚,不适合新手。自己写一个。 题意:给你点的坐标,然后两点间可以有两种方式来通信:第一种是卫星通信,第二种是无线电通信。 卫星通信:任何两个有卫星频道的点间都可以直接建立连接,与点间的距离无关; 无线电通信:两个点之间的距离不能超过D,无线电收发器的功率越大,D越大,越昂贵。 计算无线电收发器D

poj 1734 (floyd求最小环并打印路径)

题意: 求图中的一个最小环,并打印路径。 解析: ans 保存最小环长度。 一直wa,最后终于找到原因,inf开太大爆掉了。。。 虽然0x3f3f3f3f用memset好用,但是还是有局限性。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#incl

hdu 1102 uva 10397(最小生成树prim)

hdu 1102: 题意: 给一个邻接矩阵,给一些村庄间已经修的路,问最小生成树。 解析: 把已经修的路的权值改为0,套个prim()。 注意prim 最外层循坏为n-1。 代码: #include <iostream>#include <cstdio>#include <cstdlib>#include <algorithm>#include <cstri

poj 2175 最小费用最大流TLE

题意: 一条街上有n个大楼,坐标为xi,yi,bi个人在里面工作。 然后防空洞的坐标为pj,qj,可以容纳cj个人。 从大楼i中的人到防空洞j去避难所需的时间为 abs(xi - pi) + (yi - qi) + 1。 现在设计了一个避难计划,指定从大楼i到防空洞j避难的人数 eij。 判断如果按照原计划进行,所有人避难所用的时间总和是不是最小的。 若是,输出“OPETIMAL",若

poj 2135 有流量限制的最小费用最大流

题意: 农场里有n块地,其中约翰的家在1号地,二n号地有个很大的仓库。 农场有M条道路(双向),道路i连接着ai号地和bi号地,长度为ci。 约翰希望按照从家里出发,经过若干块地后到达仓库,然后再返回家中的顺序带朋友参观。 如果要求往返不能经过同一条路两次,求参观路线总长度的最小值。 解析: 如果只考虑去或者回的情况,问题只不过是无向图中两点之间的最短路问题。 但是现在要去要回

poj 3422 有流量限制的最小费用流 反用求最大 + 拆点

题意: 给一个n*n(50 * 50) 的数字迷宫,从左上点开始走,走到右下点。 每次只能往右移一格,或者往下移一格。 每个格子,第一次到达时可以获得格子对应的数字作为奖励,再次到达则没有奖励。 问走k次这个迷宫,最大能获得多少奖励。 解析: 拆点,拿样例来说明: 3 2 1 2 3 0 2 1 1 4 2 3*3的数字迷宫,走两次最大能获得多少奖励。 将每个点拆成两个

poj 2195 bfs+有流量限制的最小费用流

题意: 给一张n * m(100 * 100)的图,图中” . " 代表空地, “ M ” 代表人, “ H ” 代表家。 现在,要你安排每个人从他所在的地方移动到家里,每移动一格的消耗是1,求最小的消耗。 人可以移动到家的那一格但是不进去。 解析: 先用bfs搞出每个M与每个H的距离。 然后就是网络流的建图过程了,先抽象出源点s和汇点t。 令源点与每个人相连,容量为1,费用为