n折交叉验证结果中的+-怎么算的? 标准差?有偏估计?无偏估计?

2024-02-06 22:38

本文主要是介绍n折交叉验证结果中的+-怎么算的? 标准差?有偏估计?无偏估计?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

n折交叉验证的结果怎么写

在这里插入图片描述
Q:这种实验结果里的±是怎么写出来的呢?
A:均值± 标准差

标准差

百度标准差的时候,发现了这两个公式。差别是,后者是无偏估计量。
在这里插入图片描述

无偏估计

那么什么是无偏估计呢?下面三个链接很好的解释了:
为什么分母从n变成n-1之后,就从【有偏估计】变成了【无偏估计】?
为什么样本方差(sample variance)的分母是 n-1?
为什么样本方差(sample variance)的分母是 n-1?
下面自己总结总结~

个人理解:

  1. 首先,我们要看看方差是怎么计算的: E [ 1 n ∑ i = 1 n ( X i − μ ) 2 ] = σ 2 \mathbb{E}\left[\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}\right]=\sigma^{2} E[n1i=1n(Xiμ)2]=σ2
  2. 此时候是无偏估计的,但当我们用 X ˉ \bar{X} Xˉ替换 u u u后,将倾向于低估方差
    1 n ∑ i = 1 n ( X i − X ˉ ) 2 = 1 n ∑ i = 1 n [ ( X i − μ ) + ( μ − X ˉ ) ] 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 + 2 n ∑ i = 1 n ( X i − μ ) ( μ − X ˉ ) + 1 n ∑ i = 1 n ( μ − X ˉ ) 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 + 2 ( X ˉ − μ ) ( μ − X ˉ ) + ( μ − X ˉ ) 2 = 1 n ∑ i = 1 n ( X i − μ ) 2 − ( μ − X ˉ ) 2 \begin{aligned} \frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2} &=\frac{1}{n} \sum_{i=1}^{n}\left[\left(X_{i}-\mu\right)+(\mu-\bar{X})\right]^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}+\frac{2}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)(\mu-\bar{X})+\frac{1}{n} \sum_{i=1}^{n}(\mu-\bar{X})^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}+2(\bar{X}-\mu)(\mu-\bar{X})+(\mu-\bar{X})^{2} \\ &=\frac{1}{n} \sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-(\mu-\bar{X})^{2} \end{aligned} n1i=1n(XiXˉ)2=n1i=1n[(Xiμ)+(μXˉ)]2=n1i=1n(Xiμ)2+n2i=1n(Xiμ)(μXˉ)+n1i=1n(μXˉ)2=n1i=1n(Xiμ)2+2(Xˉμ)(μXˉ)+(μXˉ)2=n1i=1n(Xiμ)2(μXˉ)2
    从公式可以看出,除非均值 X ˉ \bar{X} Xˉ与期望 u u u是相等的,否则会导致对方差的低估。
  3. 我们也可以通过一个例子说明为什么样本均值 X ˉ \bar{X} Xˉ与期望 u u u是不相等的:掷骰子,点数的期望是 3.5, 是一个确定的数字,但是实际投掷n次取平均并不一定等于3.5。
  4. 因此,为了不要低估方差,就把分母从 n n n换成 n − 1 n-1 n1。具体来说,需要用一个 n n − 1 \frac{n}{n-1} n1n的因子来进行修正:
    E ( S 1 2 ) = 1 n ∑ i = 1 n E ( ( X i − X ˉ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ + μ − X ˉ ) 2 ) = 1 n E ( ∑ i = 1 n ( ( X i − μ ) 2 − 2 ( X i − μ ) ( X ˉ − μ ) + ( X ˉ − μ ) 2 ) ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − 2 ∑ i = 1 n ( X i − μ ) ( X ˉ − μ ) + n ( X ˉ − μ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − 2 n ( X ˉ − μ ) ( X ˉ − μ ) + n ( X ˉ − μ ) 2 ) = 1 n E ( ∑ i = 1 n ( X i − μ ) 2 − n ( X ˉ − μ ) 2 ) = 1 n ( ∑ i = 1 n E ( ( X i − μ ) 2 ) − n E ( ( X ˉ − μ ) 2 ) ) = 1 n ( n Var ⁡ ( X ) − n Var ⁡ ( X ˉ ) ) = Var ⁡ ( X ) − Var ⁡ ( X ˉ ) = σ 2 − σ 2 n = n − 1 n σ 2 \begin{aligned} E\left(S_{1}^{2}\right) &=\frac{1}{n} \sum_{i=1}^{n} E\left(\left(X_{i}-\bar{X}\right)^{2}\right)=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu+\mu-\bar{X}\right)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(\left(X_{i}-\mu\right)^{2}-2\left(X_{i}-\mu\right)(\bar{X}-\mu)+(\bar{X}-\mu)^{2}\right)\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-2 \sum_{i=1}^{n}\left(X_{i}-\mu\right)(\bar{X}-\mu)+n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-2 n(\bar{X}-\mu)(\bar{X}-\mu)+n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n} E\left(\sum_{i=1}^{n}\left(X_{i}-\mu\right)^{2}-n(\bar{X}-\mu)^{2}\right) \\ &=\frac{1}{n}\left(\sum_{i=1}^{n} E\left(\left(X_{i}-\mu\right)^{2}\right)-n E\left((\bar{X}-\mu)^{2}\right)\right) \\ &=\frac{1}{n}(n \operatorname{Var}(X)-n \operatorname{Var}(\bar{X})) \\ &=\operatorname{Var}(X)-\operatorname{Var}(\bar{X})=\sigma^{2}-\frac{\sigma^{2}}{n}=\frac{n-1}{n} \sigma^{2} \end{aligned} E(S12)=n1i=1nE((XiXˉ)2)=n1E(i=1n(Xiμ+μXˉ)2)=n1E(i=1n((Xiμ)22(Xiμ)(Xˉμ)+(Xˉμ)2))=n1E(i=1n(Xiμ)22i=1n(Xiμ)(Xˉμ)+n(Xˉμ)2)=n1E(i=1n(Xiμ)22n(Xˉμ)(Xˉμ)+n(Xˉμ)2)=n1E(i=1n(Xiμ)2n(Xˉμ)2)=n1(i=1nE((Xiμ)2)nE((Xˉμ)2))=n1(nVar(X)nVar(Xˉ))=Var(X)Var(Xˉ)=σ2nσ2=nn1σ2
    这个公式还是写的很清楚,很好理解~

补充:很多资料都提到了自由度这一概念,“自由度”来源于卡方分布,表示 n n n个正态随机变量的平方和,链接里讲的比较清楚,不过我看不懂,就不在这里深入了。

这篇关于n折交叉验证结果中的+-怎么算的? 标准差?有偏估计?无偏估计?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/685769

相关文章

MySql死锁怎么排查的方法实现

《MySql死锁怎么排查的方法实现》本文主要介绍了MySql死锁怎么排查的方法实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录前言一、死锁排查方法1. 查看死锁日志方法 1:启用死锁日志输出方法 2:检查 mysql 错误

Rsnapshot怎么用? 基于Rsync的强大Linux备份工具使用指南

《Rsnapshot怎么用?基于Rsync的强大Linux备份工具使用指南》Rsnapshot不仅可以备份本地文件,还能通过SSH备份远程文件,接下来详细介绍如何安装、配置和使用Rsnaps... Rsnapshot 是一款开源的文件系统快照工具。它结合了 Rsync 和 SSH 的能力,可以帮助你在 li

电脑密码怎么设置? 一文读懂电脑密码的详细指南

《电脑密码怎么设置?一文读懂电脑密码的详细指南》为了保护个人隐私和数据安全,设置电脑密码显得尤为重要,那么,如何在电脑上设置密码呢?详细请看下文介绍... 设置电脑密码是保护个人隐私、数据安全以及系统安全的重要措施,下面以Windows 11系统为例,跟大家分享一下设置电脑密码的具体办php法。Windo

怎么关闭Ubuntu无人值守升级? Ubuntu禁止自动更新的技巧

《怎么关闭Ubuntu无人值守升级?Ubuntu禁止自动更新的技巧》UbuntuLinux系统禁止自动更新的时候,提示“无人值守升级在关机期间,请不要关闭计算机进程”,该怎么解决这个问题?详细请看... 本教程教你如何处理无人值守的升级,即 Ubuntu linux 的自动系统更新。来源:https://

Ubuntu系统怎么安装Warp? 新一代AI 终端神器安装使用方法

《Ubuntu系统怎么安装Warp?新一代AI终端神器安装使用方法》Warp是一款使用Rust开发的现代化AI终端工具,该怎么再Ubuntu系统中安装使用呢?下面我们就来看看详细教程... Warp Terminal 是一款使用 Rust 开发的现代化「AI 终端」工具。最初它只支持 MACOS,但在 20

LinuxMint怎么安装? Linux Mint22下载安装图文教程

《LinuxMint怎么安装?LinuxMint22下载安装图文教程》LinuxMint22发布以后,有很多新功能,很多朋友想要下载并安装,该怎么操作呢?下面我们就来看看详细安装指南... linux Mint 是一款基于 Ubuntu 的流行发行版,凭借其现代、精致、易于使用的特性,深受小伙伴们所喜爱。对

macOS怎么轻松更换App图标? Mac电脑图标更换指南

《macOS怎么轻松更换App图标?Mac电脑图标更换指南》想要给你的Mac电脑按照自己的喜好来更换App图标?其实非常简单,只需要两步就能搞定,下面我来详细讲解一下... 虽然 MACOS 的个性化定制选项已经「缩水」,不如早期版本那么丰富,www.chinasem.cn但我们仍然可以按照自己的喜好来更换

Ubuntu 怎么启用 Universe 和 Multiverse 软件源?

《Ubuntu怎么启用Universe和Multiverse软件源?》在Ubuntu中,软件源是用于获取和安装软件的服务器,通过设置和管理软件源,您可以确保系统能够从可靠的来源获取最新的软件... Ubuntu 是一款广受认可且声誉良好的开源操作系统,允许用户通过其庞大的软件包来定制和增强计算体验。这些软件

Ubuntu 24.04 LTS怎么关闭 Ubuntu Pro 更新提示弹窗?

《Ubuntu24.04LTS怎么关闭UbuntuPro更新提示弹窗?》Ubuntu每次开机都会弹窗提示安全更新,设置里最多只能取消自动下载,自动更新,但无法做到直接让自动更新的弹窗不出现,... 如果你正在使用 Ubuntu 24.04 LTS,可能会注意到——在使用「软件更新器」或运行 APT 命令时,

TP-LINK/水星和hasivo交换机怎么选? 三款网管交换机系统功能对比

《TP-LINK/水星和hasivo交换机怎么选?三款网管交换机系统功能对比》今天选了三款都是”8+1″的2.5G网管交换机,分别是TP-LINK水星和hasivo交换机,该怎么选呢?这些交换机功... TP-LINK、水星和hasivo这三台交换机都是”8+1″的2.5G网管交换机,我手里的China编程has