大数据:应用于计量学的新技巧 - 第三章 一般为预测需要做的考量

2024-01-19 04:18

本文主要是介绍大数据:应用于计量学的新技巧 - 第三章 一般为预测需要做的考量,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

第三章 一般为预测需要做的考量


一般来说,预测的目标是使用那些样本外的输入值也能够达到良好的预测结果。从我们的经验上看,对于样本内的输入值来说,建立一个能用的“预测机”十分简单,但不幸的是对于样本外的基本都没法用。举个小例子,n个线性独立回归因子可以完美的拟合n个观察值,但是对于预测样本外的输入值来说就完了。机器学习的专家们称这个现象叫做“过度拟合问题”,当然他们对这个问题也有一些解决方法。

 

首先,由于简单模型对于样本外内的输入值有更好的预测效果,机器学习专家决定使用不同的方式来“惩罚”那些过度复杂的模型。在机器学习的世界里,这个方法被称之为“规范化”。之后我们会举几个例子。经济学家同样喜欢简单的模型,使用的原因也和机器学习专家一样,但并没有很明确的量化由复杂性带来的开销。

 

其次,一般来说我们会根据训练,测试以及验证这三个机器学习的步骤来将数据集分割成3份,用用来训练的数据来估计模型,用用来验证的数据来选择模型,然后用用来测试的数据来验证所选择的模型究竟如何。(通常来说验证和测验集合是放在一起的)

 

其三,如果我们有一个明确的量化值来测量模型的复杂度,我们可以将其变成一个参数用来调整优化预测结果。通常我们会使用称为k-折交叉验证的方法来选择一个良好的调整参数。

 

1.    将数据分成k份大概相同大小的子集,并将它们标记为 s=1,...,k,第一个子集定义为s=1

2.    选一个值作为调整参数。

3.    用数据子集中的k-1个子集来训练模型。

4.    用剩下的那个子集s来验证并计算出相对的损失。

5.    如果s=k,停止;否则s=s+1然后回到第2步。

 

一般来说k值通常是10,5或者是样本大小减1,做完交叉验证后,你会得到一系列k的值以及对应的损失,然后就可以去选择一个合适的k值作为调整参数。甚至来说,如果根本不需要调整参数,使用这样的交叉验证的方法得到拟合优度的测量值还是很重要的,毕竟用样本外的输入值来测试要比样本内的输入值更有意义,当学者就要谨慎为之嘛。

 

在机器学期中会经常用到这种训练-测试周期以及交叉验证的方法,在我看来,他们更应当用在经济学当中,特别是当我们需要处理大规模的数据的时候。这些年来,经济学家总是用“我们收到的数据少的都不够训练的”这样的借口使用样本内的输入值来进行拟合优度的测量,但是现在拿到大数据不像以前那么难了,没有必要说还是使用相同的数据集来同事对模型进行训练以及测试。特别对于大数据来说,交叉验证的方法是一个很有用途的验证法,相比在经济学中常用的测量方式来说,这种方法得到的测量更加的现实,更加的有意义。

这篇关于大数据:应用于计量学的新技巧 - 第三章 一般为预测需要做的考量的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/621235

相关文章

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

Redis 中的热点键和数据倾斜示例详解

《Redis中的热点键和数据倾斜示例详解》热点键是指在Redis中被频繁访问的特定键,这些键由于其高访问频率,可能导致Redis服务器的性能问题,尤其是在高并发场景下,本文给大家介绍Redis中的热... 目录Redis 中的热点键和数据倾斜热点键(Hot Key)定义特点应对策略示例数据倾斜(Data S

Android Kotlin 高阶函数详解及其在协程中的应用小结

《AndroidKotlin高阶函数详解及其在协程中的应用小结》高阶函数是Kotlin中的一个重要特性,它能够将函数作为一等公民(First-ClassCitizen),使得代码更加简洁、灵活和可... 目录1. 引言2. 什么是高阶函数?3. 高阶函数的基础用法3.1 传递函数作为参数3.2 Lambda

Python实现将MySQL中所有表的数据都导出为CSV文件并压缩

《Python实现将MySQL中所有表的数据都导出为CSV文件并压缩》这篇文章主要为大家详细介绍了如何使用Python将MySQL数据库中所有表的数据都导出为CSV文件到一个目录,并压缩为zip文件到... python将mysql数据库中所有表的数据都导出为CSV文件到一个目录,并压缩为zip文件到另一个

电脑win32spl.dll文件丢失咋办? win32spl.dll丢失无法连接打印机修复技巧

《电脑win32spl.dll文件丢失咋办?win32spl.dll丢失无法连接打印机修复技巧》电脑突然提示win32spl.dll文件丢失,打印机死活连不上,今天就来给大家详细讲解一下这个问题的解... 不知道大家在使用电脑的时候是否遇到过关于win32spl.dll文件丢失的问题,win32spl.dl

Java中&和&&以及|和||的区别、应用场景和代码示例

《Java中&和&&以及|和||的区别、应用场景和代码示例》:本文主要介绍Java中的逻辑运算符&、&&、|和||的区别,包括它们在布尔和整数类型上的应用,文中通过代码介绍的非常详细,需要的朋友可... 目录前言1. & 和 &&代码示例2. | 和 ||代码示例3. 为什么要使用 & 和 | 而不是总是使

SpringBoot整合jasypt实现重要数据加密

《SpringBoot整合jasypt实现重要数据加密》Jasypt是一个专注于简化Java加密操作的开源工具,:本文主要介绍详细介绍了如何使用jasypt实现重要数据加密,感兴趣的小伙伴可... 目录jasypt简介 jasypt的优点SpringBoot使用jasypt创建mapper接口配置文件加密