DeepAR:Probabilistic forecasting with autoregressive recurrent network

本文主要是介绍DeepAR:Probabilistic forecasting with autoregressive recurrent network,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

DeepAR:Probabilistic forecasting with autoregressive recurrent network

一般的时间序列预测方法是做点预测,即预测未来某个时间点的具体值。但对于一些具体业务比如预测销量来说预测一个概率区间更加易于决策。DeepAR是一个做概率预测的方法,同时也可以做点预测。
首先简单介绍一下时间序列和常见的处理方法
在这里插入图片描述

一、方法介绍

DeepAR是一个基于自回归循环神经网络的预测方法,可以用于概率预测。通过在大量相关的时间序列的历史数据上学习一个全局的模型。
特点

  1. 全局的模型
  2. 概率预测(也可以做点预测),为每个时间步上做一个概率分布,模型的训练目标是得到一个联合的条件概率分布。即对于一个给定的时间序列预测未来T个时间步的值
    在这里插入图片描述
  3. 在大量相关的时间序列上做联合训练,不仅可以提升模型的预测准确度,同时还可以解决冷启动问题。即对于那些没有出现在训练数据集中的数据,也可以通过类似的时间序列做预测
  4. 可以学习到周期性,季节性,变化趋势等特性
模型

在这里插入图片描述
模型的结构是典型的RNN,论文通过LSTM实现的。我们记Zi.t是时间序列i在t时刻的观测值,Xi.t是t时刻的协变量。协变量指的是对结果又影响但是不是自变量,不为实验人员操控的变量。
在训练时,模型每时刻的输入时上一时刻的观测值Zi,t-1,当前时刻的协变量Xi,t以及上一时刻的隐藏状态ht-1,通过计算得到当前的额状态ht。在通过ht计算一个概率分布。其中记t0时刻之前的观察值是已知的,t>to的值是未知的,要预测的。但在训练时是直接输入,对预测阶段可见即该方法是监督学习方法。
在预测阶段,对于t>to部分的值是位置的,要预测的值。故每时刻的输入值Z是上一时刻得到的概率分布的随机采样。
在这里插入图片描述
具体解释训练过程如下,模型通过固定长度的窗口在时间序列上采样图上图红线,绿线左边代表训练数据,右边是预测数据集。红线左边是训练阶段的训练部分即观察值z已知的部分类似于encoder,红线右边是训练阶段预测部分记做decoder。模型在训练时要求输入的观察值z要对encoder和decoder都已知。窗口通过在原始时间序列上滑动选择训练数据,其中窗口的起始位置可以先与原始时间序列,只要保证decoder部分的输入值z已知即可。
在这里插入图片描述

训练

模型的训练目标是得到联合条件概率分布,

其中似然函数P(Z|θ)需要根据输入数据的统计特性选择,比如高斯,负二项分布等
在这里插入图片描述
训练过程通过最大化log-likelihood得到参数θ
在这里插入图片描述

问题分析
  1. 由于模型通过联合训练多个相关的时间序列,而时间序列会有数据分布不均匀和量级差异。数据样本的不均衡导致不同时间序列对于模型的程度不同。比如销量比较大的商品往往占少数,比如商品A每天销售100个,商品B销售10000个,两种商品共同训练时,A的信息会被忽略掉,但A时间序列中隐含的信息是有价值的,数百个销售信息仍然能够反映季节性和趋势性的变化。直接将这样的数据用于训练的话会造成对时间序列的拟合不足。因此需要对数据进行不均匀采样,将数据规模小的信息也考虑在内。

在这里插入图片描述
2. 各个时间序列的量级同样存在差异,同样的量纲有的数据值较大,而其他时间序列的数据较小,并且在实际中还存在量值分布的严重偏斜。因此需要对输入网络的数据转换到适当的范围内,输出时在转化回来。对于不同的数据会存在不同的缩放因子,本文用观测值得历史均值作为缩放因子.在这里插入图片描述

这篇关于DeepAR:Probabilistic forecasting with autoregressive recurrent network的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/323005

相关文章

poj 2349 Arctic Network uva 10369(prim or kruscal最小生成树)

题目很麻烦,因为不熟悉最小生成树的算法调试了好久。 感觉网上的题目解释都没说得很清楚,不适合新手。自己写一个。 题意:给你点的坐标,然后两点间可以有两种方式来通信:第一种是卫星通信,第二种是无线电通信。 卫星通信:任何两个有卫星频道的点间都可以直接建立连接,与点间的距离无关; 无线电通信:两个点之间的距离不能超过D,无线电收发器的功率越大,D越大,越昂贵。 计算无线电收发器D

图神经网络框架DGL实现Graph Attention Network (GAT)笔记

参考列表: [1]深入理解图注意力机制 [2]DGL官方学习教程一 ——基础操作&消息传递 [3]Cora数据集介绍+python读取 一、DGL实现GAT分类机器学习论文 程序摘自[1],该程序实现了利用图神经网络框架——DGL,实现图注意网络(GAT)。应用demo为对机器学习论文数据集——Cora,对论文所属类别进行分类。(下图摘自[3]) 1. 程序 Ubuntu:18.04

深度学习--对抗生成网络(GAN, Generative Adversarial Network)

对抗生成网络(GAN, Generative Adversarial Network)是一种深度学习模型,由Ian Goodfellow等人在2014年提出。GAN主要用于生成数据,通过两个神经网络相互对抗,来生成以假乱真的新数据。以下是对GAN的详细阐述,包括其概念、作用、核心要点、实现过程、代码实现和适用场景。 1. 概念 GAN由两个神经网络组成:生成器(Generator)和判别器(D

Neighborhood Homophily-based Graph Convolutional Network

#paper/ccfB 推荐指数: #paper/⭐ #pp/图结构学习 流程 重定义同配性指标: N H i k = ∣ N ( i , k , c m a x ) ∣ ∣ N ( i , k ) ∣ with c m a x = arg ⁡ max ⁡ c ∈ [ 1 , C ] ∣ N ( i , k , c ) ∣ NH_i^k=\frac{|\mathcal{N}(i,k,c_{

F12抓包05:Network接口测试(抓包篡改请求)

课程大纲         使用线上接口测试网站演示操作,浏览器F12检查工具如何进行简单的接口测试:抓包、复制请求、篡改数据、发送新请求。         测试地址:https://httpbin.org/forms/post ① 抓包:鼠标右键打开“检查”工具(F12),tab导航选择“网络”(Network),输入前3项点击提交,可看到录制的请求和返回数据。

OpenSNN推文:神经网络(Neural Network)相关论文最新推荐(九月份)(一)

基于卷积神经网络的活动识别分析系统及应用 论文链接:oalib简介:  活动识别技术在智能家居、运动评估和社交等领域得到广泛应用。本文设计了一种基于卷积神经网络的活动识别分析与应用系统,通过分析基于Android搭建的前端采所集的三向加速度传感器数据,对用户的当前活动进行识别。实验表明活动识别准确率满足了应用需求。本文基于识别的活动进行卡路里消耗计算,根据用户具体的活动、时间以及体重计算出相应活

deepcross network(DCN)算法 xdeepfm是DCN的进阶

揭秘 Deep & Cross : 如何自动构造高阶交叉特征 https://zhuanlan.zhihu.com/p/55234968 Deep & Cross Network总结 Deep和Cross不得不说的秘密 [深度模型] Deep & Cross Network (DCN) https://mp.weixin.qq.com/s/Xp_xTmcx56tJqfjMhFsArA

F12抓包04:(核心功能)Network接口抓包、定位缺陷

课程大纲 一、录制请求 ① tab导航选择“网络”(Network),即可进入网络抓包界面,进入界面默认开启录制模式,显示浏览器当前标签页的请求列表。 ② 查看请求列表,包含了当前标签页执行的所有请求和下载的资源,列表显示每条请求的相应内容。 还可以在字段行单击右键,勾选想要查看的字段。 ③ 单击列表项的“名称”,可以查看请求的详细内容。接口请

DS简记1-Real-time Joint Object Detection and Semantic Segmentation Network for Automated Driving

创新点 1.更小的网络,更多的类别,更复杂的实验 2. 一体化 总结 终于看到一篇检测跟踪一体化的文章 网络结构如下: ResNet10是共享的Encoder,yolov2 是检测的Deconder,FCN8 是分割的Deconder。 其实很简单,论文作者也指出:Our work is closest to the recent MultiNet. We differ by focus

Segmentation简记3-UPSNet: A Unified Panoptic Segmentation Network

Segmentation简记3-UPSNet: A Unified Panoptic Segmentation Network 创新点总结实验 创新点 1.统一的全景分割网络 总结 uber的作品 网络结构如下: 还是比较简洁的。 Backbone 采用了原始mask rcnn。 Instance Segmentation Head 使用了最大的特征图,包括bbox回归,分