指标监控和归因分析——数据异常波动

2024-03-29 09:12

本文主要是介绍指标监控和归因分析——数据异常波动,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

前言

一、基于统计分析检测指标异常

二、指标异常归因分析

2.1 横向归因分析

2.2 纵向归因分析

三、智能指标波动监控&归因分析

3.1 指标看板查看

3.2 指标归因分析

前言

    企业搭建完善,全面的指标体系是企业数据指导业务经营决策的第一步,当指标发生了异常波动(上升或下降),需要企业能够及时发现,并快速找到背后真实的原因,才能针对性的制定相应的策略,否则就是盲打,原地打转。

 指标异常波动的具体场景,比如:

  • 企业关键词的搜索流量突然降低了,是什么原因?
  • 3月的GMV数字比2月下降了40%,应该如何分析?
  • 最近某个品类的订单数猛增,为什么

下面详细介绍如何建立完善的指标异常监控及其对应归因分析机制,当遇到此类问题时,能够快速从数据中发现业务问题与机会,提升业务推进速度。

一、基于统计分析检测指标异常

    企业的日常数据走势会在一定范围内上下浮动,但不同的指标其浮动范围会有差异。当业务在高速增长期,指标每日波动幅度较大;业务在平稳期,指标每日波动幅度则较小;统计粒度越粗,数据量越大,统计结果的波动性越小。因此,对不同的指标需用不同的标准去衡量指标波动是否存在异常。

  指标异常监控方法主要有三种:

  • 基于实际业务经验进行阈值设置:
  • 基于数据结果进行统计分析
  • 融入算法进行建模预测

下面介绍如何基于统计分析方法来评估指标波动是否异常。

   统计学中,指标的数据分布通常满足正态分布。正态分布具有对称性,会用到均值,标准差两个数据。其中均值可以反应数据的平均水平,标准差可以反应数据波动幅度,标准差越大,反映出数据波动性越大。标准差的计算公式如下:

     利用数据在正态分布中的位置可以判断指标波动是否符合预期,在正态分布中,数据分布在2倍标准差内的概率是95.5%,在3倍标准差的概率内是99.7%。日常可以使用2倍标准差作为衡量标准。

    正常数据结果会在 均值±2* 标准差和范围内浮动,若实际数据超过了这个范围,则认为本次数据波动异常。日常数据波动规律会以日、周、月、年为单位出现相同或相似的变化规律,此处以日活指标为例,来说明指标异常波动的监测过程。

   某游戏类APP日活指标通常以周为单位进行数据波动,先计划基于过去5周的数据走势来判断本周一的日活数据是否出现异常波动。

   数据准备如下:

上述数据的前五周周一的均值:10900,标准差:1507,数据的2倍标准差分别为7887、13913,本周周一数据为7700,在2倍标准差范围外,则说明本周一日活指标数据波动异常,需要进一步分析异常波动原因,以判断业务是否真正存在异常

二、指标异常归因分析

 指标归因分析方法有很多,总结起来可以分为两大类:横向归因分析和纵向归因分析。

2.1 横向归因分析

   横向归因分析,指的是对于组合型的指标可以对过程指标做拆分,分析每个过程指标的波动影响因素,再对多个影响因素做整合分析。

   如:昨日的付费金额显著增高。分析增高原因时,先对付费金额工时拆解:付费金额 = 日活*日活 * 平均付费金额,平均付费金额在正常范围内波动,日活显著增加,进一步对相关业务做分析,发现是昨日买量增加带来的结果影响。

2.2 纵向归因分析

   纵向归因分析,即对指标通过维度下钻进行归因分析。维度下钻分析主要包括两个分析粒度:一是分析各个维度对指标的贡献程度,二是分析维度值对指标的贡献程度。

   维度的贡献程度计算可基于每个维度的贡献程度汇总得到,而每个维度值的贡献程度计算有多种计算方式,贡献程度的计算可以基于预测算法等多种方法进行,本文介绍一个简单的基于增长率平均值计算贡献程度的方法。

单一维度下,每个维度值贡献程度可通过下列公式计算:

   下面,以销售额为例,介绍一下计算过程。

某产品线1月1日和1月2日销售额分别为3097万元、3300万元。细分到城市维度,每个城市两天的数据表现如下:


城市维度中:

基于上述步骤即可简单地实现维度贡献度及维度值贡献度的计算。

三、智能指标波动监控&归因分析

   在实际的数据场景中,每个维度下维度值的数量少说几十上百个,多则成千上万个,每天纯手动计算维度贡献程度将是一个巨大的工作量。分析效率过于低下,导致业务方很容易根据经验进行结论推断,如果推断错误,将很有可能产生错误决策。

3.1 指标看板查看

   对于企业关注的指标,可以将指标添加到关注看板中进行日常数据观察与监控。在看板中可直观查看所有指标的当前数据表现、近期数据走势。系统会根据当前数据做智能诊断,判断指标波动是否为正常波动,帮助用户快速定位异常数据,针对性分析与应对数据变化。

3.2 指标归因分析

     当一个指标结果出现异常时,如果依次对维度、维度值进行归因分析是一件工作量很大的事情。能够将分析方法、分析过程系统化,会大大提升归因分析效率,对业务发展形成极为正向的促进作用。

    对执行指标归因分析时,系统会区分维度值计算指标波动情况,进一步计算出维度贡献度,并根据贡献度大小进行降序排序,让用户聚焦于头部更重要的影响因素

   在关注的维度下,用户可以进一步查看细分维度值的贡献度,快速发现数据变化原因,通过数据推动业务提升。

这篇关于指标监控和归因分析——数据异常波动的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/858203

相关文章

流媒体平台/视频监控/安防视频汇聚EasyCVR播放暂停后视频画面黑屏是什么原因?

视频智能分析/视频监控/安防监控综合管理系统EasyCVR视频汇聚融合平台,是TSINGSEE青犀视频垂直深耕音视频流媒体技术、AI智能技术领域的杰出成果。该平台以其强大的视频处理、汇聚与融合能力,在构建全栈视频监控系统中展现出了独特的优势。视频监控管理系统EasyCVR平台内置了强大的视频解码、转码、压缩等技术,能够处理多种视频流格式,并以多种格式(RTMP、RTSP、HTTP-FLV、WebS

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

关于数据埋点,你需要了解这些基本知识

产品汪每天都在和数据打交道,你知道数据来自哪里吗? 移动app端内的用户行为数据大多来自埋点,了解一些埋点知识,能和数据分析师、技术侃大山,参与到前期的数据采集,更重要是让最终的埋点数据能为我所用,否则可怜巴巴等上几个月是常有的事。   埋点类型 根据埋点方式,可以区分为: 手动埋点半自动埋点全自动埋点 秉承“任何事物都有两面性”的道理:自动程度高的,能解决通用统计,便于统一化管理,但个性化定

无人叉车3d激光slam多房间建图定位异常处理方案-墙体画线地图切分方案

墙体画线地图切分方案 针对问题:墙体两侧特征混淆误匹配,导致建图和定位偏差,表现为过门跳变、外月台走歪等 ·解决思路:预期的根治方案IGICP需要较长时间完成上线,先使用切分地图的工程化方案,即墙体两侧切分为不同地图,在某一侧只使用该侧地图进行定位 方案思路 切分原理:切分地图基于关键帧位置,而非点云。 理论基础:光照是直线的,一帧点云必定只能照射到墙的一侧,无法同时照到两侧实践考虑:关

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

异构存储(冷热数据分离)

异构存储主要解决不同的数据,存储在不同类型的硬盘中,达到最佳性能的问题。 异构存储Shell操作 (1)查看当前有哪些存储策略可以用 [lytfly@hadoop102 hadoop-3.1.4]$ hdfs storagepolicies -listPolicies (2)为指定路径(数据存储目录)设置指定的存储策略 hdfs storagepolicies -setStoragePo

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

综合安防管理平台LntonAIServer视频监控汇聚抖动检测算法优势

LntonAIServer视频质量诊断功能中的抖动检测是一个专门针对视频稳定性进行分析的功能。抖动通常是指视频帧之间的不必要运动,这种运动可能是由于摄像机的移动、传输中的错误或编解码问题导致的。抖动检测对于确保视频内容的平滑性和观看体验至关重要。 优势 1. 提高图像质量 - 清晰度提升:减少抖动,提高图像的清晰度和细节表现力,使得监控画面更加真实可信。 - 细节增强:在低光条件下,抖