一站制造工业项目之DWS介绍及代码运用

2023-10-10 02:40

本文主要是介绍一站制造工业项目之DWS介绍及代码运用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

DWS:维度层

维度建模:

①建模流程:划分主题域和主题

1-需求调研:业务调研和数据调研
了解整个业务实现的过程
收集所有数据使用人员对于数据的需求
整理所有数据来源
2-划分主题域:面向业务将业务划分主题域及主题
用户域、店铺域
商品域、交易域、
客服域、信用风控域、采购分销域
3-构建维度总线矩阵:明确每个业务主题对应的维度关系

4-明确指标统计:明确所有原生指标与衍生指标
原生指标:基于某一业务事件行为下的度量,是业务定义中不可再拆分的指标,如支付
总金额
衍生指标:基于原子指标添加了维度:近7天的支付总金额等
5-定义事实与维度规范
命名规范、类型规范、设计规范等
6-代码开发
实现具体的代码开发
只要知道指标的计算方式,基于维度分组计算指标
②维度设计:构建维度矩阵

常见维度
时间维度:年、季度、月、周、天、小时
地区维度:国家、省份、城市
平台维度:网站、APP、小程序、H5
操作系统维度:Windows、Mac OS、Android、Linux、IOS
维度模型:雪花模型、星型模式

1:雪花模型

设计:部分维度通过其他维度间接关联事实表
优点:避免数据的冗余
缺点:关联层次比较多,数据大的情况下,底层层层Join,查询数据性能降低


2:星型模型

设计:所有维度表直接关联事实表
优点:每次查询时候,直接获取对应的数据结果,不用关联其他的维度子表,可以提高
性能
缺点:数据冗余度相比雪花模型较高


3:星座模型

基于星型模型的演变,多个事实共同使用一个维度表

掌握一站制造的主题域及主题的划分 

主题域划分:业务或者部门划分
业务:客户域、广告域、运营域……
部门:运维域、财务域、销售域……


数据需求来划分主题
运营域:访问分析报表、转化分析报表、用户属性分析报表、订单分析报表 

 服务域
安装主题:安装方式、支付费用、安装类型
工单主题:派工方式、工单总数、派工类型、完工总数、
维修主题:支付费用、零部件费用、故障类型
派单主题:派单数、派单平均值、派单响应时间
费用主题:差旅费、安装费、报销人员统计
回访主题:回访人员数、回访工单状态
油站主题:油站总数量、油站新增数量
客户域
客户主题:安装数量、维修数量、巡检数量、回访数量
仓储域
保内良品核销主题:核销数量、配件金额
保内不良品核销主题:核销配件数、核销配件金额
送修主题:送修申请、送修物料数量、送修类型
调拨主题:调拨状态、调拨数量、调拨设备类型
消耗品核销:核销总数、核销设备类型
服务商域
工单主题:派工方式、工单总数、工单类型、客户类型
服务商油站主题:油站数量、油站新增数量
运营域
运营主题:服务人员工时、维修站分析、平均工单、网点分布
市场域
市场主题:工单统计、完工明细、订单统计

日期时间维度
年维度、季度维度、月维度、周维度、日维度
日环比、周环比、月环比、日同比、周同比、月同比
环比:同一个周期内的比较
同比:上个个周期的比较
行政地区维度
地区级别:国家维度、省份维度、城市维度、县区维度、乡镇维度
服务网点维度
网点名称、网点编号、省份、城市、县区、所属机构
油站维度
油站类型、油站名称、油站编号、客户编号、客户名称、省份、城市、县区、油站状
态、所属公司
组织机构维度
人员编号、人员名称、岗位编号、岗位名称、部门编号、部门名称
服务类型维度
类型编号、类型名称
设备维度
设备类型、设备编号、设备名称、油枪数量、泵类型、软件类型
故障类型维度
一级故障编号、一级故障名称、二级故障编号、二级故障名称
物流公司维度
物流公司编号、物流公司名称

以乡镇维度为例:

获取所有乡镇的信息

select id area_id,areaname area,parentid from
one_make_dwd.ciss_base_areas where rank = 4;

获取所有县区的信息

select id county_id,areaname county,parentid from
one_make_dwd.ciss_base_areas where rank = 3;

获取所有省份的信息

select id city_id,areaname city,parentid from
one_make_dwd.ciss_base_areas where rank = 2;

获取所有省份的信息

select id province_id,areaname province,parentid from
one_make_dwd.ciss_base_areas where rank = 1;

需求:获取每个镇的所有行政地区信息

省份id 省份名称 城市id 城市名称 县区id 县区名称
乡镇id 乡镇名称

实现:下一级地区的父id = 上一级地区的id

select
province_id,province,city_id,city,county_id,county,area_id,
area
from
  ( select id area_id,areaname area,parentid from
one_make_dwd.ciss_base_areas where rank = 4 ) town
join ( select id county_id,areaname county,parentid from
one_make_dwd.ciss_base_areas where rank = 3 ) county
  on town.parentid = county.county_id
join ( select id city_id,areaname city,parentid from
one_make_dwd.ciss_base_areas where rank = 2 ) city
  on county.parentid = city.city_id
join ( select id province_id,areaname province,parentid
from one_make_dwd.ciss_base_areas where rank = 1 ) province
  on city.parentid = province.province_id;

实现行政地区维度表的构建

建维度库

create database if not exists one_make_dws; 

建维度表
区域粒度【乡镇】

create external table if not exists
one_make_dws.dim_location_areas(
 id string comment 'id'
 , province_id string comment '省份ID'
 , province string comment '省份名称'
 , province_short_name string comment '省份短名称'
 , city_id string comment '城市ID'
 , city string comment '城市'
 , city_short_name string comment '城市短名称'
 , county_id string comment '县城ID'
 , county string comment '县城'
 , county_short_name string comment '县城短名称'
 , area_id string comment '区域ID'
 , area string comment '区域名称'
 , area_short_name string comment '区域短名称'
) comment '区域维度区域级别表'
stored as orc
tblproperties ("orc.compress"="SNAPPY")
location '/data/dw/dws/one_make/dim_location_areas';

这篇关于一站制造工业项目之DWS介绍及代码运用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/177356

相关文章

这15个Vue指令,让你的项目开发爽到爆

1. V-Hotkey 仓库地址: github.com/Dafrok/v-ho… Demo: 戳这里 https://dafrok.github.io/v-hotkey 安装: npm install --save v-hotkey 这个指令可以给组件绑定一个或多个快捷键。你想要通过按下 Escape 键后隐藏某个组件,按住 Control 和回车键再显示它吗?小菜一碟: <template

性能测试介绍

性能测试是一种测试方法,旨在评估系统、应用程序或组件在现实场景中的性能表现和可靠性。它通常用于衡量系统在不同负载条件下的响应时间、吞吐量、资源利用率、稳定性和可扩展性等关键指标。 为什么要进行性能测试 通过性能测试,可以确定系统是否能够满足预期的性能要求,找出性能瓶颈和潜在的问题,并进行优化和调整。 发现性能瓶颈:性能测试可以帮助发现系统的性能瓶颈,即系统在高负载或高并发情况下可能出现的问题

水位雨量在线监测系统概述及应用介绍

在当今社会,随着科技的飞速发展,各种智能监测系统已成为保障公共安全、促进资源管理和环境保护的重要工具。其中,水位雨量在线监测系统作为自然灾害预警、水资源管理及水利工程运行的关键技术,其重要性不言而喻。 一、水位雨量在线监测系统的基本原理 水位雨量在线监测系统主要由数据采集单元、数据传输网络、数据处理中心及用户终端四大部分构成,形成了一个完整的闭环系统。 数据采集单元:这是系统的“眼睛”,

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

如何用Docker运行Django项目

本章教程,介绍如何用Docker创建一个Django,并运行能够访问。 一、拉取镜像 这里我们使用python3.11版本的docker镜像 docker pull python:3.11 二、运行容器 这里我们将容器内部的8080端口,映射到宿主机的80端口上。 docker run -itd --name python311 -p

活用c4d官方开发文档查询代码

当你问AI助手比如豆包,如何用python禁止掉xpresso标签时候,它会提示到 这时候要用到两个东西。https://developers.maxon.net/论坛搜索和开发文档 比如这里我就在官方找到正确的id描述 然后我就把参数标签换过来

poj 1258 Agri-Net(最小生成树模板代码)

感觉用这题来当模板更适合。 题意就是给你邻接矩阵求最小生成树啦。~ prim代码:效率很高。172k...0ms。 #include<stdio.h>#include<algorithm>using namespace std;const int MaxN = 101;const int INF = 0x3f3f3f3f;int g[MaxN][MaxN];int n

在cscode中通过maven创建java项目

在cscode中创建java项目 可以通过博客完成maven的导入 建立maven项目 使用快捷键 Ctrl + Shift + P 建立一个 Maven 项目 1 Ctrl + Shift + P 打开输入框2 输入 "> java create"3 选择 maven4 选择 No Archetype5 输入 域名6 输入项目名称7 建立一个文件目录存放项目,文件名一般为项目名8 确定

图神经网络模型介绍(1)

我们将图神经网络分为基于谱域的模型和基于空域的模型,并按照发展顺序详解每个类别中的重要模型。 1.1基于谱域的图神经网络         谱域上的图卷积在图学习迈向深度学习的发展历程中起到了关键的作用。本节主要介绍三个具有代表性的谱域图神经网络:谱图卷积网络、切比雪夫网络和图卷积网络。 (1)谱图卷积网络 卷积定理:函数卷积的傅里叶变换是函数傅里叶变换的乘积,即F{f*g}

poj 2431 poj 3253 优先队列的运用

poj 2431: 题意: 一条路起点为0, 终点为l。 卡车初始时在0点,并且有p升油,假设油箱无限大。 给n个加油站,每个加油站距离终点 l 距离为 x[i],可以加的油量为fuel[i]。 问最少加几次油可以到达终点,若不能到达,输出-1。 解析: 《挑战程序设计竞赛》: “在卡车开往终点的途中,只有在加油站才可以加油。但是,如果认为“在到达加油站i时,就获得了一