一、为什么要分层

1)把复杂问题简单化: 将复杂的任务分解成多层来完成,每一层只处理简单的任务,方便定位问题。

2)减少重复计算:规范数据分层,通过的中间层数据,能够减少极大的重复计算,增加一次计算结果的复用性。

3)隔离原始数据:不论是数据的异常还是数据的敏感性,使真实数据与统计数据解耦开。

二、如何分层

数据仓库架构分层 数据仓库分层原理_建模

ODS层

1)保持数据原貌不做任何修改。

2)对数据采用压缩,减少磁盘空间

3)创建分区表,防止后续的全表扫描

DWD层

主要采用维度建模中的星型模型,核心思想是维度退化,尽量让所有事实表周围只有一级维度。

在维度建模的过程中经过了四步:

1)选择业务过程:在业务系统中,根据产品经理的需求,选择对应的业务线,每条业务线对应一张事实表。

2)声明粒度:选择最小的数据粒度,一般JAVAEE后台过来的数据都是最小粒度。

3)确定维度:根据需求,对维度表进行适当聚合,多个维度退化成一个维度,让事实表周围只有一级维度,避免后续大量的join操作,这也是星型模型的本质。

4)确定事实:其实就是确定各业务中的度量值,例如订单金额、下单次数等。

DWS和DWT都是按照主题创建的宽表。主题相当于观察问题的角度。对应着维度表。

DWS层

统计各个主题对象的当天行为,服务于DWT层的主题宽表。

DWT层

统计各个主题对象的累计行为。以分析的主题对象为建模驱动,基于上层的应用和产品的指标需求,构建主题对象的全量宽表。

ADS层

对各大主题进行指标计算,数据来源于DWS和DWT层。