业精于勤而荒于嬉,行成于思而毁于随。



漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库


漫谈 | 大牛带你从0到1构建数据仓库实战_建模_02

本文从数仓架构之流派之争,数仓建设之三步调研,划分主题域和总线矩阵,数仓架构之美,数据治理和数据质量等全局展开。

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_03

数据仓库是一个面向主题的(Subject Oriented)、集成的(Integrate)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策。

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_04

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_05

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_06

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_07

Inmon:数据仓库之父,中央集权的战略家!

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_08

Kimball:数据仓库大师,分而治之的战术家!践行家!

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_09

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_10

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_11

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_12

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_13

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_14

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_15

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_16

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_17

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_18

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_19

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_20

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_21

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_22

漫谈 | 大牛带你从0到1构建数据仓库实战_数据仓库_23

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_24

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_25

秦始皇:在中央实行三公九卿,地方废分封、立郡县,同时 书同文,车同轨,统一度量衡。

数仓建设:整体架构分4层12个主题,逆规范化、维度建模,同时 统一模型规范,开发规范,数据类型等。。。

类比一下,就会发现:历史总是惊奇的相似!

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_26

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_27

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_28

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_29

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_30

一句话总结数仓建设:通过三步调研(业务调研、需求调研、数据调研),划分主题域,确定主题。然后构建总线矩阵,维度建模(星型模型、四步建模)。设计数仓分层架构(ods-dwd-dws-ads),定制规范(命名规范、模型规范、开发规范、流程规范)。数据治理(数据质量,数据安全,元数据管理)。开工ETL/BI,迭代开发。

* * 开发团队必须严格的按照这个体系结构来进行数据集市的迭代开发。

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_31

漫谈 | 大牛带你从0到1构建数据仓库实战_Python_32

漫谈 | 大牛带你从0到1构建数据仓库实战_建模_33