ETL 概念 ETL中三个字母分别代表的是Extract、Transform、Load，即抽取、转换、加载。（1）数据抽取：从源数据源系统抽取目的数据源系统需要的数据；（2）数据转换：将从源数据源获取的数据按照业务需求，转换成目的数据源要求的形式，并对错误、不一致的数
转载
2024-01-03 13:17:04
98阅读
一、目的数据研发规范化旨在为数据开发提供规范化的研发流程指导方法，目的是简化、规范化日常工作流程，提高工作效率，较少无效与冗余工作，赋能企业更强大的数据掌控力来应对海量增长的业务数据，从而释放更多的人力与财力专注于业务创新二、角色职责数据产品经理负责承接、评估业务方提出的数据需求，并组织需求评审、产出产品需求文档，同时需要把控其他更细化的技术评审。设计人员根据已定稿的产品需求文档所述需
1. 什么是ETL，ETL都是怎么实现的？ ETL中文全称为：抽取.转换.加载 extract transform load ETL是传数仓开发中的一个重要环节。它指的是，ETL负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。ETL
转载
2023-12-22 23:10:35
151阅读
1、实时数仓与离线数仓的区别1、架构上：实时数仓在离线数仓的基础上，数据集成改为实时的数据集成，例如采用canal、dts和消息中间件（kafka）来及时采集和更新数据。2、数据处理上：增加了流式ETL和流式汇总。离线数据仓库主要采用T+1的方式处理数据，即第二天处理前一天的数据（这里可以是天，周或者是年，看具体业务情况）。而实时数仓则需要在秒级别内实现对数据的处理，因此通常情况下，会使用flin
转载
2023-12-27 13:48:21
80阅读
一、数仓分层误区数仓层内部的划分不是为了分层而分层，分层是为了解决 ETL 任务及工作流的组织、数据的流向、读写权限的控制、不同需求的满足等各类问题。业界较为通行的做法将整个数仓层又划分成了 DWD、DWT、DWS、DIM、DM等很多层。然而我们却始终说不清楚这几层之间清晰的界限是什么，或者说我们能说清楚它们之间的界限，复杂的业务场景却令我们无法真正落地执行。所以数据分层这块一般来说三层是最基础的
转载
2023-10-17 19:21:39
429阅读
文章目录一、前言二、数仓建模三、数仓分层四、数仓的基本特征五、数据仓库用途六、数仓分层的好处七、如何分层 一、前言现在说数仓，更多的会和数据平台或者基础架构搭上，已经融合到整个基础设施的搭建上。这里呢，我们不说Hadoop各种组件之间的配合，我们就简单说下数仓分层的意义价值和该如何设计分层。二、数仓建模说到数仓建模，就得提下经典的2套理论：范式建模 Inmon提出的集线器的自上而下（EDW-DM
转载
2023-11-26 09:25:25
103阅读
01. 架构演进 离线数据仓库到实时数据仓库，从lambda架构到kappa架构、再到混合架构。
02. 逻辑分层 数仓分层，一般按ods->dw->dm整体架构。不同的企业，不同的业务场景，有衍生出不同的分层架构模式。例如经典四层架构：ods->dwd->dws-ads，bdl->fdl->gdl->adl等。
转载
2021-06-02 09:12:00
221阅读
第二章 数仓分层与规范定义 文章目录第二章 数仓分层与规范定义数仓分层与规范定义一、数仓分层二、设计规范1 公共规范1.1 数据划分及命名空间约定1.2 公共字段定义规范2 设计规范ods层dim层dwd层dws层 数仓分层与规范定义一、数仓分层现在数仓的技术选型主要有两种： 一种是自建的CDH集群，基于hive来搭建离线数仓，基于flink的搭建实时部分。 一种是基于阿里云的dataworks这
转载
2024-06-04 08:29:36
112阅读
数据仓库的项目的概况1. 项目适用于哪些行业？ 线上的互联网行业,例如淘宝,安居客等等2. 我准备选择一个什么样的业务公司来写这个项目？ 我准备选择一个线上的互联网公司根据公司所产生的埋点日志数据和业务数据做数仓项目3. 项目中主要开发哪些模块？分别有什么用途？ 数据仓库 用户画像 个性推荐 数仓:数据存储运算, 用户画像:根据埋点数据给用户贴标签 个性推荐:根据用户画像,精准的给用户进行精准投放
转载
2024-01-08 22:29:38
95阅读
数据仓库更多代表的是一种对数据的管理和使用的方式，它是一整套包括了etl、调度、建模在内的完整的理论体系。现在所谓的大数据更多的是一种数据量级的增大和工具的上的更新。 两者并无冲突，相反，而是一种更好的结合。ODS全称是Operational Data Store，操作数据存储；这一层面的数据却不等同于原始数据。在源数据装入这一层时，要进行诸如去噪（例如去掉明显偏离正常水平的银行刷卡信息）、去重（
转载
2023-11-27 16:47:10
109阅读
数仓概念定义数据仓库是一个面向主题的、集成的、随时间变化的、但信息本身相对稳定的数据集合，用于对管理决策过程的支持。（看不懂接着往后看）数仓和数据库 数据库：二维表以及表中全部字段。表与表之间存在关系（可以是多维关系），所以常见的数据库都是用来做业务数据库。而业务数据库中的数据结构是为了完成业务而设计的，数据流和业务流高度重合 -- 清晰的存储
转载
2023-10-15 15:53:13
128阅读
数仓分层的概念由于我们做数据分析，大体上在数仓中都是迭代的计算，这种计算就会分层次来进行。这种迭代，通用可以分为3个层级：ODSDWADSODS层Original data service原始数据层记录的是输入数据仓库数据的原始的样子或者经过少量的修改的样子基本上是和来源的地方一致作用：一种数据备份，数据溯源(迭代计算的起点)DW层Data Warehouse数据仓库层在这个层级内就开始进行数据的
转载
2023-11-02 00:05:29
204阅读
文章目录1. 什么是指标体系1.1. 指标体系定义1.2. 指标体系生命周期1.3. 综合使用场景2.为什么搭建指标体系3.何搭建指标体系3.1. 科学方法选指标3.2 用分析模型搭建指标体系3.3 场景化搭建指标体系3.3.1 人的视角3.3.2 货的视角3.3.3 场的视角 指标体系是什么？如何使用OSM模型和AARRR模型搭建指标体系？如何统一流程、规范化、工具化管理指标体系？本文会对建设
转载
2024-07-02 21:08:19
149阅读
数仓规划建议1、将数仓平台账号收归统一管理，防止出现同一张业务表被重复同步到数仓平台或者自己的业务流程被别人误运行。（有些业务流程是不能被重复运行的） 2、对数仓平台的表命名进行统一规范。针对ods、dw、ads 层级最好加上对应前缀，方便区分层级和分析。针对ods层，因为这个是拉取业务系统的表，我们业务系统非常多和复杂，所以我们是会加上库名_t_表名。 3、对目前的存在的表进行排查，同一张业务表
转载
2023-11-26 12:48:29
100阅读
一、项目整体背景1、数据仓库 作为数据的管理和运算中心； 数据存档； 各种统计、运算任务的核心平台；2、用户画像系统 含义：深入分析用户后给用户打上各种规范标签：年龄，性别，地域特征，偏好特征，价值指数，行为习惯，消费习惯… 作用：对用户进行精准营销，用于支撑精细化营运；比如，针对不同的人群发放不同的优惠券； 比如，针对不同的人群定制不同的打折规则； 比如，针对不同的人群推行不同的营销活动； 比如
转载
2023-12-12 12:46:18
105阅读
数据仓库的发展是由最早的管理主文件的磁带文件系统发展而来的。从磁盘存储取代了磁带存储之后出现了DBMS，再之后出现了OLTP，伴随着第四代编程语言的出现和PC的跨越性升级，为了保证数据的完整性，数据仓库应运而生伴随着CIF的加入，数据仓库进入了2.0时代。数据仓库需要一整套的基础设施，其中包括：ETL、数据集市、维度模型、ODS等等，以下是居于互联网的大数据数仓模型：数据仓库2.0增加了许多重点：
转载
2024-02-05 01:12:20
65阅读
一、数仓的意义为什么要有数据仓库 说起数据仓库存在的意义就必须得说企业面临的数据问题。结构复杂
数据脏乱
理解困难
缺少历史
总结一句话就是：多源异构、脏乱差的数据现象。数据仓库的价值体现效果
诊断
预警二、数据体系数据体系构成常见技术架构 偏离线：适用于业务初期，迅速形成数仓雏形，快速交付满足业务 离线+实时：适合业务中后期，形成扩展性极强的技术架构 偏实时：适合特殊业务，例如：广告
转载
2023-12-02 20:11:19
104阅读
今天我们来聊聊在数仓模型中举足轻重的维度建模。简单而言，数据仓库的核心目标是为展现层提供优质服务。其中包含ETL过程、数仓规范、数仓分层等建设流程，最终提供更清晰易用的展现层。维度建模的领域主要适用于数据集市层，它的最大的作用其实是为了解决数据仓库建模中的性能问题。1 数仓架构原则 在谈论维度模型前，我们先来聊聊数仓架构。数仓模型不只是考虑如何设计和实现功能，设计原则应该从访问性能、数据成本、使用
转载
2024-01-08 13:38:01
60阅读
自从Google在2006年之前的几篇论文奠定云计算领域基础，尤其是GFS、Map-Reduce、 Bigtable被称为云计算底层技术三大基石。GFS、Map-Reduce技术直接支持了Apache Hadoop项目的诞生。Bigtable和Amazon Dynamo直接催生了NoSQL这个崭新的数据库领域，撼动了RDBMS在商用数据库和数据仓库方面几十年的统治性地位。FaceBook的Hive
转载
2023-08-24 15:55:03
98阅读
本实验将应用OushuDB数据库，为一个销售订单系统建立数据仓库。通过这个简单的示例，讨论如何利用OushuDB提供的特性，在Hadoop上建立数据仓库系统。本篇说明示例的业务场景、数据仓库架构、实验环境、源和目标库的建立过程、测试数据和日期维度的生成。后面陆续进行初始ETL、定期ETL、调度ETL工
转载
2024-09-01 18:45:04
49阅读
