1.离线数仓离线数仓架构基本都是基于 Hive进行构建，数据分层方式如下：ODS Operational Data store，贴源层（原始数据层）从各个业务系统、数据库或消息队列采集的原始数据，只做简单处理，尽可能维持数据原貌DWDData Warehouse Detail，数据明细层将贴源层的原始数据进行清洗补全后存入该层，数据粒度保持不变DIM Dimension，维度层根据数据的实际情况抽
转载
2023-09-22 16:11:10
155阅读
目录0. 相关文章链接1. 数据仓库在整个应用中的位置2. 此次重构的数据仓库具体分层架构3. 数据仓库为什么要分层4. 此次重构的数据仓库命名规范4.1. 表命名4.2. 表字段类型0. 相关文章链接 离线数仓文章汇总 1. 数据仓库在整个应用中的位置 数据仓库在企业是处于非常重要的位置；往前接收经由埋点而获取的用户行为日
1、hive环境搭建1.1、hive引擎简介Hive引擎包括：默认MR、tez、sparkHive on Spark：Hive既作为存储元数据又负责SQL的解析优化，语法是HQL语法，执行引擎变成了Spark，Spark负责采用RDD执行。Spark on Hive : Hive只作为存储元数据，Spark负责SQL解析优化，语法是Spark SQL语法，Spark负责采用RDD执行。1.2、hi
目录前言一、DWD 层 (用户行为日志)1. 日志解析思路2. get_json_object 函数使用3. 启动日志表4. 页面日志表5. 动作日志表6. 曝光日志表7. 错误日志表8. DWD 层用户行为数据加载脚本二、DWD层 (业务数据)1. 评价事实表 (事务型事实表)2. 订单明细事实表 (事务型事实表)3. 退单事实表 (事务型事实表)4. 加购事实表 (周期型快照事实表，每日快照
目录前言一、ODS层 (用户行为数据)1. 创建日志表 ods_log2. Shell 中单引号和双引号区别3. ODS 层日志表加载数据脚本二、ODS 层 (业务数据)1. 创建业务表2. ODS 层业务表首日数据装载脚本3. ODS层业务表每日数据装载脚本 前言保持数据原貌不做任何修改，起到备份数据的作用。数据采用 LZO 压缩，减少磁盘存储空间。100G 数据可以压缩到 10G 以内。创建
Hive离线数仓
总体架构尚硅谷离线数仓5.0总体架构图用户行为采集平台本项目收集和分析的用户行为信息主要有页面浏览记录、动作记录、曝光记录、启动记录和错误记录。用户行为采集平台 - 核心本地磁盘 -> 采集Flume + Kafka + 消费Flume-> HDFS采集FlumeTailDir Source优点：断点续传（通过保存文件实现）
面试题问题1：in exists 的区别 not in 和 not exists的区别？答案：n 是一个集合运算符. a in {a,c,d,s,d…} 这个运算中,前面是一个元素,后面是一个集合,集合中的元素类型是和前面的元素一样的. 而exists是一个存在判断,如果后面的查询中有结果,则exists为真,否则为假.not in 和not exists如果查询语句使用了not in 那么内外表
1、数仓的概述 数仓主要是用于数据的存储、管理和分析 数仓与关系型数据库最大的区别在于能够存储历史数据,后续可以将数据按照时间曲线分析。 2、数仓的架构 日志数据->日志服务器本地磁盘[多台]->flume->kafka->flume->HDFS->HIVE[ODS/DWD/DIM/DWS/ADS] ->DATAX ->MYSQL ->可视化
1.1 分桶表1.1.1 分桶表概念 分区和分桶可以同时，分桶是更细粒度的分配方式。分区是追求效率，分桶又解决什么问题呢？海量数据的分开存储。 对于每一个表（table）或者分区， Hive可以进一步组织成桶，也就是说桶是更为细粒度的数据范围划分。Hive也是针对某一列进行桶的组织。Hive采用对列值哈希，然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中。 把表（或
转载
2023-07-12 16:35:24
144阅读
# 替换Hive的离线数仓新技术探讨
在大数据生态系统中，Apache Hive 曾经是构建离线数仓的主流选择。随着数据量的增加和业务需求的变化，Hive 在某些方面如性能和灵活性上逐渐显露出短板，促使我们寻求更优秀的替代方案。本文将介绍一些替代 Hive 的新技术和工具，并通过代码示例和类图解释其背后原理。
## 替代技术概述
在 Hive 的传统体系下，大多数的查询是通过 MapRedu
小节一：数仓介绍小节二：离线数仓应用应用架构本小结介绍下离线数仓的一个应用架构一个简单的离线数仓架构图如下这里粗粒度的划分了异构数据源、数据传输、数据仓库、应用分析、及整体管理几层。其中源数据主要指的数仓的数据来源，有数据库数据、文件类型数据、还有接口等http传输的数据。数据库数据大多都是业务的数据，例如mysql、oracle等；文件类型大多是日志数据、离线csv等格式化数据；http传输主要
转载
2023-08-08 11:12:56
252阅读
声明: 1. 本文为我的个人复习总结, 并非那种从零基础开始普及知识 内容详细全面, 言辞官方的文章 2. 由于是个人总结, 所以用最精简的话语来写文章 &nbs
数据仓库的概念，最早是在1991年被提出，而直到最近几年的大数据趋势下，实时数据处理快速发展，使得数据仓库技术架构不断向前，出现了实时数仓，而实时数仓又分为批数据+流数据、批流一体两种架构。1、离线数仓 离线数仓，其实简单点来说，就是原来的传统数仓，数据以T+1的形式计算好放在那里，给前台的各种分析应用提供算好的数据。到了大数据时代，这种模式被称为“大数据的批处理”。 只不过原本的单
1. 什么是数据湖1.1 什么是数据湖数据湖是一个集中式的存储库，允许以任意模式存储多个来源，所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析，对数据进行加工，例如：大数据处理，实时分析，机器学习，以指导做出更好的决策。1.2 大数据为什么需要数据湖当前基于Hive的离线数据仓库已经非常成熟，在传统的离线数据仓库中对记录级别的数据进行更新是非常麻烦的，
一、数仓搭建 - DWS 层1.1 业务术语1）用户 用户以设备为判断标准，在移动统计中，每个独立设备认为是一个独立用户。Android 系统根据 IMEI 号，IOS 系统根据 OpenUDID 来标识一个独立用户，每部手机一个用户2）新增用户 首次联网使用应用的用户。如果一个用户首次打开某 APP，那这个用户定义为新增用 户；卸载再安装的设备，不会被算作一次新增。新增用户包括日新增用户、周新增
数据仓库概念的提出都要追溯到上世纪了，我们认为在大数据元年之前的数仓可以称为传统数仓，而后随着海量数据不断增长，以及Hadoop生态不断发展，主要基于Hive/HDFS的离线数仓架构可以兴起并延续至今，近几年随着Storm/Spark（Streaming）/Flink等实时处理框架的更新迭代乃至相互取代，各厂都在着力构建自己的实时数仓，特别是近两年，随着Flink声名鹊起，实时数仓更是名声在外并且
实时数据仓库的发展、架构和趋势 这篇文章从实时数仓开始讲到批流一体，谈了谈对大数据架构体系发展趋势的看法。文章最后讲到了基于数据湖Iceberg实现的存储层统一方案，以及要实现此方案Iceberg需要满足的一些技术上的要求，引出本专题的主角Iceberg。为什么要写这样一个专题？一方面是因为目前自己主要负责这块的工作，算是一个工作的总结和整理；另一方面也是希望能够让更多大数据相关的业务同学了解Ic
移动智能应用可以分为在线模式、纯离线模式与“在线+离线”混合模式。在线模式下系统数据一般存储在服务器端的大中型数据库（如 SQL Server、Oracle、MySQL 等），移动应用依赖于稳定可靠的网络连接；纯离线模式下系统数据一般存储在移动终端的轻量级数据库（如 SQLite等），移动应用不需要网络连接；“在线+离线”混合模式则比较复杂，通常情况下系统数据存储在服务器端，移动终端暂存部分数据，
# 实时数仓和离线数仓都用 Hive 吗？
在现代数据处理与分析中，数据仓库的概念越来越重要。实时数据仓库和离线数据仓库都起到关键作用，而 Apache Hive 是一个强大的工具，可以用来实现这两种仓库。本文将为你介绍如何使用 Hive 来搭建实时和离线数据仓库，并通过具体步骤和代码示例来帮助你理解整个流程。
## 流程概述
在实现一个数据仓库的过程中，大致可以分为以下几个步骤：
| 步
目录前言：1.实时数仓1.02.实时数仓2.03实时数仓3.0 前言：数据处理现状：当前基于Hive的离线数据仓库已经非常成熟，数据中台体系也基本上是围绕离线数仓进行建设。但是随着实时计算引擎的不断发展以及业务对于实时报表的产出需求不断膨胀，业界最近几年就一直聚焦并探索于两个相关的热点问题：实时数仓建设和大数据架构的批流一体建设。1.实时数仓1.0传统意义上我们通常将数据处理分为离线数据处理和实
