前几天徒弟让我给她说下数据库这本书。她提了几个问题。 1、触发器、视图、存储过程……简答题怎么答？
2、E-R模型为什么要转为关系模型？
3、函数依赖
&n
转载
2024-09-05 13:53:20
14阅读
系列专题：数据湖系列文章1. 背景 国内的大型互联网公司，每天都会生成几十、几百TB，甚至几PB的原始数据。这些公司通常采用开源的大数据组件来搭建大数据平台。大数据平台经历过“以Hadoop为代表的离线数据平台”、“Lambda架构平台”、“Kappa架构平台”三个阶段。 
转载
2023-08-16 22:23:02
401阅读
HUDI数据湖，俩个核心两点：1、采用读时模式设计，支持动态schema，动态表结构变更。（对比写时模式）2、标准化统一和解决了大规模的数据存储问题。3、高容错的任务调度管理策略，不用担心job失败重跑，也不用担心job重跑的效率问题。 下面一步步分析，离线数据仓库痛点有哪些？和思路1、job任务出问题，从出错的job重跑2、写时模式，表字段并更怎么办？3、多个存储如何打通？kafka不
转载
2024-05-30 11:09:42
127阅读
1、数据湖是什么？能干什么？为啥是数据湖？ 数据湖发展至今，已经成为一个当下大数据行业比较火爆的话题，并且很多大公司介入开始使用和研究，下面这篇博文带你深入了解相关的概念，有助2、从0到1本地搭建数据湖环境 本地
转载
2024-08-21 09:15:18
73阅读
一、数据湖的概念数据湖是一个集中式存储库，允许以任意规模存储所有结构化和非结构化数据。您可以按原样存储数据（无需先对数据进行结构化处理），并运行不同类型的分析 – 从控制面板和可视化到大数据处理、实时分析和机器学习，以指导做出更好的决策。是构建在低成本分布式存储之上，提供更好事物和性能支持的统一数据存储系统。典型分层如下图所示：最底层为存储层：一般依赖HDFS或者公有云存储（比如S3）保存数据；数
转载
2023-10-20 10:56:48
320阅读
网管产品需要从数据仓库的角度来看，才能获得完整的视图。数据集成真正从大数据的角度来看，才能明白其中的挑战。一个运行了20多年的数据架构，必然有其合理性。也正是因为年代久远，存量过多，才导致举步维艰。在Cloud和5G时代，超密度网络集成和大数据洞察需求给电信供应商带来新的挑战，从数据仓库到数据湖，不仅仅架构的变革，更是思维方式的升级。本文尝试梳理数据架构的演进过程。 &nbs
转载
2024-03-14 08:43:20
212阅读
1.数据仓库通常是业务发展到一定规模后，业务分析师、CIO、决策者们，希望从大量的应用系统、业务数据中进行关联分析，最终得到“干货”出来。比如为啥利润会下滑？为啥库存周转变慢了？向数据要答案，生成报告、图表出来给决策层汇报，辅助经营决策。可是，数据库“脑容量不足”，擅长事务性工作，不擅长分析型的工作，于是就产生了数据仓库。数据仓库相当于一个集成化数据管理的平台，从多个数据源抽取有价值的数据，在仓库
转载
2024-01-28 07:39:41
60阅读
数据湖是一个概念，基本的架构构成：分布式对象存储 + 多模态计算引擎 + 数据管理存储的数据视角：
多元异构的原始数据；用于报告、可视化、探索分析、机器学习的转换数据。应该具备的能力：
数据要转换，那就需要有支撑海量数据清洗转换的分布式计算能力；数据要产生价值，那就需要有技术门槛低的AI平台来做探索分析；数据治理的视角：
不同的海量数据共存
转载
2023-12-07 00:41:20
58阅读
数据仓库通过分层结构，使得每层数据都有特定的应用范围和职能，从而保证数据结构层次更清晰，结构更明确。使用时，数据表的层级划分能帮助用户快速理解和定位相关数据，减少查询复杂性。
层级划分能帮助用户快速理解和定位相关数据，减少查询复杂性。 ...
本文为系列文章第二篇，详细剖析了数据仓库分层下的技术架构，并附以以示例，希望能够为相关从业者提供数据湖仓设计与实践的系统指引。
本文为系列文章第二篇，详细剖析了数据仓库分层下的技术架构，并附以以示例，希望能够为相关从业者提供数据湖仓设计与实践的系统指引。 ...
系列专题：数据湖系列文章 随着互联网的加速发展和移动互联网的快速兴起，数据采集更方便、数据种类更丰富，行为轨迹、语音视频等非结构化数据爆发式增长，数据规模进一步扩大。在新形势下，传统的数据库、数据仓库等处理技术无法适应快速响应、实时分析的数据需求，难以处理日志、语音等非结构化数据，企业迫切需要一个新型大数据解决方案——“
转载
2023-09-21 07:43:21
119阅读
数据湖是非结构化和结构化数据池，按原样存储，没有特定的目的，可以建立在多种技术上，如Hadoop，NoSQL，Amazon Si
原创
2024-01-08 15:50:13
120阅读
自2010年国际上首次提出“数据湖”概念以来，数据湖就被视为大数据的终极挑战。所谓数据湖，即把所有的数据以原始格式存储在一个统一的地方，以供后续使用。数据湖的出现，是为了应对城市和企业无法及时处理各种海量数据而先行将数据存储起来，后续使用的时候随需取用。“数据湖”被视为打破城市和企业的数据孤岛的重要基础设施，而且由于“数据湖”中存储了全量全域数据而更能为人工智能所用，从而创造更大的价值，例如用人工
转载
2024-02-05 11:45:38
32阅读
最近几年数据湖热度很高，当搞大数据的同学聚在一起时候，经常会谈到这方面的话题，可能有的同学说“我们在做 Hudi 数据湖，你们用 Delta 还是 Iceberg？”，也会有同学说“我在阿里云上搞了一个OSS数据湖”、“什么，你们数据湖用 HDFS？”、“我们在阿里云上搞 JindoFS，优化数据湖”、“最近搞了个湖仓一体”等等的讨论。数据湖的相关讨论可以说是千人千面，每一个技术同学面对数据湖的时
转载
2024-01-24 22:05:27
111阅读
数据湖概述数据湖这一概念，最早是在2011年由CITO Research网站的CTO和作家Dan Woods首次提出。其比喻是：如果我们把数据比作大自然的水，那么各个江川河流的水未经加工，源源不断地汇聚到数据湖中。业界便对数据湖一直有着广泛而不同的理解和定义。“数据湖是一个集中化存储海量的、多个来源，多种类型数据，并可以对数据进行快速加工，分析的平台，本质上是一套先进的企业数据架构。”"数据湖"的
今天跟大家分享的大数据产品叫Apache Hudi，Hudi是Hadoop Updates and Incrementals的简写，它是由Uber开发并开源的Data Lakes解决方案。下面首先放一张Hudi在Hadoop体系架构中的位置图：1. 什么是数据湖？首先介绍一下什么是数据湖，提到数据湖，不得不说一下数据仓库。关系型数据库大行其道的年代，随着各个业务系统增多，在应对一些分析场景时，慢慢
转载
2023-08-11 11:18:22
230阅读
1. 背景 国内的大型互联网公司，每天都会生成几十、几百TB，甚至几PB的原始数据。这些公司通常采用开源的大数据组件来搭建大数据平台。大数据平台经历过“以Hadoop为代表的离线数据平台”、“Lambda架构平台”、“Kappa架构平台”三个阶段。 可以把数据湖认为是最新一代大数据技术平台
转载
2023-09-27 13:12:59
65阅读
1.数据湖的简单介绍：1.1 官网https://delta.io/看一张官网的图1.2 特点：1.不限格式，来之不拒，均可流入
2.集中存储、到处可访问。
3.高性能分析能力 -- 借助于Spark、MR、SparkSQL等高性能分析计算引擎，可以对海量的数据进行分析。
4.原始数据存储
5.数据湖是一个存储企业的各种各样原始数据的大型仓库，其中的数据可供存取、处理、分析及传输。1.3 数据湖，
转载
2024-04-09 19:45:05
162阅读
