DAY：4 MySQL 数据库的建立及简单实用## 1、MySQL 数据库的建立1.1、拉取 MySQL 镜像在 docker 中拉取镜像 msql:5.7 这里我们使用的是 mysql 的5.7版本docker pull mysql:5.71.2、启用容器，配置 mysql 数据库docker run -p 3306:3306 #映射到主机端3306端口
--name mysql
转载
2023-06-17 22:20:09
410阅读
为了方便公司的数据分析平台的独立运行和数据挖掘的探索，今年上半年在公司搭建了支持数据平台和数据挖掘的数据仓库；现就数据仓库的创建工作总结如下，供大家参考： 首先介绍下数据仓库搭建的缘由： 公司创建两年，用户量不多，也有几十万吧，就我来的时候，公司功能性平台基本上都有，例如：用户
转载
2023-10-10 20:56:19
265阅读
建设数据仓库 建立数据仓库是一个解决企业问题的过程，业务人员往往不懂如何建立和使用数据仓库，发挥其决策支持的作用;信息部门的人员往往又不懂业务，不知道应该建立哪些决策主题，从数据源中抽取哪些数据。因此数据仓库的项目小组应该由业务人员和信息部门的人员共同组成，双方需要相互沟通，协作开发数据仓库。 开发数据仓库的过程包括以下几个步骤。 1
转载
2023-09-02 13:18:32
88阅读
如何搭建一个数据仓库？ 下面大体说明了搭建的流程。数据仓库的结构用一幅图来表示：数据仓库的好处数据仓库是一套体系。可以建在Oracle上，MySQL上，Hive上，MaxCompute上，具体建在哪个平台根据数据量来定。对数据仓库来说，建在哪个平台不重要，重要的是目的。 数据仓库的目的，是对组织的数据进行统一的治理，归纳来讲，就是：存、通、用。存：是指数据的统一存储。数据放在一起了，meta才能在
转载
2023-08-12 10:49:07
123阅读
使用到的阿里云服务：DTS：数据同步，可以做数据增量与全量同步，增量同步是监控MySql的binlog日志做的增量。DataWorks:集调度运维一体化平台，可以调度已创建好的任务，有自己的调度中心和运维中心、数据中心。MaxCompute:离线数据计算引擎，类似于spark、flink，只不过MaxCompute(简称：MC)是阿里云自己开发的计算引擎，目前MC服务已覆盖全球16个国家和地区，客
转载
2023-11-03 17:52:28
67阅读
常用的构建数据仓库的流程【数据调研】 数据调研重点要做两项工作，分别是业务调研和需求分析。这两项工作做的是否充分，直接影响着数据仓库的质量。 1、业务调研 业务调研的主要目标是熟悉业务流程、熟悉业务数据。 熟悉业务流程要求做到，明确每个业务的具体流程，需要将该业务所包含的每个业务过程一一列举出来 熟悉业务数据要求做到，将数据（包括埋点日志和业务数据表）与业务过程对应起来，明确每个业务过程会对哪些表
转载
2023-08-12 12:06:17
127阅读
目录1 数据仓库概念1.1 什么是数据仓库1.2 OLTP与OLAP2 项目需求及架构设计3 项目框架4 框架版本选型4.1 Hadoop版本综述4.2 社区版与第三方发行版的比较4.2.1.Apache社区版4.2.2.第三方发行版（CDH/HDP/MapR）4.3 第三方发行版的比较4.4 版本选择5 服务器选型6 集群资源规划设计7 测试集群服务器规划1 数据仓库概念数据仓库，英文名称为Da
转载
2023-08-02 15:38:59
186阅读
文章目录（一）什么是数据仓库（二）数据仓库基础知识（三）数据仓库建模方式（1）星行模型（2）雪花模型（3）星型模型 VS 雪花模型（四）数据仓库分层（1）为什么要分层（2）数据仓库分层设计（3）DWD数据清洗原则（4）数据仓库命名规范（5）典型的数据仓库系统架构（五）项目需求分析 （一）什么是数据仓库我们前面学习过Hive，说Hive其实就是一个数据仓库，可以这样理解，就是把Hive认为是一种技
转载
2023-10-11 10:03:54
124阅读
一个典型的企业数据仓库通常包含数据采集、数据加工和存储、数据展现等几个过程，本篇文章将按照这个顺序记录部门当前建设数据仓库的过程。1. 数据采集和存储采集数据之前，先要定义数据如何存放在 hadoop 以及一些相关约束。约束如下：所有的日志数据都存放在 hdfs 上的 /logroot 路径下面hive 中数据库命名方式为 dw_XXXX，例如：dw_srclog 存
转载
2023-08-09 23:04:24
137阅读
关于星型模式 在数据仓库的构建中, 如下图所示的星型模式几乎是最常用到的。之所以称之为星型模式，是因为该模式中的E-R图形状如星(感觉这麽说有些怪怪的)。 如图所示，中心是一个大的事实表，周围是一些维表。事实表包含数据仓库的主要信息，每个维表包含该事实表的特定属性。 星型查询是一个事实表和一些维
转载
2023-10-02 21:11:49
96阅读
内容概览：数据仓库是什么上游数据从哪儿来数据仓库的结构设计基础数据层主题统计层主题标签层主题汇总层表命名规则和数仓的使用规范内容正文：一、数据仓库是什么数据仓库即Data Warehouse，简称为DW，是一套分主题搭建的数据库，可用来支持后续数据查询分析、OLAP系统建设以及实时数据建模等工作。由于DW数仓通常搭建在Hadoop集群上，所以背后还有很多Hadoop集群性能和特点需要同时关注和了解
转载
2023-09-17 16:00:02
110阅读
# 基于MySQL搭建数据仓库
## 介绍
数据仓库是一个用于存储和管理大量结构化和非结构化数据的系统。它可以帮助企业通过数据分析和决策支持来提高业务绩效。在数据仓库中，数据是按照主题进行组织和存储的，而不是按照应用程序或者功能进行组织。这篇文章将介绍如何使用MySQL来搭建一个简单的数据仓库，并提供一些基本的代码示例。
## 数据仓库架构
下面是数据仓库的基本架构示意图：
```mer
原创
2023-11-01 09:52:29
658阅读
# MySQL数据仓库搭建案例
随着数据量的不断增加，数据仓库的建设变得愈发重要。MySQL是一个功能强大的关系型数据库管理系统，可以用来构建数据仓库。在本文中，我们将介绍如何使用MySQL搭建一个数据仓库，并附上代码示例。
## 数据仓库搭建流程
为了更好地说明MySQL数据仓库的搭建过程，我们将使用一个旅行网站的数据仓库作为案例。下面是搭建流程的流程图：
```mermaid
flow
原创
2024-06-16 05:35:38
103阅读
需要mysql 和SQLyog的安装文件 一、mysql的安装。 选择安装类型 1、选择安装类型，有“Typical（默认）”、“Complete（完全）”、“Custom（用户自定义）”三个选项 一般
转载
2024-04-07 23:25:46
57阅读
# 数据仓库搭建概述
数据仓库是一个用于存储和管理大量数据的系统，旨在支持数据分析和决策制定。与传统的数据库不同，数据仓库通常是以主题为中心，采用不同的数据建模技术进行设计。本文将简要介绍数据仓库的搭建过程，并提供一些基本的代码示例。
## 数据仓库搭建流程
搭建数据仓库的流程通常包括以下几个步骤：
1. **需求分析**
2. **数据建模**
3. **数据提取、转换、加载（ETL）*
一、flink整合hive的catalog flink的元数据需要存放在hive中，需要创建hive的catalog（可以理解为一个flink中的数据库）-- 进入sql客户端
sql-client.sh
-- 创建hive catalog
CREATE CATALOG hive_catalog WITH (
'type' = 'hive',
'default-databas
转载
2022-08-16 11:14:00
174阅读
文章目录0. B站相关课程链接 和 搭建数据仓库资源及脚本下载食用指南：建议先把博客整体看一遍之后再进行操作文章最后有常见问题及解决方法1. 项目介绍及整体流程1.1项目介绍1.2 数据仓库架构1.3 环境规划1.4 整体开发流程2. 环境准备01-02（虚拟机和FinalShell或Xshell）2.1 软件下载2.2 安装Virtual Box及导入OVA镜像2.3 修改虚拟机静态IP地址2
目录1 数据仓库概念1.1 什么是数据仓库1.2 OLTP与OLAP2 项目需求及架构设计3 项目框架4 框架版本选型4.1 Hadoop版本综述4.2 社区版与第三方发行版的比较4.2.1.Apache社区版4.2.2.第三方发行版（CDH/HDP/MapR）4.3 第三方发行版的比较4.4 版本选择
原创
2021-06-30 20:37:31
512阅读
# 搭建数据仓库的基本概念与实践
数据仓库（Data Warehouse）是一种用于存储和分析大量结构化和半结构化数据的系统。它从多个数据来源提取数据，经过清洗、转化后存储在一个中央位置，便于企业决策支持和数据分析。本文将通过一个简单的代码示例，介绍如何搭建一个数据仓库。
## 数据仓库的基本概念
**数据仓库的特点**有以下几点：
1. **主题导向**：以业务主题为中心，不同于传统的数
接上一篇数据仓库知识点梳理(3)对数据立方体和MDX的介绍，本文将在本地Windows环境上搭建基于数据立方体的数据分析平台。并对一个示例立方体进行多维度分析。环境配置软件下载和安装本文使用Pentaho的社区版本BI Server作为数据多维分析的工具，当前最新版本为7.1，更新日期为2017年5月22日。这个Pentaho出的另一个产品——「Pentaho Data Integration,
转载
2024-01-31 12:41:07
63阅读
