最近因为做毕业论文，选了空间数据仓库方向 。刚开始对普通的商业数据仓库进行了了解，知道了OWB、Analysis Services、Congos、MicroStrategy。因为要做跟空间数据相关的，所以考虑选择Oracle或者SQL Server作为数据源。我的机器是512内存，cup才1.8，所以用了一段时间Oracle之后实在不能承受它那超级慢的速度，换成了SQL Server 2
数据仓库测试是指对数据仓库中的数据及其处理流程进行验证和确认的过程。数据仓库是一个用于集成和存储企业数据的系统，通过数据仓库测试可以确保数据仓库的正确性、完整性和可靠性，从而保证企业决策的准确性和可靠性。
数据仓库测试用例是为了验证数据仓库的各个模块和功能是否按照设计要求正常运行而设计的一系列测试脚本。这些测试用例包括数据加载、数据转换、数据清洗、数据查询等方面，通过执行这些测试用例可以发现数据
原创
2024-02-22 05:06:58
183阅读
一.文档编写目的为了指导和规范大数据测试人员对离线数仓的测试方法，减少因为数据测试不够严格，导致后期数据应用出现偏差和错误的情况。特别关注下后面的测试总结，是为了减少漏测，添加常见核心测试点，希望能够指导离线数仓测试人员。二.大数据测试类型1.功能测试通常是数据完整性测试，数据一致性测试，数据准确性测试，数据及时性测试，数据约束检查，数据存储检查，SQL文件检查，数据处理逻辑验证，调度任务检查a)
转载
2024-04-23 21:52:57
181阅读
dbmonster介绍dbmonster的相关资料都在安装包下的docs文件夹里什么是DBMonster？DBMonster是一个工具，可以帮助数据库应用程序开发人员调整数据库的结构，调整索引的使用，并在繁重的数据库负载下测试应用程序性能。 DBMonster根据需要生成随机数据，并将其放入SQL数据库。 它提供了一个非常可插拔的界面，易于使用。它是如何工作的？DBMonster的执行思路非常简单
特别说明：本文虽归类于原创，但并非原创，实收集整理于网络！一、数据库测试概论随着软件业的迅猛发展，我们的开发也从以前的单层结构进入了三层架构甚至现在多层架构的设计，而数据库从以前一个默默无闻的后台仓库，逐渐成为了数据库系统，而数据库开发设计人员成为了炙手可热的核心人员。以前我们往往把数据库操作写在应用层，从而提高各个模块的独立性和易用性，而现在越来越多的数据库操作被作为存储过程直接放在数据库上进行
转载
2023-08-22 06:22:46
62阅读
0x00 前言下面的内容，是笔者在学习和工作中的一些总结，其中概念性的内容大多来自书中，实践性的内容大多来自自己的工作和个人理解。由于资历尚浅，难免会有很多错误，望批评指正！概述数据仓库包含的内容很多，它可以包括架构、建模和方法论。对应到具体工作中的话，它可以包含下面的这些内容：以Hadoop、Spark、Hive等组件为中心的数据架构体系。各种数据建模方法，如维度建模。调度系统、元数据系统、ET
转载
2023-08-10 00:32:45
107阅读
PythonUiAutoTest项目目录1.cases: 测试用例存放目录2.Cases->unit_test->unit_test.py: 所有用例均继承此文件中的自定义unittest3.common: 项目公共方法4.Config->config.py：存放项目所有目录的路径信息5.Datas：存放了测试用例所需的测试数据，两种形式：1.py文件保存2.excel文件保存6
数据仓库是所有产品的数据中心，公司体系下的所有产品产生的所有数据最终都流向数据仓库，可以说数据仓库不产生数据，也不消费数据，只是数据的搬运工。 记得很久以前曾有一位前辈和我说过：“进来的数据是垃圾数据，出去也是垃圾数据”。在实际环境中，往往我们一条业务线会由多个不同的系统支撑组成（例如：很多电商后端业务线都区分为库存系统、售后系统、采购系统、CRM系统等）。这些系统由于本身设计的缺陷或业
转载
2023-07-22 14:08:20
151阅读
数据仓库大数据平台简介通常说的大数据平台主要包括三部分：数据相关的工具、产品和技术：批量数据采集传输sqoop，spark离线数据处理Hadoop，Hive，Spark实时流处理Storm，Spark Streaming，Flink数据资产：公司业务本身产生和沉淀的数据公司运作产生的数据（如财务、行政）第三方数据：外界购买、交换或者爬虫而来的数据数据管理：有了工具和数据，需要进行管理才能让数据价值
转载
2023-11-01 16:42:15
126阅读
大数据仓库是数据中台内容端建设的载体，将医保各业务数据
原创
2022-11-08 18:25:30
263阅读
数据仓库和技术首先对于数仓我们应该知道，相比较于传统数据库来说，它需要的操作要相对简单一些，在数仓中没有联机更新数据的需要，只有一些非常少的锁定需要 然后了解一下数据仓库都有什么需求1、管理大量的数据对于数仓而言，最本质的特点就是管理大数据量的数据，传统数据库一张表可能记录十万百万条数据，而数仓中一张hive表在TB级别是允许的 在谈及到数据仓库的时候，技术和效率是我们要考虑的，除此存储和处理的开
转载
2023-08-30 13:39:46
74阅读
1.数据立方体的有效计算 a.方体总数=∏（Li+1）（1<=i<=n）。其中Li为每个维的层数，n为维数。 b.方体的计算选择。 不物化：不预计算任何“非基本”方体。 完全物化：预计算所有方体，但是需要花费海量的空间来存储。 部分物化：有选择的计算方体的一个自己。 c.索引OLAP数据 为了提供有效的数据访问，数据仓库支持索引结构和物化视图即上面所述。
转载
2024-06-20 19:45:10
32阅读
1. 摘要对于大数据而言，数据仓库承载着整个企业的全业务的数据。早期数仓在关系型数据如Oracle，MySql上。到大数据时代，基于hadoop生态的大数据架构，数仓基本上都是基于hive的数仓。对于很多大数据开发者而言，特别是早期，很多开发者认为hive数仓就是和业务相关，隐射Hdfs数据文件的一张张表。针对于hive数仓而言，最终看到的确实是一张纸表，但这些表是如何根据业务抽象出来的、表之间的
转载
2023-08-09 23:05:35
306阅读
从结构的角度看，有三种数据仓库模型：企业仓库、数据集市、和虚拟仓库。企业仓库：企业仓库搜集了关于主题的所有信息，跨越整个组织。它提供企业范围内的数据集成，通常来自一个或多个操作的系统，或外部信息提供者，并且是跨功能的。通常，它包含详细数据和汇总数据，其大小由数千兆字节，到数百千兆字节，数兆兆字节，或更多。企业数据仓库可以在传统的大型机上实现，如UNIX 超级服务器或并行结构平台。它需要广泛建模，可
转载
2023-11-13 13:55:50
59阅读
大数据最全知识点整理-数据仓库篇1、什么是数据仓库（数仓的定义）2、数据仓库特点面向主题集成性稳定性反映历史变化3、数据库和数据仓库的区别4、数仓构建流程1) 数据调研、划分主题域2) 明确统计指标3) 构建总线矩阵4) 构建明细模型5) 构建汇总模型6) ETL以及代码实现7) 数仓应用、结果验证8) 数仓管理5、数仓分层概述6、数仓为什么要分层把复杂问题简单化清晰数据结构：空间换时间、减少重
转载
2023-09-13 12:37:58
166阅读
一般我们介绍一个事物的时候，都会从是什么、为什么、怎么样三个角度来阐述问题。对于我们用例图来说，除了这三个方面，还要加上一个何时画得问题。然而，这些知识都是比较基础的东西，网上的资料比比皆是，本文就不再赘述了。那么本文要讲什么呢？带领大家深入剖析一下用例图，重点介绍一下用例图和其它几种图的关系，或者说是用例图和程序的关系。 首先，我们用一个实例带领大家走进ＵＭＬ的世界。下图是一张最普通的
数据仓库为什么学习数据仓库数据仓库（DW）面向主题提取主题（一）提取主题（二）集成非易失随时间变化数据仓库和数据库的区别OLTP和OLAP的区别数据仓库分层数据仓库结构（一）数据仓库架构（二）数据仓库架构（三）数据仓库的解决方案数据ETLETL工具数据仓库的建模选择业务流程声明粒度确认维度确认事实星型模型（一）星型模型（二）雪花模型（一）雪花模型（二）示例数据抽取（一）数据分析（一）数据分析（二
转载
2024-01-16 01:06:19
43阅读
有网友问云计算，大数据，数据库，数据仓库之间是什么关系,在这里我就我的理解简单解释一下:首先简单的看一下云计算与大数据的概念.1)云计算:云计算本质上是一种计算资源集中分布和充分共享的效用计算模式,其中集中是为了计算资源的集约化管理,分布是便于扩展计算能力.集中分布式是针对云服务提供商的,充分共享是针对用户,在云计算中,虽然对于每个云用户来说都拥有一台超级计算机,但本质上,这些用户是充分共享了云服
转载
2023-10-27 02:06:11
49阅读
MPP 传统数仓：1 Oracle ：节点之间共享磁盘资源优点：很常见，学习资料广泛，运维方便。缺点：单个集群支持100左右节点，适合数据量小的场景2 DB2 ：集群版本DPF-IBM商业数据库，与IBM硬件兼容好，一般伴随商业选增中被企业使用；3 Teradata ：一体机形式销售自带数据引擎和查询工具，性能优秀，稳定易用，是大型企业商业数仓选型4 Greenplum ：开源产品 ，性价比高大数
转载
2023-09-05 20:08:54
120阅读
为什么要对数据仓库分层： a)用空间换时间，通过大量的预处理来提升应用系统的用户体验（效率），因此数据仓库会存在大量冗余的数据；b)如果不分层的话，如果源业务系统的业务规则发生变化将会影响整个数据清洗过程，工作量巨大c）通过数据分层管理可以简化数据清洗的过程，因为把原来一步的工作分到了多个步骤去完成，相当于把一个复杂的工作拆成了多个简单的工作，把一个大的黑盒变成了一个白盒，每一层的处理逻辑都相对简
转载
2023-09-06 16:27:06
140阅读
