​ETL架构师面试题
原创
2014-10-30 21:47:01
3896阅读
以下是个人项目中用到的技术点和大家讨论一下，还望和大家一起相互学习垃圾回收算法 首先一个对象是否被回收的话要看这个内存对象是否有被GCROOT对象引用。 标记-清除算法：对堆内存里面GCROOT对象无法达到的进行标记，然后清除。CMS垃圾收集器就是用了这个算法。 标记-整理算法：对堆内存里面GCROOT对象无法达到的进行标记，把存活的对象放在内存的一端，对另一端进行清理。serial old收集器
转载
2024-07-01 16:33:52
33阅读
不懂的地方：与存放DW的数据库系统相同的数据源——这是什么0.0ETL概念：ETL是数据从业务系统抽取转化到数据仓库的过程，包括4个子过程：数据抽取、数据转换、数据清洗、数据装载开发一个数据仓库包括3个步骤——需求/建模、ETL开发、前端开发1、数据抽取：数据源接口从业务系统中抽取数据，为数据仓库输入数据抽取接口：数据库接口、文件接口抽取策略：抽取方式、抽取时机、抽取周期抽取方式：增量抽取、完全抽
转载
2024-01-02 21:59:16
38阅读
ETL构建企业级数据仓库五步法在数据仓库构建中，ETL贯穿于项目始终，它是整个数据仓库的生命线，包括了从数据清洗，整合，到转换，加载等的各个过程，如果说数据仓库是一座大厦，那 么ETL就是大厦的根基，ETL抽取整合数据的好坏直接影响到最终的结果展现。所以ETL在整个数据仓库项目中起着十分关键的作用，必须摆到十分重要的位 置。一、什么是ETLETL是数据抽取（Extract）、转换（Transfor
转载
2024-06-20 10:18:04
79阅读
前言Kettle是一款国外开源的ETL工具，纯java编写，可以在Window、Linux、Unix上运行。说白了就是，很有必要去理解一般ETL工具必备的特性和功能，这样才更好的掌握Kettle的使用。今天主要先描述ETL工具的通用功能。一、连接 任何ETL工具都应该有能力连接到类型广泛的数据源和数据格式。对于最常用的关系型数据库系统，还要提供本地的连接方式（如对于Oracle的OCI）
转载
2023-07-11 22:40:17
122阅读
概述 ETL(即数据抽取、转换、装载的过程)，对于企业或行业应用来说，我们经常会遇到各种数据的处理，转换，迁移，所以了解并掌握一种etl工具的使用，必不可少。kettle是纯java编写，支持图形化的GUI设计界面，然后可以以工作流的形式流转，在做一些简单或复杂的数据抽取、质量检测、数据清洗、数据转换、数据过滤等方面有着比较稳定的表现，下面一起来看下吧。Kettle概念Kettle是一款国外开源的
转载
2023-07-11 20:21:23
84阅读
新的一年已经开始，不知道大家有没有定好小目标。如果2019年还没有决定学什么，那么你来对地方了。在今天的文章中，我将分享一些你可以学习的最好框架，以提升你在移动和Web开发以及大数据技术方面的知识。 在当今世界，对各种框架的了解是非常重要的。它们使你可以快速开发原型和实际项目。如果你在创业公司工作，那么你肯定希望能够立马装备一些炫酷的东西，那正是框架知识发光发热的地方。如果你被困在一些无
转载
2024-10-01 11:00:32
16阅读
最近在数据库库领域新设置的职位elt工程师，大家想多了解下么？ETL（数据仓库技术）ETL，是英文Extract-Transform-Load的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较常用在数据仓库，但其对象并不限于数据仓库。ETL是构建数据仓库的重要一环，用户从数据源抽取出所需的数据，经过数据清洗,最终按照预
原创
2018-01-23 09:45:08
1816阅读
一、Kettle简介： ETL是EXTRACT（抽取）、TRANSFORM（转换）、LOAD（加载）的简称，实现数据从多个异构数据源加载到数据库或其他目标地址，是数据仓库建设和维护中的重要一环也是工作量较大的一块。当前知道的ETL工具有informatica, datastage,kettle,ETL Automation,sqoop,SSIS等
转载
2023-07-11 22:41:23
118阅读
一文看懂ETL~~
转载
2021-08-11 15:10:11
3037阅读
ETL（Extract-Transform-Load ）用来描述将数据从来源端经过萃取（Extract）、转置（Transform）、加载（Load）至目的端的过程，是构建数据仓库重要的一环，是商业智能的核心和灵魂。ETL特色功能管理简单：采用元数据方法，集中进行管理；接口、数据格式、传输有严格的规范；尽量不在外部数据源安装软件；数据抽取系统流程自动化，并有自动调度功能；抽取的数据及时、准确、完整
转载
2023-10-08 00:25:24
83阅读
最近写了一个针对数据仓库ETL的测试框架，baidu google了一下发现还没有非常靠谱的同类型框架或解决方案，就忍不住提前分享一下（其实是因为周五下午不想干活）。
首先分享一下我们过去测试ETL的方法：很简单，就是写两段SQL分别query上下两层数据，然后通过数据库的minus方法来得到不符合预期的数据，进而进行分析。例如
-- Source
转载
2023-08-31 18:19:57
203阅读
Java架构师-基础篇想成为一名Java架构师，以下概念是基础中的基础。(持续补充中)1. JAVA SE, EE, ME1998年12月份Sun公司公布的Java 1.2版本，同时将它的名字改称为“Java 2软件开发工具箱1.2”。它的后续版本也通常被称为“Java 2标准版”（J2SE）。在J2SE的推出的同时，还推出了“Java 2微缩版”（J2ME）和“Java 2企业版”（J2EE）。
转载
2023-07-11 22:46:39
85阅读
ETL，全称 Extract-Transform-Load，它是将大量的多个来源的原始数据经过提取（extract）、清洗加转换（transform）、加载（load）到目标存储数据仓库或数据湖的过程；
在21世纪大数据时代，我们的系统中有来自各种来源的结构化和非结构化数据，包括：来自在线支付和客户关系管理（CRM）系统的客户数据、来自供应商系统的库存和
转载
2023-07-11 22:35:37
104阅读
数据仓库是由外部多个数据源汇总集成的，“集成”这个词代表并不是简单的堆积，而是需要进行一些逻辑处理，数仓的集成就是这样，因为外部数据源都是异构的，所以需要做很多工作才可以进行集成，这些工作包括但不限于：字段的意义统一，轻度统计等。抽取数据有如下策略：时间戳判断扫描增量文件日志文件，审计文件扫描修改应用程序（很少使用）映像文件扫描（很少使用）另外，抽取的数据需要增加时间戳（必须的），存储到介质里面需
转载
2024-03-04 02:30:29
80阅读
1. 安装4.0框架ETL的正运行前提是操作系统中已经安装有4.0框架。如果没有，请在运行ETL工具前将其提前安装。2. 解压ETL工具安装包将接收到的ETL工具压缩包解压到本地3. 安装建库脚本在oracle库中创建新用户，一般用户名为SJTB,然后在在ETL所在的目录下找到【建库脚本oracle.sql】，将该脚本其在SJTB用
转载
2023-08-31 08:28:17
180阅读
一、ETL概念 ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程，目的是将企业中的分散、零乱、标准不统一的数据整合到一起，为企业的决策提供分析依据， ETL是BI（商业智能）项目重要的一个环节。二、E-T-L架构分类 ETL所描述的过程，一般常见的作法包含ETL或
转载
2023-09-28 08:31:01
185阅读
常用的数据集成ETL工具有哪些？ETL工具用于将异构数据转换为同类数据，然后由数据科学家用于从数据中获得有价值的数据，常用的ETL工具有Microsoft-SQL Server集成服务、AWS Glue、Apache NiFi、Informatica PowerCenter、IBM的Infosphere Information Server等。ETL工具是什么呢？ETL是英文Extract-Tra
转载
2023-08-14 12:10:20
106阅读
为什么使用geventPython通过yield提供了对协程的基本支持，但是不完全。比如python的yield虽然提供了对协程的支持，但是需要用send手动发送数据(比如io操作时的切换，需要发送 “耗时操作完成”告诉程序可以继续往下走)，才能改变程序的执行流程，，而第三方的gevent为Python提供了比较完善的协程支持。gevent的优点gevent是第三方库，通过greenlet实现协程
转载
2024-07-03 07:45:52
65阅读
日志采集、加工、分析、归档有着一套流程。
转载
2017-07-05 22:39:00
402阅读
2评论
