随着Microsoft 也加入Hadoop 阵营，Hadoop 已经完全变成了DBMS 的好朋友了 , 2年之前的SIGMOD组织提出的“A Comparison of Approaches to Large-Scale Data Analysis”引发了关于并行数据库和MapReduce模型的讨论， 双方唇枪舌剑之后发现两个系统根本就是各有所长, DBMS 目前有些处理好的领域和商
转载
2023-12-26 21:09:02
51阅读
业务场景:大数据的挖掘的形式多种多样,即便是最基本的数据大处理技术,也应该关注全部数据而不是局部或者部分,以TOPN(排序取顶部N项目数据)为例,对全批量数据进行统计技术并筛选目标数据.数据格式: VERSION=1.0,PASSTIME=2016-11-3000:00:39 000,CARSTATE=
转载
2023-07-12 12:13:47
46阅读
第一部分 安装前准备1.安装hadoop今天刚刚学了hbase的一点基础，准备安装Hbase实际操练一下。因为安装hbase的前提条件是已经成功安装了hadoop，而且hadoop的版本要和hbase的版本相匹配。于是去官网查询了一下我安装的hadoop-3.1.0（目前是最新版）对应支持的hbase版本，然后。。。。。发现没有任何一版hbase是支持hadoop-3.1.0的，默默泪奔。。。。。
转载
2024-06-05 07:29:41
42阅读
背景2017.12.13日Apache Hadoop 3.0.0正式版本发布，默认支持阿里云OSS对象存储系统，作为Hadoop兼容的文件系统，后续版本号大于等于Hadoop 2.9.x系列也支持OSS。然而，低版本的Apache Hadoop官方不再支持OSS，本文将描述如何通过支持包来使Hadoop 2.7.2能够读写OSS。如何使用下面的步骤需要在所有的Hadoop节点执行下载支持包http
转载
2023-09-13 23:48:07
73阅读
趣头条百PB规模Hadoop实践朱琦过往记忆大数据随着趣头条业务的高速发展，趣头条及其附属产品如米读等，和母公司innotech集团的产品矩阵，目前总的存储数据量规模已经达到百PB左右，包括HDFS的热数据，和阿里云OSS的冷数据。日均计算任务个数达到二十万个，Hadoop集群规模近2000台左右。Hadoop集群支持趣头条和母公司innotech集团各种数据平台和业务，这一年多一路走来也经历了好
原创
2021-03-30 15:03:25
745阅读
随着趣头条业务的高速发展，趣头条及其附属产品如米读等，和母公司innotech集团的产品矩阵，目前总的存储数据量规模已经达到百PB左右，包括HDFS的热数据，和阿里云OSS的冷数据。日均计算任务个数达到二十万个，Hadoop集群规模近2000台左右。Hadoop集群支持趣头条和母公司innotech集团各种数据平台和业务，这一年多一路走来也经历了好几个阶段，到目前形成了较强的源码自研能力，和各种疑
原创
2021-04-05 20:00:24
225阅读
大数据1-Hadoop概述特点4V数据量大高速多样低密度价值Hadoop是什么是Apache基金会所开发的分布式系统基础框架主要解决，海量数据的存储和海量数据的分析计算问题广义上讲，Hadoop通常指更广泛的概念-----Hadoop生态圈发展历史Lucene框架是Doug Cutting开创的开源软件，用Java书写代码，实现与Google类似的全文搜索功能，它提供了全文检索引擎的架构，包括完成
转载
2024-10-07 18:45:32
26阅读
PB反编译专家PB反编译大师PB Decompiler V2020.
原创
2023-08-11 16:59:44
276阅读
很早的一篇博文最近 由于 项目 中 遇到了TIFF（我们的TIFF文件 是 GeoTiff）批量处理的问题，并且由于HDFS读写 图像文件功能的缺失，所以我们就自定义了Hadoop 的 ImageInputFormat ImageRecordReader等 类， 将 文件的 名称封装在 Key中 ，将 文件的 内容 放入 FSDataInputStream ，封装在 Value中 ， 完成了读取的
转载
2023-11-14 06:43:12
60阅读
Hadoop在大数据技术体系中的地位至关重要，Hadoop是大数据技术的基础，对Hadoop基础知识的掌握的扎实程度，会决定在大数据技术道路上走多远。这是一篇入门文章，Hadoop的学习方法很多，网上也有很多学习路线图。本文的思路是：以安装部署Apache Hadoop2.x版本为主线，来介绍Hadoop2.x的架构组成、各模块协同工作原理、技术细节。安装不是目的，通过安装认识Hadoop才是目的
转载
2024-07-19 10:20:35
48阅读
PowerBuilder反编译器，支持5-12，pkb2.5。用于源码丢失后的工程恢复
原创
2023-05-01 18:16:42
355阅读
1.1.1 reduce端连接-分区分组聚合reduce端连接则是利用了reduce的分区功能将stationid相同的分到同一个分区，在利用reduce的分组聚合功能，将同一个stationid的气象站数据和温度记录数据分为一组，reduce函数读取分组后的第一个记录（就是气象站的名称）与其他记录组合
转载
2023-08-27 23:25:14
65阅读
如何增强 Loki 支持 PB 级日志查询引言随着企业数据量的增长，尤其是在云计算和大规模分布式系统环境中，日志管理和分析变得越来越重要。Loki 是一个水平可扩展的日志聚合系统，与 Prometheus 一样采用标签机制进行数据索引。然而，当日志量达到 PB 级别时，如何优化 Loki 的性能以支持高效查询成为一个挑战。 技术背景Loki 简介Loki 是由 Grafana Labs
Hadoop ExamplesHadoop 自带了MapReduce 的 Examples 等程序(hadoop-mapreduce-examples), 当下载 hadoop源码 后，网上有很多介绍搭建环境并进行调试的文章。但大部分是将 WordCount.java 等程序打包成 jar 文件后，通过 org.apache.hadoop.util.Runjar 类运行并调试。但实际上，hadoo
转载
2024-05-28 23:24:56
46阅读
一、Sqoop 简介Sqoop 是一个常用的数据迁移工具，主要用于在不同存储系统之间实现数据的导入与导出：导入数据：从 MySQL，Oracle 等关系型数据库中导入数据到 HDFS、Hive、HBase 等分布式文件存储系统中；导出数据：从 分布式文件系统中导出数据到关系数据库中。其原理是将执行命令转化成 MapReduce 作业来实现数据的迁移，如下图：二、Sqoop安装版本选择：目前 Sqo
转载
2024-01-12 10:15:38
44阅读
Parquet 是 Hadoop 生态圈中主流的列式存储格式，最早是由 Twitter 和 Cloudera 合作开发，2015 年 5 月从 Apache 孵化器里毕业成为 Apache 顶级项目。有这样一句话流传：如果说 HDFS 是大数据时代文件系统的事实标准，Parquet 就是大数据时代存储格式的事实标准。01 整体介绍先简单介绍下：Parquet 是一种支持嵌套结构的列式存储格式非常适
转载
2023-09-01 10:06:29
212阅读
1 gzip压缩优点：压缩率比较高，而且压缩/解压速度也比较快；hadoop本身支持，在应用中处理gzip格式的文件就和直接处理文本一样；有hadoop native库；大部分linux系统都自带gzip命令，使用方便。缺点：不支持split。应用场景：当每个文件压缩之后在130M以内的（1个块大小内），都可以考虑用gzip压缩格式。譬如说一天或者一个小时的日志压缩成一个gzip文件，运行mapr
转载
2023-09-20 10:43:15
69阅读
如今，在某些圈子中，正在进行着“ Hadoop与RDBMS”的辩论 。 通常，讨论将Hadoop视为数据处理世界中显而易见的继承人，而RDBMS则是您父亲的Oldsmobile。 这场辩论有些误导了人们的视线，讨论可能使组织偏离他们真正应该遵循的策略，即生产共存的策略，而不是用B代替A的简单问题。 首先，让我们谈谈这两种技术的实质。 正如您所知，Hadoop实际上并不是一个数据库，尽管它的行
转载
2023-07-24 09:03:28
64阅读
Ceph是一个开源的分布式存储系统，可以提供高性能和高可靠性的存储解决方案。作为一个强大的存储平台，Ceph能够支持多种不同的应用程序和工作负载。其中，Ceph对Hadoop的支持，为大数据处理提供了更加稳定和高效的存储解决方案。
Hadoop是一个用于处理大规模数据的开源软件框架，它采用分布式计算的方式来处理海量数据。在Hadoop中，数据通常存储在HDFS（Hadoop分布式文件系统）中，而
原创
2024-03-19 10:31:00
70阅读
# Hadoop支持Excel数据处理的探索
在大数据时代，Hadoop作为一个强大的分布式计算框架，越来越多地被用于数据存储和处理。然而，由于Excel在数据分析和可视化中扮演着重要的角色，如何将Excel文件与Hadoop进行有效结合，成为了一个值得研究的话题。本文将探讨Hadoop如何支持Excel，并通过代码示例进行介绍。
## 1. 导入必要的库
在使用Hadoop处理Excel文
