最近看了某大神的博客，非常详细地描述了关于Hadoop 1.x与Hadoop 2.x的区别和改进，博客原文链接如下：看了博客之后，自己简单总结概述了一下两者之间的区别，与Hadoop 1.x相比，Hadoop 2.x的改进主要在以下两个方面：（1）HDFS的改进HDFS的NameNode可以以集群的方式布署，增强了NameNodes的水平扩展能力和高可用性，分别体现在HDFS Federatio
HBase和Phoenix是两个常用的开源分布式数据库，它们可以相互兼容使用。对于初学者来说，了解HBase与Phoenix版本的兼容情况是非常重要的。本文将指导你如何实现“HBase与Phoenix版本兼容列表”。
## 1. 定义需求和目标
在开始之前，我们首先需要明确需求和目标。我们的目标是创建一个HBase与Phoenix版本兼容列表，该列表将列出每个HBase版本与其对应的Phoen
原创
2024-01-27 05:25:02
236阅读
Hadoop简介Hadoop是一个开源框架来存储和处理大型数据在分布式环境中。包含两个模块，一个是MapReduce，另一个是Hadoop分布式文件系统（HDFS）。MapReduce：是一种并行编程模型，在大型集群普通硬件可用于处理大型结构化，半结构化和非结构化数据。HDFS：Hadoop分布式文件系统是Hadoop框架的一部分，用于存储和处理数据集。提供了一个容错文件系统在普通硬件上运行。Ha
===文章采用Google Translator=====Google翻译：建议先看原文。在这个例子中，我们将探讨Apache Zookeeper，从简介开始，然后是设置Zookeeper并使其运行的步骤。1.介绍Apache Zookeeper是分布式系统的构建块。当设计分布式系统时，总是需要开发和部署可以通过集群协调的东西。这是Zookeeper进入图片。它是一个由Apache维护的开源项目，
一、前言什么是hive？Hive 数据仓库工具，可以把hadoop下原始结构化数据变成hive中表看成sql->Map-Reduce的映射器，提供shell，jdbc/odbc接口他为数据仓库的管理提供了多功能：数据ETL工具，数据存储管理和大型数据集查询和分析能力二、Hive 数据存储hive 的数据存储建立在hadoop 的hdfs 基础上,hive 的每个对应的分区对应 的数据库中的相
转载
2024-05-16 21:40:58
64阅读
本文将介绍“数据计算”环节中常用的三种分布式计算组件——Hadoop、Storm以及Spark。 当前的高性能PC机、中型机等机器在处理海量数据时，其计算能力、内存容量等指标都远远无法达到要求。在大数据时代，工程师采用廉价的PC机组成分布式集群，以集群协作的方式完成海量数据的处理，从而解决单台机器在计算与存储上的瓶颈。Hadoop、Storm以及Spark是常用的分布式计算组件，其中Had
转载
2024-07-08 17:40:35
27阅读
sqoop数据迁移1、简介 sqoop是apache旗下一款“Hadoop和关系数据库服务器之间传送数据”的工具。 导入数据：MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统； 导出数据：从Hadoop的文件系统中导出数据到关系数据库2、工作机制 将导入或导出命令翻译成mapreduce程序来实现 在翻译出的mapreduce中主要是
转载
2023-07-12 15:26:44
250阅读
Phoenix 操作语法NameSpace 操作表的操作数据操作数据查询预分区表操作视图操作二级索引全局索引本地索引覆盖索引函数索引索引案例：全局索引 + 覆盖索引索引案例：本地索引索引案例：本地函数索引 参考操作文档| Apache PhoenixCDH 6.2 安装 PhoenixNameSpace 操作启用Phoenix操作NameSpace在 hbase-site.xml 中增加配置，服
转载
2024-09-13 09:51:23
20阅读
用户福利阿里云最新发布业界首款云原生多模数据库Lindorm，新用户可享9.9元/3个月优惠，技术交流钉钉群：35977898，更多内容请参考链接1.背景作为面向大数据场景的半结构化、结构化存储系统，Lindorm已经在阿里发展了近十年，并始终保持着快速的能力更新和技术升级，是目前支撑阿里经济体业务的核心数据库产品之一。其在功能、性能、稳定性等方面的诸多创新历经了长时间的大规模实践考验，被全面应用
原创
精选
2021-03-29 08:55:06
925阅读
ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。ZooKeeper的目标就是封装好复杂易出错的关键服务，将简单易用的接口和性能高效、功能稳定的系统提供给用户。Zookeeper架构图：Zookeep
转载
2023-10-20 06:40:27
135阅读
一、Sqoop介绍：数据迁移工具Sqoop用于在Hadoop(HDFS)和关系型数据库之间，进行数据的迁移。 Sqoop的导入：将关系型数据库中的数据导入到HDFS中 Sqoop的导出：将HDFS的数据导出到关系型数据中 本质：将导入或导出命令翻译成 MapReduce 程序来实现 在翻译出的 MapReduce 中主要是对 InputFormat 和 OutputFormat 进行定制二、Sqo
转载
2023-12-21 13:25:18
169阅读
Hive介绍Hive环境搭建Hive实现wordcount Hive介绍产生背景MapReduce编程的不便性 HDFS上的文件缺少Schema，无法使用SQL方式查询What?Facebook于2007年开源，最初用于解决海量结构化的日志数据统计问题 是一个构建在Hadoop之上的数据仓库 定义了一种类SQL查询语言：HQL 通常用于进行离线数据处理 底层支持多种不同的执行引擎（MR
转载
2024-09-09 17:26:23
98阅读
本系列主要总结下Zookeeper的基础使用，笔者准备写四篇文章：博文内容资源链接Linux下搭建Zookeeper运行环境Zookeeper入门，一篇就够啦Zookeeper客户端ZkClient、Curator的使用，史上最详细的教程来啦~Zookeeper使用总结（进阶篇） 文章目录前言1 初识Zookeeper2 Zookeeper运行环境3 zoo.cfg配置文件详解4 Zookeepe
转载
2024-10-10 12:01:45
37阅读
Storm与Spark、Hadoop三种框架对比Storm与Spark、Hadoop这三种框架，各有各的优点，每个框架都有自己的最佳应用场景。所以，在不同的应用场景下，应该选择不同的框架。1.Storm是最佳的流式计算框架，Storm由Java和Clojure写成，Storm的优点是全内存计算，所以它的定位是分布式实时计算系统，按照Storm作者的说法，Storm对于实时计算的意义类似于
ase是一个在HDFS上开发的面向列的分布式数据库，能够对大型数据提供随机、实施的读写访问。HBase的运行依赖于其他文件系统，他模仿并提供了基于Google文件系统（GFS）中大表（BigTable）数据库的所有功能。虽然数据库存储和检索的...
原创
2023-03-21 07:04:28
95阅读
1 搭建环境部署节点操作系统为CentOS，防火墙和SElinux禁用，创建了一个shiyanlou用户并在系统根目录下创建/app目录，用于存放Hadoop等组件运行包。因为该目录用于安装hadoop等组件程序，用户对shiyanlou必须赋予rwx权限（一般做法是root用户在根目录下创建/app目录，并修改该目录拥有者为shiyanlou(chown –R shiyanlou:shiyanl
转载
2024-08-07 18:10:22
107阅读
文章目录1.简介2.Sqoop环境配置3.Sqoop常用参数4.测试4.1.导入表数据到HDFS4.2.导出表数据到mysql中5.DataX迁移工具 1.简介 Sqoop(发音：skup)是一款开源的工具，主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递，可以将一个关系型数据库（例如 ： MyS
转载
2023-08-21 17:09:56
132阅读
Hadoop 正日益成为公司处理大数据的企业平台之选。Spark 则是运行在 Hadoop 之上的内存中处理解决方案。Hadoop 最大的用户（包括易趣和雅虎）都在自己的 Hadoop 集群中运行 Spark。Cloudera 和 Hortonworks 在其 Hadoop 包中也加入了 Spark。我们 Altiscale 的客户在我们最开始推出时就使用运行着 Spark 的 Hadoop。将
转载
2024-05-06 21:24:54
0阅读
在Hadoop集群之上安装hbase一、安装准备 首先我们确保在ubuntu16.04上安装了以下的产品，java1.8及其以上，ssh，hadoop集群，其次，我们需要从hbase的官网上下载并安装这个产品。二、开始安装 这里我介绍两种安装方式，一种是在伪分布式hadoop集群上安装hbase，另一种是在分布式hadoop集群上安装hbase。&n
转载
2024-04-22 11:51:57
64阅读
3.4 Spark 应用程序让我们来了解 Spark Shell 和 Spark 应用程序之间的区别，以及如何创建和提交它们。3.4.1 Spark Shell 和 Spark 应用程序Spark 让你可以通过一个简单的、专门用于执行 Scala、Python、R 和 SQL 代码的 Spark shell 访问数据集。用户探索数据并不需要创建一个完整的应用程序。他们可以用命令开始探索数据，这些命
转载
2024-06-26 13:40:34
47阅读
