一、环境 windows 7 64bit jdk 1.8 hadoop 2.7.4 下载地址：http://hadoop.apache.org/releases.html二、步骤
原创
2017-09-29 09:35:53
7007阅读
1评论
一、hadoop fs 命令1、hadoop fs –fs [local | <file system URI>]：声明hadoop使用的文件系统，如果不声明的话，使用当前配置文件配置的，按如下顺序查找：hadoop jar里的hadoop-default.xml->$HADOOP_CONF_DIR下的hadoop-default.xml->$HADOOP_CONF_DIR
转载
2023-05-30 14:35:58
62阅读
Hadoop2.7.4完全分布式集群构建
原创
2018-12-14 19:10:01
656阅读
1.protobuf编译安装[root@hadoop1 ~]# yum install svn autoconf automake libtool cmake ncurses-devel openssl-devel gcc*
[root@hadoop1 ~]# tar&
原创
2017-08-28 18:08:11
1177阅读
点赞
环境说明：[root@hadp-master sbin]# hadoop versionHadoop 2.7.4 一、 脚本封装全部一起启动、关闭1.1 启动[root@hadp-master sbin]# ./start-all.sh This script is Deprecated. Inst
转载
2017-08-27 21:44:00
66阅读
2评论
本文主要描述Sqoop1.4.6的安装配置以及使用。一、安装配置1、Sqoop安装[hadoop@hdp01~]$wgethttp://mirror.bit.edu.cn/apache/sqoop/1.4.6/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz[hadoop@hdp01~]$tar-xzfsqoop-1.4.6.bin__hadoop-2.0.4-
原创
2017-12-28 16:42:54
4564阅读
什么是Rack Awareness？考虑大型的hadoop集群，为了保证datanode的冗余备份的可靠性，多个datanode应该放在在不同的机架，但是放在不同的机架上，也就意味着网络传输要穿过路由器，速度肯定没有一个机架中的datanode server之间传递来的快，因此性能有所影响。比较推荐的做法（之前在MongoDB相关文档中也看到）是，将两个datanode servers放在同一个机
转载
2023-12-20 06:30:50
104阅读
首先: 参考 ://blog..net/zhang1234556/article/details/77621487 搭建好hadoop集群。 然后，在master节点安装pig。 我们用MapReduce进行数据分析。当业务比较复杂的时候，使用MapReduce将会是一个很复杂的
转载
2018-01-28 21:18:00
318阅读
2评论
原文地址：http://book.51cto.com/art/201211/363795.htmqueue的有效性很依赖在JobTracker中通过mapreduce.jobtracker.taskscheduler设置的调度规则（scheduler）。一些调度算法可能只需要一个queue，不过有些调度算法可能很复杂，需要设置很多queue。对queue大部分设置的更改都不需要重新启动MapRed
转载
2023-09-25 19:23:42
81阅读
一、 相关概念 Hive Metastore有三种配置方式，分别是： Embedded Metastore Database (Derby) 内嵌模式Local Metastore Server 本地元存储Remote Metastore Server 远程元存储1.1 Metadata、Metas
转载
2017-09-17 20:25:00
310阅读
2评论
# 实现“bde2020/hadoop-datanode:2.0.0-hadoop2.7.4-java8”镜像的步骤
## 1. 确认环境
在开始之前，确保你已经具备以下环境：
- Docker已经安装并配置好
- 有基本的Docker知识
## 2. 拉取镜像
首先我们需要拉取hadoop-datanode镜像，版本为2.0.0-hadoop2.7.4-java8，使用以下命令：
```ma
原创
2023-09-09 14:24:35
351阅读
# 用Docker搭建Hadoop集群
在大数据处理中，Hadoop是一个非常重要的框架，可以用来存储和处理大规模数据。而Docker是一个流行的容器化平台，可以方便地部署和管理应用程序。结合Docker和Hadoop可以快速搭建一个Hadoop集群，方便地进行大数据处理。
## Docker简介
Docker是一个开源的容器化平台，可以将应用程序及其依赖包装在一个容器中，然后在任何地方运行
原创
2024-04-20 07:41:35
19阅读
Hadoop配置文件Hadoop的配置文件：只读的默认配置文件：core-default.xml, hdfs-default.xml, yarn-default.xml 和 mapred-default.xml站点特定的配置文件：etc/hadoop/core-site.xml, etc/hadoop/hdfs-site.xml, etc/hadoop/yarn-site.xml 和 etc/ha
转载
2023-07-11 18:53:27
47阅读
一、概述本次实验采用VMware虚拟机，linux版本为CentOS7；因为实验所需的5台机器配置大多相同，所以采用配置其中一台，然后使用克隆功能复制另外4份再做具体修改；其中有些步骤以前配置过，此处就说明一下不再做具体配置，具体配置可翻阅以前的博文。二、实验环境1.关闭selinux和firewall2.hadoop-2.7.4.tar.gz；zookeeper-3.4.10.tar.gz；jd
原创
2017-08-30 11:31:53
3134阅读
点赞
Hadoop Multi Node Cluster的安装Hadoop Multi Node Cluster 规划如下图一台主要的计算机master，在HDFS担任NameNode角色，在MapReduce2（YARN）担任ResourceManager角色。多台辅助计算机data1、data2、data3，在HDFS担任DataNode角色、在MapReduce2（YARN）担任NodeManag
转载
2023-11-19 20:44:00
44阅读
Hadoop Cluster SetupPurpose Prerequisites Installation Configuring Hadoop in Non-Secure Mode Configuring E...
转载
2019-12-11 21:52:00
117阅读
2评论
# 如何实现Hadoop集群储存数据
在构建Hadoop集群时，我们需要确保能够有效地储存和处理大量的数据。本文将介绍如何使用Hadoop集群来储存数据的步骤以及每一步需要进行的操作和代码。
## 整体流程
下表展示了实现Hadoop集群储存数据的整体流程：
| 步骤 | 操作 |
| -------- | -------- |
| 步骤一 | 安装Hadoop集群 |
| 步骤二 | 配
原创
2023-11-10 06:59:04
29阅读
Hadoop配置文件详解概述Hadoop默认配置文件配置文件描述位置core-default.xml默认的核心hadoop属性文件位于：Hadoop-common-2.10.1.jarhdfs-default.xml默认的HDFS属性配置文件位于：hadoop-hdfs-2.10.1.jarmapred-default.xml默认mapreduce属性配置文件位于：mapreduce-client
转载
2023-07-10 13:37:06
135阅读
目标本文章主要是描述如何安装和配置几个节点的Hadoop clusters，甚至于数以千计的节点数。为了了解详细的安装步骤，需要先了解如何安装在单台机器上。本文档不包含高级的设置点，比如：安全性或者高可用性。准备需要安装Java环境从Apache网站下载一个稳定的Hadoop安装镜像安装搭建一个Hadoop集群需要将软件安装到集群中的所有机器中，或者一个适合当前操作系统集成的系统。这样做的目标就是
转载
2024-08-02 09:59:04
75阅读
一. kudu简介kudu是开源的、针对结构化数据的存储引擎支持低延迟随机访问、高效的分析型访问kudu是hadoop生态圈下的，支持多种访问模式，如 Impala、Spark、MapReduce在hadoop生态中，对于结构化数据存储，通常有两种方式对于静态数据集，常使用二进制格式如 Parquet（一种静态数据列格式）、Avro存储在HDFS中。缺点是，这种方式不管是HDFS还是存储格式，都不
转载
2024-02-23 11:19:46
7阅读
