本集群由6台虚拟机组成,全部安装centos6.4的32位系统。一、前期工作1、修改Linux主机名2、修改IP3、修改主机名和IP的映射关系4、关闭防火墙5、ssh免登陆 6、安装JDK,配置环境变量等二、集群规划主机名ip安装的软件运行的进程hadoop01192.168.8.201jdk、hadoop、hbase、sqoopNameN            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2015-12-29 23:40:22
                            
                                1131阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            说明:目前官方hadoop2.2只有32位的版本,安装到64位肯定有问题,比如执行jar包会提示没有本地库。。。。。。。。。如果要安装64位的,需要自己编译,这里不做阐述,一下都以32位说明。
环境:试验使用的虚拟机ubuntu12.04(32位)。Jdk使用的1.7(1.6也可以)。网络配置好,相互可以ping通,java环境安装完毕。
 
第一部分 Hadoop 2.2 下载
                   
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2013-12-02 15:19:00
                            
                                123阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            系统版本:CENTOS6.5 2.6.32-431.el6.X86_64 1、安装JDK我这里用的是64位机,要下载对应的64位的JDK,下载地址:http://www.oracle.com/technetwork/cn/java/javase/downloads/jdk7-downloads-1880260-zhs.html,选择对应的JDK版本,解压JDK,然后配置环境变量vi /etc/pr            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                            精选
                                                        
                            2014-04-03 17:43:12
                            
                                1178阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            masters 文件里记录启动辅助namenode的机器列表,每行一个 (hadoop2.2.0            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-10-28 14:09:21
                            
                                125阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            hadoop2.0的架构和1.0完全不一样,在安装配置上和1.0也有很大的不同,譬如配置文件的目录不一样了,还有要对yarn进行配置,这个在1.0是没有的。很多人第一次接触hadoop2.0的时候,会很不适应,而且官方的文档也有些写得不太清楚的地方,也有些错误。笔者在初次安装hadoop2.0的时候,看着官方的文档,中间也出现过很多问题。为了帮助大家很快的部署上hadoop2.0,笔者写了这篇文章。这篇文章主要就是介绍一个hadoop2.0的一个最基本最简单的配置,目的就是尽快的让hadoop2.0在机器上跑起来。后面会有其他文章来介绍在这个基本的配置上做一些更复杂的特性的配置,包括HA,federation等,还有对一些实用的参数的配置和优化。            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2014-03-16 20:16:37
                            
                                2666阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            转自:http://blog.csdn.net/jiushuai/article/details/16817311Setup newest Hadoop 2.x (2.2.0) on UbuntuIn this tutorial I am going to guide you through setting up hadoop 2.2.0 environment on Ubuntu.Prerequ            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                            精选
                                                        
                            2013-11-21 14:56:42
                            
                                1289阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1.修改Linux主机名2.修改IP3.修改主机名和IP的映射关系    ######注意######如果你们公司是租用的服务器或是使用的云主机(如华为用主机、阿里云主机等)    /etc/hosts里面要配置的是内网IP地址和主机名的映射关系    4.关闭防火墙5.ssh免登陆 6.安装JDK,配置环境变量等集群规划:    主机名        IP            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-04-22 17:08:23
                            
                                100阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1.修改Linux主机名2.修改IP3.修改主机名和IP的映射关系    ######注意######如果你们公司是租用的服务器或是使用的云主机(如华为用主机、阿里云主机等)    /etc/hosts里面要配置的是内网IP地址和主机名的映射关系    4.关闭防火墙5.ssh免登陆 6.安装JDK,配置环境变量等集群规划:    主机名        IP            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2016-05-09 15:14:39
                            
                                145阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1wordcountimport java.io.IOException;import org.apache.hadoop.conf.Configuration;import org.apache.h            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-09-05 15:08:26
                            
                                68阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一、安装系统虚拟软件 :  VMware workstation 10系统:       Centos 6.4 32bitMaster IP :  192.168.56.131Slave IP  :  192.168.56.132User & pass:  hadoop注:一台充当master(namenode),一台充当slave(datanode)。这是最小            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2015-05-15 19:18:24
                            
                                146阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一、安装系统虚拟软件 :  VMware workstation 10系统:       Centos 6.4 32bitMaster IP :  192.168.56.131Slave IP  :  192.168.56.132User & pass:  hadoop注:一台充当master(namenode),一台充当slave(datanode)。这是最小            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-04-22 17:21:04
                            
                                267阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            所需环境 Ubuntu11.10(32位) hadoop2.2.0 jdk1.8集群为3台机器(都是从虚拟机里虚拟出来的)各机器参数如下hadoop01   192.168.0.30   sun(计算机名)   sun(用户名)   hadoop02   192.168.0.31   worker01     &nbs            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2014-04-29 09:46:14
                            
                                1597阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            http://blog.sina.com.cn/s/blog_5ccc692d0101pikf.html 学习hadoop2.2.0,远程调试hadoop源码 note: 只在linux上面调试,windows下            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-07-21 16:42:05
                            
                                66阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            下载protobuf-2.5.0.tar.gz安装 ./configure make make check make install 验证: protoc –version添加开mirrors>    <mirror>        <id>ne            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-07-21 19:47:34
                            
                                95阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            常见基础命令:  
   启动Hadoop 
   进入HADOOP_HOME目录。执行sh bin/start-all.sh  
   关闭Hadoop 
   进入HADOOP_HOME目录。执行sh bin/stop-all.sh   
  1、查看指定目录下内容 
   
   Hadoop fs –ls [文件目录] 
   
   eg: hadoop fs –ls /use            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-05-30 17:29:21
                            
                                72阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            首先安装JDK1下载JDK-下载jkd(http://www.oracle.com/technetwork/java/javase/downloads/index.html)2对于32位的系统可以下载以下两个Linux x86版本, 64位系统下载Linux x64版本(即x64.rpm和x64.tar.gz)(uname -a 查看系统版本 or getconfig LONG_BIT)3安装JD            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                            精选
                                                        
                            2014-01-22 10:00:25
                            
                                1011阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1、环境介绍(1)软件版本OS:rhel6.3-x86_64JDK:jdk1.6.0_41Hadoop:hadoop-1.1.1(2)IP规划hserver  192.168.183.130 NameNodehclient1 192.168.183.131 DataNodehclient2 192.168.183.132 DataNode2、清空iptables# iptables -F            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2013-03-07 15:15:34
                            
                                668阅读
                            
                                                                             
                 
                
                             
         
            
            
            
                     IP:192.168.1.106     HOSTNAME:master添加用户用组可以参考:    http://472053211.blog.51cto.com/3692116/1577110  &            
                
                    
                        
                                                                            
                                                                                        原创
                                                                                    
                            2014-11-16 12:04:25
                            
                                998阅读