一、安装系统虚拟软件 :  VMware workstation 10系统:       Centos 6.4 32bitMaster IP :  192.168.56.131Slave IP  :  192.168.56.132User & pass:  hadoop注:一台充当master(namenode),一台充当slave(datanode)。这是最小
原创 2015-05-15 19:18:24
146阅读
一、安装系统虚拟软件 :  VMware workstation 10系统:       Centos 6.4 32bitMaster IP :  192.168.56.131Slave IP  :  192.168.56.132User & pass:  hadoop注:一台充当master(namenode),一台充当slave(datanode)。这是最小
原创 2022-04-22 17:21:04
264阅读
1.申明:在看本博客之前:请务必完全按照以下的步骤去做完全一样的的,不要去修改,否则容易出错。 实验环境:VMware Workstation Pro14, centos7镜像,hadoop102为主节点hadoop103和hadoop104为子节点。 符:资源下载hadoop2.7.2和jdk1.8点我进去:提取码:t5  xb在VM上新建一台虚拟机hadoop100,然后从这台原始的
   0 简介:一共5个节点,hadoop0(namenode,jobtracker), hadoop1(secondn
原创 2023-04-20 18:36:48
28阅读
# Hadoop 3 分布式搭建教程 搭建 Hadoop 3 的分布式系统可以是一个复杂的过程,但只要你按照步骤逐一执行,就会发现其实大有可为。本文将带你从零开始搭建一个基本的 Hadoop 3 分布式环境。我们将分解整个流程,并提供相应的代码和注释。 ## 整体流程 以下是搭建 Hadoop 3 分布式系统的整体流程: | 步骤 | 描述 | |------|------| | 1
原创 2024-08-03 10:03:42
27阅读
一、Hadoop概述1.简介hadoop是一个开源分布式计算平台框架基于apache协议发布由java语言开发。http://hadoop.apache.org/2.hadoop组件介绍HDFS分布式文件系统为分布式计算提供了数据存储Mapreduce应用程序被分区成许多小部分而每个部分都能在集群中的任意节点上运行一句话就是任务的分解和结果的汇总Common为其他组件提供常用工具支持YARN&nb
原创 2016-07-15 18:15:12
859阅读
修改/etc/hosts  /etc/hostname /etc/sysconfig/network 中的主机名 1.安装jdk,配置环境变量(1./etc/profile,2.hadoop/conf/hadoop-env.sh) 直接执行之前写好的脚本2.安装ssh 、rsync yum install ssh3.解压hadoop.tar.gz  (可创建软连接:#
原创 2016-06-04 13:13:21
616阅读
centos6.5 x86 虚拟机上安装完全分布式hadoop-2.4.1结合hbase-0.94.23一、环境准备:以下3台虚拟机:192.168.1.105   nn                namenode1
原创 精选 2014-09-18 22:21:22
1218阅读
1点赞
1 分布式事务了解分布式事务之前,应该先了解分布式系统,事务,本地事务等基本概念。
原创 2023-02-01 07:09:52
65阅读
 0 关于配置机器别名,配置IP和别名映射,设置IP,关闭防火墙和自启动,单机下配置ssh请参考  hadoop1.1.2伪分布式安装(单机版)的文章, 链接:http://chengjianxiaoxue.iteye.com/admin/blogs/2093575 1 先安装好一台单机版的hadoop, 别名为master 2 准备另外两台虚拟机, 这里分别命令为...
原创 2023-05-08 20:53:38
46阅读
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解
原创 2022-12-30 15:51:44
537阅读
一、Hadoop集群部署模式Hadoop安装部署的模式一共有三种:独立模式(本地模式) standalone 默认的模式,无需运行任何守护进程(daemon),所有程序都在单个JVM上执行。由于在本机模式下测试和调试MapReduce程序较为方便,因此,这种模式适宜用在开发阶段。使用本地文件系统,而不是分布式文件系统。伪分布模式 pseudo distributed 在一台主机模拟多主机。即Ha
转载 2023-07-12 12:14:37
116阅读
一、基础环境准备系统:(VMW
原创 2022-04-22 16:41:29
50阅读
# HBase 2 分布式安装与配置 HBase 是一个分布式、可扩展的 NoSQL 数据库,构建在 Hadoop 之上,专为处理大规模数据而设计。随着大数据时代的到来,HBase 在实时数据处理和大规模随机读写方面显得尤为重要。本文将介绍 HBase 2 的分布式安装与配置,并提供代码示例以帮助读者快速上手。 ## 环境准备 在安装 HBase 之前,首先确保拥有适当的硬件环境。我们建议部
原创 2024-10-18 06:00:27
72阅读
一、基础环境准备系统:(VMWare) CentOS-6.5-x86_64-bin-DVD1.isohadoop版本:hadoop-2.5.2jdk版本:jdk-7u72-linux-x64.tar.gz1.集群机器三台测试集群,一个master(liuyazhuang-01),两个slave(liuyazhuang-02,liuyazhuang-03)/etc/hosts
原创 2016-05-30 10:41:27
107阅读
一、安装准备        1、下载hadoop,地址:http://hadoop.apache.org/,下载相应版本        2、下载JDK版本:Hadoop只支持1.6以上,地址:http://www.oracle.com/technetwork/java/javase/downloads/index.ht
原创 2014-08-18 23:14:11
1143阅读
Hadoop搭建完全分布式集群 文章目录用Hadoop搭建完全分布式集群一、平台软件说明二、完全分布式说明1.集群搭建准备1.1关闭防火墙1.2主机映射1.3 免密登录1.4 时间同步1.5安装JDK和配置环境变量1.6 修改配置文件1.6.1 core-site.xml1.6.2 修改hdfs-site.xml1.6.3 修改hadoop-env.sh1.7 启动集群2. 关于集群启停的脚本3
hadoop
原创 2017-12-10 16:39:07
1139阅读
Hadoop 分布式安装 环境说明:阿里云弹性实例ubuntu16.04 Hadoop版本2.7.6 java版本1.8 所有弹性实例都是在同一个区,ip全部用私有ip 阿里云服务器记得配置安全规则端口 We will create a 3 node cluster system(1-Master,
转载 2018-12-20 00:37:00
161阅读
2评论
集中式系统:由卓越性能的大型主机单机组成的计算机系统,称为集中式系统。 特点。单机运算能力强劲,部署结构简单。但是,拥有单点故障,且单机价格昂贵。 分布式系统:一个硬件或者软件组件分布在不同的网络计算机上,彼此之间仅仅通过消息传递进行通信和协调的系统。 目录集中式系统架构与分布式系统架构分布式系统架构中的挑战事务分布式事务和数据一致性CAP定理BASE理
  • 1
  • 2
  • 3
  • 4
  • 5