二、Hadoop集群搭建2.1、Hadoop安装将Hadoop安装包导入hadoop102的/opt/software文件夹下将Hadoop安装包解压至/opt/module文件夹下[atguigu@hadoop102 software]$ tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/配置Hadoop的环境变量在/etc/profile.d/my_en
转载
2023-11-11 20:41:10
83阅读
一：了解集群的原理：二：集群环境的搭建之前的准备工作：集群环境的搭建需要退回到hadoop分布式搭建之前：这个时候可以在安装hadoop之前在虚拟机中拍一个快照如果没有拍快照怎么解决：1，先停掉Hadoop的运行 :stop-dfs.sh2检查是否停掉：jps：看里面是否还有与Hadoop相关的程序在运行3如果没有相关的进程运行就删除hadoop的安装软件：rm -rf h
转载
2024-01-31 21:52:29
71阅读
学习大数据，hadoop集群搭建是第一步的，方便后面执行测试代码，调试环境。资源有限，这里采用windows上使用虚拟机，VMware。文章目录环境环境搭建环境虚拟机：VMware18环境：ubuntu，jdk1.8，hadoop2.7这里使用ubuntu，有些webui的东西可以看到，方便学习。jdk使用8，最普遍版本。环境搭建...
原创
2021-11-08 16:34:30
10000+阅读
学习大数据，hadoop集群搭建是第一步的，方便后面执行测试代码，调试环境。资源有限，这里采用windows上使用虚拟机，VMware。文章目录环境环境搭建环境虚拟机：VMware18环境：ubuntu，jdk1.8，hadoop2.7这里使用ubuntu，有些webui的东西可以看到，方便学习。jdk使用8，最普遍版本。环境搭建...
原创
2022-01-18 10:54:58
80阅读
环境服务器配置：CPU型号：CPU核素：内存：操作系统版本：CentOSLinuxrelease7.5.1804(Core)主机列表：192.168.0.101node1192.168.0.102node2192.168.0.103node3192.168.0.104node4192.168.0.105node4软件路径：/data/toolsjdk版本：1.8JAVA_HOME路径：/opt/j
原创
2018-05-30 14:47:43
7445阅读
一、大数据的价值和应用 从2G到3G，再到现在的4G以及即将到来的5G，互联网已经成为绝大多数人生活中不可或缺的必须品。社交平台如微博、Facebook，购物平台如淘宝、亚马逊，移动支付如支付宝、applepay。诸如此类的平台随着手机智能化和移动技术的发展，“数据”的来源范围和数量呈指数级的增长。换句话说，我们每个人每天每时每刻都在创造“数据”，甚至连我们本人都是一条“数据”，只不过更复杂。而
hadoop集群安装部署文档一、 系统环境配置1、修改主机名2、添加主机名映射3、创建集群管理用户,设置密码4、分配用户sudo权限5、创建用户文件存放及安装目录6、关闭防火墙7、安装jdk,配置jdk环境变量二、 Hadoop集群搭建1、安装hadoop,配置hadoop环境变量2、修改 hadoop-env.sh 文件3、执行本地模式wordcount案例4、克隆虚拟机5、修改网络配置及主机
转载
2024-05-15 06:23:34
63阅读
目录一、Hadoop集群规划二、配置样板节点1、虚拟机硬件信息2、本地登录配置（1）root用户登录（2）关闭防火墙（3）修改主机名和IP地址（4）配置hosts（5）创建用户设置密码（6）添加sudo权限（7）切换用户验证sudo命令（8）创建软件安装目录3、远程登录配置（1）Xshell远程登录（3）安装jdk和hadoop（4）修改hadoop配置文件（5）配置主机免密登录三、克
转载
2024-02-02 18:10:30
261阅读
我们此处使用的是VM虚拟机，centOS6.5的系统，初学者建议装中文版的系统，方便查看，我这边也是先装中文版的系统，本文章主要讲解如何在搭建大数据平台之前要对虚拟机进行环境配置工作，我会在重要的步骤截图上传，方便大家学习讨论，同时，对于一些拓展知识我会进行注释解释，一些其他相关知识也会在文章末尾写出来的，以下便具体的讲解如何进行配置
一、系统环境准备工作：
①
** 首先查看
转载
2024-07-22 12:47:21
28阅读
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。
原创
2021-07-28 14:00:13
306阅读
客户端访问hdfs上的某一文件，首先要向namenode请求文件的元数据信息，然后nn就会告诉客户端，访问的文件在datanode上的位置，然后客户端再依次向datanode请求对应的数据，最后拼接成一个完整的文件；这里需要注意一个概念，datanode存放文件数据是按照文件大小和块大小来切分存放的，什么意思呢？比如一个文件100M大小，假设dn（datanode）上的块大小为10M一块，那么它存
转载
2021-04-29 14:19:50
1376阅读
2评论
一个执着于技...
原创
2021-07-29 14:53:43
414阅读
4.1 HADOOP集群搭建
4.1.1集群简介
HADOOP集群具体来说包含两个集群：HDFS集群和YARN集群，两者逻辑上分离，但物理上常在一起
HDFS集群：
负责海量数据的存储，集群中的角色主要有 NameNode / DataNode
YARN集群：
负责海量数据运算时的资源调度，集群中的角色主要有 ResourceManager /NodeManager
(那mapredu
转载
2018-12-23 10:57:00
178阅读
2评论
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。
原创
2021-07-28 13:58:33
528阅读
02Hadoop-04大数据分析存储框架Hadoop集群搭建
原创
2022-09-13 12:34:54
46阅读
# 大数据Hadoop集群搭建实验目的
## 引言
在大数据时代，数据本身的价值无法被忽视。Hadoop作为一种广泛使用的大数据处理框架，提供了存储、处理和分析海量数据的能力。为了充分发挥Hadoop的功能，搭建一个高效的Hadoop集群显得尤为重要。本文将介绍搭建Hadoop集群的实验目的，并通过代码示例和图表展示整个过程。
## 实验目的
搭建Hadoop集群的实验目的主要有以下几点：
搭建前准备：1.环境搭建资源：根据自己需要下载对应得资源即可2.打开虚拟机，登录你的Linux系统。3..使用SSH（或者Xftp）工具远程登陆服务器。4.用文件传输工具远程登录系统。5.在/home目录下新建 Hadoop java 文件夹。6.将之前下载好的jdk上传到/home/java目录下。7.在/home/java目录下 执行命令 rpm -ivh jdk-7u
转载
2023-11-03 19:24:28
122阅读
Hadoop是Apache基金会开发的分布式计算框架，核心组件HDFS（分布式文件系统）和YARN（资源管理系统）支撑了海量数据的存储与计
目录Hadoop集群搭建集群简介集群部署方式1、Standalone mode（独立模式）2、Pseudo-Distributed mode（伪分布式模式）
原创
2022-05-09 13:49:23
2237阅读
点赞
前言 上回说到已经创建好虚拟机hadoop101 并且可以进行联网，安装一些常用命令。这回我们继续搭建hadoop。首先在opt 目录下创建module 和 software 两个文件夹，module存放解压后的软件包，software存放压缩的软件包。cd /opt
mkdir module
mkdir software复制代码jdk安装和hadoop安装 上传jdk包hadoop包
转载
2021-01-30 13:05:36
217阅读
2评论
