1.准备Linux环境
1.0先将虚拟机的网络模式选为NAT
1.1修改主机名
vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=myvm ### 1.2修改IP
两种方式：
第一种：通过Linux图形界面进行修改
进入Linux图形界面 -> 右键点击右上方的两个小电脑 -> 点击Edit connections
文章目录前言一、配置无密钥登录1.生成密钥文件2.将公钥信息复制到授权文件3.添加权限4.测试二、安装Hadoop1.上传安装包2.解压3.重命名4.配置系统变量4.1 配置4.2 测试5.修改~/.bashrc6.配置Hadoop环境变量7.配置HDFS7.1 core-site.xml7.2 hdfs-site.xml7.3 workers8.配置YARN8.1 mapred-site.xm
转载
2023-08-30 15:40:54
70阅读
hadoop的安装与配置一：配置Linux免密登录，安装hadoop前要先配置Java 环境变量，点我的主页有详细的配置步骤，这里就不做详细的讲解。 二：下载地址为：链接https://hadoop.apache.org/. 一： 注意：不推荐下载太高版本①：关闭防火墙–永久关闭 三台都要操作，关闭防火墙为了后续登录50070端口systemctl stop firewalld
systemctl
转载
2023-07-12 11:22:35
91阅读
文章目录Hadoop搭建流程第一步：安装jdk第二步：克隆虚拟机第三步：虚拟机连接界面第四步：配置分发脚本第五步:配置各个主机、账户免密登录第六步：集群配置信息第七步：分发配置第八步：配置works1.配置works2.使用`xsync`分发同步配置第九步：初始化第十步：添加windows的hosts映射第十一步：访问第十二步：历史服务器第十三步：hdfs相关操作测试第十四步：日志聚集第十五步：
转载
2023-09-14 15:19:05
62阅读
Hadoop简介Hadoop是Apache旗下的一套开源分布式计算平台。 应用范围：利用服务器集群，根据用户的自定义业务逻辑，对海量数据进行分布式处理。 核心组件：HDFS（分布式文件系统）高容错性、高伸缩性等允许用户将Hadoop部署在低廉的硬件上YARN（运算资源调度系统）MAPREDUCE（分布式运算编程框架）允许用户在不了解分布式系统细节情况下开发并行应用程序。准备Linux环境虚拟机克隆
转载
2023-09-01 10:09:50
132阅读
实验环境： 虚拟化软件：VMware® Workstation 16 Pro 镜像：ubuntu-22.04.2-live-server-amd64.iso Hadoop版本：hadoop-3.3.4.tar.gzubuntu镜像链接hadoop文件链接配置虚拟机 （1）新建虚拟机，选择实验镜像【ubuntu-22.04.2-live-server-amd64.iso】 （2）调整硬件配置，配置如
转载
2023-09-20 10:42:36
278阅读
文章目录一、下载安装所需的资源二、配置1、将下载的hadoop文件解压2、配置环境变量在path中加入 %HADOOP_HOME%\bin3、文件配置3.1、D:\hadoop\hadoop-3.0.2\etc\hadoop”下的core-site.xml文件3.2、D:\hadoop\hadoop-3.0.2\etc\hadoop”目录下的mapred-site.xml3.3、D:\hadoo
转载
2023-07-24 15:53:41
167阅读
Hadoop环境搭建及使用（超详细）伪分布式linux搭建设置网络IP和虚拟机网关克隆两个Linux，如果不会自行百度，接下来是克隆之后的配置第一步需要修改主机名第二步配置本机HOST映射第三步需要修改网卡信息第四步需要配置IP关闭防火墙并开机不启动，每一个机器都要执行环境配置SSH->scp指令配置JDK和hadoop环境变量配置,当然之前要传输JDK和HADOOP到linux其中一台J
转载
2023-09-14 15:18:28
66阅读
环境：centos 6.5 (ip：192.168.80.100、192.168.80.101)jdk 1.7hadoop 2.8.4 ip 进程 192.168.80.100(master) namenode 192.168.80.101(slave)
原创
2023-03-17 16:09:00
91阅读
目录目录目录一、什么是大数据？二、什么是hadoop？1.Hadoop核心组件2.HDFS架构3.MapReduce 3.Yarn架构 编辑 三、Hadoop的集群模式1.完全分布模式 2.伪分布模式3.独立模式四、Hadoop创建伪分布式模式1.获取安装Hadoop2.修改Hadoop配置文件3.启动hadoop4.运行WerdCount测试五、完全分布式
转载
2023-10-06 21:00:06
74阅读
一、Hadoop集群环境搭建配置1、前言Hadoop的搭建分为三种形式：单机模式、伪分布模式、完全分布模式，只要掌握了完全分布模式，也就是集群模式的搭建，剩下的两种模式自然而然就会用了，一般前两种模式一般用在开发或测试环境下，Hadoop最大的优势就是分布式集群计算，所以在生产环境下都是搭建的最后一种模式：完全分布模式。2、硬件选择须知：分布式环境中一个服务器就是一个节点节点越多带来的是集群性能的
转载
2023-09-14 14:48:39
620阅读
一、引言首先说明一下，本文的安装教程仅是针对个人的操作经验所写的。可能有些同学安装的时候觉得跟他的不一样，那可能是由于版本不一样所导致的。另外本次分享是基于已经安装了java及配置好了环境。 本机的配置环境如下： Hadoop(3.1.1) Ubuntu Linux(64位系统)二、安装ssh服务ubuntu中默认是没有安装ssh server的，只有 ssh client,可以使用如下命令安装：
转载
2023-08-08 01:51:02
95阅读
hdfs有三种版本：单机版 伪分布式版 全分布式版1.单机版的安装：首先将安装包拖入sftp工具中，解压：tar -zxvf hadoop-2.7.1.tar.gz -C /usr/local配置环境变量：vi /etc/profileexport HADOOP_HOME=/usr/local/hadoop-2.7.1 export PATH=$PATH:$
转载
2023-07-21 14:24:59
69阅读
## Hadoop 网盘搭建教程
在大数据时代，数据存储和管理变得越来越重要。Hadoop 是一个开源的分布式存储和计算框架，可以帮助我们构建一个高可靠、高可扩展的网盘系统。本文将介绍如何使用 Hadoop 搭建一个简单的网盘系统，并提供相应的代码示例。
### 环境准备
在开始搭建网盘系统之前，需要准备以下环境：
- Java JDK
- Hadoop
- Maven
### 创建 M
原创
2024-05-16 06:53:49
245阅读
hadoop使用java编写，所以windows安装和java一样也需要配置环境变量。一、下载所需文件JDK下载地址，jdk1.8下载
Hadoop下载，hadoop下载，进去后找到一个版本然后点击 Binary download 下载到本地。Hadoop windows环境编译工具，winutils下载 ，下载后解压出来二、安装文件jdk安装，jdk安装并不复杂，这里就不详细介绍了，我的安装目录
转载
2023-08-08 13:52:22
690阅读
Hadoop平台的搭建流程之单机/伪分布配置所需工具：VMware Workstation / Virtual Box 虚拟机; Hadoop安装文件；实验环境：Ubuntu 32位或64位系统 / CentOS系统；ps:该实验教程采用Ubuntu 64位系统进行讲解。 Ubuntu安装系统：请参考http://dblab.xmu.edu.cn/blog/337-2/ 如果使用CentO
转载
2024-02-05 15:03:47
55阅读
本文针对hadoop集群的搭建过程给予一个详细的介绍。参考视频教程:https://www.bilibili.com/video/BV1tz4y127hX?p=1&share_medium=android&share_plat=android&share_session_id=10b66dfa-105f-4f89-9658-87945ddf0f89&share_so
转载
2023-07-31 17:34:05
61阅读
Hadoop安装与配置1.现有工具及文件①Xmanager Enterprise 5（其中的Xftp可用于实现不同IP地址间文件的互传，也可以实现Linux文件目录的可视化）②hadoop-2.7.7.tar.gz③云服务器（配置Linux操作系统）④已配置好JDK1.82.解压Hadoop安装包到根目录文件 在根目录创建名为hadoop的文件夹mkdir /hadoop
转载
2019-09-30 21:30:00
204阅读
这篇文章讲述的是为装hadoop的准备工作，如有错误或不当之处，欢迎各位大神批评指教。一、准备工作1. 首先你需要掌握Linux系统的安装，并且保证网络连接正常，2. 其次你需要配置好一台可以上网的Linux，这里以centos6.5为例二 、配置Linux集群1. 将已配置好的Linux系统克隆两份a. 克隆已经配好的主机，在VMware中选择已装好的主机，在虚拟机菜单中选择管理，选择克隆。b.
转载
2023-11-21 20:19:23
44阅读
搭建Hadoop HA的详细教程前置工作配置host文件ssh免密登录JDK的配置ZooKeeper配置Hadoop HA配置文件core-site.xmlhdfs-site.xmlmapred-site.xmlyarn-site.xml启动与测试前置工作配置host文件在每个节点的/etc/hosts
原创
2022-04-20 16:21:35
1545阅读
点赞
