一、Hadoop简介：Hadoop是由Apache基金会所开发的分布式系统基础架构，实现了一个分布式文件系统(Hadoop Distributed File System)，简称HDFS；Hadoop框架最核心设计就是HDFS和MapReduce，HDFS为海量数据提供了存储，MapReduce为海量数据提供了计算。Hadoop要解决的问题：海量数据的存储(HDFS)、海量数据的分析(MapRed
转载
2023-07-24 09:18:49
45阅读
# Hadoop多台主机配置与应用基础
## 什么是Hadoop？
Hadoop是一个开源的框架，旨在处理和存储大规模数据集。Hadoop允许使用集群中的多台主机（节点）来处理数据，可以显著提高数据处理的效率和可靠性。Hadoop主要由以下几个组件组成：
1. **Hadoop Common**：Hadoop的基本工具包。
2. **Hadoop Distributed File Syste
原创
2024-10-17 10:50:58
20阅读
主 机：VMWare--Ubuntu-16.04.2-x64-100ask开发板：JZ2440--256M NandFlash, 2M NorFlash, 64M SDRAM, LCD-4.3寸; bootlorder:u-boot1.16, Kernel:2.6.22.6;编译器：arm-linux-gcc-3.4.5 
文章目录一，设置master网络1,配置网卡2,配置主机名与ip地址映射3,在master虚拟机上关闭Selinux 安全机制二，ssh远程登录功能配置1,查看系统是否开启了ssh服务2,设置免密登录3，看master能否免密登录到slave1 slave2上面去 一，设置master网络1,配置网卡设置主机名: hostnamectl set-hostname master 最后那个maste
转载
2024-03-11 15:41:59
135阅读
本文目录写在前面配置局域网主机设置虚拟机主机名添加IP地址映射尝试ping查看结果补充一发芝士写在前面本系列文章索引以及一些默认好的条件在 传送门推荐博文：本记录连载，不定时更新 物理机不充足，所以就只好用虚拟机，并假设已经安装好了CentOS7.0 的虚拟机配置局域网主机在确定了宿主机和虚拟机的ip地址之后，我们修改Windows中的hosts文件（位置在C:\windows\system32\
转载
2024-06-13 15:49:47
37阅读
hadoop服务器搭建一、虚拟机环境配置1.创建虚拟机设置虚拟机名称：hadoop01 主机名称：@hadoop01 用户名称：zzk 密码：hadoop123456 给zzk用户sudo权限：sudo su //切换root用户
vim /etc/sudoers添加zzk ALL=(ALL) NOPASSWD: ALL2.克隆虚拟机①克隆之后设置虚拟机名称hadoop02
转载
2023-09-14 08:18:33
91阅读
Hadoop有一个抽象文件系统的概念，hdfs只是其中的一个实现，Java抽象类org.apache.hadoop.fs.FileSystem定义了hadoop中的一个文件系统接口，hdfs是实现了这个接口的一个文件系统，还有其它的文件系统实现，例如使用了本地磁盘文件系统的Local文件系统和RawLocalFilesystem等。一：hdfs命令行接口 类似于传统的文件系统，hdfs提供命
转载
2023-07-12 19:07:10
51阅读
前言再看本文章之前，请先确保已经看过CentOS下hadoop的分布式搭建和分布式协作服务框架Zookeeper安装部署两篇文章，因为本文章是建立在它们基础之上的。一、HA相关介绍1、为什么出现HA架构Hadoop2.0之前，在HDFS集群中NameNode存在单点故障(SPOF)（也就是namenode单点宕机导致集群不可用的问题）。NameNode主要在以下两个方面影响HDFS集群:
Name
转载
2023-07-12 13:49:44
57阅读
首先，高可用集群是建立在zookeeper搭建没有问题的前提下来完成的，没有搭建好zookeeper的，先搭好才可以做以下操作。 一：前期准备（只需要在主节点master上完成） 1.拍摄快照 想拍就拍，不想拍算了，建议还是拍一个，毕竟万一搭不好，还可以回到你这个状态，记得给快照加个备注，以防忘记你这个快照是干嘛的。最好关机状态下拍。 2.删除完全分布式集群rm -rf /usr/local/
转载
2023-07-24 14:28:37
78阅读
这一步开始正式搭建hadoop，但是要确保前面的每一步都完成首先要下载一个一些工具：1.hadoop的安装包，linux版本的，后缀名市是tar.gz的这种2.跨平台数据传输工具，这里推荐使用xshell和xftp，xshell用来链接linux，而xftp则用来将一些文件从本机传到linux中（这个是在本机安装的，不要放到虚拟机里）第一步：将hadoop的安装包传输到master中，然后解压：t
转载
2023-07-24 11:31:50
115阅读
Hadoop Hadoop是一个能够对海量数据进行分布式处理的系统架构，为大数据计算提供了分布式的集群环境及计算框架；Hadoop框架的核心是：HDFS和Map Reduce。 HDFS分布式文件系统为海量的数据提供了存储，MapReduce分布式处理框架为海量的数据提供了计算。Hadoop部署 Hadoop部署方式分三种，Standalone mode单节点、Pseudo-Distributed
转载
2023-07-24 14:28:08
97阅读
本章介绍在CentOS搭建Hadoop集群环境 一、 安装Hadoop1. 解压文件tar -zxvf hadoop-2.7.0-x64.tar.gz -C /opt #解压Hadoop2. 编辑全局变量vi /etc/profile增加以下全局变量export HADOOP_HOME=/opt/hadoop-2.7.0
export PATH=$HADOOP_HOME/bin:$HAD
转载
2023-06-30 21:40:16
57阅读
Hadoop完全分布式配置Hadoop完全分布式部署一、需要的软件二、安装配置Hadoop1、 配置静态网络，关闭防火墙，设置hosts映射关系1.1使用ping 命令检测网络是否连通1.2 修改ip地址，设置为静态网络。1.3 关闭防火墙1.4 设置hosts映射关系1.4.1 编辑hosts文件：1.4.2 进入编辑模式 i，在最后一行添加2. 设置机器主机名和网络，以及测试hosts映射是
转载
2023-07-14 15:19:59
68阅读
笔记规则：*代表重点标记符号，即重要命令
* 环境变量：sudo gedit /etc/profile
* export JAVA_HOME=/jdk路径/jdk1.8.0_121
* export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib:$CLASSPATH
* export PATH=$JAVA_HOME/
转载
2024-08-10 14:54:08
42阅读
大数据集群（Hadoop生态）安装部署简介1）Hadoop是一个由Apache基金会所开发的分布式系统基础架构。2）主要解决，海量数据的存储和海量数据的分析计算问题。三类组件Hadoop HDFS：提供分布式海量数据存储能力Hadoop YARN：提供分布式集群资源管理能力Hadoop MapReduce：提供分布式海量数据计算能力前置要求请确保完成了集群化环境前置准备即：JDK、SSH免密、关闭
转载
2023-07-12 10:56:15
93阅读
在hadoop生态系统中，hadoop核心包括了hdfs以及mapreduce.hadoop的一些设计机制机架感知rack-aware使得master能够获取整个集群的基于网络ip地址或者主机名的分布图。通过一个脚本实现，脚本耦合少，参数只有网络ip地址或者主机名。相关配置项 topology.script.file.namehealth-checker健康检查的模块 类似hadoop这
转载
2023-12-25 12:25:09
30阅读
HADOOP HA 介绍 1. 概论 本指南提供了一个HDFS 的高可用性（HA ）功能的概述，以及如何配置和管理HDFS 高可用性(HA) 集群。本文档假定读者具有对HDFS 集群的组件和节点类型具有一定理解。有关详情，请参阅Apache 的HDFS 的架构指南。http://hadoop.apache.org/common/docs/current/hdfs_design.html
2. 背
安装方式：伪分布式，让进程跑在一台机器上，端口不一样 文档：http://hadoop.apache.org/docs/r2.7.6/hadoop-project-dist/hadoop-common/SingleCluster.html一、hadoop的安装部署1.使用rz命令上传按照所需版本上传：rz2.解压tar -zxvf hadoop-2.7.3.tar.gz -C ../modules
转载
2023-07-14 15:11:34
79阅读
HADOOP辅助工具、HA部署 前言 在一个完整的离线大数据处理系统中，除了hdfs+mapreduce+hive组成分析系统的核心之外，还需要数据采集、结果数据导出、任务调度等不可或缺的辅助系统，而这些辅助工具在hadoop生态体系中都有便捷的开源框架，如图所示：图：典型大规模离线数据处理平台sqoop数据迁移工具 2.1 概述 sqoop是apache旗下一款“Hadoop和关系数据库服务器之
转载
2023-09-28 22:55:49
76阅读
YDB依赖环境准备一、硬件环境硬件如何搭配，能做到比较高的性价比，不存在短板。合理的硬件搭配，对系统的稳定性也很关键。1.CPU不是核数越高越好，性价比才是关键。 经常遇到很多的企业级客户，他们机器配置非常高，CPU有128 VCore，256G内存，但是只挂载了1块8T的SATA硬盘，千兆网卡。 &nbs
