ZooKeeper安装和运行Zookeeper是一个高性能、分布式的、开源分布式应用协调服务，具有命名服务、配置管理、同步和组服务等基本功能。Zookeeper服务自身组成一个集群(2n+1个服务允许n个失效)。Zookeeper服务有两个角色，一个是leader，负责写服务和数据同步，剩下的是follower，提供读服务，leader失效后会在follower中重新选举新的leader。ZooK
转载
2023-09-01 08:03:43
57阅读
Hadoop管理员负责为用户作业提供一个高效的运行环境。管理员需要从全局出发，通过调整一些关键参数值提高系统的吞吐率和性能。总体上看，管理员需从硬件选择、操作系统参数调优、JVM参数调优和Hadoop参数调优等四个方面人手，为
Hadoop
用户提供一个高效的作业运行环境。
1.硬件选择
Hadoop自身架构的基本特点决定了其硬件配置的选型。Hadoop采用了
转载
2024-08-02 11:26:25
73阅读
1.1 The Hadoop EnvironmentDistributed computation:(分布式计算)The computation tire uses a framework called MapReduce.Distributed storage:(分布式存储)A distributed filesystem called HDFS,provides storage.1.2 Wha
转载
2023-07-24 11:01:29
120阅读
HBase 是一种分布式、可扩展、支持海量数据存储的 NoSQL 数据库。（列数据库）基本介绍HBase 逻辑结构HBase 物理存储结构数据模型，HBase和MySQL对应关系MySQLHBase解释数据库（DatabBase）命名空间（Name Space ）HBase有两个自带的命名空间，分别是 hbase 和 default，hbase 中存放的是 HBase 内置的表，default 表
转载
2023-10-07 21:12:15
166阅读
# 实现"master hadoop"的步骤
## 流程概述
在实现"master hadoop"这个任务时，我们首先需要搭建Hadoop环境，然后学习Hadoop的基本概念和使用方法，最后通过实际操作来掌握Hadoop的应用。下面是整个过程的步骤概要：
步骤 | 操作
--- | ---
1 | 安装Hadoop
2 | 配置Hadoop集群
3 | 学习Hadoop基本概念
4 | 编写和
原创
2024-03-17 04:09:36
33阅读
Hadoop使用了master/slave的集群架构。master包括了NameNode和ResourseManager两个重要的Hadoop节点。所以master是一种非常重要的节点。一定要保证master的硬件资源是最好的。但是，即使是最好硬件，最稳定的机器也可能出现问题，而master又是如此重要，所以我们需要一种高可用架构，使得即使master坏掉，整个集群也能迅速恢复工作。Hadoop
转载
2023-07-16 22:08:52
77阅读
## Hadoop Master和Zookeeper Master的实现流程
为了让这位刚入行的小白能够理解如何实现Hadoop Master和Zookeeper Master，我将按照以下步骤进行讲解：
1. 安装Hadoop和Zookeeper
2. 配置Hadoop Master
3. 配置Zookeeper Master
下面是整个流程的表格，展示了每个步骤所需做的事情：
| 步骤
原创
2024-01-01 06:38:00
46阅读
## Hadoop Master JPS 简介
在使用Hadoop分布式计算框架时，了解Hadoop Master进程（如NameNode，ResourceManager等）的状态是非常重要的。通过使用`jps`命令可以查看当前运行在集群中的Java进程和它们的状态。
本文将介绍如何使用`jps`命令来查看Hadoop Master进程的状态，并且提供相关的代码示例。
### 什么是`jps
原创
2024-05-13 07:08:11
55阅读
一、虚拟机创建成功 二、1.打开——>用root用户登陆修改虚拟机主机名为master vim /etc/hostname esc shift+: wq 保存退出三：关闭防火墙1.查看防火墙状态systemctl status firewalld2.关闭防火墙systemctl stop firewalld3.关闭开机自启动systemctl
转载
2024-09-08 11:28:36
48阅读
继续Smart SSD主题相关 本文主要将Smart SSD应用到MapReduce系统中。MapReduce是由谷歌公司提出的一种面向大规模数据处理的并行计算模型和方法。Map处理原始数据，杂乱无章；Reduce中数据是根据键值对key后面的value来组织的。可以看做把一堆杂乱无章的数据按照某种特征归纳处理，提取出key和value。从而方便进一步处理。
大规模数据就决定了难以全部存档在内存，
# 实现Hadoop单独master指导
## 流程图
```mermaid
flowchart TD
A(准备Hadoop环境) --> B(配置hdfs-site.xml)
B --> C(配置core-site.xml)
C --> D(启动NameNode)
```
## 类图
```mermaid
classDiagram
NameNode
原创
2024-07-12 04:42:47
11阅读
【Hbase】-总结不善于总结，就是在浪费时间一、Hbase架构及包含角色Client:主要作用是提供访问Hbase 的接口，维护了对应的Cache来加速Hbase 的访问，例如cache的.META元数据信息。Zookeeper:主要作用是提供Hmaster高可用及RegionServer的监控、元数据入口、集群配置维护等操做：使用ZK的选举机制进行选举leader,如果Hmaste
转载
2023-07-12 10:02:05
508阅读
搭建有三台集群的hadoop，cover atguigu思路：先搭建一台虚拟机hadoop100，硬件、软件、IP、主机名称都，配好后再克隆出三台hadoop102、hadoop103、hadoop104，然后再进行集群的配置。教程分为三部：克隆前，克隆，克隆后克隆前： 1、安装模板虚拟机（配置好内存4G、硬盘50G、IP、主机名称）安装VMware、CentOS、远程终端工具（Moba
转载
2023-09-14 13:13:51
91阅读
帅气的目录0、集群规划1、服役新节点1.1、新节点网络配置1.2、复制软件1.3、删除Hadoop的数据和日志1.4、修改workers并分发（非必须）1.5、启动新节点2、删节点2.1、白名单（不常用，建议用黑名单）2.1.1、配置白名单【dfs.hosts】的位置2.1.2、配置白名单【dfs.hosts】的内容2.1.3、重启NameNode2.1.4、从白名单中去掉某个节点2.1.5、刷
转载
2024-08-02 12:01:20
41阅读
一：模块介绍Hadoop comment: 为hadoop的其他模块提供基础支持(工具类) Hadoop Distributed File System: 高吞吐量的分布式文件管理系统 Hadoop MapReduce：大数据的离线的并行计算框架（固定三步：map—reduce–shuffle） Hadoop Yarn: 分布式资源管理框架(MapReduce的扩展):任务调度+资源管理二：相关进
转载
2023-09-14 15:48:45
114阅读
Elasticsearch 是一个可扩展的分布式系统，可为企业搜索、日志聚合、可观察性和安全性提供解决方案。 Elastic 解决方案建立在一个单一、灵活的技术堆栈之上，可以部署在任何地方。 要在自托管或云端运行生产环境 Elasticsearch，需要规划基础架构和集群配置，以确保健康且高度可靠的性能部署。在本文中，我们将重点介绍如何在部署生产级集群之前根据使用量估算和创建一个实施计划。容量规划
转载
2024-06-19 06:47:18
58阅读
1.了解什么是hadoop Hadoop是一个由Apache基金会所开发的用于大数据开发所使用的一个分布式系统基础架构。（简单来说就是大数据开发的软件框架，可以实现存储信息，查看信息，管理信息）2.hadoop的基本特征： 1.高可靠性。采用冗余数据存储方式，当一个副本发生故障，其他副本也可以保证正常对外提供服务。 &nb
转载
2023-07-12 12:22:50
61阅读
Hadoop培训课程：HDFS的Master/Slave架构，相比于基于P2P模型的分布式文件系统架构，HDFS采用的是基于Master/Slave主从架构的分布式文件系统，一个HDFS集群包含一个单独的Master节点和多个Slave节点服务器，这里的一个单独的Master节点的含义是HDFS系统中只存在一个逻辑上的Master组件。一个逻辑的Master节点可以包括两台物理主机，即两台Mas
转载
2023-08-06 22:15:53
55阅读
折腾hadoop好久，期间几次完全推到重来，现在在这里写下来备份。本文不是写给别人作为教程，而是给我自己作提醒的，如果你碰巧看到了本文，那你可能需要一些linux基本知识才能正确理解。1，安装linux 本文假设从裸机开始，所以要先装linux。本人是ubuntu对支持者，所以装的是ubuntu，废话没有，很容易就装好了。在安装过程中，要注意所有节点对主机名应
转载
2024-07-23 07:26:47
17阅读
本文从源码调用方面介绍从应用程序提交到启动ApplicationMaster的整个过程，期间涉及ClientRMService、RMAppManager、RMAppImpl、RMAppAttemptImpl、RMNode、ResourceScheduler等几个主要组件。当客户端调用RPC函数ApplicationClientProtocol#submitApplication之后，Resourc
转载
2023-08-15 17:42:39
114阅读
