使用start-dfs.sh启动hdfs进程的详细过程
涉及的脚本有:
bin下:
hadoop-config.sh
start-dfs.sh
hadoop-daemons.sh
slaves.sh
hadoop-daemon.sh
hadoop conf下:
hadoop-env.sh
转载
2023-12-29 23:51:56
77阅读
本案例软件包：链接：https://pan.baidu.com/s/1zABhjj2umontXe2CYBW_DQ 提取码：1123（若链接失效在下面评论，我会及时更新）目录（1）点击虚拟机左上角编辑选中虚拟网络编辑器（2）网络参数配置 （1）点击虚拟机左上角编辑选中虚拟网络编辑器如果你的虚拟网络编辑器和我的页面展示不一样点击网络编辑器页面右下角的更改设置（用管理员特权修改网
转载
2024-03-11 06:48:14
56阅读
HDFS YARN Cloudera Management Zookeeper Spark主要角色：管理节点（Master Hosts）：主要用于运行 Hadoop 的管理进程，比如 HDFS 的NameNode，YARN 的 ResourceManage
转载
2023-07-12 09:51:04
191阅读
本文是我在使用Hbase的过程碰到的一些问题和相应的解决方法，现将这些经过总结分析，以免日后忘记。
hadoop新增节点
hadoop集群要增加3个节点。在3台主机分别配置了host、与集群内所有机器的ssh登录互信、jdk1.7 等。所有配置、目录等与集群其他机器保持一致。把安装文件拷贝到3台主机后，同时将修改后的配置文件分发到三台主机相应目录中。修改namenode的sl
转载
2024-05-03 22:42:35
318阅读
关于hadoop集群的硬件资源 大数据是当下最火热的名词，但真的大数据落地可行性方案估计更多也就是看几张报表，写几个T－SQL语句罢了，然后开始炒作我们xxx项目利用大数据技术……如是等等。这样才能跟上时代赶上潮流，自己戴上大数据的帽子。在资本市场宣扬一番，得到更多的关注而已。其实，大数据的概念或者是技术架构并没有最终的定论，各方说法都有争议并且持续存在着。而大多数真正可以落
转载
2023-07-29 14:18:44
178阅读
hadoop集群 动态添加或删除节点
在运行中的ambari hadoop集中中动态添加或删除节点
1. 下线hdfs节点
1) 下线datanode
namenode节点上dfs.exclude文件，看配置文件怎么配置的，里每行添加一个
转载
2023-12-23 08:22:11
41阅读
文章一： 无论是在Hadoop集群中添加机器和删除机器，都无需停机，整个服务不中断。 本次操作之前，Hadoop的集群情况如下： HDFS的机器情况如下： MR的机器情况如下： 添加机器 在集群的Master机器中，修改$HADOOP_HOME/conf/slaves文件，在其中添加需要加入集群的新机器（hp3）的主机名：hp3
hp2
dell1
dell2
dell3
dell4
转载
2023-07-21 15:03:22
205阅读
概念了解主从结构：在一个集群中，会有部分节点充当主服务器的角色，其他服务器都是从服务器的角色，当前这种架构模式叫做主从结构。主从结构分类：1、一主多从2、多主多从Hadoop中的HDFS和YARN都是主从结构，主从结构中的主节点和从节点有多重概念方式：1、主节点 从节点2、master slave3、管理者 工作者4、leader followerHadoop集群中各个角色的名称：服务
转载
2023-07-21 15:01:16
294阅读
mysql高可用高可用性需要解决的两个问题：1.如何实现数据共享或者同步数据。2.如何处理failover。failover的意思是指当服务器死机或出现错误时，可以自动切换到其他备用服务器，不影响线上业务数据共享一般的解决方案是SAN。数据同步可以通过rsync和DRBD实现 1.主从复制解决方案这是mysql自身提供的一种高可用解决方案，数据同步方法采用的是mysql replicat
转载
2024-06-10 07:44:30
28阅读
Hadoop集群中增加新节点 向一个正在运行的Hadoop集群中增加几个新的Nodes 1. 新节点上部署java/hadoop程序，配置相应的环境变量 2. 新节点上增加用户，从master上拷贝id_rsa.pub并配置authorized_keys 3. 新节点上设置host，需要有集群中各节点的host对应 4. 新节点上建立相关的目录，并修改属主 5. master的slaves文件中
转载
2023-07-21 14:30:22
271阅读
Hadoop专栏上一篇主目录 下一篇 目录1. 上传压缩包到服务器2. 解压到文件夹apps3. 修改配置文件4. 配置环境变量5. 在其他节点部署6. 验证启动7. 注意事项 【前言】 安装部署hadoop集群。共有五个节点hadoop01，hadoop02，…，hadoop05。01作为主节点NameNode，02是SecondaryNameNode，03是yarn（ResourceManag
转载
2023-10-08 00:37:52
290阅读
一、HDFS简介这篇官网的文章是介绍HDFS特性的：http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_design.html这里截取HDFS关键架构的图：
Namenode 和 DatanodeHDFS采用master/slave架构。一个HDFS集群是由一个Namenode和一定数目的Datanodes组成。Namenode是一个中心服务器，
转载
2023-09-14 13:57:28
100阅读
1. 前言本文搭建了一个由三节点（master、slave1、slave2）构成的Hadoop完全分布式集群，并通过Hadoop分布式计算的一个示例测试集群的正确性。2. 基础集群的搭建目的：获得一个可以互相通信的三节点集群使用VMware安装master节点（稍后其他两个节点可以通过复制master节点的虚拟机文件创建）。三个节点存储均为30G默认安装，master节点内存大小为1GB，单核，s
转载
2024-02-15 13:37:11
66阅读
1、在master虚拟机上配置hadoop（1）编辑Hadoop环境配置文件 - hadoop-env.sh执行命令：cd $HADOOP_HOME/etc/hadoop，进入hadoop配置目录 执行命令：vim hadoop-env.sh，添加三条环境变量配置export JAVA_HOME=/usr/local/jdk1.8.0_162 export HADOOP_HO
转载
2023-07-24 14:14:02
296阅读
开篇：在本笔记系列的第一篇中，我们介绍了如何搭建伪分布与分布模式的Hadoop集群。现在，我们来了解一下在一个Hadoop分布式集群中，如何动态（不关机且正在运行的情况下）地添加一个Hadoop节点与下架一个Hadoop节点。 一、实验环境结构 本次试验，我们构建的集群是一个主节点，三个从节点的结构，其中三个从节点的性能配置各不相同，这里我们主要在虚拟机中的内存设置这三个从节点分别为：5
转载
2024-08-02 10:02:07
49阅读
Elasticsearch内部提供了一个rest接口用于查看集群内部的健康状况： curl -XGET http://localhost:9200/_cluster/healthresponse结果：{
"cluster_name": "format-es",
"status": "green",
...
大数据集群之虚拟机集群大数据集群之Hadoop集群（HA）基本知识回顾Hadoop大致是由三部分的组件组成的，分别为HDFS，MapReduce，yarn。HDFS本质上是文件管理系统，HDFS大致又可以分为两个部分，NameNode（NN），DataNode（DN），NameNode为主节点或者说是Master节点，负责管理DataNode，NameNode同时只能有一个在工作，否则就会发生‘脑
转载
2023-12-11 22:50:10
62阅读
# 在Hadoop集群中新增节点的步骤指南
在大数据处理逐渐成为主流的今天，Hadoop集群的管理和扩展则显得尤为重要。如果你是刚入门的开发者，不妨跟随这篇文章，学习如何在Hadoop集群中新增节点。我们将从整体流程入手，逐步深入到每一步的具体实现。
## 流程概览
新增Hadoop集群节点的流程如下表所示：
| 步骤号 | 步骤描述 | 备注
原创
2024-10-21 05:15:52
93阅读
在namenode节点的etc/hadoop目录下创建dfs.hosts.exclude文件
vim dfs.hosts.exclude
添加hadoop204(要删除的节点)
原创
2023-06-15 14:11:41
57阅读
搭建好Hadoop集群后，需要通过一些措施和方法，来保障集群的平衡运行。下面介绍Hadoop管理中会用到的相关概念或方法。1 HDFS1.1 永久性数据结构1.1.1 Namenode的目录结构 hadoop@hhx247:/data/hadoop/hdfs/name
