Hadoop三大公司apachehortonWorksCloudera星环科技（国内）Hadoop的模块组成HDFS：一个高可靠、高吞吐量的分布式文件系统。MapReduce：一个分布式的离线并行计算框架。YARN：作业调度与集群资源管理的框架。Common：支持其他模块的工具模块。 Hadoop集群搭建（此案例需要三台虚拟机）1、服务器主机名和IP配置（三台）2、修改每个主机的/etc/host
转载
2023-08-30 15:47:18
52阅读
*0.前言*
CDH搭建方式是使用Cloudera Manager进行一键式搭建hadoop集群，Cloudera Manager里面集成了hadoop组件的管理功能，并且提供了hadoop组件的静态资源parcel，可以实现一键安装、配置，统一管理。非常节省时间。 不推荐初学者学习CDH方式搭建，初学者建议以apache传统方式搭建，方便学习hadoop组件的工作原理。*1.前置操作*
准备了四
转载
2023-07-13 11:38:06
206阅读
RocketMQ有一个对齐扩展的开源项目ncubator-rocketmq-externals，有一个子模块叫rocketmq-console,这个便是管理控制台项目了，先将incubator-rocketmq-externals拉取到本地，因为我们需要对rocketmq-console进行编译打包 ...
转载
2021-09-22 15:39:00
130阅读
2评论
客户端访问hdfs上的某一文件，首先要向namenode请求文件的元数据信息，然后nn就会告诉客户端，访问的文件在datanode上的位置，然后客户端再依次向datanode请求对应的数据，最后拼接成一个完整的文件；这里需要注意一个概念，datanode存放文件数据是按照文件大小和块大小来切分存放的，什么意思呢？比如一个文件100M大小，假设dn（datanode）上的块大小为10M一块，那么它存
转载
2021-04-29 14:19:50
1376阅读
2评论
目 录 一、检查本地k8s环境 1.检查系统pod运行状态 2.检查node节点状态 二、配置nfs共享存储 1.安装nfs 2.创建共享目录 3.配置共享目录 4.启动相关服务 5.使配置生效 6.查看nfs 7.其他节点检...
转载
2022-11-14 18:54:49
338阅读
Kubernetes集群搭建Zabbix监控平台，超详细↓
转载
2022-08-05 10:50:01
166阅读
生而有涯而学无涯最近使用VMWare搭建了一个虚拟的Hadoop集群环境，搭建的过程中参考了很多网上大神的资料，在这里记录下本人实践的全过程，用于以后的查询参考使用，参考的资料会在文末贴出对应的链接。集群配置详情hostnameip addressos(Centos7mini)master192.168.224.100Centos7(mini)slave1192.168.224.201Centos
转载
2023-07-12 15:42:12
183阅读
使用腾讯云主机，docker构建集群测试环境。环境1、操作系统： CentOS 7.2 64位网路设置hostnameIPcluster-master172.18.0.2cluster-slave1172.18.0.3cluster-slave2172.18.0.4cluster-slave3172.18.0.5Docker 安装curl -sSL https://get.daocloud.io/
转载
2023-10-13 16:09:50
123阅读
Hadoop安装笔记
1.本次安装的是hadoop集群环境，使用的是vmware虚拟机和centos等，安装步骤在博客内这篇文件中：
我使用同网段不同集群安装的虚拟机，保证每个虚拟机如图本机一样可以相互通信。
由于我安装了一次centos，所以其他机器的虚拟机是复制这个centos的，密码账号相同
1）安装ssh和sshd
sshd是centos中提供
转载
2023-08-09 09:22:06
180阅读
一、虚拟机的安装（Centos 7)1.点击 Centos 7镜像 进行下载 2.安装成功后，利用克隆再克隆两个作为slave1和slave2进行搭建 3. 利用 ifconfig命令，获取三个虚拟机的IP地址：二、搭建集群配置主节点名（master) 在命令行中输入： vi /etc/sysconfig/network 添加一下内容：NETWORKING=yes
HOSTNAME=master配
转载
2023-09-21 22:48:33
166阅读
搭建所用Hadoop java版本hadoop-3.1.3.tar.gz jdk-8u212-linux-x64.tar.gz安装包链接：Hadoop及jdk安装包提取码：icn6首先，我们先下载并且安装好虚拟机准备好三台机器主机名ip地址master192.168.45.110salve1192.168.45.111salve2192.168.45.112 集群按以下要求
转载
2023-09-14 13:59:28
81阅读
一、集群安装条件前置在虚拟机上先准备一个机子 按用前面【安装单机hadoop】 已完成安装jdk,hadoop和ssh、网络等配置环境等。虚拟机和操作系统环境：ubuntu14 + hadoop2.6+jdk1.7+ssh虚拟机：（vmware10） 二、集群安装环境设置Hadoop的安装为分布式模式，考虑到实际条件集群机定为3台（2台也可以）。（1）克隆3个ubuntu实例
转载
2023-08-04 11:24:16
196阅读
概念HDFS分布式文件系统会将用户提交的文件存储在一个服务器集群中 HDFS中有两种重要的服务器软件角色：datanode --》负责存储用户文件的块namenode--》负责记录用户存储的文件的虚拟路径，及文件每一个块的具体位置（哪一块在哪一台datanode服务器上） 安装一个HDFS集群 准备工作：规划：要有一台机器安装namenode &
CentOS6.5mini版hadoop集群搭建流程 CentOS 7 系列： 关闭防火墙：systemctl stop firewalld 禁止防火墙开
完全分布式环境是指在多台单机上组建分布式集群，Hadoop完全分布式集群是主从架构，一般需要使用多台服务器组建。从安全性等方面考虑，Hadoop集群搭建在Linux系统上其安全性更有保障。以下是创建Linux虚拟机的步骤打开软件，在上安装CentOS 7 的Linux操作系统。1.打开安装好的软件，进入主界面，选择“创建新的虚拟机” 2.弹出“新
转载
2023-09-06 09:25:32
18阅读
我们此处使用的是VM虚拟机，centOS6.5的系统，初学者建议装中文版的系统，方便查看，我这边也是先装中文版的系统，本文章主要讲解如何在搭建大数据平台之前要对虚拟机进行环境配置工作，我会在重要的步骤截图上传，方便大家学习讨论，同时，对于一些拓展知识我会进行注释解释，一些其他相关知识也会在文章末尾写出来的，以下便具体的讲解如何进行配置
一、系统环境准备工作：
①
** 首先查看
转载
2024-07-22 12:47:21
28阅读
首先说一下配置环境：三台电脑192.168.30.149 hadoop149 namenode和jobtracker ###因为149机器稍微好一点
192.168.30.150 hadoop150 datanode和TaskTracker
192.168.30.148 hadoop150 datanode和TaskTracker配置ssh无需密码登陆：$ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys我的master在149可以吧149
转载
2011-12-05 14:31:00
3083阅读
2评论
实验目标 搭建一个Hadoop系统，包含分布式文件系统HDFS、分布式计算框架MapReduce。 实验原理 Hadoop框架透明地为应用提供可靠性和数据移动。它实现了名为MapReduce的编程范式：应用程序被分割成许多小部分，而每个部分都能在集群中的任意节点上运行或重新运行。此外，Hadoop还提供了分布式文件系统，用以存储所有计算节点的数据，这为整个集群带来了非常高的带宽。MapReduce
转载
2023-07-31 17:27:00
126阅读
Hadoop 集群监控是保证 Hadoop 集群正常运行的重要环节，通过监控可以及时发现并解决问题，确保集群的稳定性和性能。在 Kubernetes (K8s) 环境下，我们可以利用一些工具来实现 Hadoop 集群的监控，例如 Prometheus、Grafana 等。接下来我将为你介绍如何在 K8s 中实现 Hadoop 集群监控。
整体流程
为了帮助你更好地理解整个过程，我将整个流程用表格
原创
2024-05-27 10:51:24
72阅读
# Hadoop集群监控
Hadoop是一个开源的分布式计算框架，用于处理大规模数据集的存储和处理。为了确保Hadoop集群的稳定运行，监控Hadoop集群的健康状况是非常重要的。本文将介绍如何进行Hadoop集群监控，并提供相应的代码示例。
## 监控指标
在监控Hadoop集群之前，我们首先需要了解需要监控的指标。常见的Hadoop集群监控指标包括：
1. **集群资源使用情况**：包
原创
2023-11-23 13:14:37
185阅读
