HADOOP根据生产环境搭建并且已在生产环境中使用，多多指教
原创
精选
2022-08-25 23:07:16
731阅读
hadoop集群安装部署文档一、 系统环境配置1、修改主机名2、添加主机名映射3、创建集群管理用户,设置密码4、分配用户sudo权限5、创建用户文件存放及安装目录6、关闭防火墙7、安装jdk,配置jdk环境变量二、 Hadoop集群搭建1、安装hadoop,配置hadoop环境变量2、修改 hadoop-env.sh 文件3、执行本地模式wordcount案例4、克隆虚拟机5、修改网络配置及主机
转载
2024-05-15 06:23:34
63阅读
一：了解集群的原理：二：集群环境的搭建之前的准备工作：集群环境的搭建需要退回到hadoop分布式搭建之前：这个时候可以在安装hadoop之前在虚拟机中拍一个快照如果没有拍快照怎么解决：1，先停掉Hadoop的运行 :stop-dfs.sh2检查是否停掉：jps：看里面是否还有与Hadoop相关的程序在运行3如果没有相关的进程运行就删除hadoop的安装软件：rm -rf h
转载
2024-01-31 21:52:29
71阅读
目录一、Hadoop集群规划二、配置样板节点1、虚拟机硬件信息2、本地登录配置（1）root用户登录（2）关闭防火墙（3）修改主机名和IP地址（4）配置hosts（5）创建用户设置密码（6）添加sudo权限（7）切换用户验证sudo命令（8）创建软件安装目录3、远程登录配置（1）Xshell远程登录（3）安装jdk和hadoop（4）修改hadoop配置文件（5）配置主机免密登录三、克
转载
2024-02-02 18:10:30
261阅读
二、Hadoop集群搭建2.1、Hadoop安装将Hadoop安装包导入hadoop102的/opt/software文件夹下将Hadoop安装包解压至/opt/module文件夹下[atguigu@hadoop102 software]$ tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/配置Hadoop的环境变量在/etc/profile.d/my_en
转载
2023-11-11 20:41:10
83阅读
环境服务器配置：CPU型号：CPU核素：内存：操作系统版本：CentOSLinuxrelease7.5.1804(Core)主机列表：192.168.0.101node1192.168.0.102node2192.168.0.103node3192.168.0.104node4192.168.0.105node4软件路径：/data/toolsjdk版本：1.8JAVA_HOME路径：/opt/j
原创
2018-05-30 14:47:43
7445阅读
一、大数据的价值和应用 从2G到3G，再到现在的4G以及即将到来的5G，互联网已经成为绝大多数人生活中不可或缺的必须品。社交平台如微博、Facebook，购物平台如淘宝、亚马逊，移动支付如支付宝、applepay。诸如此类的平台随着手机智能化和移动技术的发展，“数据”的来源范围和数量呈指数级的增长。换句话说，我们每个人每天每时每刻都在创造“数据”，甚至连我们本人都是一条“数据”，只不过更复杂。而
学习大数据，hadoop集群搭建是第一步的，方便后面执行测试代码，调试环境。资源有限，这里采用windows上使用虚拟机，VMware。文章目录环境环境搭建环境虚拟机：VMware18环境：ubuntu，jdk1.8，hadoop2.7这里使用ubuntu，有些webui的东西可以看到，方便学习。jdk使用8，最普遍版本。环境搭建...
原创
2021-11-08 16:34:30
10000+阅读
学习大数据，hadoop集群搭建是第一步的，方便后面执行测试代码，调试环境。资源有限，这里采用windows上使用虚拟机，VMware。文章目录环境环境搭建环境虚拟机：VMware18环境：ubuntu，jdk1.8，hadoop2.7这里使用ubuntu，有些webui的东西可以看到，方便学习。jdk使用8，最普遍版本。环境搭建...
原创
2022-01-18 10:54:58
80阅读
Datanode负责 HDFS 数据存储。HDfS 中的 block 默认保存3份。Jobtracker通常与 NameNode 在一个节点启动。HDFS 默认 Block Size为64MB或128MB集群的最主要瓶颈是磁盘 IOSecondaryNameNode 的作用是帮助 NameNode 合并编辑日志，减少 NameNode 启动时间Puppet 、Pdsh 、Zookeeper可以作为
转载
2023-12-06 11:35:51
39阅读
客户端访问hdfs上的某一文件，首先要向namenode请求文件的元数据信息，然后nn就会告诉客户端，访问的文件在datanode上的位置，然后客户端再依次向datanode请求对应的数据，最后拼接成一个完整的文件；这里需要注意一个概念，datanode存放文件数据是按照文件大小和块大小来切分存放的，什么意思呢？比如一个文件100M大小，假设dn（datanode）上的块大小为10M一块，那么它存
转载
2021-04-29 14:19:50
1376阅读
2评论
一个执着于技...
原创
2021-07-29 14:53:43
412阅读
4.1 HADOOP集群搭建
4.1.1集群简介
HADOOP集群具体来说包含两个集群：HDFS集群和YARN集群，两者逻辑上分离，但物理上常在一起
HDFS集群：
负责海量数据的存储，集群中的角色主要有 NameNode / DataNode
YARN集群：
负责海量数据运算时的资源调度，集群中的角色主要有 ResourceManager /NodeManager
(那mapredu
转载
2018-12-23 10:57:00
178阅读
2评论
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。
原创
2021-07-28 13:58:33
528阅读
# 大数据Hadoop集群迁移方案
## 整体流程
在实现大数据Hadoop集群迁移方案时，一般可以分为以下几个步骤：
```mermaid
erDiagram
现有集群 -->> 目标集群: 迁移数据
现有集群 -->> 目标集群: 同步元数据
现有集群 -->> 目标集群: 测试验证
目标集群 -->> 现有集群: 切换生产环境
```
## 详细步骤
原创
2024-06-10 04:01:22
73阅读
目录1 启动准备工作1.1 配置操作系统的环境变量1.2 创建Hadoop数据目录1.3 格式化文件系统1.4 启动和关闭Hadoop1.5 验证Hadoop是否成功启动1.6 hadoop-daemon.sh的使用2 HDFS常用的操作命令3 hdfs的高级使用命令3.1 HDFS文件限额配置3.2 数量限额3.3 空间大小限额3.4 HDFS的管理命令3.5 hdfs的安全模式1 启动准备工作通过前面的配置现在可以启动Hadoop集群了，但是在首次启动Hadoop时还需要做一些准备工作。1.1
原创
2021-10-27 21:30:00
1355阅读
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。
原创
2021-07-28 14:00:13
306阅读
笔者在经历由Sql server数据处理，转型到hadoop数据处理整个过程，日处理数据量级在10亿左右，总结一些自己的想法1，在一个job内，整个拓扑集群在map，reduce阶段要涉及大量磁盘I/O和网络读写。从map阶段读入数据，到输出数据到磁盘，进行分区，洗牌分发各个reduce阶段，这期间无时无刻不在消耗的机器的资源。虽然可以通过map 简单条件判断，distributecache，bl
转载
2023-09-28 09:03:12
126阅读
目录前言一、版本选择二、安装过程1、将下载的hadoop-3.3.3.tar.gz文件上传到虚拟机上2、解压文件并修改权限（使用普通用户部署Hadoop）3、安装JDK4、配置环境变量5、部署安装6、YARN总结前言Hadoop自诞生至今已经成为了事实上的大数据标准，基于最初的Hadoop框架，有很多优秀的大数据组件被开发创造出来了，一步步形成了如今庞大的Hadoop生态。因此，对于想要接触了解大
转载
2024-01-23 22:30:03
78阅读
我们此处使用的是VM虚拟机，centOS6.5的系统，初学者建议装中文版的系统，方便查看，我这边也是先装中文版的系统，本文章主要讲解如何在搭建大数据平台之前要对虚拟机进行环境配置工作，我会在重要的步骤截图上传，方便大家学习讨论，同时，对于一些拓展知识我会进行注释解释，一些其他相关知识也会在文章末尾写出来的，以下便具体的讲解如何进行配置
一、系统环境准备工作：
①
** 首先查看
转载
2024-07-22 12:47:21
28阅读
