集群技术
集群（cluster）技术是一种较新的技术,通过集群技术，可以在付出较低成本的情况下获得在性能、可靠性、灵活性方面的相对较高的收益，其任务调度则是
集群系统中的核心技术。本文就
集群系统的定义、发展趋势、任务调度等问题进行了简要论述。
集群是一组相互独立的、通过高速
网络互联的计算机，它们构成了一个组，并以单一系统的模式加以管理。一个客户与集群
转载
2023-09-14 13:58:22
68阅读
一、Hadoop是什么？Hadoop是这样一个框架，它可以通过使用简单的编程模型来对跨计算机的集群中的大型数据集进行分布式的处理。它被设计成可以从单个服务器扩展到数千台机器，每个机器都提供本地的计算和存储。与依赖于硬件来保证高可用性不同，该库本身的设计目的是检测和处理应用程序层的故障，因此可以在众多计算机组成的集群的顶部提供一个高可用的服务，但是组成集群的每一个计算机都有可能出现故障。上面是Had
转载
2024-07-08 19:43:38
27阅读
一、集群规划如果你正准备从0开始搭建一套CDH集群应用于生产环境，那么此时需要做的事情应该是 结合当前的数据、业务、硬件、节点、服务等对集群做合理的规划，而不是马上动手去安装软件。合理的集群规划应该做到以下几点：充分了解当前的数据现状与业务方深入沟通，了解将会在集群上运行的业务，集群将会为业务提供什么服务结合数据现状与业务，合理预估未来的数据量增长盘点当前可用的硬件资源，包括机柜机架、服
转载
2023-08-03 15:49:30
159阅读
# CDH集群与Hadoop集群的区别
在大数据领域，CDH (Cloudera Distribution including Apache Hadoop) 和 Hadoop 是两个重要的概念。对新手来说，理解这两个集群之间的区别尤为重要。本文将通过一个系统化的流程，帮助你掌握CDH集群和Hadoop集群的差异，并且展示如何实际操作。
## 整体流程
下面是理解CDH和Hadoop集群差异的
原创
2024-09-30 04:51:31
177阅读
目录一、准备与规划1、硬件准备2、软件准备3、主机规划二、系统安装三、网络配置1、配置虚拟机网络2、使用XShell连接虚拟机四、环境配置1、安装必备软件2、配置hosts3、创建hadoop用户4、关闭防火墙5、时间同步6、安装JDK五、克隆虚拟机1、克隆虚拟机2、配置克隆虚拟机网卡3、配置免密登录ssh六、Cloudera Manager安装1、安装mysql2、搭建本地软件仓库3、安装Clo
转载
2023-10-26 16:16:42
330阅读
说明：【一、CDH5.16.2集群之VMware-workstation-14安装】【二、CDH5.16.2集群之三台虚拟机安装】【三、CDH5.16.2集群之三台虚拟机配置网络配置】【四、CDH5.16.2集群之XShell连接虚拟机】一、集群前期配置1、安装JAVA（三台虚拟机都执行） 卸载自带的Java 执行：rpm -qa | grep -i java 执行如下命令卸载上图中箭头所指的四个
转载
2024-02-01 09:53:13
49阅读
从零搭建生产Hadoop集群（三）——CDH集群搭建一、概述二、硬件检查与系统配置1.硬件检查1）检查内存2）检查所有磁盘挂载。将noatime参数写入/etc/fstab，并remount所有数据盘。3）检查磁盘读写4）检测网卡设置5）检测路由6）检查系统版本2.系统配置1）配置hostname与/etc/hosts（所有节点）设置hostname设置/etc/hosts2）所有节点安装SSH
转载
2023-07-04 14:54:50
40阅读
前言 由于项目数据安全的需要，这段时间看了下hadoop的distcp的命令使用，不断的纠结的问度娘，度娘告诉我的结果也让我很纠结，都是抄来抄去，还好在牺牲大量的时间的基础上还终于搞出来了，顺便写这个随笔，记录下。环境 目前我们是两套同版本的CDH集群，集群内的节点通信使用的私网，提供浮动ip对外通信，也就是说，两个集群间的私网是不互通的，只能通过浮动ip进行通信。操作使用hadoop提供的d
转载
2023-07-28 15:58:51
411阅读
文章目录一、安装环境二、安装集群2.1 选择CM版本2.1.1 欢迎页2.1.2 接受条款2.1.3 选择版本2.2 群集安装2.2.1 欢迎页2.2.2 集群名称2.2.3 选择安装的主机2.2.4 选择存储库2.2.5 JDK安装协议2.2.6 提供 SSH 登录凭据2.2.7 自动安装Agent2.2.8 自动安装Parcels2.2.9 检查群集2.3 群集设置2.3.1 服务选择2.3
转载
2024-07-23 07:03:58
39阅读
前言 折腾了一段时间hadoop的部署管理，写下此系列博客记录一下。 为了避免各位做部署这种重复性的劳动，我已经把部署的步骤写成脚本，各位只需要按着本文把脚本执行完，整个环境基本就部署完了。部署的脚本我放在了开源中国的git仓库里()。 本文的所有部署都基于cloudera公司的CDH4,CDH4是cloudera公司包装好的hadoop生态圈一系列yum包，把
转载
2024-08-02 12:08:02
97阅读
一、搭建环境1.云服务器硬件服务器名称内网IPCPU内存硬盘nn172.30.128.212CPU2核内存16G硬盘40Gsnn172.30.128.213CPU2核内存16G硬盘40Gdn1172.30.128.211CPU1核内存4G硬盘40Gdn2172.30.128.214CPU1核内存4G硬盘40Gdn3172.30.128.215CPU1核内存4G硬盘40G2.软件环境 所有服务器系统
转载
2024-01-04 23:38:19
114阅读
工欲善其事必先利其器。Cloudera是一个非常简单方便的，用来部署和管理Hadoop集群的工具。
1. Cloudera介绍Hadoop是一个开源项目，Cloudera对Hadoop进行了商业化，简化了安装过程，并对hadoop做了一些封装。 根据使用的需要，Hadoop集群要安装很多的组件，一个一个安装配置起来比较麻烦，还要考虑HA，监控等
转载
2023-07-10 15:46:37
196阅读
一、Hadoop在CDH和HDP中的使用咱们前面学习了官方的Apache Hadoop版本，我们前面也说了，在实际工作中其实会使用CDH或者HDP，那下面我们就看一下在CDH和HDP中如何操作Hadoop。注意了，在这里我不打算讲CDH和HDP的安装部署，意义不大，咱们是开发人员，主要侧重于代码开发，安装部署的工作是运维人员的，咱们不能抢饭碗啊，什么都让你做了，别人不就得喝西北风啊，这样太不地道了
转载
2023-07-04 14:14:50
113阅读
1. Hadoop是什么Hadoop是一个由Apache基金会所开发的分布式系统基础架构。主要解决，海量数据的存储和海量数据的分析计算问题。广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈。2. Hadoop的三大发行版本Apache版本最原始（最基础）的版本，对于入门学习最好。2006年Cloudera内部集成了很多大数据框架，对应产品CDH ,2008年Hortonwor
转载
2023-10-08 00:22:45
100阅读
# CDH集群中的Hadoop位置详解
在当今大数据时代，Apache Hadoop的应用已成为数据处理与分析的关键技术之一。Cloudera的CDH (Cloudera Distribution Including Hadoop) 集群是一个非常流行的Hadoop发行版，提供了可靠的分布式计算和存储解决方案。然而，很多初学者和使用者常常会问：“CDH集群中的Hadoop到底在哪里？”
本文将
原创
2024-10-14 03:31:28
40阅读
```mermaid
erDiagram
PARTICIPANT 经验丰富的开发者 AS Dev
PARTICIPANT 刚入行的小白 AS Newbie
RELATIONSHIP {
Dev -> Newbie: 指导
}
```
# CDH集群hadoop目录实现流程
## 1. 创建Hadoop目录结构
首先，我们需要创建Hadoop的目
原创
2024-05-04 04:05:48
34阅读
# CDH Hadoop 集群实例解析
随着大数据时代的来临，Hadoop 作为一套开源的分布式计算框架，已经成为数据处理与存储中的重要组成部分。CDH（Cloudera Distribution Including Apache Hadoop）是一个流行的 Hadoop 发行版，集成了多种大数据处理工具。在本文中，我们将探讨如何搭建一个 CDH Hadoop 集群，提供一些基本的代码示例，并解
第一步、修改sshd_config，清空resolv.conf
vi /etc/ssh/sshd_config
找到#UseDNS yes 修改为UseDNS no
找到下面三行
RSAAuthentication yes
PubkeyAuthentication yes
AuthorizedKeysFile .ssh/authorized_keys
将注释去掉
CDH部署Hadoop集群是一项非常重要的任务，涉及到大数据的存储和计算，对于数据处理非常有用。在本文中，我将告诉你如何在K8S中部署Hadoop集群。
首先，让我们了解整个流程。在CDH中部署Hadoop集群一般需要以下步骤：
| 步骤 | 操作 |
| ---- | ---- |
| 1. | 准备K8S集群 |
| 2. | 创建Hadoop的ConfigMap和Service |
|
原创
2024-05-17 11:59:13
148阅读
一、软件介绍1、CDH 概览CDH（Cloudera Distribution of Apache Hadoop） 是 Apache Hadoop 和相关项目中最完整、经过测试和流行的发行版。CDH 提供 Hadoop 的核心元素，可伸缩存储和可扩展分布式计算，以及基于 web 的用户界面和关键的企业功能。CDH 是 apache 授权的开放源码，是惟一提供统一批处理、交互式 SQL 和交互式搜索
转载
2024-01-04 23:32:53
65阅读
