文章目录1. 配置主机名2. 时间同步3. ssh免密登录4. 关闭防火墙5. 禁用SELinux6. 安装Java环境7. 元数据库安装卸载mariadb安装MySQL8. 安装 Cloudera Manager9. 启动CM相关服务10. Web端操作 在云计算时代，可能很多公司为了成本的考虑，会采用第三方厂商提供的大数据集群，比如阿里的Maxcompute、华为的FusionInsigh
转载
2023-07-04 14:16:16
305阅读
CDH5.16.1集群新增节点
下面是集群新增节点步骤：1.已经存在一个集群，有两个节点192.168.100.19 hadoop-master192.168.100.20 hadoop-slave1新增节点ip为192.168.100.21 2.新增节点所有的操作都在root下进行，所以首先需要设置ssh可以使用root登
转载
2023-07-04 14:31:25
199阅读
CDH 安装市场上免费大数据框架主要有三个版本，原生的 Apache 版本，Cloudera(https://www.cloudera.com/) 公司研发的（Cloudera Distribution Hadoop，简称“CDH”）CDH 版本，也是市场上使用最多的，Hortonworks 版本（Hortonworks Data Platform，简称“HDP”）cm-cloudera mana
转载
2024-08-03 16:01:28
67阅读
本案例基于centos6.5安装CDH5.8.2分布式集群环境，都是在root用户下进行操作。到官网下载相应的安装包与校验文件集群环境：192.168.168.124 master；192.168.168.125 slaver1；192.168.168.126 slaver2一、准备工作1、卸载原jdk并安装jdk1.7.0_45，然后配置环境变量2
转载
2023-07-04 14:14:20
192阅读
CDH 6.0.x 安装步骤前沿一CDH6新功能介绍二：下面开始进行CDH6安装前的准备工作：1、配置主机名和hosts解析(所有节点)2、关闭防火墙3、关闭SELinux4、添加定时任务5、禁用透明大页面压缩6、优化交换分区三：安装 CM 和 CDH1、配置 Cloudera Manager 仓库 yum源(所有节点)2、配置仓储以及验证秘钥3、配置 JDK (所有节点)4、安装 CM Ser
0 说明本文以CDH搭建数据仓库，基于三台阿里云服务器从零开始搭建CDH集群，节点配置信息如下：节点内存安装服务角色chen10216Gcloudera-scm-serverchen1038Gcloudera-scm-agentchen1048Gcloudera-scm-agent上传需要用到的安装包： ① CDH安装包，百度云分享如下：链接：https://pan.baidu.com/s/1N9
转载
2023-08-18 13:28:15
195阅读
1.基础环境准备1.1创建一个新的虚拟机1.2安装虚拟机，设置ROOT密码并创建用户名为cdh的用户。 1.3修改配置文件 1.4测试是否可以联网 1.5安装常用命令 1.6关闭防火墙 1.7复制两台虚拟机并修改名称 1.8生成MAC地址并记录此地址之后取消 1.9启动第二台虚拟机 1.10修改配置文件，修改以下三处内容（MAC地址为之前记录的）。 1.11修改MAC地址与配置文件中一致 1.12
转载
2024-04-24 11:29:42
208阅读
目录1 测试环境参考方案1.0 资源：集群服务安排1.1 优化：Cloudera Management1.2 优化：Zookeeper1.3 优化：HDFS1.4 优化：YARN + MapReduce1.5 优化：Kafka1.6 优化：HBase1.7 优化：Hive1.8 优化：Oozie、Hue、Solr、Spark2 线上集群参考方案2.0 资源：集群服务安排2.1 优化：Clouder
转载
2023-12-27 16:16:58
86阅读
实时大数据平台安装文档文档编号版本号V1.0名称实时大数据平台安装文档总页数正文编写日期审批1. 引言1.1 编写目的该手册旨在记录部署大数据CDH集群的流程，为后续作业提供参考，提高利用CM部署集群的效率和减少出现问题的可能性，帮助现场部署人员更好，更快地完成部署任务。1.2 环境及术语该手册要求，现场部署环境已经安装好操作系统，建议centos7.4，且网络已经配置完毕，磁盘空间达到TB级别C
转载
2024-05-26 17:39:06
47阅读
文章目录一、安装环境二、安装集群2.1 选择CM版本2.1.1 欢迎页2.1.2 接受条款2.1.3 选择版本2.2 群集安装2.2.1 欢迎页2.2.2 集群名称2.2.3 选择安装的主机2.2.4 选择存储库2.2.5 JDK安装协议2.2.6 提供 SSH 登录凭据2.2.7 自动安装Agent2.2.8 自动安装Parcels2.2.9 检查群集2.3 群集设置2.3.1 服务选择2.3
转载
2024-07-23 07:03:58
39阅读
Hadoop安装前准备环境Hadoop版本信息Hadoop是一款开源软件，并且开源社区比较活跃，所以Hadoop的版本也就比较多，主要三大版本： Apache Hadoop版本(社区版本) 迭代周期较短，更新较快，完全免费。 Hortonworks数据平台 Hortonworks提供了高可用性支持、高性能的Hive ODBC驱动。CDH信息
转载
2023-07-04 14:40:19
203阅读
# 使用CDH安装Spark集群：详细指南
Apache Spark是一个强大的开源集群计算框架，能够进行快速的处理大数据任务。它在分布式数据处理、机器学习和实时数据分析方面表现优异。为了有效利用Spark的能力，许多用户选择在Cloudera Distribution for Hadoop（CDH）上安装Spark。本篇文章将为您详细介绍在CDH环境中安装Spark集群的过程，并提供相关代码示
为什么选择CDHCDH 是cloudera 公司的产品(各种组件的各个版本比较兼容的安装包)，提供Hadoop 生态系统各个工具的统一安装和管理Cloudera Manager，同时还有一家对应的公司是hortonworks,对应的提供Ambari安装包和对应的管理工具。关于这两种产品选择的详细对比，我会选择单独的博客来说明，现在这里的选择就是随机选一个了。安装前说明这里是列表文本安装前，当然是
转载
2024-08-06 19:03:58
25阅读
1 下载镜像并启动实例docker pull redis:6.0.8docker run -d --name redis-node-1 --net host --privileged=true -v /data/redis/share/redis-node-1:/data redis:6.0.8 --cluster-enabled yes --appendonly yes --port 6381
安装前的准备工作配置主机名、hosts、开启PermitRootLogin、设置密码 、做免密 、java环境变量、时间同步安装过程概述（Ubuntu18.04安装）(centos7离线安装参考)http://ro-bucharest-repo.bigstepcloud.com/cloudera-repos/cm6/redhat/7/x86_64/cm/6.2.0/RPMS/x86_64/(免费的
转载
2024-05-12 18:09:44
164阅读
文章目录一.准备工作1.1 CDH 6.3.1大数据平台搭建1.2 安装方式讨论1.3 安装介质下载及上传1.3.1 介质下载1.3.2 上传文件1.4 重启cdh集群二.安装Flink2.1 配置本地Flink 的 parcel2.2 开始安装Flink三.FAQ3.1 Deploy client Configuration失败3.2 为激活 Parcel:[flink]参考: 一.准备工作1
转载
2024-04-19 19:03:16
69阅读
一、准备工作安装jdk1.8及maven，jdk使用CDH安装包中自带的jdk的rpm包即可安装完成后添加环境变量[root@linux201 ~] vim /etc/profile.d/custom.sh添加如下内容# JAVA_HOME
JAVA_HOME=/usr/java/jdk1.8.0_181-cloudera
PATH=$PATH:$JAVA_HOME/bin
# MAVEN_H
转载
2024-05-30 13:12:54
71阅读
环境说明:
cdh版本:cdh6.3.2组件版本信息如下:组件版本Cloudera Manager6.3.1Flume1.9.0+cdh6.3.2Hadoop3.0.0+cdh6.3.2HBase2.1.0+cdh6.3.2Hive2.1.1+cdh6.3.2Hue4.2.0+cdh6.3.2Impala3.2.0+cdh6.3.2Kafka2.2.1+cdh6.3.2Solr7.4.0+cdh6
转载
2023-08-21 18:57:03
307阅读
组件版本：flink：1.13.0-1.12cdh：5.16.1概述：为cdh集群搭建flink，需要编译flink的parcel包；准备环境：安装git和maven，并配置maven的环境变量（lunix安装maven可自行百度，注意镜像换成阿里云的）进行安装：1、下载parcel制作包，并修改配置文件下载flink的parcel制作包（这是通过githup下载的）：git clone http
转载
2024-05-20 16:48:31
75阅读
前言 参考文章中，给出的cdh编译后的flink，已经下架，所以我们得想办法，编译。参考别人的文章不可怕，怕的是，不思进取，我们可以参考别人的文章，并且对不足之处，进行改进，将优秀的地方，进行学习，这样我们国家和民族的技术文章和社区，才能不断进步。可能有一天我不干程序员了，但是技术更新了，那时，我也希望，我的文章能被别人拿走，进行改进，造福开源社区。于是，此文章是基于参考文章为基础，进行
转载
2024-02-25 10:04:35
69阅读
