我们经常被问到如何让spark集成到hadoop生态系统中，如何让spark在现有的hadoop集群中运行，本文的目的就是来回答上述问题。1，spark主要用于提高而不是取代hadoop栈，从一开始spark就被设计从hdfs中读取存储数据，类似于其他的存储系统，例如Hbase, Amazon S3等，因此，hadoop用户可以通过结合spark来提高hadoop MR, Hbase 及其他大数据
转载
2023-06-30 21:48:25
148阅读
一、完善目录1、在HBinz用户下新建目录software 存放安装软件data 存放测试数据 source 存放源代码 lib 存放相关开发的jarapp 软件安装目录tmp 存放HDFS/Kafka/ZK数据目录maven_repo maven本地仓库shell 存放上课相关的脚本mkdir software data source lib app tmp maven_r
转载
2023-11-22 22:00:26
59阅读
一、软件介绍1、CDH 概览CDH（Cloudera Distribution of Apache Hadoop） 是 Apache Hadoop 和相关项目中最完整、经过测试和流行的发行版。CDH 提供 Hadoop 的核心元素，可伸缩存储和可扩展分布式计算，以及基于 web 的用户界面和关键的企业功能。CDH 是 apache 授权的开放源码，是惟一提供统一批处理、交互式 SQL 和交互式搜索
转载
2024-01-04 23:32:53
65阅读
一、Hadoop大数据平台1、Hadoop 发行版(1) 完全开源的原生的Apache Hadoop(2) Cloudera与Hortonworks公司的CDH和HDP：在Cloudera和Hortonworks合并后，Cloudera公司推出了新一代的数据平台产品CDP Data Center（以下简称为CDP），从2021年1月31日开始，所有Cloudera软件都需要有效的订阅，并且只能通过
转载
2023-07-21 14:52:25
273阅读
目的：希望在自己电脑上run项目组之前的代码，帮助理解代码，同时为之后的修改做铺垫。由于代码是基于 Spark 2.0.1、Scala 2.11.8 、 Hadoop 2.7.3以及JAVA 1.8，而我自己电脑配置的是 Spark 1.6.1、Scala 2.11.8 、 Hadoop 1.2.1以及JAVA 1.8。为避免版本问题出现报错，觉得有两种解决方法： 1.将spark1.6.1版本
转载
2023-08-31 20:58:00
162阅读
1.hadoop基础配置1.下载hadoop与jdk安装包：hadoop-3.0.3.tar.gz
jdk-8u181-linux-x64.tar.gz[root@server1 ~]# ls
hadoop-3.0.3.tar.gz jdk-8u181-linux-x64.tar.gz2.创建用户并设定密码[root@server1 ~]# useradd -u 1000 hadoop
[r
转载
2023-08-22 16:37:26
29阅读
Cloudera Developer Training for Spark and hadoopCourse Time：2016年6月27-30日Course Location：上海市 浦东新区 张江高科 伯克利工程创新中心Contact us：400-679-6113QQ：1438118790Certification：CCA-175Learn how toimport data into yo
原创
2016-05-31 16:28:00
1078阅读
①csd包：http://archive.cloudera.com/spark2/csd/ 下载SPARK2_ON_YARN-2.2.0.cloudera1.jar②parcel包：http://archive.cloudera.com/spark2/parcels/2.2.0.cloudera1/ 下载SPARK2-2.2.0.cloudera1-1.cdh5
转载
2023-10-26 14:26:37
108阅读
简介：在我的CDH5.13集群中，默认安装的spark是1.6版本，这里需要将其升级为spark2.x版本。经查阅官方文档，发现spark1.6和2.x是可以并行安装的，也就是说可以不用删除默认的1.6版本，可以直接安装2.x版本，它们各自用的端口也是不一样的。这里做一下安装spark2.3版本的步骤记录。
一. 安装准备csd包：http://archive.cloudera.
转载
2024-03-08 16:41:16
74阅读
【CDH CM版本5.13以下】解决「通过Parcel对spark2版本升级无法发现服务」问题前言现象报错报错原因新升级方案操作留档准备版本升级升级验证版本回退回退验证后记 前言公司对于CDH5.10(注意这个版本)有三个物理集群（非云服务，自有机房），其中两个作为生产，一个作为测试，。生产集群目前都处于满负荷运载的状态，随着业务数据增生，计算方面的瓶颈已较为明显。 对于生产集群的性能提升团队已
转载
2024-04-21 19:36:18
58阅读
第一步是安装JDK，我用的方法比较简单不需要麻烦的配置环境变量等步骤，直接通过第三方的JDK安装包自动装好，命令如下：sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-java8-installer第一条命令是添加PPA软件源，第二条命令是更新软件源信息，第三条是
转载
2023-07-13 17:55:31
204阅读
Hive默认使用的计算框架是MapReduce，在我们使用Hive的时候通过写SQL语句，Hive会自动将SQL语句转化成MapReduce作业去执行，但是MapReduce的执行速度远差与Spark。通过搭建一个Hive On Spark可以修改Hive底层的计算引擎，将MapReduce替换成Spark，从而大幅度提升计算速度。接下来就如何搭建Hive On Spark展开描述
转载
2023-08-31 20:32:03
323阅读
目录?虚拟机Spark安装1、下载2、解压3、配置设置worker4.同步xsync5.启动spark6.浏览器查看?Vmware启动Spark?IDEA操作Scala集群操作打包数据分区股票价格波动? Spark SQL?Spark JDBC初步使用?Spark Streaming? 知识汇总第一章 Spark概述Spark的特点Spark生态圈Spark应用场景`第二章 Scala基础``匿
转载
2023-10-25 22:20:20
3阅读
严格来说不是将spark1.6升级到spark2.3，而是安装一个新的spark2.3一、JDK1.7升级到JDK1.8由于之前CDH中安装了spark1.6，为了适配，我安装jdk1.7，但是在spark2.3中jdk1.7的支持已经被移除了，所以我们第一件事需要将jdk版本升级到jdk1.81、停掉所有节点的cloudera manager/opt/cm-5.15.0/etc/init.d/c
转载
2024-04-26 19:45:00
74阅读
目录Centos7下Spark安装第一步：软件下载或编译第二步：安装软件（1）上传文件（2）解压文件第三步：Spark的本地模式运行测试第四步：Spark服务WEB监控页面第五步：Spark核心概念简介 Centos7下Spark安装电脑系统：macOS 10.15.4虚拟机软件：Parallels Desktop14操作系统：CentOS 7JDK版本：jdk1.8.0_162Hadoop版本
转载
2023-07-04 14:29:02
110阅读
升级主要分为两部分1.CM的升级、2.CDH的升级CM的升级###两种升级方法1.使用package
2.使用Tarballs升级方法，参照官方升级指引，Tarball中包含了Cloudera Manager Server和Cloudera Manager Agent
通常情况下升级CM和升级CDH是两个独立的过程，可以在不关闭CDH服务的情况下升级CM，然后再升级CDH，升级CM主要分为以下几
转载
2023-09-16 00:57:59
89阅读
本文主要记录从CDH4升级到CDH5的过程和遇到的问题，当然本文同样适用于CDH5低版本向最新版本的升级。1. 不兼容的变化升级前，需要注意 cdh5 有哪些不兼容的变化，具体请参考：Apache Hadoop Incompatible Changes。2. 升级过程2.1. 备份数据和停止所有服务2.1.1 让 namenode 进入安全模式在NameNode或者配置了 HA 中的 active
CDH安装包下载地址：://archive.cloudera/cdh5/repo-as-tarball/5.3.2/ CDH5.3.2官方安装说明文档地址：://cloudera/content/cloudera/en/documentation/core/latest/topics/cdh_ig_cdh5_cluster_deploy.html :
转载
2023-12-05 23:44:41
86阅读
Step 1: 做下saveNamespace操作，停掉集群，并备份下 HDFS 的 Metadata 1.1 让namenode进入safe mode状态 $ bin/hadoop dfsadmin -safemode enter 1.2 执行saveNamespace操作 $ bin/hadoop dfsa
转载
2023-09-17 11:00:53
95阅读
第一章：CDH添加kafka服务1.1 在集群中add service第二章：Spark2部署第一章：CDH添加Kafka服务添加kafka服务的时候会跳出来一句话：Before adding this service， ensure that either the kafka parcel is activated or the kafka package is installed.那我们去哪儿
转载
2024-03-12 22:08:13
207阅读
