一、软件准备1、基础docker镜像：ubuntu，目前最新的版本是182、需准备的环境软件包：(1) spark-2.3.0-bin-hadoop2.7.tgz
(2) hadoop-2.7.3.tar.gz
(3) apache-hive-2.3.2-bin.tar.gz
(4) jdk-8u101-linux-x64.tar.gz
(5) mysql-5.5.45-linux2.6-x86_
转载
2023-07-12 15:09:22
101阅读
1 制作hadoop镜像 该博客中只参考制作镜像部分，固定IP及启动集群的部分应该跳过。 这里注意，在做好的镜像里，要安装 which 工具，否则在执行 hdfs 命令时会报命令不存在异常。yum install which -y2 启动容器docker run --name hmaster --hostname hmaster --network hadoop -d -P \
-
转载
2023-11-19 16:00:31
55阅读
一、hadoop、Storm该选哪一个？为了区别hadoop和Storm，该部分将回答如下问题：1.hadoop、Storm各是什么运算2.Storm为什么被称之为流式计算系统3.hadoop适合什么场景，什么情况下使用hadoop4.什么是吞吐量首先整体认识：Hadoop是磁盘级计算，进行计算时，数据在磁盘上，需要读写磁盘；Storm是内存级计算，数据直接通过网络导入内存。读写内存比读写磁盘速度
转载
2023-08-22 19:33:33
46阅读
Spark是一个开源的通用并行分布式计算框架，由加州大学伯克利分校的AMP实验室开发，支持内存计算、多迭代批量处理、即席查询、流处理和图计算等多种范式。Spark内存计算框架适合各种迭代算法和交互式数据分析，能够提升大数据处理的实时性和准确性，现已逐渐获得很多企业的支持，如阿里巴巴、百度、网易、英特尔等公司。1、 Spark VSHadoop有哪些异同点？&nb
转载
2023-10-05 16:37:34
6阅读
本文探讨了使用 Docker 搭建 Hadoop + Hive + Spark 集群的方法，项目地址在此。在阅读本文前，建议先对 Docker 以及 Docker Compose 有基本的了解。准备工作本项目基于 Docker 和 Docker Compose，搭建的集群包含以下部分：HadoopHiveSpark本项目参考了 Big Data Europe 的一些工作
原创
2021-12-07 16:23:30
10000+阅读
# 使用 Docker 搭建 Hadoop 集群和 Spark on YARN
在这篇文章中，我们将会学习如何使用 Docker 搭建一个 Hadoop 集群，并在其上运行 Spark on YARN。整个过程可以分为几个步骤，下面是流程概览：
| 步骤 | 描述 |
|------|------|
| 1 | 安装 Docker |
| 2 | 拉取 Hadoop 和 Spark
原创
2024-09-03 04:27:20
135阅读
这里默认你的hadoop是已经安装好的，master是node1，slaver是node2-3，hdfs启动在node1，yarn启动在node2，如果没安装好hadoop可以看我前面的文章因为这里是spark和hadoop集成，我已经预先启动好了hdfs 和 yarn；MapReduce History Server也是需要启动的，详情往下看Spark安装包：概述类别 与Hadoop打包在一起
转载
2024-05-07 12:11:18
89阅读
重要参考文献：http://wuchong.me/blog/2015/04/04/spark-on-yarn-cluster-deploy/准备工作操作系统：Ubuntu-14.04.1-desktop-amd64Hadoop 版本：hadoop-2.7.2：包含文件管理系统 HDFS 和任务调度系统 YARNSpark 版本：spark-1.6.1-bin-without-hadoop存放路径说
转载
2023-07-27 08:45:51
138阅读
一、 任务目标在之前已经安装好的CentOS虚拟机上，在Docker上，安装hadoop。二、 什么是hadoop简单的说，Docker技术本质上和VM一样，是将一个服务器拆分成多分给更多的应用使用；而hadoop体系有自己的一套资源管理系统，要解决的问题是多个服务器并行调度起来，当作一个服务器使用的问题。 在我的虚拟机上安装了docker后，可以将我的虚拟机计算资源拆分成多个互相独立的计算资源；
转载
2023-09-01 13:46:34
130阅读
# 搭建Hadoop Hive Spark集群教程
## 1. 整体流程
下面是搭建Hadoop Hive Spark集群的整体流程：
| 步骤 | 操作 |
| ---- | ---- |
| 1 | 安装Hadoop |
| 2 | 配置Hadoop集群 |
| 3 | 安装Hive |
| 4 | 配置Hive |
| 5 | 安装Spark |
| 6 | 配置Spark |
| 7
原创
2024-04-11 04:00:28
80阅读
# 搭建 Hadoop Hive Spark 集群的完整指南
在大数据处理的领域，Hadoop、Hive 和 Spark 是三个非常重要的组件。通过这篇文章，我们将一步一步地指导你如何搭建一个完整的 Hadoop Hive Spark 集群。
## 一、搭建流程
在开始之前，我们先来看一下搭建整个集群的流程。以下是一个简单的步骤表格：
| 步骤 | 描述
原创
2024-10-27 06:03:53
25阅读
一、Spark闭包处理
------------------------------------------------------------
RDD,resilient distributed dataset,弹性(容错)分布式数据集。
分区列表,function,dep Option(分区类, Pair[Key,Value]),首选位置。
运行job时，spark将
Spark是通用的基于内存计算的大数据框架，可以和hadoop生态系统很好的兼容，以下来部署Spark集群 集群环境：3节点 Master:bigdata1 Slaves:bigdata2,bigdata3 Master负责任务的分发，与集群状态的显示 Slaves运行具体的Worker任务，最后交由Executor执行任务代码 集群搭建之前，必须满足如下条件： 1、集群主机名和hosts文件映射
转载
2023-07-25 00:21:02
208阅读
简介Compose 作为Docker官方编排工具，可以让用户通过编写一个简单的模板文件，快速的搭建和管理基于Docker容器的应用集群。其定位是“定义和运行多个Docker容器的应用”，它允许用户通过一个YAML格式的模板文件来定义一组相关联的应用容器为一个项目。官方文档：https://hub.docker.com/r/sequenceiq/spark/安装我的安装环境是：centos 7.3
转载
2024-03-11 06:26:09
41阅读
文章目录1. 安装前说明2. 配置spark1. 上传解压2. 配置环境变量3.修改spark 的 配置1. 修改 spark-env.sh 文件2. 在spark-env.sh文件中添加如下内容3. 修改slaves 文件4. 在slaves 文件中添加要工作的节点(IP地址)5. 分发到其它节点(hadoop01执行)启动 和 关闭 spark 集群查看web界面4. 测试1. 创建word
转载
2023-11-28 10:54:36
457阅读
点赞
hadoop、zookeeper、spark集群配置：1. 软件版本：2. 配置环境变量： 我环境变量放在自定义文件中/etc/profile.d/my_env_sh中，配置有jdk、hadoop、spark、scala、zookeeper3. hadoop配置： 我的hadoop版本是3.1.4 在目录/opt/module/hadoop-3.1.4/etc/hadoop下，我配置了core-s
转载
2024-04-20 20:11:29
54阅读
转自doublexi: Spark其实是Hadoop生态圈的一部分，需要用到Hadoop的HDFS、YARN等组件。为了方便我们的使用，Spark官方已经为我们将Hadoop与scala组件集成到spark里的安装包，解压开箱即可使用，给我们提供了很大的方便。如果我们只是本地学习的spark，又不想搭建复杂的hadoop集群，就可以使用该安装包。spark-3.2.0-bin-hadoop3.2-
转载
2024-01-16 18:00:55
70阅读
本文让我们来聊一聊Spark是什么，以及涉及到的相关概念 1.1 Spark是什么 Spark 是一个用来实现快速而通用的集群计算的平台。 在速度方面，Spark 扩展了广泛使用的 MapReduce 计算模型，而且高效地支持更多计算模 式，包括交互式查询和流处理。 Spark 的一个主要特
转载
2023-11-28 06:35:29
58阅读
基于docker和ubuntu的spark集群搭建先在网上下载含有spark的镜像，我的镜像名为 mycos因为博主能力有限，所以该方法只针对有图形化界面的ubuntu用户##打开命令行创建三个tab 点击弹出菜单的new tab 做这一步的原因有两个： 1.我需要通过镜像创建三个容器 一个master，两个slave 2.防止创建的容器IP相同###创建容器 1.输入 sudo docker i
转载
2023-11-19 16:09:09
53阅读
从docker 仓库 pull 镜像 docker pull sequenceiq/spark:1.4.0 构建 docker 镜像 docker build –rm -t sequenceiq/spark:1.4.0 . -t 选项是你要构建的sequenceiq/spark image的tag，就好比ubuntu:13.10一样 –rm 选项是告诉Docker在构建完毕后删除暂时的Con
转载
2024-07-04 15:07:40
50阅读
