莫思身外无穷事，且尽生前有限杯。 ——杜甫《绝句漫兴九首》系列文章目录Hadoop集群搭建之Linux系统安装Hadoop集群搭建之Hadoop组件安装 文章目录系列文章目录前言一、CentOS下载安装二、VMware下载安装三、利用虚拟机搭建Linux系统总结 前言记录Hadoop集群搭建的具体过程，分享我遇到的坑，如有错误，请各位小伙伴指正，持续更新中。一、CentOS下载安装在官网下载镜像，
转载
2023-09-14 13:57:49
40阅读
一、安装VM10+Ubuntu下载安装完成后，创建一个用户:xm二、下载安装JDK在线安装：sudu apt-get insatll jdk离线安装：先把离线包拷贝到/home 下当前用户文件夹下，然后执行命令安装。cd /home/xm/tar -zxvf jdk-8u45-linux-x64.tarmv jdk-8u45-linux-x64.tar解压完之后，创建一个soft文件夹，把解压后文
本人实际安装经验，目的是为以后高速安装。仅供自己參考。 一、Hadoop 1、操作系统一如既往：①setup关掉防火墙、②vi /etc/sysconfig/selinux，改SELINUX=disabled 。(3)安装时自己定义不要JAVA。④系统安装后，直接创建用户hadoop...
转载
2016-01-14 12:38:00
116阅读
一、hadoop、Storm该选哪一个？为了区别hadoop和Storm，该部分将回答如下问题：1.hadoop、Storm各是什么运算2.Storm为什么被称之为流式计算系统3.hadoop适合什么场景，什么情况下使用hadoop4.什么是吞吐量首先整体认识：Hadoop是磁盘级计算，进行计算时，数据在磁盘上，需要读写磁盘；Storm是内存级计算，数据直接通过网络导入内存。读写内存比读写磁盘速度
转载
2023-08-22 19:33:33
40阅读
Spark是一个开源的通用并行分布式计算框架，由加州大学伯克利分校的AMP实验室开发，支持内存计算、多迭代批量处理、即席查询、流处理和图计算等多种范式。Spark内存计算框架适合各种迭代算法和交互式数据分析，能够提升大数据处理的实时性和准确性，现已逐渐获得很多企业的支持，如阿里巴巴、百度、网易、英特尔等公司。1、 Spark VSHadoop有哪些异同点？&nb
一、软件准备1、基础docker镜像：ubuntu，目前最新的版本是182、需准备的环境软件包：(1) spark-2.3.0-bin-hadoop2.7.tgz
(2) hadoop-2.7.3.tar.gz
(3) apache-hive-2.3.2-bin.tar.gz
(4) jdk-8u101-linux-x64.tar.gz
(5) mysql-5.5.45-linux2.6-x86_
转载
2023-07-12 15:09:22
101阅读
这里默认你的hadoop是已经安装好的，master是node1，slaver是node2-3，hdfs启动在node1，yarn启动在node2，如果没安装好hadoop可以看我前面的文章因为这里是spark和hadoop集成，我已经预先启动好了hdfs 和 yarn；MapReduce History Server也是需要启动的，详情往下看Spark安装包：概述类别 与Hadoop打包在一起
一、scala的安装与配置scala的下载下载地址为：scala下载地址 1.启动hadoop（搭建高可用集群的一起启动）（1）启动Zookeeper（三台虚拟机都进行）[root@hadoop1 ~]# zkServer.sh start（2）启动journalnode（三台虚拟机都进行）[root@hadoop1 ~]# hadoop-daemon.sh start journaln
重要参考文献：http://wuchong.me/blog/2015/04/04/spark-on-yarn-cluster-deploy/准备工作操作系统：Ubuntu-14.04.1-desktop-amd64Hadoop 版本：hadoop-2.7.2：包含文件管理系统 HDFS 和任务调度系统 YARNSpark 版本：spark-1.6.1-bin-without-hadoop存放路径说
转载
2023-07-27 08:45:51
123阅读
# 搭建Hadoop Hive Spark集群教程
## 1. 整体流程
下面是搭建Hadoop Hive Spark集群的整体流程：
| 步骤 | 操作 |
| ---- | ---- |
| 1 | 安装Hadoop |
| 2 | 配置Hadoop集群 |
| 3 | 安装Hive |
| 4 | 配置Hive |
| 5 | 安装Spark |
| 6 | 配置Spark |
| 7
Spark是通用的基于内存计算的大数据框架，可以和hadoop生态系统很好的兼容，以下来部署Spark集群 集群环境：3节点 Master:bigdata1 Slaves:bigdata2,bigdata3 Master负责任务的分发，与集群状态的显示 Slaves运行具体的Worker任务，最后交由Executor执行任务代码 集群搭建之前，必须满足如下条件： 1、集群主机名和hosts文件映射
转载
2023-07-25 00:21:02
178阅读
事先搭建好zookeeper集群1、下载安装包https://archive.apache.org/dist/spark/spark-2.3.3/spark-2.3.3-bin-hadoop2.7.tgz
spark-2.3.3-bin-hadoop2.7.tgz 2、规划安装目录/kkb/install 3、上传安装包到服务器4、解压安装包到指定的安装目录tar -zxvf
文章目录1. 安装前说明2. 配置spark1. 上传解压2. 配置环境变量3.修改spark 的 配置1. 修改 spark-env.sh 文件2. 在spark-env.sh文件中添加如下内容3. 修改slaves 文件4. 在slaves 文件中添加要工作的节点(IP地址)5. 分发到其它节点(hadoop01执行)启动 和 关闭 spark 集群查看web界面4. 测试1. 创建word
1 制作hadoop镜像 该博客中只参考制作镜像部分，固定IP及启动集群的部分应该跳过。 这里注意，在做好的镜像里，要安装 which 工具，否则在执行 hdfs 命令时会报命令不存在异常。yum install which -y2 启动容器docker run --name hmaster --hostname hmaster --network hadoop -d -P \
-
文章目录一、安装准备工作二、安装1、修改主机名和hosts2.关闭防火墙3、安装包解压4.配置环境变量5、修改Hadoop配置6、同步slave1节点和slave2节点三、启动准备四、启动访问 一、安装准备工作1、虚拟机准备（centos7）master : 192.168.220.134
slave1 : 192.168.220.135
slave2 : 192.168.220.1362、安装
转载
2023-08-10 11:54:50
69阅读
本文让我们来聊一聊Spark是什么，以及涉及到的相关概念 1.1 Spark是什么 Spark 是一个用来实现快速而通用的集群计算的平台。 在速度方面，Spark 扩展了广泛使用的 MapReduce 计算模型，而且高效地支持更多计算模 式，包括交互式查询和流处理。 Spark 的一个主要特
转自doublexi: Spark其实是Hadoop生态圈的一部分，需要用到Hadoop的HDFS、YARN等组件。为了方便我们的使用，Spark官方已经为我们将Hadoop与scala组件集成到spark里的安装包，解压开箱即可使用，给我们提供了很大的方便。如果我们只是本地学习的spark，又不想搭建复杂的hadoop集群，就可以使用该安装包。spark-3.2.0-bin-hadoop3.2-
1 安装Spark依赖的Scala 1.1下载和解压缩Scala 1.2 配置环境变量 1.3 验证Scala2下载和解压缩Spark  
转载
2023-06-15 10:00:17
706阅读
hadoop、zookeeper、spark集群配置：1. 软件版本：2. 配置环境变量： 我环境变量放在自定义文件中/etc/profile.d/my_env_sh中，配置有jdk、hadoop、spark、scala、zookeeper3. hadoop配置： 我的hadoop版本是3.1.4 在目录/opt/module/hadoop-3.1.4/etc/hadoop下，我配置了core-s
Hadoop介绍： Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。安装三台虚拟设备 在里面我建议大家选择性能稳定的合适的linux版本进行安装，一般要进行初级学习的话，暂时三台虚拟机就够学习使用了。网络ip设置 首先，选择虚拟机为net模式，看准当前网关和虚拟机能分配的网段。
转载
2023-08-21 10:35:01
71阅读
