Hadoop基础及演练---第1章 初识大数据大数据是一个概念也是一门技术,是在以Hadoop为代表的大数据平台框架上进行各种数据分析的技术.---第2章 Hadoop核心HDFSHadoop是一个开源的大数据框架,是一个分布式计算的解决方案,Hadoop=HDFS(分布式文件系统)+MapReduce(分布式计算)存储是大数据技术的基础,分布式计算是大数据应用的解决方案HDF
转载
2023-07-17 16:22:06
105阅读
当下，Spark已经在国内得到了广泛的认可和支持：2014年，Spark Summit China在北京召开，场面火爆；同年，Spark Mee ，T...
原创
2023-04-26 21:01:58
396阅读
当下，Spark已经在国内得到了广泛的认可和支持：2014年，Spark Summit China在北京召开，场面火爆；同年，Spark Meetup在北京、上海、深圳和杭州四个城市举办，其中仅北京就成功举办了5次，内容更涵盖Spark Core、Spark Streaming、Spark MLli...
转载
2016-01-10 13:22:00
77阅读
2评论
【原创 Hadoop&Spark 动手实践 11】Spark Streaming 应用与动手实践 目标： 1. 掌握Spark Streaming的基本原理 2. 完成Spark Streaming最简单的演练和动手实验 3. 完成一个完整的Spark Streaming的实际案例（用户手机信息实时
转载
2017-05-22 10:30:00
214阅读
2评论
目录： 第一部分：操作系统准备工作： 1. 安装部署CentOS7.3 1611 2. CentOS7软件安装（net-tools, wget, vim等） 3. 更新CentOS7的Yum源，更新软件速度更快 4. CentOS 用户配置，Sudo授权 第二部分：Java环境准备 1. JDK1.
转载
2017-05-07 23:48:00
105阅读
2评论
一、安装JDK1.7 JDK下载地址：http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html下载后安装[plain] view plain copy rpm -ivh jdk-8u112-linux-x64.rpm
转载
2017-01-24 16:41:17
1169阅读
【原创 Hadoop&Spark 动手实践 7】Spark计算引擎剖析与动手实践 目标： 1. 理解Spark计算引擎的理论知识 2. 动手实践更深入的理解Spark计算引擎的细节 3. 通过编程案例加深理解
转载
2017-05-22 10:29:00
65阅读
2评论
Delta 原本是在 Databricks Runtime 里面的一个增值功能，在 spark + AI Summit 2019 大会上，官方以 Apache License 2.0 协议开源。spark 一直在往批流统一的方向上演进，有了 structured streaming 之后，就实现了引擎内核的批流统一，API 也高度统一，比如一个流式任务和离线任务的代码可能只有 read/write
本文主要记录我使用Spark以来遇到的一些典型问题及其解决的方法，希望对遇到相同问题的同学们有所帮助。1. Spark环境或配置相关Q: Sparkclient配置文件spark-defaults.conf中，spark.executor.memory和spark.cores.max应该怎样合理配置？A: 配置前，须要对spark集群中每一个节点机器的core和memory的配置有基本了解。比方由
【原创 Hadoop&Spark 动手实践 7】Spark 应用经验、调优与动手实践 目标： 1. 了解Spark 应用经验与调优的理论与方法，如果遇到Spark调优的事情，有理论思考框架。 2. 把调优的过程，进行动手实践，完成一些调优的优化过程，加深理解。 3. 做一个完整的调优的案例，再次加深
转载
2017-05-22 10:30:00
122阅读
2评论
文章目录Hadoop（伪分布）+ Spark（Local）软件安装及环境配置前言一、安装虚拟机1.下载Ubuntu16.04镜像二、Hadoop安装及配置（伪分布式）1.创建hadoop用户2.更新apt3.安装SSH、配置SSH无密码登陆4.安装Java环境5.安装Hadoop3.1.36.Hadoop伪分布式配置三、安装 Spark2.4.01.下载Spark2.4.02.安装Spark（L
Spark框架一、Spark概述1.1 Spark是什么1.2 Spark & Hadoop1.3 Spark / Hadoop（1）Hadoop MapReduce（2） Spark1.4 Spark核心模块 一、Spark概述1.1 Spark是什么Spark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。1.2 Spark & HadoopSpark与Hadoop的
转载
2023-09-01 11:06:45
53阅读
首先Spark是借鉴了mapreduce并在其基础上发展起来的，继承了其分布式计算的优点并改进了mapreduce明显的缺陷。 但是二者也有不少的差异具体如下：ApacheSpark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类HadoopMapReduce的通用并行计算框架，Spark拥有Had
转载
2023-08-01 22:14:37
67阅读
有以下四个不同：1. 解决问题的层面不一样Hadoop和Apache Spark两者都是大数据框架，但是各自存在的目的不尽相同。Hadoop实质上更多是一个分布式数据基础设施: 它将巨大的数据集分派到一个由普通计算机组成的集群中的多个节点进行存储，意味着您不需要购买和维护昂贵的服务器硬件。 同时，Hadoop还会索引和跟踪这些数据，让大数据处理和分析效率达到前所未有的高度。Spark，则是那么一
Spark概述什么是SparkSpark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。Spark和Hadoop的区别Spark 和Hadoop 的区别：HadoopHadoop 是由 java 语言编写的，在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架，专用于数据批处理的框架，有存储也有计算，但是核心是计算且是离线计算。作为 Hadoop 分布式文件系统，HDFS 处于
转载
2023-09-01 11:06:55
46阅读
目的 首先需要明确一点，hadoophe spark 这二者都是大数据框架，即便如此二者各自存在的目的是不同的。Hadoop是一个分布式的数据基础设施，它是将庞大的数据集分派到由若干台计算机组成的集群中的多个节点进行存储。Spark是一个专门用来对那些分布式存储的大数据进行处理的工具，spark本身并不会进行分布式数据的存储。两者的部署 Hadoop的框架最核心的设计就是：HDFS和MapRedu
转载
2023-07-12 11:53:59
66阅读
开始聊MapReduce，MapReduce是Hadoop的计算框架，我学Hadoop是从Hive开始入手，再到hdfs，当我学习hdfs时候，就感觉到hdfs和mapreduce关系的紧密。这个可能是我做技术研究的思路有关，我开始学习某一套技术总是想着这套技术到底能干什么，只有当我真正理解了这套技
转载
2017-05-09 12:12:00
92阅读
2评论
简介 HDFS（Hadoop Distributed File System ）Hadoop分布式文件系统。是根据google发表的论文翻版的。论文为GFS（Google File System）Google 文件系统（中文，英文）。 HDFS有很多特点： ① 保存多个副本，且提供容错机制，副本丢失
转载
2017-05-09 00:27:00
81阅读
2评论
数据倾斜概念什么是数据倾斜 大数据下大部分框架的处理原理都是参考mapreduce的思想：分而治之和移动计算，即提前将计算程序生成好然后发送到不同的节点起jvm进程执行任务，每个任务处理一小部分数据，最终将每个任务的处理结果汇总，完成一次计算。
如果在分配任务的时候，数据分配不均，导致一个任务要处理的数据量远远大于其他任务，那么整个作业一直在等待这个任务完成，而其他机器的资源完全没利用起来，
转载
2023-08-29 16:24:26
32阅读
Spark问题精华Q：什么是Spark？A：简单理解，Spark是在Hadoop基础上的改进，是UC Berkeley AMP lab所开源的类Hadoop MapReduce的通用的并行计算框架，Spark基于map reduce算法实现的分布式计算，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是Job
转载
2023-09-09 19:01:43
106阅读
