文章目录大数据体系概览（Spark的地位）什么是Spark？Spark的介绍Spark整体架构Spark的特点Spark SQL VS HiveSpark Streaming VS Storm大数据体系概览（Spark的地位）什么是Spark？Spark的介绍Spark整体架构Spark的特点Spark SQL VS HiveSpark Streaming VS St...
原创
2021-06-01 12:13:53
1760阅读
一、数据科学家数据科学（DataScience）这一概念自大数据崛起也随之成为数据领域的讨论热点，“数据科学家”成为了一个工作职位出现在各种招聘信息上。那么究竟什么是数据科学？大数据和数据科学又是什么关系？大数据在数据科学中起到怎样的作用？本文主要是想起到科普作用，使即将或正在从事数据工作的朋友对数据科学工作有一个全概貌了解，也使各有想法进入大数据领域的朋友在真正从事大数据工作之前对行业的情况有所
原创
2020-12-07 16:20:57
921阅读
大数据：是数据科学中的一个分支。至于数据科学，其被认为是数学，计算机知识和某个专业领域知识的交叉学科。计算机知识和数学的交集区域，被称为机器学习；数学和某专业领域知识的交集，属于传统研究范畴。而且大数据领域又可以划分为几个主要的方向： 数据平台 （Data Platform）: 构建、维护稳定、安全的大数据平台，按需设计大数据架构，调研大数据产品、方案、实施部署上线。数据采集（Data Coll
转载
2021-01-23 12:06:00
275阅读
2评论
大数据：是数据科学中的一个分支。至于数据科学，其被认为是数学，计算机知识和某个专业领域知识的交叉学科。计算机知识和数学的交集区域，被称为机器学习；数学和某专业领域知识的交集，属于传统研究范畴。而且大数据领域又可以划分为几个主要的方向： 数据平台 （Data Platform）: 构建、维护稳定、安全 ...
转载
2021-05-05 16:54:08
243阅读
2评论
上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark ，那什么是spark呢？或者说Spark是干嘛的 ...上次，小编给大家介绍什么是大数据以及大数据产生的五大原因！那，大数据来了，作为程序员的我们如何迎接大数据的到来？那便只有学好大数据，其中的重中之重我觉得就是Spark 
转载
2024-01-14 13:21:38
34阅读
在大数据技术的学习当中，Hadoop和Spark是重中之重的两个部分，关于Hadoop，之前我们已经介绍过很多了，今天的主题是Spark。作为继Hadoop之后的又一代计算框架，Spark受到重用也是有原因的。今天的大数据开发学习分享，我们来对Spark系统架构做一个详细的介绍。 Spark性能优势的原因 Spark是UC Berkeley AMP lab所开源的类HadoopMapR
转载
2023-10-25 21:30:51
65阅读
用spark，你仅仅只是调用spark的API肯定是很low的。今天来讲讲spark的原理，并且会针对部分源码进行讲解，如有不同意见请联系本人交流探讨。目前大数据生态主要部分是Hadoop软件框架和Spark内存级计算引擎。Hadoop包含四个项目：Hadoop common，HDFS，YARN和MapReduce。 Spark并不是要成为一个大数据领域的“独裁者” ， 一个人霸占大数据领域所有的
转载
2023-09-14 08:03:50
125阅读
大数据基础系列之spark的监控体系介绍 浪尖 浪尖聊大数据目前有好几种监控spark应用程序的工具：web UIs，指标系统和外部监控仪。一，web界面1，界面的基本介绍每一个Spark应用程序都会启动一个spark ui，默认端口是4040端口，用于展示对应用程序有用的信息。包括以下信息：1)，stages和tasks列表。2)，RDD大小的总概和内存使用。3)，运行环境信息。4)，运行的Ex
原创
2021-03-16 18:01:07
785阅读
原创
2021-07-15 11:10:52
115阅读
数据获取不一定能产生价值，数据加工一定能产生附加值。随着大数据概念越来越普及的今天，好像很多人已经认可了数据的价值，或者说数据也是一种生产要素。随着数据量的爆炸式增长，传统的技术已经不能满足于当前的业务现状，当下OLTP、OLAP、NOSQL等不同类型的应用技术纷至沓来，技术的图谱也越来越清晰的浮现在眼前，好像没有一种武功能打败天下无敌手 ，就好像英雄总有迟暮的时候；又好像总有几个豪侠（技术），还
转载
2021-04-07 12:13:04
827阅读
2评论
**大数据体系架构**
在当今信息时代，数据量越来越庞大，处理这些海量的数据成为了一项重要的工作。而构建一个高效的大数据体系架构就显得尤为重要。本文将向你介绍如何实现大数据体系架构，并通过Kubernetes（简称K8S）来管理和部署大数据应用。
**整体流程**
下面是构建大数据体系架构的步骤，以及每一步需要做的事情：
| 步骤 | 操作 |
| --- | --- |
| 1 | 设置
原创
2024-04-24 12:08:01
62阅读
本文主要是讲解spark的web ui和jobhistory，度量指标系统，及高级运维调优。
原创
2021-07-26 16:08:41
789阅读
大数据技术体系1.大数据技术体系2.大数据开发语言1.Java2.Python3.Scala3.大数据分布式计算（一）1.分布式计算
原创
2022-07-02 00:18:17
540阅读
http://spark.apache.org/
原创
2022-07-28 14:01:23
104阅读
# 大数据 Spark
## 引言
随着互联网的发展，我们已经进入了一个大数据时代。大数据的处理和分析是现代科学研究和商业决策的重要组成部分。然而，传统的数据处理和分析方法已经无法应对日益增长的数据量和复杂性。为了应对这一挑战，出现了许多大数据处理框架。其中，Apache Spark 是最受欢迎和广泛使用的框架之一。
## Spark 简介
Spark 是一个快速、分布式的计算引擎，最初由
原创
2024-01-24 05:20:17
42阅读
原文链接：https://zhuanlan.zhihu.com/p/336424137
近几年随着网络通信技术和互联网软件服务的快速发展，人们获得和处理的数据量都越来越大，市场上大数据人才稀缺。与大数据相关的职位主要有数据开发、数据挖掘、数据分析等，这些职位都要求掌握分布式计算计算例如Hadoop、Spark等等。如下图所示，数据挖掘、数据开发等岗位都要求候选人掌握一定分布式计算平台的知识，这篇文
转载
2023-09-08 17:13:50
153阅读
# 入门大数据与Spark开发指南
作为一名新手开发者，了解如何使用Apache Spark进行大数据处理是一个重要的技能。以下是一个基本的实现流程和详细步骤，帮助你入门Spark。
## 流程概览
首先，我们来看看整个项目的流程：
| 步骤 | 描述 |
| ------------ | ------------
原创
2024-10-17 11:18:50
36阅读
一、spark概述1.1什么是spark？1.2 spark的特点1.3 spark生态圈组件1.4 spark的核心原理二、Spark和MapReduce的区别三、3.MapReduce核心环节-Shuffle过程四、了解spark架构一、spark概述1.1****什么是spark？Spark 是当今大数据领域最活跃、最热门、最高效的大数据通用计算平台之一。1.2 spark****的特点1*
转载
2024-08-23 16:49:36
33阅读
文章目录一级目录二级目录三级目录Spark基础及架构一、认识Spark快速易用通用多种运行模式Spark 与Map Reduce 比较Spark 技术栈二、了解 Spark 架构与运行环境spark 环境部署2.1.2 Standalone 一级目录二级目录三级目录Spark基础及架构一、认识SparkApache Spark 是大数据领域最活跃的项目之一，其活跃度目前远超 Hadoop。特点是
转载
2023-09-30 13:29:11
125阅读
1，spark基础及体系架构1.1 spark why?Spark有如下优势：Spark提供了一个全面、统一的框架用于管理各种有着不同性质（文本数据、图表数据等）的数据集和数据源（批量数据或实时的流数据）的大数据处理的需求官方资料介绍Spark可以将Hadoop集群中的应用在内存中的运行速度提升100倍，甚至能够将应用在磁盘上的运行速度提升10倍Spark VS MapRe
转载
2023-09-04 12:11:47
39阅读
