比如我的内存中存在如下的以key-value形式的数据集（RDD）：hello:1 sparkSubmit:1 red:1 sparkSubmit:1 hello:2 hello:1 hello:4 re
转载
2023-06-30 20:00:29
143阅读
创建DataFrame的几种方式1、读取parquet文件创建DataFrame注意：可以将DataFrame存储成parquet文件。保存成parquet文件的方式有两种 df.write().mode(SaveMode.Overwrite).format("parquet").save("./sparksql/parquet");
df.write().mode(SaveMod
转载
2024-01-23 22:06:34
152阅读
一、DataFrame执行后端优化（Tungsten第一阶段） DataFrame可以说是整个Spark项目最核心的部分，在1.5这个开发周期内最大的变化就是Tungsten项目的第一阶段已经完成。主要的变化是由Spark自己来管理内存而不是使用JVM，这样可以避免JVM GC带来的性能损失。内存中的Java对象被存储成Spark自己的二
转载
2024-09-10 14:34:07
16阅读
在spark中，有时候我们觉得task并行度太小，就想着提高其并行度。 首先，先说一下有多少种增加分区提高并行度的方法： 1，textFile(path, numPartion=partitionNum) 2，增加hdfs上的block数 3，reduceByKey groupByKey shuffle
转载
2023-10-03 18:45:10
107阅读
文章目录1. DataFrame简介2. DataFrame特性3. DataFrame 与RDD 的区别3.1 功能上比较3.2 数据存储结构上比较4. DataFrame的创建4.1 版本1.X4.1.1 版本1.X创建DataFrame4.1.2 版本1.X操作DataFrame4.2 版本2.X4.2.1 版本2.X创建DataFrameSpark API演变1. DataFrame简介D
转载
2024-08-11 07:13:51
26阅读
DataFrame详解环境：spark 2.4.0
slaca :2.12以上创建DataFrame的几种方式第一种：rdd 转DF
import session.implict._
val df= rdd.toDF(#columnName)第二种/**
* 创建一个空的DataFrame，代表用户
* 有四列，分别代表ID、名字、年龄、生日
*/
val c
转载
2023-08-18 13:08:14
46阅读
一、流处理基础1. 流处理是连续处理新到来的数据以更新计算结果的行为。在流处理中输入数据是无边界的，没有预定的开始或结束。它是一系列到达流处理系统的事件（例如信用卡交易、点击网站动作，或从物联网IoT传感器读取的数据），用户应用程序对此事件流可以执行各种查询操作（例如跟踪每种事件类型的发生次数，或将这些事件按照某时间窗口聚合）。应用程序在运行时将输出多个版本的结果，或者在某外部系统（如HBase等
转载
2024-07-14 09:47:08
83阅读
# Spark DataFrame 按行处理数据的指南
Apache Spark 是一个强大的分布式计算框架，被广泛用于大数据处理与分析。Spark 提供了多种数据处理方式，其中 DataFrame 是一种非常重要的数据结构。DataFrame 可以看作是一个分布式的数据表格，提供了丰富的 API 来处理结构化数据。在实际应用中，按行处理数据是常见的需求之一。
## 什么是 DataFrame
原创
2024-09-18 07:13:04
49阅读
DataFrame 是 Spark 在 RDD 之后新推出的一个数据集，从属于 Spark SQL 模块，适用于结构化数据。对于我们这些用惯了数据库表和散列/字典结构的人来说，尤为亲切。女神镇楼可以直接读取关系型数据库产生 DataFrame：from pyspark.sql import SparkSession
spark = SparkSession \
.builder \
.appNam
（1）partitionBy 对pairRDD进行分区操作，如果原有的partionRDD和现有的partionRDD是一致的话就不进行分区， 否则会生成ShuffleRDD，即会产生shuffle过程。（2）reduceByKey(func, [numTasks]) 在一个(K,V)的RDD上调用，返回一个(K,V)的RDD，使用指定的reduce函数，将相同key的值聚合到一起，reduce任
转载
2023-10-27 09:34:01
63阅读
# Spark DataFrame优化处理速度的指南
在大数据处理领域，Apache Spark已经成为了一个强大的工具。当我们使用Spark DataFrame进行数据处理时，优化处理速度至关重要。本文将指导一个刚入行的小白，了解如何优化Spark DataFrame的处理速度。我们将分步骤进行阐述，并附上代码示例、图表和注释。
## 优化流程
接下来，我们将优化Spark DataFra
一、Spark SQL简介Spark SQL 是 Spark 中的一个子模块，主要用于操作结构化数据。它具有以下特点：能够将 SQL 查询与 Spark 程序无缝混合，允许您使用 SQL 或 DataFrame API 对结构化数据进行查询；支持多种开发语言；支持多达上百种的外部数据源，包括 Hive，Avro，Parquet，ORC，JSON 和 JDBC 等；支持 HiveQL 语法以及 Hi
作为一款非常成熟的大数据工具，Spark已在业界获得了非常广泛的应用。而Python+Spark的结合产物PySpark更是集合了Python的易用和Spark的分布式计算能力，产生了1+1 > 2的效果。本系列文章将从《PySpark DataFrame使用详解》、《Pandas API on Spark使用详解》、《Spark on K8S搭建》、《Structured Streamin
转载
2023-08-02 20:42:12
109阅读
reparation(num)=coalesce(num, true) 源码包路径：
org.apache.spark.rdd.RDD coalesce函数： 返回一个经过简化到numPartitions个分区的新RDD。这会导致一个窄依赖，例如：你将1000个分区转换成100个分区，这个过程不会发生shuffle，如果10个分区转换成100个分区将会发生shuffle。如
转载
2023-08-31 22:02:38
115阅读
DataFrameDataFrame的前身是SchemaRDD，从Spark 1.3.0开始SchemaRDD更名为DataFrame。与SchemaRDD的主要区别是：DataFrame不再直接继承自RDD，而是自己实现了RDD的绝大多数功能。你仍旧可以在DataFrame上调用rdd方法将其转换为一个RDD。 在Spark中，DataFrame是一种以RDD为基础的分布式数据集，类似于传统数据
转载
2023-08-08 11:39:33
71阅读
spark dataframe派生于RDD类，但是提供了非常强大的数据操作功能。当然主要对类SQL的支持。在实际工作中会遇到这样的情况，主要是会进行两个数据集的筛选、合并，重新入库。首先加载数据集，然后在提取数据集的前几行过程中，才找到limit的函数。而合并就用到union函数，重新入库，就是registerTemple注册成表，再进行写入到HIVE中。不得不赞叹dataframe的强大。 具体
转载
2023-07-14 16:41:26
144阅读
Spark SQL 自定义函数实例（UDF、UDAF、UDTF）UDF函数分类及说明自定义UDF函数及使用maven依赖dependencies自定义UDAF函数及使用hive UDTF函数写法 UDF函数分类及说明UDF分为三种： UDF ：输入一行，返回一个结果 ；一对一；比如定义一个函数，功能是输入一个IP地址，返回一个对应的省份 UDAF：输入多行,返回一行；aggregate(聚合),
转载
2023-09-28 20:30:50
126阅读
split是可以用多种不同的符号（转义字符，以及标点符号）作为分隔符的！！！ （1）读取txt文件，按\t分隔，将分割出来的列大于指定列的滤掉，解析不准； 注意len的用法self.df_judgedoc_info_sample = self.session.read.text(self.judgedoc_info_sample_table_input)
self.df_j
转载
2023-07-10 21:11:02
118阅读
groupByKey 和 reduceByKey 有什么区别？从这两个算子的字面意思来看，groupByKey 是先按照 key 进行分组，然后把相同的 key 收集到一起；reduceByKey( f )，把相同的 key 进行聚合，聚合的逻辑由传入 f 函数所指定。这两个算子，只针对 kv 格式的 RDD 才能使用。在前几篇文章中说了，每调一个算子，都是一次 RDD 的转换，也是一次数据形态的
转载
2023-08-21 09:23:03
134阅读
1. DataFrame在Spark中可以通过RDD转换为DataFrame，也可以通过DataFrame转化为RDD，DataFrame可以理解为数据的一个格式，实质show()就是一张表。读取数据构造DataFrame主要有以下几种方式：从Json文件中读取通过SQLContext构造类对象构造DataFrame动态创建Schema构造当前的DataFrame结构从parquet文件中读取从M
转载
2023-09-19 23:00:26
86阅读
