在公司做大数据开发已经四五年了，因此也积累了一些心得体会，便趁着这次机会大体描述下。 首先：数据开发的前提肯定是需要数据的，而数据从哪里来，大部分的数据都存储在Oracle中，而spark的计算 数据来源基本上都是hdfs。虽然oracle也可以与spark进行直接交互，但是如果oracle的表的数据量高达千万、亿 级别，每次的spark的查询都会对oracle数据库产生极大的影响，因
转载
2023-11-24 13:35:20
59阅读
当用Spark的DataFrame往HDFS里面写入csv的时候，会指定分隔符等等。由于写入的是csv，因此用sqoop导到其它数据库的时候就会默认全部按照字符串来处理。因此字符串的格式一定要符合导出数据库所要求的格式。之前曾尝试用DataFrame导出Parquet文件，并用sqoop命令来导出到oracle数据库，无奈总是报错parquet文件夹下缺乏.metadata文件，百度谷歌必应了半天
转载
2023-10-01 11:38:19
102阅读
iamlaosong文将CSV文件导入到ORACLE的方法网上很多，比较常见的方法是用PL/SQL Developer的Text Importer和SQLLOADER，考虑到数据量大，觉得还是将文件FTP到服务器，再用SQLLOADER速度会比较快。Oracle 的SQLLOADER可以将外部数据加载到数据库表中。下面是SQLLOADER的基本特点： 1）能装入不同数据类型文件及多个数据文件的数据
转载
2023-09-06 12:18:19
100阅读
一、kafka 模拟数据：【1】模拟数据实体类：public class CarDataTest {
private String lat;
private String lon;
private String location;
private String status;
private String terminaltype;
-------
转载
2024-08-13 10:31:54
208阅读
Spark作为一个分布式计算框架，可以很好的适用于Hadoop。那么Spark是否可以与关系型数据库较好的进行兼容呢？以Spark作为计算，以关系型数据库（例如Oracle）作为存储？ 答案当然是可以，笔者经过不断地测试和优化，终于将Spark与Oracle进行了兼容匹配与读写优化。1、环境准备 在本次测试环境中，用6台机器搭建了CDH的Hadoop平台，Spark2.2版本搭配Yarn
转载
2023-09-29 21:10:52
233阅读
刚开始使用spark-sql，首先看了一部分的源码。然后开始着手程序的编写。 在spark中使用jdbc： 在 Spark-env.sh 文件中加入: export SPARK_CLASSPATH= 任务提交时加入: spark-submit –master spark://master:7077 –jars ojdbc16.jar一、 val rdd = sqlContext.rea
转载
2023-10-26 08:00:56
126阅读
Spark SQL读取Oracle的number类型的数据时精度丢失问题在程序开发中,使用到了sparkSQL读取Oracle数据库,发现当sparkSQL读取Oracle的number类型字段时,数据的小数经度会出现了丢失的情况。 更为奇怪的是,现有三张Oracle表的字段类型都为number类型,第二种表的数据小数部分出现了丢失,另外两张表则没有问题。三张表的只是在小数位数上存在区别:第一张表
转载
2023-10-27 19:11:26
53阅读
刚开始使用spark-sql，首先看了一部分的源码。然后开始着手程序的编写。在spark中使用jdbc：在 Spark-env.sh 文件中加入:export SPARK_CLASSPATH=任务提交时加入:spark-submit –master spark://master:7077 –jars ojdbc16.jar
一、
val rdd = sqlContext.read.format(“
转载
2023-10-06 16:40:06
429阅读
我有一个例子，我使用PySpark(或者Spark，如果我不能使用Python，则需要使用Scala或Java)从几百个缺少主键的数据库表中提取数据。(为什么甲骨文会创建一个包含主键表的ERP产品是另一个主题。。。但是无论如何，我们需要能够提取数据并将每个数据库表中的数据保存到Parquet文件中。)我最初尝试使用Sqoop而不是PySpark，但是由于我们遇到了许多问题，尝试使用PySpark/
转载
2024-01-05 11:30:43
54阅读
#_*_coding:utf-8_*_# spark读取csv文件#指定schema：
schema = StructType([
# true代表不为null
StructField("column_1", StringType(), True), # nullable=True, this field can not be null
Struct
转载
2023-07-04 16:07:51
158阅读
今天分享一个使用sparksql的spark.write.format("hbase").save()spark.read.format("hbase").load()方式读写Hbase的方法。1、引入maven依赖只需要引用sparksql依赖和hbase-mapreduce包，即可实现spark sql读写hbase功能。<dependency>
<g
转载
2023-08-18 22:53:30
111阅读
# 教你如何实现“Spark 读取”
作为一名经验丰富的开发者，我很高兴能帮助你入门 Spark。在这篇文章中，我将向你展示如何使用 Apache Spark 读取数据。我们将通过一个简单的示例来实现这一过程。
## 流程概览
首先，让我们看看使用 Spark 读取数据的基本流程。以下是一个表格，展示了整个过程的步骤：
| 步骤 | 描述 |
| --- | --- |
| 1 | 导入必
原创
2024-07-19 12:30:02
77阅读
spark支持的常见文件格式如下:文本,json,CSV,SequenceFiles,Protocol buffers,对象文件1.文本只需要使用文件路径作为参数调用SparkContext 中的textFile() 函数，就可以读取一个文本文件；scala> val lines=sc.textFile("/tmp/20171024/20171024.txt")
lines: org.apa
转载
2023-07-31 23:37:21
12阅读
Apache Avro 是一种流行的数据序列化格式。它广泛用于 Apache Spark 和 Apache Hadoop 生态系统，尤其适用于基于 Kafka 的数据管道。从 Apache Spark 2.4 版本开始（参见 Apache Spark 2.4 正式发布，重要功能详细介绍），Spark 为读取和写入 Avro 数据提供内置支持。新的内置 spark-avro 模块最初来自 Datab
转载
2024-03-10 23:26:09
81阅读
写在前面本系列是综合了自己在学习spark过程中的理解记录 ＋ 对参考文章中的一些理解 ＋ 个人实践spark过程中的一些心得而来。写这样一个系列仅仅是为了梳理个人学习spark的笔记记录，所以一切以能够理解为主，没有必要的细节就不会记录了，而且文中有时候会出现英文原版文档，只要不影响理解，都不翻译了。若想深入了解，最好阅读参考文章和官方文档。 其次，本系列是基于目前最新的 sp
背景介绍：cdh集群、hadoop2.6.0、spark2.3.0hive表：text格式存储数据块：128M处理过程：读取hive表 -> 业务处理（无聚合操作） -> 写入hive、es问题描述：正常情况下，一个spark task要处理一个partition即128M的数据，因处理过程较耗时而成为任务瓶颈。解决过程：大的方向是进行任务拆分，增大并行度。方法一：使用spark提供的
转载
2023-09-12 10:35:16
217阅读
使用sparksql访问几个hive表join的情况时结果为空，且这个sql在hive里执行是成功的。val sparkSession = SparkSession
.builder()
.config("jars","lib/*")
.appName("Spark Hive Example")
.enableHiveSupport()
转载
2023-06-01 15:47:54
174阅读
文章目录一、SparkSQL连接Hudi1.1 Hive配置1.2 SparkSQL连接Hudi二、创建表2.1 常规的建表2.2 CTAS三、插入数据四、查询数据五、更新数据5.1 普通5.2 MergeInto六、删除数据七、Insert Overwrite一、SparkSQL连接Hudi1.1 Hive配置我们需要将Hive 的 metastore服务独立出来-- 目前只指定一个节点，也可以
转载
2023-07-17 22:44:01
238阅读
Spark对很多种文件格式的读取和保存方式都很简单。Spark会根据文件扩展名选择对应的处理方式。Spark支持的一些常见文件格式如下：文本文件 使用文件路径作为参数调用SparkContext中的textFile()函数，就可以读取一个文本文件。也可以指定minPartitions控制分区数。传递目录作为参数，会把目录中的各部分都读取到RDD中。例如：val input = sc.textF
转载
2023-07-03 17:01:45
140阅读
文章目录创建SparkSession读取数据jdbcjsoncsvparquet保存数据 创建SparkSessionsparkSQl 可以读取不同数据源的数据，比如jdbc,json,csv,parquet 执行读操作就用sparkSession.read.文件类型，执行写操作就用SparkSession.write.文件类型首先创建一个SparkSession：val spark = Spa
转载
2023-08-09 21:06:49
210阅读
