yarn cluster模式例行任务一般会采用这种方式运行指定固定的executor数作业常用的参数都在其中指定了，后面的运行脚本会省略spark-submit \
--master yarn-cluster \
--deploy-mode cluster \ #集群运行模式
--name wordcount_${date} \
转载
2023-07-02 22:53:40
77阅读
使用的开发工具：scala2.10.4、Idea16、JDK8
1.导入依赖的包和源码在下载Spark中到的导入spark的相关依赖了包和其源码.zip,相关源码的下载地址：https://github.com/apache/spark/tree/v1.6.0 地址最后面是对应的版本号，下载源码便于看注释
2.使用官方求Pi的例子[java] view plain
转载
2017-02-04 16:46:00
85阅读
点赞
1评论
首先参考这个编译源码并导入idea然后在run configuration里取消run之前的make然后跑一个SparkPi.scala，会报一些ClassNotFound的错，这时在Examples文件夹右键–> open module settings –> 把相应的Dependencies里改成Runtime如果是SparkPi.scala，在run configuration
原创
2022-07-19 11:25:28
74阅读
从hdfs上读取文件并运行wordcount[root@hadoop14 app]# hadoop fs -put word.txt /
原创
2022-12-28 15:08:13
173阅读
解决方案：一直以来，基于Akka实现的RPC通信框架是Spark引以为豪的主要特性，也是与Hadoop等分布式计算框架对比过程中一大亮点。 但是时代和技术都在演化，从Spark1.3.1版本开始，为了解决大块数据（如Shuffle）的传输问题，Spark引入了Netty通信框架，到了1.6.0版本，
转载
2018-09-27 19:54:00
73阅读
2评论
如何使用java连接Kerberos和非kerberos和kerberos的Spark1.6 ThriftServer
原创
2022-09-21 23:19:06
558阅读
如何部署hive2 on spark1
原创
2022-09-22 13:47:19
154阅读
本文主要介绍如何在Kerberos环境下的CDH集群中部署Spark1.6的Thrift Server服务和Spark SQL客户端。
原创
2022-09-21 23:19:29
237阅读
近年来，Apache Spark作为一款强大的大数据处理框架，被越来越多的企业和开发者所采用。在Spark 1.6版本中，引入了insertInto函数，可以帮助用户将数据插入到已有的表中。本文将详细介绍如何在Spark 1.6中实现insertInto操作，以帮助刚入行的小白顺利掌握这一技能。
整体流程：
| 步骤 | 操作 |
| -------- | -------- |
| 1 | 创
原创
2024-05-07 10:14:59
72阅读
官方定义：spark是一个基于内存的分布式计算框架它会使得计算速度以及开发速度快！特点：One stack rule them all !一站解决所有问题热查询(Hive)批处理(MapReduce)实时流计算(Storm)回顾MapReduce 的 Shuffle过程 见图 hadoop慢的原因：DISK IO 输入输出DISK IO，Shuffle阶段也是DI...
原创
2022-12-30 09:39:08
188阅读
本系列内容：Kafka环境搭建与测试Python生产者/消费者测试Spark接收Kafka消息处理，然后回传到KafkaFlask引入消费者WebSocket实时显示版本：spark-2.4.3-bin-hadoop2.7.tgzkafka_2.11-2.1.0.tgz------------------第3小节：Spark接收Kafka消息处理，然后回传到Kafka---------------
转载
2023-08-22 20:24:39
75阅读
(1)、如何实现sparkStreaming读取kafka中的数据 在kafka0.10版本之前有二种方式与sparkStreaming整合，一种是基于receiver，一种是direct,然后分别阐述这2种方式分别是什么 receiver：是采用了kafka高级api,利用receiver接收器来接受kafka topic中的数据，从kafka接收来的数据会存储在spark的executor中，
转载
2023-11-28 13:42:47
58阅读
Kafka 0.10 与 Spark Streaming 流集成在设计上与0.8 Direct Stream 方法类似。它提供了简单的并行性，Kafka分区和Spark分区之间的1:1对应，以及对偏移量和元数据的访问。然而，由于新的集成使用了新的 Kafka consumer API 而不是简单的API，所以在使用方面有显著的差异。这个版本的集成被标记为实验性的，因此API有可能发生变
转载
2023-11-29 12:44:59
50阅读
Reciver方式 spark streaming通过Reciver方式获取kafka的数据实质是：在spark程序的Executor中开Reciver来接收来自kafka的数据，然后spark streaming会启动job去处理这些数据。 因为这些数据是存在内存中的，所以这种方式会容易丢失数据，如果要启用高可靠机制，让数据零丢失，就必须启用Spark Streaming的预写日志机制（Writ
转载
2023-08-05 00:45:26
162阅读
1：Direct方式特点：1）Direct的方式是会直接操作kafka底层的元数据信息，这样如果计算失败了，可以把数据重新读一下，重新处理。即数据一定会被处理。拉数据，是RDD在执行的时候直接去拉数据。2）由于直接操作的是kafka，kafka就相当于你底层的文件系统。这个时候能保证严格的事务一致性，即一定会被处理，而且只会被处理一次。而Receiver的方式则不能保证，因为Receiver和ZK
转载
2023-12-23 17:45:13
51阅读
对接kafka 0.8以及0.8以上的版本Spark要在2.3.0一下选择较好，因为这个Spark对接kafka用这个比较稳定，1.0还是测试 导入依赖<dependency>
<groupId>org.apache.spark</groupId>
<!--0.8是kafka的版本，2.11是scala的版本
转载
2023-09-05 10:51:57
152阅读
sparkstreaming 消费kafka数据的 kafkautil 提供两种创建dstream的方法： 1 老版本的createStream方法 &
转载
2023-09-01 14:45:17
125阅读
spark集群是依赖hadoop的。 hadoop集群搭建教程：Hadoop集群搭建教程（一）Hadoop集群搭建教程（二）Spark集群集群部署官网下载：spark官网这里要注意spark兼容的hadoop版本 接着解压：tar -zxvf spark-2.4.3-bin-hadoop2.7.tgz先在你的master节点进行spark的安装和配置，然后直接拷贝到其他节点就可以了。cd /usr
转载
2024-04-20 10:49:47
18阅读
# 从Kafka到Spark：实时流数据处理的完美组合
在当今数字化时代，数据已经成为企业最宝贵的资源之一。为了更好地利用数据，实时流数据处理技术应运而生。Kafka和Spark作为两大热门的实时流数据处理框架，因其高效、可靠和灵活性而备受青睐。本文将介绍Kafka和Spark的基本原理，并结合代码示例，展示它们如何完美地结合在一起，实现实时流数据的处理和分析。
## Kafka与Spark的
原创
2024-04-20 07:12:51
37阅读
Apache Spark 1.6公布
今天我们很高兴可以公布Apache Spark 1.6，通过该版本号，Spark在社区开发中达到一个重要的里程碑：Spark源代码贡献者的数据已经超过1000人，而在2014年年末时人数仅仅有500。
那么，Spark 1.6有什么新特性呢？Spark 1.6有逾千个补丁。在本博文中，我们将重点突出三个基本的开发主题：性能提升、新的DataSet API和数
转载
2017-07-01 15:17:00
135阅读
2评论
