sparkstreaming 与 kafka重分区的场景应用昨天线上发现个bug，导致数据的重复，原因如下线上场景是二个sparkstreaming程序。程序1主要是用来接收数据放入kafka集群，程序2读取数据进行处理，redis数据缓存。因为数据量很大，所以在程序1上先用reduceByKey去重。程序1发送使用的是Avro序列化对象，要把固定条数一批数据都放在一个Avro对象然后传输到Kaf
转载
2023-11-20 11:38:56
116阅读
1. Kfaka介绍 Kfaka是一种高吞吐量的分布式发布订阅消息系统，用户通过Kafaka系统可以发布大量的消息，同时也能实时订阅消费消息；Kafka 可以同时满足在线实时处理和批量离线处理。在公司的大数据生态系统中，可以把Kafka作为数据交换枢纽，不同类型的分布式系统(关系数据库、NoSQL数据库、流处理系统
转载
2024-01-15 01:06:22
434阅读
1、概念 Kafka是一个开源的消息系统。由Scala编写，它具备以下特点： ①消息持久化： 为了从大数据中获取有价值的信息，任何信息的丢失都是负担不起的。使用Kafka时，message会被存储并且会被复制（zk备份）以防止数据丢失。 ②高吞吐量： 设计是工作在普通的硬件设施上多个客户端能够每秒处理几百兆的数据量。 ③分布式： Kafka Broker的中心化集群支持消息分区
转载
2023-11-28 20:39:38
64阅读
在本章中，我们将讨论如何将Apache Kafka与Spark Streaming API集成。 关于SparkSpark Streaming API支持实时数据流的可扩展，高吞吐量，容错流处理。数据可以从Kafka，Flume，Twitter等许多来源获取，并且可以使用复杂算法进行处理，例如地图，缩小，连接和窗口等高级功能。最后，处理后的数据可以推送到文件系统，数据库和现场仪表板上。弹性分布式数
转载
2023-12-05 16:02:53
60阅读
Kafka是由LinkedIn开发的一个分布式的消息系统，使用Scala编写，它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。InfoQ一直在紧密关注Kafka的应用以及发展，“Kafka剖析”专栏将会从架构设计、实现、应用场景、性能等方面深度解析Kafka。背景介绍Kafka创建背景Kafka是
转载
2023-11-26 20:57:51
74阅读
文章目录Streaming和Kafka整合概述使用0.8版本下Receiver DStream接收数据进行消费步骤一、启动Kafka集群二、创建maven工程，导入jar包三、创建一个kafka的topic四、启动kafka的Producer五、开发代码使用0.8版本下Direct DStream接收数据进行消费开发代码使用0.10版本下Direct DStream接收数据进行消费注意事项步骤一、
转载
2023-12-12 08:50:07
39阅读
spark与kafka的介绍
一 spark是什么
hadoop MapReduce：从集群中读取数据，分片读取 进行一次处理，将结果写到集群，从集群中读取更新后的数据，进行下一次的处理，将结果写到集群
Spark ：从集群中读取数据，把数据放入到内存种，完成所有必须的分析处理，将结果写回集群。数据挖掘要比hadoop快100倍
Spark的数据对象存储在分布于数据集群中的叫做弹性分布式数据集，
转载
2023-08-13 19:26:44
240阅读
# 总核数 = 物理CPU个数 X 每颗物理CPU的核数# 总逻辑CPU数 = 物理CPU个数 X 每颗物理CPU的核数 X 超线程数梳理一下Spark中关于并发度涉及的几个概念File，Block，Split，Task，Partition，RDD以及节点数、Executor数、core数目的关系。 输入可能以多个文件的形式存储在HDFS上，每个File都包含了很多块，称为Block。
转载
2023-10-26 15:49:18
197阅读
一、 整合版本说明 这是一种流式数据处理中最常见的方式之一，使用SparkStreaming去从kafka中拉取数据有两大主要的版本。主要在spark2.0开始之后进行区分。SparkStremaing-kafka-0-8版本 在此版本中有两种方式来消费kafka中的数据，receiver的方式(已经被淘汰)；最早出现的拉取kafka数据的方式，在1.2开始出现。direct的方式是1.3版本出现
转载
2024-01-05 21:28:30
123阅读
当我们正确地部署好Spark Streaming，我们就可以使用Spark Streaming提供的零数据丢失机制。需要满足以下几个先决条件： 1、输入的数据来自可靠的数据源和可靠的接收器； 2、应用程序的metadata被application的driver持久化了(checkpointed ); 3、启用了WAL特性(Write ahead log)。1.
转载
2024-06-07 18:41:59
45阅读
# Spark MLlib and Its Relationship with Apache Spark
Apache Spark is an open-source distributed computing system that provides a unified analytics engine for big data processing. It provides various
原创
2023-12-02 04:50:44
20阅读
之前写了一篇如何让spark使用阿里云oss对象存储替代本地存储或者hdfs存储jar包，日志等 今天写一篇比较通用的，即spark对接aws s3或者其他厂商兼容s3接口的对象存储。环境spark环境：spark-3.1.3-bin-hadoop3.2hadoop源码：hadoop3.2添加
转载
2023-11-01 23:47:34
104阅读
一个典型的Kafka集群中包含若干Produce，若干broker（一般broker数量越多，集群吞吐率越高），若干Consumer Group，以及一个Zookeeper集群。Kafka通过Zookeeper管理集群配置，选举leader，以及在Consumer Group发生变化时进行rebalance。Producer使用push模式将消息发布到broker，Consumer使用pull模式
转载
2023-09-25 16:15:12
110阅读
Kafka简介Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。 它提供了类似于JMS的特性，但是在设计实现上完全不同，此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类，发送消息者成为Producer,消息接受者成为Consumer,此外kafka集群有多个kafka实例组成，每个实例(server)成为broker。无论是k
转载
2023-12-14 15:30:32
104阅读
第 7 章 Kafka 与 Flume7.1 Kafka 与 Flume 比较
在企业中必须要清楚流式数据采集框架 flume 和 kafka 的定位是什么：
flume：cloudera 公司研发:
适合多个生产者；
适合下游数据消费者不多的情况；
适合数据安全性要求不高
目录什么是Spark？为什么要使用Spark？Spark的架构Spark的应用场景 什么是Spark？ 官网地址:https://spark.apache.org/ Apache Spark™是用于大规模数据处理的统一分析引擎。 &
转载
2024-01-28 01:00:45
38阅读
Kafkakafka是一个高吞吐的分布式消息队列系统。特点是生产者消费者模式，先进先出（FIFO）保证顺序，自己不丢数据，默认每隔7天清理数据。消息列队常见场景：系统之间解耦合、峰值压力缓冲、异步通信。producer : 消息生产者consumer : 消息消费之broker : kafka集群的server，负责处理消息读、写请求，存储消息，在kafka cluster这一层这里，其实里面是有
转载
2024-01-16 04:31:12
65阅读
一、简介kafka是一个高吞吐的分布式消息队列系统。特点是生产者消费者模式，先进先出（FIFO）保证顺序，自己不丢数据，默认每隔7天清理数据。消息列队常见场景：系统之间解耦合、峰值压力缓冲、异步通信。Kafka架构是由producer（消息生产者）、consumer（消息消费者）、borker(kafka集群的server，负责处理消息读、写请求，存储消息，在kafka cluster这一层这里，
转载
2023-11-26 13:40:54
78阅读
1.1 Spark 是什么Spark 是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。1.2 Spark and Hadoop在之前的学习中，Hadoop 的 MapReduce 是大家广为熟知的计算框架，那为什么咱们还要学习新的计算框架 Spark 呢，这里就不得不提到 Spark 和 Hadoop 的关系。 搜图 编辑 请输入图片描述首先从时间节点上来看:➢ Hadoop2006 年
转载
2023-07-25 00:26:46
80阅读
目录 kafka概述kafka特性和应用场景kafka基本架构及原理Zookeeper在kafka的作用Kafka核心组件Kafka备份机制kafka的安装配置（所有节点）kafka概述Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据
转载
2023-11-07 16:42:38
166阅读
