自Flume快速入门系列结束后,博主决定后面几篇博客为大家带来关于Kafka的知识分享作为快速入门Kafka系列的第一篇博客,本篇为大家带来的是Kafka的简单介绍。


目录


1. Kafka的定义

  ​​Kafka​​是一个分布式的基于发布/订阅模式的消息队列,主要应用于大数据实时处理领域。

2. 消息与消息队列

  消息(Message):是指在应用之间传送的数据,消息可以非常简单,比如只包含文本字符串,也可以更复杂,可能包含嵌入对象。

  消息队列(Message Queue):是一种应用间的通信方式,消息发送后可以立即返回,有消息系统来确保信息的可靠专递,消息发布者只管把消息发布到MQ中而不管谁来取,消息使用者只管从MQ中取消息而不管谁发布的,这样发布者和使用者都不用知道对方的存在。

2.1 传统消息队列的应用场景

1. MQ传统应用场景之异步处理

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_消息队列

2. 流量消峰

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_大数据_02

2.2 消息队列的两种模式

1. 消息队列内部实现原理

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_kafka_03

  • 1. 点对点模式(​​一对一​​,消费者主动拉取数据,消息收到后消息清除)
  • 点对点模式下包括三个角色:

    消息队列

    发送者(生产者)

    == 接收者(消费者)==

  点对点模型通常是一个基于拉取或者轮询的消息传送模型,这种模型从队列中请求信息,而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理,即使有多个消息监听者也是如此。

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_kafka_04

  • 点对点的特点:
    1.每个消息只有一个接收者(Consumer)(即一旦被消费,消息就不再在消息队列中);
    2.发送者和接收者间没有依赖性,发送者发送消息之后,不管有没有接收者在运行,都不会影响到发送者下次发送消息;
    3.接收者在成功接收消息之后需向队列应答成功,以便消息队列删除当前接收的消息;

  • 2. 发布/订阅模式(​​一对多​​,消费者消费数据之后不会清除消息)

发布/订阅模式下包括三个角色

角色主题(Topic)

== 发布者(Publisher)==

订阅者(Subscriber)

  发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者,临时订阅者只在主动监听主题时才接收消息,而持久订阅者则监听主题的所有消息,即使当前订阅者不可用,处于离线状态。

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_大数据_05

  • 发布/订阅模式特点:
    1.每个消息可以有多个订阅者;
    2.发布者和订阅者之间有时间上的依赖性。针对某个主题(Topic)的订阅者,它必须创建一个订阅者之后,才能消费发布者的消息。
    3.为了消费消息,订阅者需要提前订阅该角色主题,并保持在线运行;

2 为什么需要消息队列

  • 1.解耦:
      允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束。

  • 2.冗余:
      消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险。许多消息队列所采用的"插入-获取-删除"范式中,在把一个消息从队列中删除之前,需要你的处理系统明确的指出该消息已经被处理完毕,从而确保你的数据被安全的保存直到你使用完毕。

  • 3.扩展性:
      因为消息队列解耦了你的处理过程,所以增大消息入队和处理的频率是很容易的,只要另外增加处理过程即可。

  • 4.灵活性 & 峰值处理能力:
      在访问量剧增的情况下,应用仍然需要继续发挥作用,但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请求而完全崩溃。

  • 5.可恢复性:
      系统的一部分组件失效时,不会影响到整个系统。消息队列降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。

  • 6.顺序保证:
      在大多使用场景下,数据处理的顺序都很重要。大部分消息队列本来就是排序的,并且能保证数据会按照特定的顺序来处理。(Kafka保证一个Partition内的消息的有序性)

  • 7.缓冲:
      有助于控制和优化数据流经过系统的速度,解决生产消息和消费消息的处理速度不一致的情况。

  • 8.异步通信:
      很多时候,用户不想也不需要立即处理消息。消息队列提供了异步处理机制,允许用户把一个消息放入队列,但并不立即处理它。想向队列中放入多少消息就放多少,然后在需要的时候再去处理它们。

3. 什么是Kafka

  在流式计算中,Kafka一般用来缓存数据,Storm通过消费Kafka的数据进行计算。

  1. Apache Kafka是一个开源​​消息系统​​,由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。

  2. Kafka最初是由LinkedIn公司开发,并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。

  3. Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类,发送消息者称为Producer,消息接受者称为Consumer,此外kafka集群有多个kafka实例组成,每个实例(server)称为broker。

  4. 无论是kafka集群,还是consumer都依赖于​​zookeeper集群​​保存一些meta信息,来保证系统可用性。

4. Kafka架构

  我们先来看下Kafka的整体架构图:

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_消息队列_06

  Kafka的详细架构图:

Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_数据_07


1.Producer :消息生产者,就是向kafka broker发消息的客户端;
2.Consumer :消息消费者,向kafka broker取消息的客户端;
3.Topic :可以理解为一个队列;
4.Consumer Group (CG):这是kafka用来实现一个topic消息的广播(发给所有的consumer)和单播(发给任意一个consumer)的手段。一个topic可以有多个CG。topic的消息会复制(不是真的复制,是概念上的)到所有的CG,但每个partion只会把消息发给该CG中的一个consumer。如果需要实现广播,只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic;
5.Broker :一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic;
6.Partition:为了实现扩展性,一个非常大的topic可以分布到多个broker(即服务器)上,一个topic可以分为多个partition,每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id(offset)。kafka只保证按一个partition中的顺序将消息发给consumer,不保证一个topic的整体(多个partition间)的顺序;
7.Offset:kafka的存储文件都是按照offset.kafka来命名,用offset做名字的好处是方便查找。例如你想找位于2049的位置,只要找到2048.kafka的文件即可。当然thefirst offset就是00000000000.kafka。


5. Kafka的好处

  • ​可靠性​​:分布式的,分区,复制和容错。
  • ​可扩展性​​:kafka消息传递系统轻松缩放,无需停机。
  • ​耐用性​​:kafka使用分布式提交日志,这意味着消息会尽可能快速的保存在磁盘上,因此它是持久的。
  • ​性能​​:kafka对于发布和订阅消息都具有高吞吐量。即使存储了许多TB的消息,它也能体现出稳定的性能。
  • ​kafka非常快​​:保证零停机和零数据丢失

6. 分布式的发布与订阅系统

  apache kafka是一个分布式发布-订阅消息系统和一个强大的队列,可以处理大量的数据,并使能够将消息从一个端点传递到另一个端点,kafka适合离线和在线消息消费。​​kafka消息保留在磁盘上,并在集群内复制以防止数据丢失​​。kafka构建在zookeeper同步服务之上。它与apache和spark非常好的集成,应用于实时流式数据分析。

7. kafka的主要应用场景

  • 指标分析
      Kafka 通常用于操作监控数据。这设计聚合来自分布式应用程序的统计信息, 以产生操作的数据集中反馈。

  • 日志聚合解决方案
      kafka可用于跨组织从多个服务器收集日志,并使他们以标准的合适提供给多个服务器。

  • 流式处理
      流式处理框架(spark,storm,flink)从主题中读取数据,对其进行处理,并将处理后的数据写入新的主题,供 用户和应用程序使用,kafka的强耐久性在流处理的上下文中也非常的有用。

  本次的分享就到这里了,


Kafka快速入门系列(1) | Kafka的简单介绍(一文令你快速了解Kafka)_消息队列_08

   看 完 就 赞 , 养 成 习 惯 ! ! ! \color{#FF0000}{看完就赞,养成习惯!!!} 看完就赞,养成习惯!!!^ _ ^ ❤️ ❤️ ❤️

  码字不易,大家的支持就是我坚持下去的动力。点赞后不要忘了关注我哦!