1.Kafka的工作流程以及文件存储机制

Kafka在nacous配置中topic kafka内部topic_文件名


Kafka中消息是以topic进行分类的,生产者生产消息,消费者消费消息,都是面向topic的。

topic是逻辑上的概念,而partition是物理上的概念,每个partition对应一个log文件,该log文件中存储的就是producer生产的数据。Producer生产的数据会被不断追加到该log文件末端,且每条数据都有自己的offset。消费者组中的每个消费者,都会实时记录自己消费到了那个offset,以便出错恢复时,从上次的位置继续消费。

Kafka在nacous配置中topic kafka内部topic_数据_02


由于生产者产生的消息会不断追加到log文件末尾,为防止log文件过大导致数据定位效率低下,Kafka采取了分片和索引机制,将每个partition分为多个segment。

每个partition(目录)相当于一个举行文件被平均分配到多个大小相等segment(段)数据文件中(每个segment文件中消息数量不一定相等),这种特性也方便old segment的删除,即方便已被消费的消息的清理,提高磁盘的利用率。每个partition只需要支持顺序读写就行,segment的文件生命周期由服务端配置参数(log.segment.bytes,log.roll.{ms,hours}等若干参数)决定。

每个segment对应俩个文件————".index"文件和".log"文件。分别表示为segment索引文件和数据文件(引入索引文件的目的就是方便于利用二分查找快速定位message位置)。这俩个文件的命令规则为:partition全局的第一个segment从0开始,后续每个segment文件名为上一个segment文件最后一条消息的offset值,数值大小为64位,20位数字字符长度,没有数字用0填充。

这些文件位于一个文件夹下(partition目录),该文件夹的命名规则位:topic名称+分区序号。例如,Frist和这个topic由三个分区,则对应的文件夹位Frist-0,Frist-1,Frist-2

00000000000000000000.index
00000000000000000000.log
00000000000000170410.index
00000000000000170410.log
00000000000000239430.index
00000000000000239430.log

index和log文件以当前segment的第一条消息的offset命名。下图位index文件和log文件的结构示意图

Kafka在nacous配置中topic kafka内部topic_kafka_03