搭建源码环境可以看这篇文章:

​编译 Kafka 源码并搭建源码环境​

上面有个地方注意,启动的时候,可以传入VM参数来指定 kafka.log.dir 路径(存放各种日志的路径)

【Kafka】编译 Kafka 源码并搭建源码环_kafka

-Dkafka.logs.dir=/Users/shirenchuang/work/IdeaPj/open_source/kafka/logs

按照上面的方法搭建并成功启动了Kafka, 那么当我们想要启动集群怎么办呢?

IDEA同时启动多个Kafka

  1. 配置多个server.properties, 例如server1.properties、server2.properties、server3.properties
    【Kafka】编译 Kafka 源码并搭建源码环_java_02
  2. 修改不同server.properties的配置

    注意以下几个配置不要重复了

    ##不同的id

    broker.id=0

    ##不同的端口

    listeners=PLAINTEXT://xxxx:9090

    ##不同的日志存放路径

    log.dirs=k0

  3. 创建多个Application 启动配置
    【Kafka】编译 Kafka 源码并搭建源码环_分布式_03
  4. -Dkafka.logs.dir=运行日志路径 这个也要注意放到不同路径。 这里的​​kafka.logs.dir​​参数就是log4j.properties中的${kafka.logs.dir}参数。
  5. 然后就可以同时启动多个在IDEA中的Broker了,并且都可以本地调试。
    【Kafka】编译 Kafka 源码并搭建源码环_java_04

IDEA开启JMX端口

【Kafka】编译 Kafka 源码并搭建源码环_分布式_05

-Djava.rmi.server.hostname=127.0.0.1
-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=9191
-Dcom.sun.management.jmxremote.ssl=false
-Dcom.sun.management.jmxremote.authenticate=false

注意不要端口冲突了,不同broker设置不同的端口。

kafka中添加日志

你在调试代码的时候,可能想加一点日志观察。

info(s"打一个启动日志..集群id = $clusterId")

【Kafka】编译 Kafka 源码并搭建源码环_ide_06

日志打印到控制台

默认的​​log4j.properties​​​文件是没有将日志打印到控制台的,既然我们是调试,那么让日志打印到控制台会更加直观。这个时候改下​​log4j.properties​​配置文件就行

将原来的配置

log4j.logger.kafka=INFO

改成

log4j.logger.kafka=INFO, kafkaAppender,stdout

调试常用脚本命令

可能你想执行kafka的一些脚本,并且进行debug调试.

那我们可以通过sh脚本内容太找到最终是调用了哪个类,比如 增删改查 Topic

【Kafka】编译 Kafka 源码并搭建源码环_日志打印_07

最终调用的类是 ​​kafka.admin.TopicCommand​​, 那我们调用这个类的main方法就行了。

【Kafka】编译 Kafka 源码并搭建源码环_kafka_08

当然,这个类的调用需要有入参,在idea配置传入就行了。

比如,创建一个3分区1副本的Topic。

【Kafka】编译 Kafka 源码并搭建源码环_java_09