Kafka命令行操作常用命令
命令行操作Topic
任意节点执行都可以
增
新增一个topic
$ cd /opt/software/kafka_011
$ ./bin/kafka-topics.sh --create --zookeeper clickhouse1:2181 --topic first --partitions 2 --replication-factor 2参数说明 : --topic 自定义topic名 ; --partition 自定义分区数 >=<broker数 ; --replication-factor 自定义真实能创建的副本数(有的框架支持设置最大副本数 3个节点 副本数可设置10 当动态增加节点时 动态增加副本数) <=broker数

查
- 查看当前服务器中所有topic
$ cd /opt/software/kafka_011
$ ./bin/kafka-topics.sh --list --zookeeper clickhouse1:2181现象 : 查看3个节点的/opt/software/kafka_011/logs文件夹发现 240节点出现了分区名为first-1的Partition 242节点出现了分区名为first-0的Partition 241节点出现了分区名为first-0的Partition和分区名为first-1的Partition
![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-iAuaKKuW-1585966737118)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%884.27.41.png)] kafka 控制台 密码 kafka 命令行操作_Customer_02](https://s2.51cto.com/images/blog/202403/31195708_66094f9428f4e20394.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
查详情
- 查看一个topic的描述
$ cd /opt/software/kafka_011
$ ./bin/kafka-topics.sh --describe --topic first --zookeeper clickhouse1:2181![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tQRDX2WP-1585966737119)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.04.36.png)] kafka 控制台 密码 kafka 命令行操作_kafka_03](https://s2.51cto.com/images/blog/202403/31195708_66094f945516a59107.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
删
- 删除一个topic
$ cd /opt/software/kafka_011
$ ./bin/kafka-topics.sh --delete --zookeeper clickhouse1:2181 --topic system-log-5633-filebeat![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-biiSTGy5-1585966737120)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%884.54.04.png)] kafka 控制台 密码 kafka 命令行操作_kafka 控制台 密码_04](https://s2.51cto.com/images/blog/202403/31195708_66094f948449899513.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
现象 : 这个topic在3个节点的Partition文件夹都消失了 ; 此时 重新建一个同名topic可成功
命令行操作Producer/Customer
进入Producer控制台
在节点a操作
$ --topic first --broker-list clickhouse1:9092![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-VxZu4KOm-1585966737120)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.27.59.png)] kafka 控制台 密码 kafka 命令行操作_zookeeper_05](https://s2.51cto.com/images/blog/202403/31195708_66094f94b801039067.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
进入Customer控制台
方式一 从当前offset开始消费
在节点b操作
$ cd /opt/software/kafka_011
$ ./bin/kafka-console-consumer.sh --topic first --bootstrap-server clickhouse1:9092或
# 老版本的 不用了
$ cd /opt/software/kafka_011
$ ./bin/kafka-console-consumer.sh --topic first --zookeeper clickhouse2:2181–zookeeper 换成–bootstrap-server offset就由zk存入kafka了
![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-AwIQYGic-1585966737121)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.29.57.png)] kafka 控制台 密码 kafka 命令行操作_zookeeper_06](https://s2.51cto.com/images/blog/202403/31195708_66094f94e9a8e24723.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
结果 : 发布者已经发布完的2条数据 是获取不到的 只能获取到消费者启动服务之后的时间的数据
方式二 从起始offset开始消费
在节点c操作
$ cd /opt/software/kafka_011
$ ./bin/kafka-console-consumer.sh --topic first --bootstrap-server clickhouse1:9092 --from-beginning或
# 老版本 不用了
$ cd /opt/software/kafka_011
$ ./bin/kafka-console-consumer.sh --topic first --zookeeper clickhouse1:2181 --from-beginning![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-HKXqVbvB-1585966737122)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.40.33.png)] kafka 控制台 密码 kafka 命令行操作_kafka 控制台 密码_07](https://s2.51cto.com/images/blog/202403/31195709_66094f950c5f597171.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
发布消息
在节点a操作
在Producer控制台输入
hello
atguigu![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-X0mSraN4-1585966737122)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.31.36.png)] kafka 控制台 密码 kafka 命令行操作_kafka_08](https://s2.51cto.com/images/blog/202403/31195709_66094f955a55577369.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
自动接收消息
Customer控制台自动接收:
![[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-3pOLKjSh-1585966737123)(media/15736478294459/%E5%B1%8F%E5%B9%95%E5%BF%AB%E7%85%A7%202019-11-27%20%E4%B8%8B%E5%8D%885.32.16.png)] kafka 控制台 密码 kafka 命令行操作_zookeeper_09](https://s2.51cto.com/images/blog/202403/31195709_66094f959b87b55128.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_30,g_se,x_10,y_10,shadow_20,type_ZmFuZ3poZW5naGVpdGk=/resize,m_fixed,w_1184)
















