目录前言：集群规划一、安装zookeeper1.解压文件并重命名2.创建zk数据目录3.修改配置文件 4.文件分发并修改配置文件5.编写启动脚本二、安装kafka 1.解压文件并重命名2.修改配置文件3.分发后修改配置文件4.配置环境变量5.编写启停脚本前言：集群规划linux01linux02linux03zkzkzkkafkakafkakafka一、安装zookeeper1
转载
2024-04-13 13:49:10
64阅读
一、kafka的基本介绍kafka是一个分布式，分区的，多副本的，多订阅者的消息发布订阅系统（分布式MQ系统），可以用于搜索日志，监控日志，访问日志等。最初由linkedin公司开发，使用scala语言编写，Kafka is a distributed,partitioned,replicated commit logservice。kafka对消息保存时根据Topic进行归类，发送消息者成为Pr
kafka是一个高吞吐量的分布式消息系统，整体设计为典型的发布与订阅模式。kafka内部采用zookeeper来解决配置管理、通知/协调、集群管理、master选举等问题，所以建议先对zookeeper有个基本的了解，可以看下我的zookeeper笔记(一)。 这次对于kafka只介绍一下命令行下的安装部署等操作，其它的，比如kafka在zookeeper中的存储结构、配置详解、java
step 1: 下载代码你可以登录Apache kafka 官方下载。http://kafka.apache.org/downloads.html下载和自己系统匹配的需要说明的是，kafka的安装依赖于zk，zk的部署可直接参考《Zookeeper介绍与基本部署》。当然，kafka默认也内置了zk的启动脚本，在kafka安装路径的bin目录下，名称为zookeeper-server-start.s
转载
2024-03-27 10:39:34
59阅读
一、Zookeeper集群安装 要求：zookeeper的 jdk 要 6以上zookeeper生产环境版本为 3.4.81.首先编辑/Etc/Hosts1. 在5台都加入：
2. 10.0.50.10 zk-kafka01
3. 10.0.50.11 zk-kafka02
4. 10.0.50.12 zk-kafka03
5. 10.0.50.13 zk-kafka
转载
2024-08-13 16:46:28
39阅读
kafka+zk详解可参考：https://blog.51cto.com/johnzheng/2371286 一、环境准备：kafka和zk需要jdk1.8环境，安装前需安装jdk1.8，参考jdk1.8安装步骤三台服务器：172.20.224.37、172.20.224.38、172.20.224.39，centos7系统。kafka至少两台做主从，zk做集群最少三台二、安装zk1、获
转载
2024-03-15 09:57:22
110阅读
kafka 可以脱离 zookeeper 单独使用吗？为什么？kafka 不能脱离 zookeeper 单独使用，因为 kafka 使用 zookeeper 管理和协调 kafka 的节点服务器。kafka 有几种数据保留的策略？kafka 有两种数据保存策略：按照过期时间保留和按照存储的消息大小保留。 kafka 同时设置了 7 天和 10G 清除数据，到第五
转载
2024-06-05 05:24:09
34阅读
环境准备kafka版本:kafka_2.12-1.0.0 三台主机IP 10.211.55.29、10.211.55.30、10.211.55.31配置工作1、修改hosts 由于zookeeper是通过主机名通信的,我们需要需改hosts. 编辑vim /etc/hosts 1）保留前2行，其余的127.0.0.1注释掉
127.0.0.1 localhost
::1 localhost
Kafka概念kafka是一个分布式基于发布-订阅模式的高吞吐量、高水平拓展的消息流中间件。 【重点：高吞吐量】 kafka的基础架构中主要包含的角色有：broker、生产者、消费者；当前还包含zookeeper。 生产者：负责发送消息。 消费者：负责处理消费消息。 broker：负责存储缓冲消息，创建topic，有partition分区和replication的概念。【在0.9版本之前，kafk
转载
2024-03-27 05:45:12
58阅读
相信大家最近一定关注到一款重量级消息中间件Kafka发布了2.8版本，并且正式移除了对Zookeeper的依赖，背后的设计哲学是什么呢？仅仅只是减少了一个外部依赖吗？答案显然不会这么简单，容我慢慢道来。在解答为什么之前，我觉得非常有必要先来阐述一下Zookeeper的经典使用场景。1、Zookeeper的经典使用场景zookeeper是伴随着大数据、分布式领域的兴起。大数据中的一个非常重要的议题是
转载
2024-04-01 15:42:41
77阅读
如何搭建配置centos虚拟机请参考《Kafka：ZK+Kafka+Spark Streaming集群环境搭建（一）VMW安装四台CentOS，并实现本机与它们能交互，虚拟机内部实现可以上网。》如何安装hadoop2.9.0请参考《Kafka：ZK+Kafka+Spark Streaming集群环境搭建（二）安装hadoop2.9.0》如何配置zookeeper3.4.12 请参考《Kafka：Z
转载
2024-07-23 10:18:11
25阅读
因为之前公司业务都是使用mqtt接收数据，随着设备的增加，公司觉得用kafka集群来实现会更好 下面是我写一个demo 仅供参考一、安装jdk 没有安装的可以百度去看看怎么安装的 不行的话在私聊我！！！！二、搭建zookeeper集群因为我只有一台Linux服务器，所以在一台机器上创建三个zk实例，通过设置不同的端口号，搭建一个zookeeper伪集群。1、下载zookeeper安装包地址：htt
转载
2024-06-11 10:55:48
152阅读
CentOs6.5安装Kafka集群步骤1.配置单个虚拟机1.1下载kafka安装包打开浏览器，输入网址： http://kafka.apache.org/downloads.html。每台机器的环境：CentOs 6.5 ，Java 1.8 ,kafka2.11自带Zookeeper。 1.2压缩包操作下载完成后，打开终端，在命令行输入 cd /Download，然后输入l
转载
2024-05-30 08:49:12
151阅读
1.什么是kafkaKafka是分布式发布-订阅消息系统，它最初是由LinkedIn公司开发的，之后成为Apache项目的一部分，Kafka是一个分布式，可划分的，冗余备份的持久性的日志服务，它主要用于处理流式数据。2.为什么要使用消息队列 kafka缓冲和削峰：上游数据时有突发流量，下游可能扛不住，或者下游没有足够多的机器来保证冗余，kafka在中间可以起到一个缓冲的作用，把消息暂存在kafka
转载
2024-06-01 14:56:39
38阅读
1 Hadoop命令1.1点单启动和关闭-- 可以将后面 namenode 换成 datanode,secondarynamenode,resourcemanager,nodemanager
[atguigu@hadoop112 ~]$ hdfs --daemon start namenode
[atguigu@hadoop112 ~]$ hdfs --daemon stop namenode1
转载
2024-10-08 19:33:35
56阅读
zk kafka mariadb scala flink integrationI do not want to write this paper in the beginning , put the codes onto github.com/git.jd.com, while there some errors since moved to jdd(jd finance) this month
IMPLEMENTATION1. API DesignProducer APIsProducer API封装了底层两个Producer：kafka.producer.SyncProducerkafka.producer.async.AsyncProducerclass Producer {
/* Sends the data, partitioned by key to the topi
kafka简介kafka官网：http://kafka.apache.org/ kafka下载页面：http://kafka.apache.org/downloads kafka配置快速入门：http://kafka.apache.org/quickstart 新版本的kafka自带有zookeeper，本篇文章记录使用自带zookeeper搭建kafka集群。為了實現
转载
2024-05-11 23:48:00
383阅读
控制器组件，是Apache Kafka的核心组件，它主要是在Apache Zookeeper的帮助下管理和协调整个Kafka集群。集群中的任意一台Broker都能充当控制器的角色，但是运行过程中只能有一台作为控制器，行使管里和协调的职责。官网有个activeController的JMX指标，可以帮助我们实时监控控制器的存活状态。Zookeeper简介Apache Zookeeper是一个提供高可靠
转载
2024-03-29 11:45:06
44阅读
大家好，这是一个为了梦想而保持学习的博客。这个专题会记录我对于 KAFKA 的学习和实战经验，希望对大家有所帮助，目录形式依旧为问答的方式，相当于是模拟面试。一、概述我们知道，在 2.8 版本之前，kafka 都是强依赖于 zk 的；哪怕是目前的 2.8 版本去 zk 也只是试用功能，官方也不推荐在生产环境使用，因为有很多依托于 zk 的功能都无法使用了，例如 acl。因此，这一节我们就快速的回顾
转载
2024-03-12 13:28:42
75阅读
