下载Apache kafka各版本下载地址：https://mirror.bit.edu.cn/apache/kafka/CDH 官方提供的kafka http://archive.cloudera.com/kafka/kafka/4/kafka_2.11-2.2.1-kafka-4.1.0.jar 中版本号意思，第一个是scala1.12 、kafka 2.2.1、cdh4.1.0安装部署添加h
转载
2024-09-11 21:04:43
58阅读
简介：CDH的parcel包中是没有kafka的，kafka被剥离了出来，需要从新下载parcel包安装。或者在线安装，但是在线安装都很慢，这里使用下载parcel包离线安装的方式。PS:kafka有很多版本，CDH也有很多版本，那也许你会疑问如何知道你的CDH应该安装什么kafka版本。这个官方有介绍，文档地址：https://www.cloudera.com/documentation/ent
转载
2024-04-02 13:33:35
55阅读
kafka如何保证不丢失数据呢kafka主要数据传输点主要有三个 1、保证producer写入过程中不丢数据 2、保证broker中不丢数据 3、保证消费者消费时不丢数据场景一 producer写入过程中丢失数据： –首先得了解kafka的写入流程才能找寻到producer丢数据的场景 1、producer首先从zk的"…/state"节点中get到本分区中leader的信息 2、producer
转载
2024-02-26 21:04:16
25阅读
深入理解Kafka系列（二）--Kafka生产者系列文章目录前言正文Kafka生产者Kafka发送消息的主要步骤创建Kafka生产者（API）Kafka生产者参数详解Kafka生产者发送方式详解序列化器自定义序列化器Demo使用自定义序列化器的缺点：总结 系列文章目录Kakfa权威指南系列文章前言本系列是我通读《Kafka权威指南》这本书做的笔录和思考。正文Kafka生产者Kafka发送消息的主
cdh下线节点
原创
2020-06-28 21:38:42
2268阅读
文章目录HDFS Editslog FsImage Checkpoint1.FsImageFsImage文件内容2.EditsEdits文件内容3.CheckPointCheckpoint processNN和Secondary NN机制 HDFS Editslog FsImage Checkpoint【文件(目录)元数据】存储在【NameNode内存】中。1.FsImage为了防止NN断电，内
Kafka基础Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎，web/nginx日志、访问日志，消息服务等等，用scala语言编写，Li
具体步骤如下：开始下线前的自检# 自检 hdfs 文件是否有损坏
hdfs fsck / -list-corruptfileblocks -openforwrite -files -blocks -locations
# 如果文件有损坏，需要进行修复
hdfs fsck file_name -move选择需要下线的主机，开始下线。为了避免下线过程中出现数据丢失的风险，一次下线的主机数量要小于 h
转载
2023-10-17 22:05:22
300阅读
翻了翻自己之前写的CDH4安装部署文档，word文档有100页之多，花了不少时间写的，不能写完就丢弃了，而且抱着温故而知新的态度，于是分了几个章节整理了下，打算传到博客上来。先从CDH4的介绍开始。 Hadoop发行版本-CDH4目前而言，不收费的Hadoop版本主要有三个（均是国外厂商），分别是：Apache（最原始的版本，所有发行版均基于这个版本进行改进）、Cloudera版本（Clouder
转载
2024-03-31 11:18:34
83阅读
目 录一 Kafka 11 版本选择 12 集群搭建规划 13 修改Kafka相关配置文件 14 配置全局变量 15 启动Kafka集群 26 测试数据 3二 Flume 51 版本选择 52修改Flume相关配置文件 53 配置全局变量 64 启动Flume 65 测试数据 7三 Flume + Kafka测试启动命令 101 Flume启动测试命令 102 Kafaka启动测试命令
转载
2024-04-24 06:52:13
138阅读
Kafka Brokerkafka 第一个启动的Broker在ZooKeeper中创建一个临时节点/controller，让自己成为控制器。其他Broker启动后在控制器节点上创建Watch对象，便接收节点变更通知。Kafka利用ZooKeeper来选举控制器，并在节点加入或者退出集群时通知控制器。控制器负责在节点加入或者退出集群时选举分区首领。控制器使用Epoch来防止“脑裂”。Kafka 使用
转载
2024-05-15 06:12:40
67阅读
文章目录1、Kafka 简介2、kafka3 的安装配置3、Kafka 当中 Raft 的介绍4、Raft 算法介绍5、Kafka 常见问题 1、Kafka 简介Kafka 是一款开源的消息引擎系统。一个典型的 Kafka 体系架构包括若干 Producer、若干 Broker、若干 Consumer，以及一个 ZooKeeper 集群，如上图所示。其中 ZooKeeper 是 Kafka 用来
转载
2024-03-26 09:42:16
131阅读
深入Kafka集群成员关系每个broker都有一个唯一标识符，在broker启动时，通过创建临时节点把自己的ID注册到Zookeeper。Kafka组件订阅Zookeeper的/brokers/ids路径,当有broker加入集群或退出集群时，这些组件可以获得通知。在broker停机，出现网络分区或长时间垃圾回收停顿时，broker会在Zookeeper上断开连接，此时临时节点自动移除，其他bro
转载
2024-05-17 03:05:30
173阅读
前期准备1.修改Linux主机名 2.修改IP 3.修改主机名和IP的映射关系（etc/hosts） 4.关闭防火墙(chkconfig iptables off) chkconfig --list iptables //查看 chkconfig iptables off //关闭防火墙 service iptales status //查看 5.ssh免登陆 6.安装JDK，配置环境变量等(p
转载
2024-10-21 13:29:16
117阅读
文章目录一、概述1.1、定义1.2、如何运作？1.3、传统消息队列的应用场景1.4、消息队列的两种模式1.5、Kafka的基础架构二、安装（需要安装zookeeper）三、常用命令行操作3.1、主题命令行操作3.2、生产者命令行操作3.3、消费者命令行操作 一、概述1.1、定义Kafka是一个分布式的基于发布/订阅模式的消息队列（Message Quere）。 发布/订阅：消息的发布者不会将消息
转载
2024-07-18 08:38:51
32阅读
CDH测试集群原来有5台服务器，现在需要下线其中的4号和5号服务器。服务器上主要有如下服务：要保证服务器平稳下线
原创
2022-01-07 16:37:27
1276阅读
CDH测试集群原来有5台服务器，现在需要下线其中的4号和5号服务器。服务器上主要有如下服务：要保证服务器平稳下线，所以就需要将这些节点一个个的轮流停止，万一中间那个环节报错了，也好排查。先从对整个集群影响最大的节点开始：zookeeper因为几乎所有的高可用分布式服务都是依赖zookeeper的，所以先下线zk节点。zookeeper直接停止4,5两台服务器上的zkServer，然后删除，然后cm会提示需要重启整个集群，按指示操作即可。KuduTabletServer下线kudu表建表时
原创
2021-06-21 16:34:42
2003阅读
大数据面试重点之kafka(四) Kafka producer的ack设置 问过的一些公司：网易参考答案： Kafka producer有三种ack机制，初始化producer时在config中进行配置 ack=0 意味着producer不等待broker同步完成的确认，继续发送下一条(批)信息。提供了最低的延迟。但是最弱 的持久性，当服务器发生故障时，就很可能发生数据丢失。例如leader已经死
转载
2024-03-05 03:57:21
53阅读
添加kafka1.下载kafka包http://archive.cloudera.com/kafka/parcels/latest/把包放到parcel-repo目录2.下载csd包http://archive.cloudera.com/csds/kafka/放到csd目录3.分配kafka包并激活注意：如果进度卡在“已解压”，直接返回重新进来就会看到“激活”4添加kafka角色.默认选项即可安装
原创
2018-06-27 11:37:10
2071阅读
hbase分布式，数据最终会落到 hdfs 文件系统中，所以先要部署 hdfs ，详见文档 hadoop-2.6.0-cdh5.9.3分布式高可用部署。hdfs 部署完毕后，就可以部署 hbase 集群了。 hbase开启 snappy 压缩功能的话，请查看文档首先从cdh官网下载 hbase-1.2.0-cdh5.9.3.tar.gz 包。http://archive.cloudera.com/
转载
2024-10-29 20:23:36
77阅读
