#kafka集群搭建------配置一些文件,实现数据的获取及上传(消息队列形式的传播:未形成.txt文件之前的形式,可以实时处理)

配置需求:配置三台Linux系统,hadoop1/2/3主机安装hadoop1启动:zookeeper,kafka;hadoop2及hadoop3启动:kafka,三台kafka全部连接到hadoop1的zookeeper实现一个三台机器的kafka的集群

1.安装kafka:kafka下载地址 我们如果看过之前的文章就会直到,安装不过就是解压一下,新建目录也只是为了后期找比较方便而已;

三台可以用相同方式安装,也可以一台安装完后,直接scp复制到其他两台机器里面。

'''
Linux用到的命令:cd(切换路径),mkdir(创建目录),ll(查看文件),  cp/mv -i(复制/移动文件),tar(解压),sudo(获得权限,提示你没有权限sudo一下即可),chmod(sudo权限还不够,chmod改一下即可),su(切换用户);

1.切换到root用户:su root   输入密码:xxxxxxx
2.切换到根目录:cd / 
3.新建文件夹:mkdir program
4.把Hadoop压缩包导入program,cp(复制)/mv -i(移动)
5.解压即可用:tar -xvzf kafka-xxxxx(压缩包名称);
普通用户:sudo tar -xvzf kafka-xxxxx即可,需要输入密码;
用root用户进行的到这就安装完了,普通用户总是会有权限方面的事情,不想理会6可以不做的。

6.普通用户使用最好改下文件权限,并进行授权:
  a.进行文件目录授权,目的,让普通用户能够访问该目录,执行命令
   sudo chmod -R 755 java安装目录
   sudo chown -R [username] kafka安装目录
''''

kafka搭建需要多少台服务器 kafka集群需要几台机器_kafka


kafka搭建需要多少台服务器 kafka集群需要几台机器_大数据_02

2.运行kafka需要依赖java,在之前配置Hadoop的时候已经说明配置过程了,自行查看:Java安装说明

3.配置说明:
a.系统环境配置:hosts,hostname,防火墙,Linux之间添加信任(标志就是免密码登录),这个在20篇分享已经完成,自行查看:系统支持环境配置说明

从上面可以看出,kafka与之前Hadoop的配置方式其实大同小异,只要我们掌握了这个学习思路,那么就是不断的实战,加深我们对框架及模块的理解了。 以下命令都可以在kafka官网找到,就是这里,后期也要多多利用文档

b.kafka相关文件配置:应用kafka我们就得知道另一个名词,如果之前接触过大数据,那你肯定听过zookeeper,zookeeper在这里就是这个kafka集群的一个协调系统,三台Linux系统kafka都连接到一台zookeeper实现一个完整的分布式消息队列集群:

①.首先我们启动hadoop1上面的zookeeper:

说是kafka-run-class.sh文件缺少java的信息,那我们去加上吧:

kafka搭建需要多少台服务器 kafka集群需要几台机器_kafka_03


找到JAVA_HOME这个地方,不管了加上这句话再说:

kafka搭建需要多少台服务器 kafka集群需要几台机器_大数据_04


嗯,确实是好了:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_05


可以进入zookeeper-shell查看下集群信息:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_06

②.启动三台机器的kafka:
另外两台机器不需要启动zookeeper,只需要配置下面文件,把自己的kafka连接到hadoop1的zookeeper即可:
feiyuanhang@hadoop2:/program/kafka_2.13-2.7.0/config$ sudo vi server.properties:

配置好这个,所有的节点就都指向zookeeper了:

kafka搭建需要多少台服务器 kafka集群需要几台机器_kafka搭建需要多少台服务器_07


相同文件,这个也需要配置,最大值1000,三台机器id需要配置不同的:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_08

feiyuanhang@hadoop2:/program/kafka_2.13-2.7.0/config$ sudo vi zookeeper.properties:

这个文件配置三台机器相同,注意端口号要是2181:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_09


现在启动三台机器的kafka吧:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_10


如何验证呢,第一个办法,进入zookeeper-shell查看节点是否都在:

kafka搭建需要多少台服务器 kafka集群需要几台机器_kafka_11


创建信息传输存储空间,可以看见有三个broker的节点,或者在zookeeper-shell查看/brokers/ids:

kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_12


kafka搭建需要多少台服务器 kafka集群需要几台机器_zookeeper_13

第二个办法,模拟一下信息传输:

kafka搭建需要多少台服务器 kafka集群需要几台机器_hadoop_14


kafka搭建需要多少台服务器 kafka集群需要几台机器_hadoop_15

以上就构建了一个简单的kafka集群,学的时间还不长,后面随着不断实践再继续修正,现在是0:21我要去休息了,如果不是真的热爱应该不会这么坚持吧,所以无论今后遇见了什么,请保持善良,坚持所爱。
祝你可以找到你爱的那个人,那份事业,如果你看到了这里,啊哈哈哈,,,,,,,

持续更新,,,,,,,,,,,,,