Flume3 监控端口数据

更多整理都在我的github上：Auraros欢迎大家。

案例需求

使用Flume 监听一个端口，收集该端口数据，并打印到控制台

需求分析

安卓程序 怎么监控串口收发数据_大数据

实现步骤

  • 安装 telnet 工具
    将 rpm 软 件 包 (xinetd-2.3.14-40.el6.x86_64.rpm 、 telnet-0.17-48.el6.x86_64.rpm 和telnet-server-0.17-48.el6.x86_64.rpm)入/opt/software 文件夹下面。执行 RPM 软件包安装命令：
[atguigu@hadoop102 software]$ sudo rpm -ivh 
xinetd-2.3.14-40.el6.x86_64.rpm
[atguigu@hadoop102 software]$ sudo rpm -ivh 
telnet-0.17-48.el6.x86_64.rpm
[atguigu@hadoop102 software]$ sudo rpm -ivh 
telnet-server-0.17-48.el6.x86_64.rpm
  • 判断 44444端口是否被占用
[atguigu@hadoop102 flume-telnet]$ sudo netstat -tunlp | grep 44444

功能描述：netstat 命令是一个监控 TCP/IP 网络的非常有用的工具，它可以显示路由表、实际的网络连接以及每一个网络接口设备的状态信息。

基本语法：netstat [选项]

选项参数：

  • -t 或–tcp：显示 TCP 传输协议的连线状况；
  • -u 或–udp：显示 UDP 传输协议的连线状况；
  • -n 或–numeric：直接使用 ip 地址，而不通过域名服务器；
  • -l 或–listening：显示监控中的服务器的 Socket；
  • -p 或–programs：显示正在使用 Socket 的程序识别码和程序名称；
  • 创建 Flume Agent 配置文件 flume-telnet-logger.conf
    在 flume 目录下创建 job 文件夹并进入 job 文件夹。
[atguigu@hadoop102 flume]$ mkdir job
[atguigu@hadoop102 flume]$ cd job/

在 job 文件夹下创建 Flume Agent 配置文件 flume-telnet-logger.conf。

[atguigu@hadoop102 job]$ touch flume-telnet-logger.conf

在 flume-telnet-logger.conf 文件中添加如下内容。

[atguigu@hadoop102 job]$ vim flume-telnet-logger.conf

添加内容如下：

# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

配置文档解释：

# Name the components on this agent   #a1:表示agent的名称
a1.sources = r1      #r1: 表示a1的输入源
a1.sinks = k1        #k1: 表示a1的输出目的地
a1.channels = c1     #c1: 表示a1的缓冲区
# Describe/configure the source  
a1.sources.r1.type = netcat  #表示a1的输入类型元类型为netcat端口类型
a1.sources.r1.bind = localhost #表示a1的监听的主机
a1.sources.r1.port = 44444  #表示a1的监听的端口号
# Describe the sink  
a1.sinks.k1.type = logger  #表示a1的输出目的地是控制台logger类型
# Use a channel which buffers events in memory
a1.channels.c1.type = memory  # 表示a1的channel类型是memory内存型
a1.channels.c1.capacity = 1000 # 表示a1的channel总容量1000个event
a1.channels.c1.transactionCapacity = 100 # 表示a1的channel传输的时候收集到了100条event再提交
# Bind the source and sink to the channel
a1.sources.r1.channels = c1 #表示r1和c1连接起来
a1.sinks.k1.channel = c1  #表示将k1和c1连接起来

注：配置文件来源于官方手册 http:///FlumeUserGuide.html

  • 先开启 flume 监听端口
[atguigu@hadoop102 flume]$ bin/flume-ng agent --conf conf/ --name 
a1 --conf-file job/flume-telnet-logger.conf 
-Dflume.root.logger=INFO,console

参数说明：

  • –conf conf/ ：表示配置文件存储在conf/目录
  • –name a1 ：表示给 agent 起名为 a1
  • –conf-file job/flume-telnet.conf ：flume 本次启动读取的配置文件是在 job 文件夹下的 flume
  • -telnet.conf 文件。
  • -Dflume.root.logger==INFO,console ： -D表 示 flume 运 行 时 动 态 修 改flume.root.logger 参数属性值，并将控制台日志打印级别设置为 INFO 级别。日志级别包括:log、info、warn、error。

可以更改为：

bin/flume-ng agent -n $agent_name -c conf -f conf/flume-conf.properties.template -Dflume.root.logger=INFO,console
  • 使用 telnet 工具向本机的 44444 端口发送内容
[atguigu@hadoop102 ~]$ telnet localhost 44444

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-7JutSegb-1606096149983)(C:\Users\Auraros\AppData\Roaming\Typora\typora-user-images\image-20201121135327584.png)]

  • 在 Flume 监听页面观察接收数据情况

4 端口发送内容

[atguigu@hadoop102 ~]$ telnet localhost 44444

安卓程序 怎么监控串口收发数据_java_02

  • 在 Flume 监听页面观察接收数据情况