Springboot+netty整合解决硬件厂商提供的手册,完成数据拆分并存库

在平时工作中,难免会有硬软件交互的需求,比如人脸识别、RFID射频接收等等,此时提供这些设备的厂家会给你提供一份文档,里面规定了数据包的一些长度以及规则,此时就需要你根据文档来解析从硬件传输过来的数据,进行一些业务处理。

1、首先了解什么是netty?

Netty是由JBOSS提供的一个java开源框架,现为 Github上的独立项目。Netty提供异步的、事件驱动的网络应用程序框架和工具,用以快速开发高性能、高可靠性的网络服务器和客户端程序。

也就是说,Netty 是一个基于NIO的客户、服务器端的编程框架,使用Netty 可以确保你快速和简单的开发出一个网络应用,例如实现了某种协议的客户、服务端应用。Netty相当于简化和流线化了网络应用的编程开发过程,例如:基于TCP和UDP的socket服务开发。

“快速”和“简单”并不用产生维护性或性能上的问题。Netty 是一个吸收了多种协议(包括FTP、SMTP、HTTP等各种二进制文本协议)的实现经验,并经过相当精心设计的项目。最终,Netty 成功的找到了一种方式,在保证易于开发的同时还保证了其应用的性能,稳定性和伸缩性。 

2、什么是TCP粘包、拆包

netty物联网 发送消息_socket

假设客户端分别发送了两个数据包,D1和D2给服务端,由于服务端一次读取到的字节数是不确定的,故可能存在以下情况:

  • 服务端分别收到了D1和D2,没有粘包和拆包
  • 服务端一次性收到了D1和D2,称为TCP粘包
  • 服务端两次读取到了两个数据包,第一次读到了D1的完整部分和D2的部分数据,第二次读到了D2的剩余部分。 这称为TCP拆包

服务端两次读取到两个数据包,第一次是D1的部分,第二次是D1的剩余部分和D2的完整部分

3、拆包、粘包原因

  • 应用程序写入的数据大于套接字缓冲区大小,这将会发生拆包。
  • 应用程序写入数据小于套接字缓冲区大小,网卡将应用多次写入的数据发送到网络上,这将会发生粘包。
  • 进行mss(最大报文长度)大小的TCP分段,当TCP报文长度-TCP头部长度>mss的时候将发生拆包。
  • 接收方法不及时读取套接字缓冲区数据,这将发生粘包。

接下来我们需要做的就是根据厂家提供的文档,对发过来的数据进行接收,拆分,重组包,拿到一份完整的包。下图是厂家提供的协议:

netty物联网 发送消息_socket_02

netty物联网 发送消息_tcpip_03

接下来对此图进行分析,以此命令为例:

46 4d 53   |          00 0e           |      FF FF    |   82 00 07 a1 10 e0 a1  |   23 a5      客户端发过来总共有16Byte

起始标志    |  本文件数据长度  | 读卡器ID号  |    子文件。。。             |  校验码

图中可以看出,该包的大概结构如下,该包由 起始标志(3B),本文件数据长度(2B),读卡器ID号(2B)。。。子文件。。。校验码(2B)组成,由上命令可得知,客户端不管发多少字节,我们知道16个字节是一整包(因为TCP提供可靠的服务,也就是说,通过TCP连接传输的数据不会丢失,没有重复,并且按顺序到达,所以不用担心数据会乱),Netty有自带的封装好的解码类,也可以自己根据业务自定义解码类,粘包,拆包的问题就这么解决了,如果客户端发送过来的数据大于16字节(粘包),程序会根据规定的长度,进行拆分,合成一个新包后,计数器清零,继续等待,一直等到下次的包数据进来进行重组,反之拆包同理。B 代表的是 Byte。接下来,我们对接收到的一个整包进行处理,从图中可以看出,本文件数据长度规定了包的总长度(不包括俩字节的校验码),以该命令为例就是,

   包长=16-校验码(2B)=14B。

而我们需要拿到若干子文件的数据,所以需要包长减去固定的字节,找出若干子文件的长度,再根据文档告知的子文件的数据结构进行拆分,取数据。

  若干子文件 = 14 - 起始标志(3B)-本文件数据长度(2B)- 读卡器ID号(2B)=7B。

同理,若干子文件又根据图中提供的子文件命令的数据结构进行拆分。以下为我测试代码的结果(使用工具代替客户端发送报文):

1、正常收发包:

netty物联网 发送消息_netty_04

2、粘包

netty物联网 发送消息_socket_05

3、拆包

netty物联网 发送消息_netty_06

等待中。。。

netty物联网 发送消息_tcpip_07

此处进行存库等业务操作:

netty物联网 发送消息_socket_08

服务端代码:

package com.fre.nettyserversemo.res;

import io.netty.bootstrap.ServerBootstrap;
import io.netty.channel.ChannelFuture;
import io.netty.channel.ChannelInitializer;
import io.netty.channel.EventLoopGroup;
import io.netty.channel.nio.NioEventLoopGroup;
import io.netty.channel.socket.SocketChannel;
import io.netty.channel.socket.nio.NioServerSocketChannel;
import io.netty.handler.logging.LogLevel;
import io.netty.handler.logging.LoggingHandler;
import org.springframework.stereotype.Component;

@Component
public class FreServer {
    public void run(int port) throws Exception{
        //配置服务端的NIO线程组
        //此处new了俩个NioEventLoopGroup,NioEventLoopGroup包含了一组NIO线程,专门用于网络事件的处理,
        //实际上他们就是Reactor线程组,
        //这里创建俩个的原因是一个用于服务端接受客户端的连接,另一个用于进行SocketChannel的网络读写
        EventLoopGroup bossGroup = new NioEventLoopGroup(1);
        EventLoopGroup workerGroup = new NioEventLoopGroup(256);
        try {
            //Netty用于启动NIO服务端的辅助启动类,目的是降低服务端的开发复杂度
            ServerBootstrap b = new ServerBootstrap();
            //将俩个线程组当做 参数传递到ServerBootstrap中
            b.group(bossGroup, workerGroup)
                    //接着设置创建的channel为NioServerSocketChannel
                    .channel(NioServerSocketChannel.class)
                    //码流日志打印
                    .handler(new LoggingHandler(LogLevel.INFO))
                    .childHandler(new ChannelInitializer<SocketChannel>() {
                        @Override
                        public void initChannel(SocketChannel ch) {
                            //日志
                            ch.pipeline().addLast("LoggingHandler", new LoggingHandler(LogLevel.INFO));
                            //自定义解码器
                            ch.pipeline().addLast("FreDecoder", new FreDecoder());
                            //将读出的返回至定义的对象
                            ch.pipeline().addLast("CommandHandler", new CommandHandler());
                        }
                    });
            //服务启动辅助类配置完成之后,调用它的bind方法绑定监听端口,随后调用它的同步阻塞方法sync等待绑定完成
            //完成之后,netty会返回一个ChannelFuture,主要用于异步操作的通知回调
            ChannelFuture f = b.bind(port).sync();
            //使用该方法进行阻塞,等待服务端链路关闭后main函数才退出
            f.channel().closeFuture().sync();
        } finally {
            //调用NIO线程组的shutdownGracefully进行优雅退出,它会释放跟相关联的资源,释放线程池资源
            workerGroup.shutdownGracefully();
            bossGroup.shutdownGracefully();
        }

    }
}

自定义解码器文件:

package com.fre.nettyserversemo.res;

import io.netty.buffer.ByteBuf;
import io.netty.buffer.Unpooled;
import io.netty.channel.ChannelHandlerContext;
import io.netty.handler.codec.ReplayingDecoder;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Component;

import java.nio.charset.Charset;
import java.util.ArrayList;
import java.util.List;

import static com.fre.nettyserversemo.res.FreDecoderState.*;

/**
 * 核心解码文件
 */

@Slf4j
@Component
public class FreDecoder extends ReplayingDecoder<FreDecoderState> {

    public FreDecoder() {
        super(FreDecoderState.READ_FLAG);
    }

    final static int BEGIN_FLAG_LENGTH = 3;
    final static int FLEX_HEAD_LENGTH = 7;
    final static int FLEX_SUB_HEAD_LENGTH = 3;
    final static int END_FLAG_LENGTH = 2;

    private String flag;
    private int length = 0;
    private int cardNo = 0;
    private ByteBuf dataBuf = Unpooled.directBuffer(512);

    @Override
    protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) {
        switch (state()) {
            case READ_FLAG:
                flag = in.readCharSequence(BEGIN_FLAG_LENGTH, Charset.forName("UTF-8")).toString();
                checkpoint(READ_LENGTH);
                break;

            case READ_LENGTH:
                length = in.readUnsignedShort();
                checkpoint(READ_CARDNO);
                break;

            case READ_CARDNO:
                cardNo = in.readUnsignedShort();
                checkpoint(READ_CONTENT);
                break;

            case READ_CONTENT:
                byte[] tempBytes = new byte[length - FLEX_HEAD_LENGTH];
                in.readBytes(tempBytes);
                dataBuf.clear();
                dataBuf.writeBytes(tempBytes);

                checkpoint(READ_END);
                break;


            case READ_END:
                byte[] endFlag = new byte[END_FLAG_LENGTH];
                in.readBytes(endFlag);
                checkpoint(READ_FLAG);

                List<SubCommand> subCommands = new ArrayList<>();
                while (dataBuf.isReadable()) {
                    SubCommand subCommand = new SubCommand();
                    //读取子文件类型
                    short type = dataBuf.readUnsignedByte();
                    //读取子文件长度
                    int length = dataBuf.readUnsignedShort();
                    //减去文件头部3字节
                    int dataLength = length - FLEX_SUB_HEAD_LENGTH;

                    //读取子文件数据
                    byte[] data = new byte[dataLength];
                    dataBuf.readBytes(data);

                    subCommand.setType(type);
                    subCommand.setLength(length);
                    subCommand.setData(data);
                    subCommands.add(subCommand);
                }

                //封装一个完整的消息
                Command command = new Command(flag, length, cardNo, subCommands, endFlag);
                out.add(command);

                this.clearResource();
                break;
            default:
                ctx.channel().close();
                throw new Error("Shouldn't reach here.");
        }
    }

    private void clearResource() {
        this.flag = null;
        this.length = 0;
        this.cardNo = 0;
        this.dataBuf.clear();
    }

    @Override
    public void channelInactive(ChannelHandlerContext ctx) throws Exception {
        this.clearResource();
        super.channelInactive(ctx);
    }
}

Springboot整合netty:

1、pom文件引入netty包:

<dependency>
   <groupId>io.netty</groupId>
   <artifactId>netty-all</artifactId>
   <version>4.1.44.Final</version>
</dependency>

2、启动类注入服务端server,并实现CommandLineRunner接口,复写其方法:

import com.fre.nettyserversemo.res.FreServer;
import org.springframework.boot.CommandLineRunner;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

import javax.annotation.Resource;

@SpringBootApplication
public class NettyserversemoApplication implements CommandLineRunner {
	@Resource
	private FreServer freServer;
	public static void main(String[] args) {
		SpringApplication.run(NettyserversemoApplication.class, args);
	}

	@Override
	public void run(String... args) throws Exception {
		freServer.run(7788);
	}
}

注:注入使用@Resource,具体跟@autowride区别,自行百度。