前言:
之前博客里面提到本公司为物联网项目。项目中使用mqtt+kafka进行与设备端的通讯,之前的协议格式为json格式,现在改成字节数组byte[]格式进行通信。
报错信息如下
org.apache.kafka.common.serialization.ByteArraySerializer is not an instance of org.apache.kafka.common.serialization.Deserializer
分析原因:
之前json格式传输时候是用的是String类型的,反序列化的时候指定的是StringDeserializer.class,现在传输为byte[]所以需要改成ByteArrayDeserializer.class
解决办法:
之前json格式传输时候是用的是String类型的,所以我们现在需要改成byte[]反序列化数据类型。
kafka实现序列化/反序列化可以简单的总结为两步:
- 第一步继承序列化Serializer或者反序列化Deserializer接口。
- 第二步实现接口方法,将指定类型序列化成byte[]或者将byte[]反序列化成指定数据类型。
public Map<String, Object> consumerByteConfigs() {
Map<String, Object> propsMap = new HashMap<String, Object>(8);
propsMap.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, servers);
propsMap.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, enableAutoCommit);
propsMap.put(ConsumerConfig.AUTO_COMMIT_INTERVAL_MS_CONFIG, autoCommitInterval);
propsMap.put(ConsumerConfig.SESSION_TIMEOUT_MS_CONFIG, sessionTimeout);
propsMap.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
//此处是上面提到的设置value值的类型
propsMap.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, ByteArrayDeserializer.class);
propsMap.put(ConsumerConfig.GROUP_ID_CONFIG, groupId);
propsMap.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, autoOffsetReset);
propsMap.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, maxPollRecordsConfig);
return propsMap;
}
其中ByteArrayDeserializer implements Deserializer<byte[]>,ByteArrayDeserializer 已经是实现了Deserializer。
接下来我们只需要将kafka配置中的"value.serializer"值的类型为 ByteArrayDeserializer.class。
关于kafka的序列化和反序列化
kafka在发送和接受消息的时候,都是以byte[]字节型数组发送或者接受的。但是我们平常使用的时候,不但可以使用byte[],还可以使用int、short、long、float、double、String等数据类型,这是因为在我们使用这些数据类型的时候,kafka根据我们指定的序列化和反序列化方式转成byte[]类型之后再进行发送或者接受的。
通常我们在使用kakfa发送或者接受消息的时候都需要指定消息的key和value序列化方式,如设置value.serializer为org.apache.kafka.common.serialization.StringSerializer,设置value的序列化方式为字符串,即我们可以发送string类型的消息。目前kafka原生支持的序列化和反序列化方式如下两表所示:
kafka序列化方式表
序列化方式 对应java数据类型
org.apache.kafka.common.serialization.ByteArraySerializer byte[]
org.apache.kafka.common.serialization.ByteBufferSerializer ByteBuffer
org.apache.kafka.common.serialization.IntegerSerializer Interger
org.apache.kafka.common.serialization.ShortSerializer Short
org.apache.kafka.common.serialization.LongSerializer Long
org.apache.kafka.common.serialization.DoubleSerializer Double
kafka反序列化方式表
序列化方式 对应java数据类型
org.apache.kafka.common.serialization.ByteArrayDeserializer byte[]
org.apache.kafka.common.serialization.ByteBufferDeserializer ByteBuffer
org.apache.kafka.common.serialization.IntegerDeserializer Interger
org.apache.kafka.common.serialization.ShortDeserializer Short
org.apache.kafka.common.serialization.LongDeserializer Long
org.apache.kafka.common.serialization.DoubleDeserializer Double