• 缺点:
    1、 硬编码,有需要写入mysql的地方都需要添加写入ES的代码;
    2、 业务强耦合;
    3、 存在双写失败丢数据风险;
    4、 性能较差:本来mysql的性能不是很高,再加一个ES,系统的性能必然会下降。
  • 双写失败风险,包括以下几种:
    1) ES系统不可用;
    2) 程序和ES之间的网络故障;
    3) 程序重启,导致系统来不及写入ES等。
    针对这种情况,有数据强一致性要求的,就必须双写放到事务中来处理,而一旦用上事物,则性能下降更加明显。
2.异步双写(MQ方式)

针对多数据源写入的场景,可以借助MQ实现异步的多源写入,这种情况下各个源的写入逻辑互不干扰,不会由于单个数据源写入异常或缓慢影响其他数据源的写入,虽然整体写入的吞吐量增大了,但是由于MQ消费是异步消费,所以不适合实时业务场景。

在执行完向Mysql中写入数据的逻辑后,发送MQ,告诉消费端这个数据需要写入Es,消费端收到消息后执行向Es写入数据的逻辑。这个方式的优点是Mysql和Es数据维护分离,开发Mysql和Es的人员只需要关心各自的业务。缺点是依然需要维护发送、接收MQ的逻辑,并且引入了MQ组件,增加了系统的复杂度。

redis 频繁更新数据选择哪个数据类型 redis实时更新数据_elasticsearch

伪代码:

@Transactional(rollbackFor = Exception.class)
 public boolean parseJdDb(String keyword) throws IOException {
 //向数据库中插入
 List jdGoods = htmlParseUtil.parseJd(keyword);
 //批量更新Mysql
 boolean b = this.saveBatch(jdGoods);
 log.info(“异步同步至ES”);
 rabbitTemplate.convertAndSend(“es.exchange”,“es.renew.key”, jdGoods);
 return b;
 }

优点:
1、性能高
2、不易出现数据丢失问题,主要基于MQ消息的消费保障机制,比如ES宕机或者写入失败,还能重新消费MQ消息。
3、多源写入之间相互隔离,便于扩展更多的数据源写入

缺点:
1、硬编码问题,接入新的数据源需要实现新的消费者代码
3、系统复杂度增加:引入了消息中间件
4、可能出现延时问题:MQ是异步消费模型,用户写入的数据不一定可以马上看到,造成延时。

3.基于Mysql表定时扫描同步

上面两种方案中都存在硬编码问题,也就是有任何对mysq进行增删改查的地方要么植入ES代码,要么替换为MQ代码,代码的侵入性太强。

如果对实时性要求不高的情况下,可以考虑用定时器来处理,具体步骤如下:
1、数据库的相关表中增加一个字段为timestamp的字段,任何crud操作都会导致该字段的时间发生变化;
2、原来程序中的CURD操作不做任何变化;
3、增加一个定时器程序,让该程序按一定的时间周期扫描指定的表,把该时间段内发生变化的数据提取出来;
4、逐条写入到ES中。

如下图所示:

redis 频繁更新数据选择哪个数据类型 redis实时更新数据_redis_02

该方案的典型实现是借助logstash实现数据同步,其底层实现原理就是根据配置定期使用sql查询新增的数据写入ES中,实现数据的增量同步。

具体实现可以参考:通过Logstash实现mysql数据定时增量同步到ES

redis 频繁更新数据选择哪个数据类型 redis实时更新数据_redis_03

优点:
1、不改变原来代码,没有侵入性、没有硬编码;
2、没有业务强耦合,不改变原来程序的性能;
3、Worker代码编写简单不需要考虑增删改查;
缺点:
1、时效性较差,由于是采用定时器根据固定频率查询表来同步数据,尽管将同步周期设置到秒级,也还是会存在一定时间的延迟。
2、对数据库有一定的轮询压力,一种改进方法是将轮询放到压力不大的从库上。

业界目前较为流行的方案:Canal实现Mysql数据同步至Redis、Elasticsearch

4.基于Binlog实时同步

上面三种方案要么有代码侵入,要么有硬编码,要么有延迟,那么有没有一种方案既能保证数据同步的实时性又没有代入侵入呢?

当然有,可以利用mysql的binlog来进行同步。其实现原理如下:

redis 频繁更新数据选择哪个数据类型 redis实时更新数据_mysql_04


具体步骤如下:

1) 读取mysql的binlog日志,获取指定表的日志信息;

2) 将读取的信息转为MQ;

3) 编写一个MQ消费程序;

4) 不断消费MQ,每消费完一条消息,将消息写入到ES中。优点:

1、没有代码侵入、没有硬编码;

2、原有系统不需要任何变化,没有感知;

3、性能高;

4、业务解耦,不需要关注原来系统的业务逻辑。

缺点:

1、构建Binlog系统复杂;

2、如果采用MQ消费解析的binlog信息,也会像方案二一样存在MQ延时的风险。

redis 频繁更新数据选择哪个数据类型 redis实时更新数据_mysql_05

二、数据迁移同步工具选型

数据迁移同步工具的选择比较多样,下表仅从 MySQL 同步 ES 这个场景下,对一些笔者深度使用研究过的数据同步工具进行对比,用户可以根据自己的实际需要选取适合自己的产品。