RabbitMQ 之消息确认机制(事务+Confirm)


 

概述:



在 Rabbitmq 中我们可以通过持久化来解决因为服务器异常而导致丢失的问题



 



除此之外我们还会遇到一个问题: 生产者将消息发送出去之后,消息到底有没有正



确到达 Rabbit 服务器呢?如果不错得数处理,我们是不知道的,(即 Rabbit 服务器



不会反馈任何消息给生产者),也就是默认的情况下是不知道消息有没有正确到达;



 



导致的问题:消息到达服务器之前丢失,那么持久化也不能解决此问题,因为消息根本就没有到达 Rabbit 服务器!



 



RabbitMQ 为我们提供了两种方式:



1. 通过 AMQP 事务机制实现,这也是 AMQP 协议层面提供的解决方案;



2. 通过将 channel 设置成 confirm 模式来实现



 

 



事务机制                                                                                                                                                                          RabbitMQ 中与事务机制有关的方法有三个:txSelect(), txCommit()以及 txRollback(), 



txSelect 用于将当前 channel 设置成 transaction 模式,txCommit 用于提交事务,



txRollback 用于回滚事务,在通过 txSelect 开启事务之后,我们便可以发布消息



给 broker 代理服务器了,如果 txCommit 提交成功了,则消息一定到达了 broker 了,



如果在 txCommit执行之前 broker 异常崩溃或者由于其他原因抛出异常,这个时候



我们便可以捕获异常通过 txRollback 回滚事务了。                                                                                                                                 



txSelect   txCommit  txRollback                                                                                                                                txSelect:用户将当前channel设置成transation模式                                                                                                          txCommit :用于提交事务



txRollback :用户回滚事务



 

生产者:



import java.io.IOException;
import java.util.concurrent.TimeoutException;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.util.ConnectionUtils;
public class TXsend {
     private static final String QUEUE_NAMW = "test_tx_queue";
     
     public static void main(String[] args) throws IOException,  TimeoutException {
         Connection conn = ConnectionUtils.getConnection();
           Channel channel = conn.createChannel();
           
           channel.queueDeclare(QUEUE_NAMW, false, false, false,  null);
           
           String msg = "tx";
           
           try {
                //开启事务模式、
                channel.txSelect();
                channel.basicPublish("", QUEUE_NAMW, null,  msg.getBytes());
                //模拟事故
                int i = 1/0;
                //提交
                channel.txCommit();
           } catch (Exception e) {
          //进行事务回滚
                channel.txRollback();
                System.out.println("TxRollback...");
           }          
           channel.close();
           conn.close();
     }
}



 

 

  消费者:

 



import java.io.IOException;
import java.util.concurrent.TimeoutException;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.Consumer;
import com.rabbitmq.client.DefaultConsumer;
import com.rabbitmq.client.Envelope;
import com.rabbitmq.client.AMQP.BasicProperties;
import com.rabbitmq.util.ConnectionUtils;
public class TxReceive {
     
     private static final String QUEUE_NAMW = "test_tx_queue";
public static void main(String[] args) throws IOException,  TimeoutException {
           
           Connection conn = ConnectionUtils.getConnection();
           
           Channel channel = conn.createChannel();
           
           //队列声明
           channel.queueDeclare(QUEUE_NAMW, false, false, false,  null);
           
           channel.basicQos(1);
           
           //绑定队列到交换机转发器
           
           //channel.queueBind(QUEUE_NAMW, "", "");
           
                     //定义一个消费者
                     Consumer consumer = new  DefaultConsumer(channel){
                           //收到消息就会触发这个方法
                           @Override
                           public void handleDelivery(String  consumerTag, Envelope envelope, BasicProperties properties,  byte[] body)
                                     throws IOException {
                                String msg = new  String(body,"utf-8");
                                System.out.println("消费者1接收到的消息" + msg);
                                
                                try {
                                     Thread.sleep(1500);
                                } catch (InterruptedException e)  {
                                     e.printStackTrace();
                                }finally{
                                     System.out.println("消费者1处理完成!");
                                     //手动回执
                                     channel.basicAck(envelope.getDeliveryTag(), false);
                                }
                           }
                     };
                     //监听队列
                     //自动应答false
                     boolean autoAck = false;
                     channel.basicConsume(QUEUE_NAMW, autoAck,  consumer);
     }
}



 

 此时消费者不会接收到消息

 

activemq命令行发送消息_服务器

此种模式还是很耗时的,采用这种方式 降低了 Rabbitmq 的消息吞吐量   

 

 

 Confirm模式 

概述 



上面我们介绍了 RabbitMQ 可能会遇到的一个问题,即生成者不知道消息是否真正到达 broker,随



后通过 AMQP 协议层面为我们提供了事务机制解决了这个问题,但是采用事务机制实现会降低



RabbitMQ 的消息吞吐量,那么有没有更加高效的解决方式呢?答案是采用 Confirm 模式。 



 

  producer 端 confirm 模式的实现原理 

 

activemq命令行发送消息_java_02



   该模式最大的好处就是异步的!!!    



 

 

开启 confirm 模式的方法                                                                                                                     已经在 transaction 事务模式的 channel 是不能再设置成 confirm 模式的,即这两种模式是不能共存的。



//生产者通过调用channel的confirmSelect方法将channel设置为confirm模式



channel.confirmSelect();     



 

 编程模式

 



1. 普通 confirm 模式:每发送一条消息后,调用 waitForConfirms()方法,等待服务器端



    confirm。实际上是一种串行 confirm 了。



2. 批量 confirm 模式:每发送一批消息后,调用 waitForConfirms()方法,等待服务器端



    confirm。



3. 异步 confirm 模式:提供一个回调方法,服务端 confirm 了一条或者多条消息后 Client 端会回



    调这个方法。



 

 普通模式:



import java.io.IOException;
import java.util.concurrent.TimeoutException;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.util.ConnectionUtils;
public class confirm{
     private static final String QUEUE_NAMW =  "test_tx_confirm1";
     
     public static void main(String[] args) throws IOException,  TimeoutException, InterruptedException {
         Connection conn = ConnectionUtils.getConnection();
           Channel channel = conn.createChannel();
           
           channel.queueDeclare(QUEUE_NAMW, false, false, false,  null);
           
           //生产者调用confirmSelect,将channel设置为confirm模式
           channel.confirmSelect();
           String msg = "confirm";
           channel.basicPublish("", QUEUE_NAMW, null,  msg.getBytes());
           if(!channel.waitForConfirms()){
                System.out.println("send failed");
           }else{
                System.out.println("send ok");
           }
           channel.close();
           conn.close();
     }
}



 

activemq命令行发送消息_java_03

 

 



批量模式



批量 confirm 模式稍微复杂一点,客户端程序需要定期(每隔多少秒)



或者定量(达到多少条)或者两则结合起来publish 消息,然后等待



服务器端 confirm, 相比普通 confirm 模式,批量极大提升 confirm



 效率,但是问题在于一旦出现 confirm 返回 false 或者超时的情



况时,客户端需要将这一批次的消息全部重发,这会带来明显的重复消息数



量,并且,当消息经常丢失时,批量 confirm 性能应该是不升反降的。



import java.io.IOException;
import java.util.concurrent.TimeoutException;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.util.ConnectionUtils;
public class TXsend {
private static final String QUEUE_NAMW = "test_tx_confirm1";

public static void main(String[] args) throws IOException, TimeoutException, InterruptedException {
      Connection conn = ConnectionUtils.getConnection();
      Channel channel = conn.createChannel();

      channel.queueDeclare(QUEUE_NAMW, false, false, false, null);

      //1
      //生产者调用confirmSelect,将channel设置为confirm模式
      channel.confirmSelect();

      //2
      String msg = "confirm";
      //批量发送
      for(int i=1;i<=10;i++){
        channel.basicPublish("", QUEUE_NAMW, null, msg.getBytes());
      }

      //3
      //确认
      if(!channel.waitForConfirms()){
        System.out.println("send failed");
      }else{
        System.out.println("send ok");
      }

      channel.close();
      conn.close();
}
}



 

 



异步模式



Channel 对象提供的 ConfirmListener()回调方法只包含 deliveryTag



需要自己为每一个 Channel 



维护一个 unconfirm 的消息序号集合,每 publish 一条数据,集合中



每回调一次 handleAck方法,unconfirm 集合删掉相应的



一条(multiple=false)或多条(multiple=true)记录。从程序运行



效率上看,这个unconfirm 集合最好采用有序集合 SortedSet 存储结构。



实际上,SDK 中的 waitForConfirms()方法也是通过 SortedSet维护消息序号的。



import java.io.IOException;
import java.util.Collection;
import java.util.Collections;
import java.util.SortedSet;
import java.util.TreeSet;
import java.util.concurrent.TimeoutException;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.ConfirmListener;
import com.rabbitmq.client.Connection;
import com.rabbitmq.util.ConnectionUtils;
public class TXsend {
     private static final String QUEUE_NAMW =  "test_tx_confirm3";
     
     public static void main(String[] args) throws IOException,  TimeoutException, InterruptedException {
         Connection conn = ConnectionUtils.getConnection();
           Channel channel = conn.createChannel();
           
           channel.queueDeclare(QUEUE_NAMW, false, false, false,  null);
           
           //生产者调用confirmSelect,将channel设置为confirm模式
           channel.confirmSelect();
           
           //未确认的消息标识
           final SortedSet<Long> confirmSet =  Collections.synchronizedSortedSet(new TreeSet<Long>());
           
           //频道加一个监听
           channel.addConfirmListener(new ConfirmListener() {
                
                //回调/重发重试  可以1s之后再发 10s之后再发
                @Override
                public void handleNack(long deliveryTag, boolean  multiple) throws IOException {
                     if(multiple){
                           System.out.println("handleNack-----multiple =1");
                           confirmSet.headSet(deliveryTag+1).clear();;
                     }else{
                           System.out.println("handleNack-----multiple =0");
                           confirmSet.remove(deliveryTag);
                     }                    
                }
                
                //没问题的handleAck
                @Override
                public void handleAck(long deliveryTag, boolean  multiple) throws IOException {
                     if(multiple){
                           System.out.println("handleAck-----multiple =1");
                           confirmSet.headSet(deliveryTag+1).clear();;
                     }else{
                           System.out.println("handleAck-----multiple =0");
                           confirmSet.remove(deliveryTag);
                     }
                     
                }
           });
           
           
           String msg = "confirm";
           //模拟插入数据
            while(true){
                long seqNo = channel.getNextPublishSeqNo();
                channel.basicPublish("", QUEUE_NAMW, null,  msg.getBytes());
                confirmSet.add(seqNo);
           }
     }
}