RabbitMQ
RabbitMQ是一个在AMQP基础上完整的,可复用的企业消息系统
安装
因为RabbitMQ由erlang实现,先安装erlang
#安装配置epel源
rpm -ivh http://dl.fedoraproject.org/pub/epel/6/i386/epel-release-6-8.noarch.rpm
#安装erlang
yum -y install erlang
#安装RabbitMQ
yum -y install rabbitmq-server
#启动/关闭
service rabbitmq-server start/stop
python使用rabbitmq服务,可以使用现成的类库pika
#安装pika
pip install pika #pip是python的软件管理包,如果没有安装,可以通过apt-get安装
pika源码地址https:
/
/
pypi.python.org
/
pypi
/
pika
操作RabbitMQ
对于RabbitMQ来说,生产和消费不再针对内存里的一个Queue对象,而是某台服务器上的RabbitMQ Server实现的消息队列。
生产者
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pika
#生产者(发)
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47')) #连接rabbitmq服务器
channel = connection.channel() #生成管道
#声明queue,消息将在这个队列中进行传递。如果将消息发送到不存在的队列,rabbitmq将会自动清除这些消息
channel.queue_declare(queue='hello')#如果加上durable=True,服务器异常时,消息不丢失,持久化
#发送消息到上面声明的hello队列
#exchange表示交换器,能精确指定消息应该发送到哪个队列,routing_key: 设置为队列的名称,body: 发送的内容
channel.basic_publish(exchange='',
routing_key='hello',
body='Hello World!')
print("Sent 'Hello World!'")
connection.close() #关闭连接
消费者
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pika
#消费者(取)
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47'))
channel = connection.channel() #生成管道
channel.queue_declare(queue='hello')
#回调函数
def callback(ch, method, properties, body):
print("Received %r" % body)
channel.basic_consume(callback,
queue='hello',
no_ack=True) #无应答 如果是False,在处理完后应答,如果没应答,说明这次指令没执行完,下次继续发布
#可以防止消息丢失
print('Waiting..............')
#开始接收信息,并进入阻塞状态,队列里有信息才会调用callback进行处理
channel.start_consuming()
1、消息确认
no-ack = False
去除no_ack=True参数或者设置为False,当工作者完成任务后,会反馈给rabbitmq(消息确认)
即使其中一个工作者退出了,正在执行的任务也不会丢失,RabbitMQ会重新将该任务添加到队列中,分配给其他工作者。
2、消息持久化
虽然有了消息确认,但是如果rabbitmq自身挂掉的话,那么任务还是会丢失,所以需要将任务持久化存储起来。
用delivery_mode=2来标记任务为持久化存储
#声明持久化存储
channel.queue_declare(queue='hello', durable=True)#队列持久化
channel.basic_publish(exchange='',
routing_key='hello',
body='Hello World!',
#消息持久化
properties=pika.BasicProperties(
delivery_mode=2, #用delivery_mode=2来标记任务为持久化存储
))
3、消息获取顺序(公平调度)
使用basic_qos设置prefetch_count=1,使得rabbitmq不会在同一时间给工作者分配多个任务,只有工作者完成任务之后,才会再次接收到任务
#声明持久化存储
channel.queue_declare(queue='hello', durable=True)##队列持久化
#回调函数
def callback(ch, method, properties, body):
print("Received %r" % body)
time.sleep(10)
print('ok')
ch.basic_ack(delivery_tag = method.delivery_tag)
channel.basic_qos(prefetch_count=1)#任务公平调度
4、发布订阅
发布订阅和简单的消息队列区别在于,发布订阅会将消息发送给所有的订阅者,而消息队列中的数据被消费一次便消失。所以,RabbitMQ实现发布和订阅时,会为每一个订阅者创建一个队列,而发布者发布消息时,会将消息放置在所有相关队列中。
发布者
#!/usr/bin/env python
import pika
#发布者
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47'))
channel = connection.channel() #生成管道
channel.exchange_declare(exchange='change_name',type='fanout')#type='fanout'表示可以给多个队列发数据
message = "Hello World!"
channel.basic_publish(exchange='change_name',#指定exchange,消息发给exchange,exchange发送给绑定了它的队列
routing_key='',
body=message)
print("Sent %r" % message)
connection.close()
订阅者
#!/usr/bin/env python
import pika
#订阅者
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47'))
channel = connection.channel() #生成管道
channel.exchange_declare(exchange='change_name',type='fanout')
#生成随机queue_name
result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue
channel.queue_bind(exchange='change_name', #绑定exchange
queue=queue_name)
print('Waiting........')
def callback(ch, method, properties, body):
print("%r" % body)
channel.basic_consume(callback,
queue=queue_name,
no_ack=True)
channel.start_consuming()
5、关键字发送
队列绑定关键字,发送者将数据根据关键字发送到消息exchange,exchange根据 关键字 判定应该将数据发送至指定队列。
发布者
#!/usr/bin/env python
import pika
#发布者
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47'))
channel = connection.channel() #生成管道
channel.exchange_declare(exchange='direct_name',type='direct')#type='direct'指定关键字发送
message = "Hello World!"
channel.basic_publish(exchange='direct_name',#指定exchange,消息发给exchange,exchange发送给绑定了它的队列
routing_key='lisi',#指定关键字
body=message)
print("Sent %r" % message)
connection.close()
订阅者
#!/usr/bin/env python
import pika
#订阅者
connection = pika.BlockingConnection(pika.ConnectionParameters(host='172.16.8.47'))
channel = connection.channel() #生成管道
channel.exchange_declare(exchange='direct_name',type='direct')#type='direct'指定关键字发送
#生成随机queue_name
result = channel.queue_declare(exclusive=True)
queue_name = result.method.queue
channel.queue_bind(exchange='direct_name', #绑定exchange
queue=queue_name,
routing_key="zhangsan")
channel.queue_bind(exchange='direct_name', #绑定exchange
queue=queue_name,
routing_key="lisi")
print('Waiting..........')
def callback(ch, method, properties, body):
print("%r" % body)
channel.basic_consume(callback,
queue=queue_name,
no_ack=True)
channel.start_consuming()