1.1创建RabbitMQ工程
1.1.1pom文件
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.3.2.RELEASE</version> </parent> <groupId>com.peng</groupId> <artifactId>springboot_rabbitmq</artifactId> <version>1.0-SNAPSHOT</version> <properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency> </dependencies> </project>
1.1.2utils
package com.peng.utils; import com.rabbitmq.client.ConnectionFactory; import com.rabbitmq.client.Connection; public class ConnectionUtil { /** * 建立与RabbitMQ的连接 * @return * @throws Exception */ public static Connection getConnection() throws Exception { //定义连接工厂 ConnectionFactory factory = new ConnectionFactory(); //设置服务地址 factory.setHost("192.168.128.137"); //端口 factory.setPort(5672); //设置账号信息,用户名、密码、vhost(虚拟主机) factory.setUsername("admin"); factory.setPassword("1111"); factory.setVirtualHost("/"); // 通过工程获取连接 Connection connection = factory.newConnection(); return connection; } }
2.五种消息模型
RabbitMQ提供了6种消息模型,但是第6种其实是RPC,并不是MQ,因此不予学习。那么也就剩下5种。
但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同。
2.1.Simple-简单模型
官方介绍:
RabbitMQ是一个消息代理:它接受和转发消息。 你可以把它想象成一个邮政信箱
RabbitMQ与邮局的主要区别是它不处理纸张,而是接受,存储和转发数据消息的二进制数据块。
P(producer/ publisher):生产者,一个发送消息的用户应用程序。
C(consumer):消费者,消费和接收有类似的意思,消费者是一个主要用来等待接收消息的用户应用程序
队列(红色区域):rabbitmq内部类似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序,但是它们只能存储在队列中。队列只受主机的内存和磁盘限制,实质上是一个大的消息缓冲区。许多生产者可以发送消息到一个队列,许多消费者可以尝试从一个队列接收数据。
总之:
生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。
我们将用Java编写两个程序;发送单个消息的生产者,以及接收消息并将其打印出来的消费者。我们将详细介绍Java API中的一些细节,这是一个消息传递的“Hello World”。
我们将调用我们的消息发布者(发送者)Send和我们的消息消费者(接收者)Recv。发布者将连接到RabbitMQ,发送一条消息,然后退出。
2.1.1.生产者发送消息
package com.peng.com.peng.simpl; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; public class Sender { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); // 声明(创建)队列,必须声明队列才能够发送消息,我们可以把消息发送到队列中。 // 声明一个队列是幂等的 - 只有当它不存在时才会被创建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //发送消息 String message = "Hello World!"; channel.basicPublish("",QUEUE_NAME,null,message.getBytes()); System.out.println("Sender: "+message); //关闭通道和连接 channel.close(); connection.close(); } }
2.1.2.管理工具中查看消息
进入队列页面,可以看到新建了一个队列:simple_queue
点击队列名称,进入详情页,可以查看消息
在控制台查看消息并不会将消息消费,所以消息还在。
2.1.3.消费者获取消息
package com.peng.com.peng.simpl; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { //body 即消息体 String msg = new String(body); System.out.println("recver: "+ msg); } }; // 监听队列,第二个参数:是否自动进行消息确认。 channel.basicConsume(QUEUE_NAME,true,defaultConsumer); } }
我们发现,消费者已经获取了消息,但是程序没有停止,一直在监听队列中是否有新的消息。一旦有新的消息进入队列,就会立即打印.
2.1.4.消息确认机制(ACK)
通过刚才的案例可以看出,消息一旦被消费者接收,队列中的消息就会被删除。
那么问题来了:RabbitMQ怎么知道消息被接收了呢?
如果消费者领取消息后,还没执行操作就挂掉了呢?或者抛出了异常?消息消费失败,但是RabbitMQ无从得知,这样消息就丢失了!
因此,RabbitMQ有一个ACK机制。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:
-
自动ACK:消息一旦被接收,消费者自动发送ACK
-
手动ACK:消息接收后,不会发送ACK,需要手动调用
大家觉得哪种更好呢?
这需要看消息的重要性:
-
如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
-
如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。
我们之前的测试都是自动ACK的,如果要手动ACK,需要改动我们的代码:
修改消费者
package com.peng.com.peng.simpl; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver: "+ msg); //模拟业务逻辑处理失败 int i = 3/0; /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
注意到最后一行代码:
channel.basicConsume(QUEUE_NAME,false,defaultConsumer);
如果第二个参数为true,则会自动进行ACK;如果为false,则需要手动ACK。方法的声明:
生产者代码不用动,发送一条消息,重启修改后的消费者
但是,查看管理界面,发现:
停掉消费者的程序,发现:
消息并没有丢失,下次照样可以执行,直到成功
这是因为虽然我们设置了手动ACK,但是代码中并没有进行消息确认!所以消息并未被真正消费掉。
当我们关掉这个消费者,消息的状态再次称为Ready
自动ack存在的问题:
package com.peng.com.peng.simpl; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver: "+ msg); //模拟业务逻辑处理失败 int i = 3/0; } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,true,defaultConsumer); } }
如果业务逻辑代码没有执行成功,程序抛出异常。但是消息依然被消费:
2.2.Work-工作模型
工作队列或者竞争消费者模式
在第一篇教程中,我们编写了一个程序,从一个命名队列中发送并接受消息。在这里,我们将创建一个工作队列,在多个工作者之间分配耗时任务。
工作队列,又称任务队列。主要思想就是避免执行资源密集型任务时,必须等待它执行完成。相反我们稍后完成任务,我们将任务封装为消息并将其发送到队列。 在后台运行的工作进程将获取任务并最终执行作业。当你运行许多消费者时,任务将在他们之间共享,但是一个消息只能被一个消费者获取。
这个概念在Web应用程序中特别有用,因为在短的HTTP请求窗口中无法处理复杂的任务。
接下来我们来模拟这个流程:
P:生产者:任务的发布者
C1:消费者,领取任务并且完成任务,假设完成速度较快
C2:消费者2:领取任务并完成任务,假设完成速度慢
2.2.1.生产者
package com.peng.com.peng.work; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; /** * 生产者发送消息 */ public class Sender { private final static String QUEUE_NAME = "work_queue"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); // 声明(创建)队列,必须声明队列才能够发送消息,我们可以把消息发送到队列中。 // 声明一个队列是幂等的 - 只有当它不存在时才会被创建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); for (int i = 1; i <= 50; i++) { //发送消息 String message = "Hello World!-->"+i; channel.basicPublish("",QUEUE_NAME,null,message.getBytes()); System.out.println("Sender: "+message); } //关闭通道和连接 channel.close(); connection.close(); } }
2.2.2.消费者1
package com.peng.com.peng.work; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver1 { private final static String QUEUE_NAME = "work_queue"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver1: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
2.2.3.消费者2
package com.peng.com.peng.work; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver2 { private final static String QUEUE_NAME = "work_queue"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver2: "+ msg); Thread.sleep(2000); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
启动生产者:
消费者1和2平均处理了50条消息,虽然消费者2加了睡眠但还是平均分配
可以发现,两个消费者各自消费了25条消息,而且各不相同,这就实现了任务的分发。
2.2.4.能者多劳
刚才的实现有问题吗?
-
消费者1比消费者2的效率要低,一次任务的耗时较长
-
然而两人最终消费的消息数量是一样的
-
消费者2大量时间处于空闲状态,消费者1一直忙碌
现在的状态属于是把任务平均分配,正确的做法应该是消费越快的人,消费的越多。
怎么实现呢?
我们可以使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工作人员发送多于一条消息。 或者换句话说,不要向工作人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不是仍然忙碌的下一个工作人员。
两个消费端都添加
再次测试:
消费者2:只处理了一条的消息
面试题:避免消息堆积?
1)采用workqueue,多个消费者监听同一队列。
2)接收到消息以后,而是通过线程池,异步消费。
多个消费者+能者多劳好处防止消息堆积
给消费者添加
//定义消费者同时只能处理一条消息 channel.basicQos(1);
2.3.Fanout-广播模型
Fanout,也称为广播。
流程图:
在广播模式下,消息发送流程是这样的:
-
1) 可以有多个消费者
-
2) 每个消费者有自己的queue(队列)
-
3) 每个队列都要绑定到Exchange(交换机)
-
4) 生产者发送的消息,只能发送到交换机,交换机来决定要发给哪个队列,生产者无法决定。
-
5) 交换机把消息发送给绑定过的所有队列
-
6) 队列的消费者都能拿到消息。实现一条消息被多个消费者消费
2.3.1.生产者
两个变化:
-
1) 声明Exchange,不再声明Queue
-
2) 发送消息到Exchange,不再发送到Queue
package com.peng.fanout; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import org.springframework.amqp.core.ExchangeTypes; /** * 生产者发送消息 */ public class Sender { private final static String EXCHANGE_NAME = "fout_exchange"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); //声明exchange //channel.exchangeDeclare(交换器的名字, 交换器的类型); channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.FANOUT); //发送消息 String message = "Hello World!"; channel.basicPublish(EXCHANGE_NAME,"",null,message.getBytes()); System.out.println("Sender: "+message); //关闭通道和连接 channel.close(); connection.close(); } }
执行发现:已经创建了一个exchanges交换器,此时没有绑定mq,此时发送消息会丢失。。
Exchange只负责分发消息,不储存
2.3.2.消费者1
package com.peng.fanout; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver1 { private final static String QUEUE_NAME = "fanout_queue_1"; private final static String EXCHANGE_NAME = "fout_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //把queue队列绑定到exchange上 channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,""); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver1: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
要注意代码中:队列需要和交换机绑定
2.3.3.消费者2
package com.peng.fanout; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver2 { private final static String QUEUE_NAME = "fanout_queue_2"; private final static String EXCHANGE_NAME = "fout_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //把queue队列绑定到exchange上 channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,""); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver2: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
此时fout_exchange绑定成功了消费者1和消费者2
2.3.4.测试
我们运行两个消费者,然后发送1条消息:
发送者发送了一条消息到交换机,交换机把消息分给了两个mq
注意:需要先创建一个exchange交换机,如果没有, 启动消费者会抛出找不到交换机异常,所以发送者要先启动创建一个exchange,发送没人接受的消息。然后再启动消费者。才能正常访问。
2.4.Direct-定向模型
有选择性的接收消息
在订阅模式中,生产者发布消息,所有消费者都可以获取所有消息。
在路由模式中,我们将添加一个功能 - 我们将只能订阅一部分消息。 例如,我们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然能够在控制台上打印所有日志消息。
但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。
在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)
消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
X:Exchange(交换机),接收生产者的消息,然后把消息递交给 与routing key完全匹配的队列
C1:消费者,其所在队列指定了需要routing key 为 error 的消息
C2:消费者,其所在队列指定了需要routing key 为 info、error、warning 的消息
2.4.1.生产者
package com.peng.direct; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import org.springframework.amqp.core.ExchangeTypes; /** * 生产者发送消息 */ public class Sender { private final static String EXCHANGGE_NAME = "direct_exchange"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); //声明一个交换器 channel.exchangeDeclare(EXCHANGGE_NAME, ExchangeTypes.DIRECT); //发送消息 String message = "Hello World!"; channel.basicPublish(EXCHANGGE_NAME,"info",null,message.getBytes()); System.out.println("Sender: "+message); //关闭通道和连接 channel.close(); connection.close(); } }
2.4.2.消费者1
package com.peng.direct; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver1 { private final static String QUEUE_NAME = "direct_queue_1"; private final static String EXCHANGGE_NAME = "direct_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); // 绑定队列到交换机,同时指定需要订阅的routing key。假设此处需要error channel.queueBind(QUEUE_NAME,EXCHANGGE_NAME,"error"); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver1: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
2.4.3.消费者2
package com.peng.direct; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver2 { private final static String QUEUE_NAME = "direct_queue_2"; private final static String EXCHANGGE_NAME = "direct_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); // 绑定队列到交换机,同时指定需要订阅的routing key。假设此处需要error和info的消息 channel.queueBind(QUEUE_NAME,EXCHANGGE_NAME,"error"); channel.queueBind(QUEUE_NAME,EXCHANGGE_NAME,"info"); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver2: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
2.4.3测试
我们分别发送info、error的RoutingKey,发现结果:
Recver1只能接收error发送的消息,
Recver2可以接收error和info的消息
业务场景可以向指定mq发送消息:如收集日志。
2.5.Topic-主题模型
Topic
类型的Exchange
与Direct
相比,都是可以根据RoutingKey
把消息路由到不同的队列。只不过Topic
类型Exchange
可以让队列在绑定Routing key
的时候使用通配符!
Routingkey
一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert
通配符规则:
`#`:匹配一个或多个词
`*`:匹配不多不少恰好1个词
举例:
`audit.#`:能够匹配`audit.irs.corporate` 或者 `audit.irs`
`audit.*`:只能匹配`audit.irs`
在这个例子中,我们将发送所有描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“<speed>.<color>.<species>”。
我们创建了三个绑定:Q1绑定了绑定键“*.orange.*”,Q2绑定了“*.*.rabbit”和“lazy.#”
。
Q1匹配所有的橙色动物。
Q2匹配关于兔子以及懒惰动物的消息。
练习,生产者发送如下消息,会进入那个队列:
quick.orange.rabbit Q1、Q2队列都能收到
lazy.orange.elephant Q1、Q2队列都能收到
quick.orange.fox Q1队列能收到
lazy.pink.rabbit Q2队列能收到
quick.brown.fox Q1、Q2队列都不能收到
quick.orange.male.rabbit Q1、Q2队列都不能收到
orange Q1、Q2队列都不能收到
2.5.1.生产者
使用topic类型的Exchange,发送消息的routing key有3种: item.isnert
、item.update
、item.delete
:
package com.peng.topic; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import org.springframework.amqp.core.ExchangeTypes; /** * 生产者发送消息 */ public class Sender { private final static String EXCHANGE_NAME = "topic_exchange"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); // 声明一个exchange交换器 channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.TOPIC); //发送消息 String message = "Hello World!"; // 发送消息,并且指定routing key 为:add ,代表新增商品 channel.basicPublish(EXCHANGE_NAME,"item.add",null,message.getBytes()); System.out.println("Sender: "+message); //关闭通道和连接 channel.close(); connection.close(); } }
2.5.2.消费者1
我们此处假设消费者1接收所有类型的消息:新增商品,更新商品和删除商品。
package com.peng.topic; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver1 { private final static String QUEUE_NAME = "topic_queue_1"; private final static String EXCHANGE_NAME = "topic_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //绑定exchange channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"item.*"); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver1: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
2.5.3.消费者2
我们此处假设消费者2只接收两种类型的消息:更新商品和删除商品
package com.peng.topic; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver2 { private final static String QUEUE_NAME = "topic_queue_2"; private final static String EXCHANGE_NAME = "topic_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建 channel.queueDeclare(QUEUE_NAME,false,false,false,null); //绑定exchange channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"item.update"); channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"item.delete"); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver2: "+ msg); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
通过测试得出,消费者1 可以收到三种生产者发出的消息,而消费者2只能接收修改和删除消息
3.持久化
如何避免消息丢失?
1) 消费者的手动ACK机制。可以防止业务处理失败。
2) 但是,如果在消费者消费之前,MQ就宕机了,消息就没了。
是可以将消息进行持久化呢?
要将消息持久化,前提是:队列、Exchange都持久化
3.1.交换机持久化 、消息持久化
交换机持久化 true channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.TOPIC,true);
消息持久化 MessageProperties.PERSISTENT_TEXT_PLAIN channel.basicPublish(EXCHANGE_NAME,"item.add", MessageProperties.PERSISTENT_TEXT_PLAIN,message.getBytes());
package com.peng.topic; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.Channel; import com.rabbitmq.client.Connection; import com.rabbitmq.client.MessageProperties; import org.springframework.amqp.core.ExchangeTypes; import org.springframework.amqp.core.MessagePostProcessor; /** * 生产者发送消息 */ public class Sender { private final static String EXCHANGE_NAME = "topic_exchange"; public static void main(String[] args) throws Exception { // 获取到连接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 轻量级的 Connection,这是完成大部分API的地方。 Channel channel = connection.createChannel(); // 声明一个exchange交换器并持久化true表示持久化 channel.exchangeDeclare(EXCHANGE_NAME, ExchangeTypes.TOPIC,true); for (int i = 1; i < 50; i++) { //发送消息 String message = "Hello World!-->"+i; // 发送消息,并且指定routing key 为:add ,代表新增商品 channel.basicPublish(EXCHANGE_NAME,"item.add", MessageProperties.PERSISTENT_TEXT_PLAIN,message.getBytes()); System.out.println("Sender: "+message); } //关闭通道和连接 channel.close(); connection.close(); } }
3.2.队列持久化
channel.queueDeclare(QUEUE_NAME,true,false,false,null);
package com.peng.topic; import com.peng.utils.ConnectionUtil; import com.rabbitmq.client.*; import java.io.IOException; /** * 消费者消费消息 */ public class Recver1 { private final static String QUEUE_NAME = "topic_queue_1"; private final static String EXCHANGE_NAME = "topic_exchange"; public static void main(String[] args) throws Exception { // 获取到连接 Connection connection = ConnectionUtil.getConnection(); // 创建通道 Channel channel = connection.createChannel(); //声明队列 ,如果队列已存在则不再新建第二个参数表示队列持久化 channel.queueDeclare(QUEUE_NAME,true,false,false,null); //绑定exchange channel.queueBind(QUEUE_NAME,EXCHANGE_NAME,"item.*"); //定义队列的消费者 DefaultConsumer defaultConsumer = new DefaultConsumer(channel){ // 获取消息,并且处理,这个方法类似事件监听,如果有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException { try { //body 即消息体 String msg = new String(body); System.out.println("recver1: "+ msg); Thread.sleep(1000); /** * 手动ack * long deiveryTag: 消息的下标 * boolean multipe: 是否确认比当前消息下标小的所有消息 */ channel.basicAck(envelope.getDeliveryTag(),false); } catch (Exception e) { e.printStackTrace(); } } }; /** * String queue:队列 * boolean autoAck: 是否自动ack,ack后消息会从容器中剔除 * Consumer callback */ channel.basicConsume(QUEUE_NAME,false,defaultConsumer); } }
3.4.测试
分别测试持久化和非持久化:
1、Send给Recv发送50条消息
2、Recv收到一条消息sleep1秒钟,收到前几条消息后立即关闭
3、重启RabbitMQ观察消息是否丢失
可以发现终止消费者时消息并没有丢失,等下次消费者正常启动时,接着上次的继续消费
这就实现了消息的持久化
4.Spring AMQP(springboot整合RabbitMQ)
Spring有很多不同的项目,其中就有对AMQP的支持:
Spring AMQP的页面:Spring AMQP
注意这里一段描述:
Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。
4.1.依赖和配置
添加AMQP的启动器:
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.3.2.RELEASE</version> </parent> <groupId>com.peng</groupId> <artifactId>springboot_rabbitmq</artifactId> <version>1.0-SNAPSHOT</version> <properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> </dependencies> </project>
在application.properties
中添加RabbitMQ地址:
spring: rabbitmq: host: 192.168.128.137 #主机 port: 5672 #端口 username: admin #用户名 password: 1111 #密码 virtual-host: / #虚拟分组 listener: direct: acknowledge-mode: manual #设置三种订阅模式手动ack simple: acknowledge-mode: manual #设置work消息类型手动ack
手动ack
listener: direct: acknowledge-mode: manual #设置三种订阅模式手动ack simple: acknowledge-mode: manual #设置work消息类型手动ack
注意:监听方法添加Channel channel, Message message两个参数
4.2.监听者
在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者
package com.peng.springboot; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.ExchangeTypes; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.annotation.Exchange; import org.springframework.amqp.rabbit.annotation.Queue; import org.springframework.amqp.rabbit.annotation.QueueBinding; import org.springframework.amqp.rabbit.annotation.RabbitListener; import org.springframework.stereotype.Component; import java.io.IOException; /** * 消息接收者 */ @Component public class Recver { /** * 接收消息的三要素 * queue * routingkey * exchange */ @RabbitListener(bindings = {@QueueBinding( value = @Queue(value = "springboot_queue",declare = "true"), exchange = @Exchange(value = "springboot_exchange",type = ExchangeTypes.TOPIC), key = {"*.*"} )}) public void listen(String msg, Channel channel, Message message){ try { System.out.println("recver:"+msg); int a = 3/0; channel.basicAck(message.getMessageProperties().getDeliveryTag(),false); } catch (IOException e) { e.printStackTrace(); } } }
@Componet
:类上的注解,注册到Spring容器
@RabbitListener
:方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:
bindings
:指定绑定关系,可以有多个。值是@QueueBinding
的数组。@QueueBinding
包含下面属性:
value
:这个消费者关联的队列。值是@Queue
,代表一个队列
exchange
:队列所绑定的交换机,值是@Exchange
类型
key
:队列和交换机绑定的RoutingKey
类似listen这样的方法在一个类中可以写多个,就代表多个消费者。
4.3.AmqpTemplate
Spring最擅长的事情就是封装,把他人的框架进行封装和整合。
Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:
红框圈起来的是比较常用的3个方法,分别是:
-
指定交换机、RoutingKey和消息体
-
指定消息
-
指定RoutingKey和消息,会向默认的交换机发送消息
4.4.发送者
package com.peng.springboot; import com.peng.RabbitMQApp; import org.junit.Test; import org.junit.runner.RunWith; import org.springframework.amqp.core.AmqpTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import org.springframework.test.context.junit4.SpringRunner; @RunWith(SpringRunner.class) @SpringBootTest(classes = RabbitMQApp.class) public class Sender { @Autowired private AmqpTemplate amqpTemplate; /** * 消息提供者 * @throws InterruptedException */ @Test public void send() throws InterruptedException { String msg = "hello world"; amqpTemplate.convertAndSend("springboot_exchange","item.add",msg); Thread.sleep(10000); } }
测试: