锐单电子商城 , 一站式电子元器件采购平台!
  • 电话:400-990-0325

RabbitMQ消息队列

时间:2022-10-22 13:30:00 j6w连接器

消息队列

课程目标

1.MQ相关概念

1.1 什么是MQ

MQ(message queue),从字面上看,本质是一个队列,FIFO 先入先出,但存储在队列中的内容是

message 而已,还是一种跨进程的通信机制,用于上下游传递消息

1.2 为什么使用MQ

流量削峰

  • 如果处理能力有限只能处理1W请求,1W它可以立即响应,现在由于活动2W用户请求不能放弃掉1W用户,因此,消息可以到达消息队列,但用户下单的时间比以前长
    在这里插入图片描述

应用解耦

异步处理

  • 有些服务间调用异步
  • 例如 A 调用 B,B 执行需要很长时间,但是 A 需要知道 B 什么时候能完成,
  • 以前有两种方式:
    • A 调用一段时间 B 的查询 api 查询
    • 或者 A 提供一个 callback api,B 执行后调用 api 通知 A 服务
  • 这两种方法都不是很优雅,使用消息总线,解决这个问题很方便
    • A 调用 B 服务结束后,只需监控 B 处理完成的信息
    • 当 B 处理完成后,将发送消息 MQ,MQ 将此消息转发给 A 服务

1.3 常用MQ优缺点

ActiveMQ

  • 优点:单机吞吐量万级,及时性 ms 等级,高可用性,基于主从架构实现高可用性,数据丢失概率低

  • 缺点:现在官方社区是对的 ActiveMQ 5.x 维护越来越少,高吞吐量场景使用越来越少

Kafka

  • 优点
    • 性能优异,单机写入 TPS 大约一百万条/秒,最大的优势是吞吐量高
    • 时效性 ms 可用性很高
    • kafka 它是分布式的,多个数据副本,少数机器停机,数据不会丢失,不会导致不可用
    • 消费者采 用 Pull 获取消息的方式, 消息有序, 通过控制,可以确保所有消息都被消费只消费一次
    • 第三方优秀Kafka Web 管理界面 Kafka-Manager
    • 日志领域成熟,被多家公司和多个开源项目使用
  • 缺点
    • 功能相对简单,主要支持简单 MQ 功能,实时计算和大数据领域日志采集大规模使用
    • 社区更新缓慢

RocketMQ

  • RocketMQ 阿里巴巴的开源产品使用 Java 语言实现,在设计时参考了 Kafka,并做出了自己的一 一些改进。广泛应用于订单、交易、充值、流量计算、消息推送、日志流处理等领域。binglog 分发等场景
  • 优点
    • 单机吞吐量10万级,可用性很高
    • 分布式架构,新闻可以做到 0 丢失
    • MQ 功能完善,分布式,扩展性好
    • 支持 10 1亿级消息积累,性能不会因为积累而下降,源代码是 java 我们可以自己阅读源码
  • 缺点
    • 支持的客户端语言不多,目前是 java 及 c ,其中 c 不成熟
    • 社区活动一般,没有在 MQ 实现核心 JMS 等界面,有些系统需要修改大量代码才能迁移

RabbitMQ

  • 2007 年发布,是一个 AMQP在高级消息队列协议的基础上完成,可重复使用的企业消息系统是目前最主流的新闻中间件之一
  • 优点:
    • 由于 erlang 语言的高并发特性,性能较好;吞吐量达万级
    • MQ 功能齐全,强壮、稳定、易于使用 使用,跨平台,支持多种语言 如:
      • Python、Ruby、.NET、Java、JMS、C、PHP、ActionScript、XMPP、STOMP 等
    • 支持 AJAX 文档齐全;开源提供的管理界面很好,使用方便,社区活动度高;更新频率相当高
  • 缺点
    • 商业版收费,学习成本高

1.4 MQ的选择

大型项目:RocketMQ

日志收集(即处理大数据量):kafka

strong>小/中型项目:RabbitMQ

社区活跃度:

RabbitMQ > RocketMQ > kafka

消息持久化:

RabbitMQ、RocketMQ、kafka都支持持久化

高并发:

kafka = RocketMQ > RabbitMQ

吞吐量:

kafka = RocketMQ > RabbitMQ

2.RabbitMQ

RabbitMQ是实现了高级消息队列协议(AMQP)的开源消息代理软件(亦称面向消息的中间件)

2.1 前置概念

2.1.1 AMQP核心概念

虚拟主机(virtual host)或(vhost

  • 一组交换机、队列和绑定器被称为 虚拟主机(vhost
  • RabbitMQ server 可以说就是一个消息队列服务器实体(Broker
    • Broker当中可以有多个用户,而用户只能在虚拟主机的粒度进行权限控制,所以RabbitMQ中需要多个虚拟主机
    • 每一个RabbitMQ服务器都有一个默认的虚拟主机

交换机(exchange

  • 指定消息按什么规则,路由到哪个队列。它可以被理解成具有路由表的路由程序。(发送消息的实体
  • 交换机可以存在多个,每个交换机在自己独立的进程当中执行,因此增加多个交换机就是增加多个进程,可以充分利用服务器上的CPU核以便达到更高的效率。
  • Exchange的类型
    • Direct:直接交换机通过消息上的路由键直接对消息进行分发,相当于精确匹配,一对一
    • Topic:这个交换机会将路由键和绑定上的模式进行通配符匹配,相当于模糊匹配,一对多
    • Fanout:交换机会将消息发送到所有和它进行绑定的队列上,广播,群发
    • Headers:消息头交换机使用消息头的属性进行消息路由,相当于模糊匹配(like header%),一对多

队列(queue

  • 队列是消息载体,每个消息都会被投入到一个或多个队列
  • 试图创建一个已经存在的队列,RabbitMQ会直接忽略这个请求(接收消息的实体)。

绑定器(bind

  • 作用:把exchange和queue按照路由规则绑定起来
    • 将交换器和队列连接起来,并且封装消息的路由信息

2.1.2 程序中连接与消息使用的两个关键概念

连接(Connection)

  • 与RabbitMQ Server建立的一个连接
    • 由ConnectionFactory创建
    • 每个connection只与一个物理的Server进行连接,此连接是基于Socket进行连接的
  • AMQP一般使用TCP

通道 (Channel)

  • 消息通道(主要进行相关定义,发送消息,获取消息,事务处理等)
  • 在客户端的每个连接里,可建立多个channel,每个channel代表一个会话任务

2.2 七种工作模式

  • 简单模式:一个生产者,一个消费者
  • work模式:一个生产者,多个消费者,每个消费者获取到的消息唯一
  • 订阅模式:一个生产者发送的消息会被多个消费者获取
  • 路由模式: 发送消息到交换机并且要指定路由key ,消费者将队列绑定到交换机时需要指定路由key
  • topic模式:将路由键和某模式进行匹配,此时队列需要绑定在一个模式上,“#”匹配一个词或多个词,“*”只匹配一个词
  • RPC模式:使用RabbitMQ构建RPC系统:客户端和可伸缩RPC服务器
  • 发布确认:与发布者进行可靠的发布确认

2.3 安装

# 1.拉取镜像
[root@izbp1j6sv2mtxgnuthuw6bz ~]# docker pull rabbitmq:3.8-management
# 2.查看镜像
[root@izbp1j6sv2mtxgnuthuw6bz ~]# docker images
# 3.启动
[root@izbp1j6sv2mtxgnuthuw6bz ~]# docker run -itd --rm --name rabbitmq -p 5672:5672 -p 15672:15672 rabbitmq:3.8-management
a5ca877169d4eda31a9c404f94565c118f1cc64de2cbb398ff17a66e72c682cd
# 4.查看启动情况
[root@izbp1j6sv2mtxgnuthuw6bz ~]# docker ps
CONTAINER ID   IMAGE                     COMMAND                  CREATED         STATUS         PORTS                                                                                                         NAMES
a5ca877169d4   rabbitmq:3.8-management   "docker-entrypoint.s…"   4 seconds ago   Up 3 seconds   4369/tcp, 5671/tcp, 0.0.0.0:5672->5672/tcp, 15671/tcp, 15691-15692/tcp, 25672/tcp, 0.0.0.0:15672->15672/tcp   rabbitmq

问题

  • 防火墙问题
  • 启动web管理界面
# 进入rabbitmq
[root@izbp1j6sv2mtxgnuthuw6bz ~]# docker exec -it rabbitmq bash
# 启动web管理界面
root@a5ca877169d4:/# rabbitmq-plugins enable rabbitmq_management

2.3.1 添加新用户

# 创建账号
root@a5ca877169d4:/# rabbitmqctl add_user admin admin
Adding user "admin" ...
Done. Don't forget to grant the user permissions to some virtual hosts! See 'rabbitmqctl help set_permissions' to learn more.

# 设置用户角色
root@a5ca877169d4:/# rabbitmqctl set_user_tags admin administrator
Setting tags for user "admin" to [administrator] ...

# 设置用户权限
# set_permissions [-p ]    
# 用户 admin 具有/vhost1 这个 virtual host 中所有资源的配置、写、读权限
root@a5ca877169d4:/# rabbitmqctl set_permissions -p "/" admin ".*" ".*" ".*"
Setting permissions for user "admin" in vhost "/" ...

# 查看当前用户和角色
root@a5ca877169d4:/# rabbitmqctl list_users
Listing users ...
user    tags
admin   [administrator]
guest   [administrator]

2.3 Hello World

  • 在本教程的这一部分中,我们将用 Java 编写两个程序;

  • 发送单个消息的生产者和接收消息并将其打印出来的消费者

  • 在下图中,“P”是我们的生产者,“C”是我们的消费者

    • 中间的盒子是一个队列——RabbitMQ 代表消费者保留的消息缓冲区

2.3.1 依赖

 
<build>
    <plugins>
        <plugin>
            <groupId>org.apache.maven.pluginsgroupId>
            <artifactId>maven-compiler-pluginartifactId>
            <configuration>
                <source>8source>
                <target>8target>
            configuration>
        plugin>
    plugins>
build> 
<dependencies>
    
    <dependency>
        <groupId>com.rabbitmqgroupId>
        <artifactId>amqp-clientartifactId>
        <version>5.8.0version>
    dependency>
    
    <dependency>
        <groupId>commons-iogroupId>
        <artifactId>commons-ioartifactId>
        <version>2.6version>
    dependency>
dependencies>

2.3.2 消息生产者

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class Producer { 
        
    private final static String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception { 
        
        //创建一个连接工厂
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("IP");
        factory.setUsername("admin");
        factory.setPassword("admin");
        //channel 实现了自动 close 接口 自动关闭 不需要显示关闭
        //创建连接
        Connection connection = factory.newConnection();
        //获取信道
        Channel channel = connection.createChannel();
        /** * 生成一个队列 * 1.队列名称 * 2.队列里面的消息是否持久化 也就是是否用完就删除 * 3.该队列是否只供一个消费者进行消费 是否进行共享 true 可以多个消费者消费 * 4.是否自动删除 最后一个消费者端开连接以后 该队列是否自动删除 true 自动删除 * 5.其他参数 - 延迟、死信等 */
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        String message = "hello world";
        /** * 发送一个消息 * 1.发送到那个交换机 * 2.路由的 key 是哪个 * 3.其他的参数信息,传递的消息携带的properties * 4.发送消息的消息体 */
        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
        System.out.println("消息发送完毕");
    }
}

2.3.3 消息消费者

import com.rabbitmq.client.*;

public class Consumer { 
        
    private final static String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception { 
        
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("IP");
        factory.setUsername("admin");
        factory.setPassword("admin");
        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();

        System.out.println("等待接收消息.........");

        //推送的消息如何进行消费的接口回调
        DeliverCallback deliverCallback = (consumerTag, delivery) -> { 
        
            String message = new String(delivery.getBody());
            System.out.println(message);
        };
        //取消消费的一个回调接口 如在消费的时候队列被删除掉了
        CancelCallback cancelCallback = (consumerTag) -> { 
        
            System.out.println("消息消费被中断");
        };
        /** * 消费者消费消息 - 接受消息 * 1.消费哪个队列 * 2.消费成功之后是否要自动应答 true 代表自动应答 false 手动应答 * 3.消费者未成功消费的回调 * 4.消息被取消时的回调 */
        channel.basicConsume(QUEUE_NAME, true, deliverCallback, cancelCallback);
    }
}

2.4 Work Queues

2.4.1 抽取工具类

import com.rabbitmq.client.Channel;
import com.rabbitmq.client.Connection;
import com.rabbitmq.client.ConnectionFactory;

public class RabbitMqUtils { 
        
    //得到一个连接的 channel
    public static Channel getChannel() throws Exception { 
        
        //创建一个连接工厂
        ConnectionFactory factory = new ConnectionFactory();
        factory.setHost("IP");
        factory.setUsername("admin");
        factory.setPassword("123456");
        Connection connection = factory.newConnection();
        Channel channel = connection.createChannel();
        return channel;
    }
}

2.4.2 启动两个工作线程来接收消息

import com.oddfar.utils.RabbitMqUtils;
import com.rabbitmq.client.CancelCallback;
import com.rabbitmq.client.Channel;
import com.rabbitmq.client.DeliverCallback;

// 这是一个工作线程,相当于之前的消费者
public class Worker01 { 
        

    private static final String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception { 
        

        Channel channel = RabbitMqUtils.getChannel();
		channel.basicQos(1);
        //消息接受
        DeliverCallback deliverCallback = (consumerTag, delivery) -> { 
        
            String receivedMessage = new String(delivery.getBody());
            System.out.println("接收到消息:" + receivedMessage);
        };
        //消息被取消
        CancelCallback cancelCallback = (consumerTag) -> { 
        
            System.out.println(consumerTag + "消费者取消消费接口回调逻辑");

        };

        System.out.println("C1 消费者启动等待消费.................. ");
        channel.basicConsume(QUEUE_NAME, true, deliverCallback, cancelCallback);

    }
}

2.4.3 启动一个发送线程

public class Task01 { 
        
    public static final String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception { 
        

        Channel channel = RabbitMqUtils.getChannel();
        Scanner scanner = new Scanner(System.in);
        while (scanner.hasNext()) { 
        
            String message = scanner.next();
            channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
            System.out.println("消息发送完成:" + message);
        }

    }
}

2.5 小结

server:服务器

v-host:名称上来说,虚拟主机

exchange:交换机(消息通常是发送到交换机)

queue:队列(存放消息的)

bind:将交换机和队列进行绑定

2.5.1 消息队列持久化

创建一个队列的时候,可以是非持久化的,也可以是持久化的

  • 非持久化:rabbitmq如果重启,该队列就会被删除
  • 持久化:重启不影响
  • 消息持久化必须要消息队列持久化
boolean durable = true;
channel.queueDeclare("task_queue", durable, false, false, null);

2.5.2 消息的持久化

消息持久化,可以一定程度上去预防消息丢失,需要设置MessageProperties.PERSISTENT_TEXT_PLAIN

注意:配置了消息持久化,并不能够完全保证消息不丢失,只能保证消息到了队列中不消失

消息丢失的方式:

  • 发送方发送到消息队列的时候,丢了
  • 交换机到队列中,丢了
  • 队列到消费者,丢了,目前所学的知识点,队列中还有消息,再次发送

后续的解决方案,参考确认Confirm,Return

channel.basicPublish("", QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN, message.getBytes());

2.5.3 ACK

默认情况下,消费者接收到消息的时候(但是通常接到消息就处理了),就会进行自动应答(ACK)

如果一个消费者处理消息时间长,或者异常了,所以需要手动Ack

  • 自动Ack
DeliverCallback deliverCallback = (consumerTag, delivery) -> { 
        
    String message = new String(delivery.getBody(), "UTF-8");
    System.out.println(" [x] Received '" + message + "'");
};
// true 表示自动ack:autoAck
channel.basicConsume(QUEUE_NAME, true, deliverCallback, consumerTag -> { 
         });
  • 手动Ack
// 1.channel.basicConsume 将true改为false
channel.basicConsume(QUEUE_NAME, false, deliverCallback, consumerTag -> { 
         });

// 2.在finally 中手动Ack
channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);

2.5.4 消费不均匀

工作模式中,默认轮询,会出现一些问题,比如:两个消费者,亮跟大哥,实现功能(10个),

亮:1,3,5,7,9

大哥:2,4,6,8,10

但是大哥实现的快,出现一个问题,大哥3个小时完成了,摸鱼5小时,亮做了8小时

所以我们可以设置一个预抓取值,官网给的是一次抓取一个任务(每次抓取一个消息,当上一个消息没有ack的时候,不抓取新的消息)

int prefetchCount = 1;
channel.basicQos(prefetchCount);

注意:这里的预抓取值给的是1,这个值太小(消费者能力比较强,就会等待),但是具体还是看服务器性能跟消息复杂度,通常情况下100-300

2.6 Publish/Subscribe(Fanout

多出来的X,就是交换机,交换机接收发送方的消息,将消息发送到队列中,交换机还有不同的类型

Exchange的类型

  • Fanout:交换机会将消息发送到所有和它进行绑定的队列上,广播,群发
  • Direct:直接交换机通过消息上的路由键直接对消息进行分发,相当于精确匹配,一对一
  • Topic:这个交换机会将路由键和绑定上的模式进行通配符匹配,相当于模糊匹配,一对多
  • Headers:消息头交换机使用消息头的属性进行消息路由,相当于模糊匹配(like header%),一对多

2.6.1 操作

  • 发送方
public class EmitLog { 
        

    // 交换机名称
    private static final String EXCHANGE_NAME = "logs";

    public static void main(String[] argv) throws Exception { 
        
        try (Channel channel = RabbitMqUtils.getChannel()) { 
        
            // 创建交换机,并设置交换机类型
            channel.exchangeDeclare(EXCHANGE_NAME, BuiltinExchangeType.FANOUT);
            Scanner scanner = new Scanner(System.in);
            while (true) { 
        
                System.out.print("请输入要发送的消息:");
                String msg = scanner.next();
                channel. 

相关文章