分布式消息通信之RabbitMQ_01

官网

RabbitMQ
RabbitMQ Tutorials & 1 Hello World! | 2 Work queues | 3 Publish/Subscribe | 4 Routing | 5 Topics | 6 RPC & RabbitMQ 教程
Installation Guide

1. RabbitMQ安装

1.1 Window版安装

 a.需要首先安装安装Erlang以及对应版本的rabbitmq-server,可在此处Installing on Windows下载;
 本次安装版本为rabbitmq-server-3.7.14.exeOTP 21.3 Windows 64-bit;下载完成后一直next即可;可将erlrabbitMQ加入环境变量;
 b.安装完成后启用rabbitmq_management

C:\Program Files\RabbitMQ Server\rabbitmq_server-3.7.14\sbin>enable rabbitmq_management
'enable' 不是内部或外部命令,也不是可运行的程序
或批处理文件。

C:\Program Files\RabbitMQ Server\rabbitmq_server-3.7.14\sbin>rabbitmq-plugins.bat enable rabbitmq_management
Enabling plugins on node rabbit@DESKTOP-2NHH5NJ:
rabbitmq_management
The following plugins have been configured:
  rabbitmq_management
  rabbitmq_management_agent
  rabbitmq_web_dispatch
Applying plugin configuration to rabbit@DESKTOP-2NHH5NJ...
The following plugins have been enabled:
  rabbitmq_management
  rabbitmq_management_agent
  rabbitmq_web_dispatch

set 3 plugins.
Offline change; changes will take effect at broker restart.

C:\Program Files\RabbitMQ Server\rabbitmq_server-3.7.14\sbin>

 c.之后启动RabbitMQ,net start RabbitMQ

C:\Program Files\RabbitMQ Server\rabbitmq_server-3.7.14\sbin>rabbitmq-server.bat net start RabbitMQ
"WARNING: Using RABBITMQ_ADVANCED_CONFIG_FILE: C:\Users\EDDY~1.SHE\AppData\Roaming\RabbitMQ\advanced.config"

  ##  ##
  ##  ##      RabbitMQ 3.7.14. Copyright (C) 2007-2019 Pivotal Software, Inc.
  ##########  Licensed under the MPL.  See https://www.rabbitmq.com/
  ######  ##
  ##########  Logs: C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/RABBIT~1.LOG
                    C:/Users/EDDY~1.SHE/AppData/Roaming/RabbitMQ/log/rabbit@DESKTOP-2NHH5NJ_upgrade.log

              Starting broker...
 completed with 3 plugins.

 启动成功后可打开http://localhost:15672/#/测试地址查看,用户名密码默认均为guest

1.2 Linux版安装

2. 典型应用场景

 异步,解耦,削峰
  跨系统的异步通信;
 系统内的同步变为异步;
 基于pub/sub模型的广播订阅;
 分布式事物的最终一致性解决方案;

3. 基本介绍

3.1 AMQP协议

 AMQP协议,跨语言,跨系统,跨平台的协议,Advanced Message Queuing Protocol 一种高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的消息中间件可跨产品,跨语言的消息通信。Erlang中的实现有 RabbitMQ等。

3.2 RabbitMQ的特性

 RabbmitMQ使用Erlang语言编写,使用Mnesia数据库存储消息。
 1)可靠性(Reliability) RabbitMQ使用一些机制来保证消息传输的可靠性,如持久化,传输确认,发布确认。
 2)灵活的路由(Flexible Routing) 在消息进入队列之前,通过Exchange来路由消息。对应典型的路由功能,RabbmitMQ已经内置了一些Exchange来支持。针对更复杂的路由功能,可以将多个Exchange绑定在一起,也可以通过插件机制实现自己的Exchange。
 3) 消息集群(Clustering) 多个RabbitMQ服务可以组成一个集群,形成一个逻辑Broker。
 4) 高可用队列(Highly Available Queues) 队列可以在集群机器上进行镜像,使得在部分节点出现问题的情况下队列让然可用。
 5) 多种协议(Multi Protocol) RabbitMQ支持多种消息队列协议,如 AMQP, STOMP, MQTT等。
 6) 多语言客户端(Clients) RabbitMQ几乎支持所有常用语言,如 Python, Java, Ruby, PHP, C#, JavaScript, Go, Elixir, Objective-C等。
 7) 管理界面(Management UI) RabbitMQ提供了一个易用的用户界面,使得用户可以监控和管理消息,集群中的节点。
 8) 插件机制(Plugin) RabbitMQ提供了许多插件,以实现多方面的扩展,当然也可以编写自己的插件。

3.3 工作模型

RMQ工作模型
工作流程:
 1. 首先生产者将消息发布至交换机Exchange,绑定路由关键字Routing Key(生产者不会讲消息直接放入队列,就算是不声明交换机,也是先发布至默认的交换机)
 2. 消费者创建通道channel,队列queue,并指定队列queue绑定的交换机Exchange,使用绑定关键字Binding Key来绑定(一个交换机可绑定多个队列queue,一个交换机绑定一个队列时,也可以使用多个绑定关键字)
 3. 当交换机收到消息,根据生产者发送消息时的路由关键字routing key和消费者定义的绑定关键字Binding Key做匹配,匹配合适的话就将消息存入匹配到的队列中去
 4. 消费者从队列中取走消息

 关键字:
Broker RabbitMQ的实体服务器,提供一种传输及服务,维护一条从生产者到消费者的传输路线,保证消息按指定的方式传输。
Exchange 消息交换机,指定消息按照哪种规则路由到哪个队列Queue。
Queue 消息队列。消息的载体,每个消息都会被投送到一个或多个队列中。
Binding 绑定。将Exchange和Queue按照某种路由规则绑定。
Routing Key 路由关键字。和 Binding Key对应,按照关键字匹配通过Exchange找到对应的Queue。
VHost 虚拟主机。相当于一个小的Broker,小的rabbitMQ服务器,一个Broker可以有一到多个虚拟主机,用于不同用户的权限分离。一个虚拟主机拥有一组 Exchange, Queue和 Binding。
Producer 消息生产者。将消息投递到Exchange上,一般是独立的应用程序。
Consumer 消息消费者。消息的接受者,一般是独立的应用程序。
Connection Producer,Broker和Consumer之间的TCP长连接。
Channel 消息通道,也成信道。在客户端的每个连接里可以建立多个Channel,每个Channel代表一个会话认为。在RabbitMQ Java Client中,channel上定义了大量的编程接口。

3.4 三种主要的交换机

Direct Exchange 直连交换机
Direct Exchange
 使用直连类型的交换机时,发送消息时的路由关键字Routing Key和接收消息时的绑定关键字Binding Key必须完全匹配时,生产者发送的消息才能被对应的消费者所接收到;
 如上图,当生产者发送消息指定路由关键字是error的时候,交换机发现第一个和第二个队列都是以error绑定的,所以队列1,2都会受到消息;当生产者发送消息指定路由关键字是info或者warning时,只有第二个队列能匹配,消费者C2才能受到消息。

Topic Exchange 主题交换机
Topic Exchange
 路由关键字Routing Key和绑定关键字Binding Key不需要完全匹配,类似于正则表达式符合一定规则匹配到即可接收消息。通配符有两个:

  * 代表匹配一个单词;
  # 代表匹配零到多个单词;
  多个单词之间用.分隔。

 如上图,当使用路由关键字fast.orange.tiger发送消息时,表达式匹配队列Q1,消费者C1会受到消息;
 当使用路由关键字fast.orange.rabbit发送消息时,表达式匹配队列Q1,Q2,消费者C1,C2都会受到消息;
 当使用路由关键字lazy.blue.rabbit发送消息时,队列Q2绑定交换机时使用的两个关键字都可以匹配到,但只会受到1条消息,不会多次发送;

Fanout Exchange 广播交换机
Fanout Exchange
 使用广播类型的交换机时,不需要指定Routing KeyBinding Key,生产者将消息发送至该交换机后,所有与之绑定的队列都能收到消息。
 如上图,当生产者发送一条消息时,不需要指定路由关键字,消息都会通过Fanout Exchange发送至队列1和队列2,消费者C1,C2都会受到消息。

4. Java API编程

Java API基础操作手册

            // 声明交换机
            com.rabbitmq.client.Channel#exchangeDeclare(String exchange, BuiltinExchangeType type, boolean durable)
             
            // 声明队列
            com.rabbitmq.client.Channel#queueDeclare(String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments)
        
           // 发布消息
           com.rabbitmq.client.Channel#basicPublish(String exchange, String routingKey, BasicProperties props, byte[] body)

 参数说明

声明交换机

exchange : 交换机名称
type : 交换机类型,DIRECT("direct"), FANOUT("fanout"), TOPIC("topic"), HEADERS("headers"); 4种,也可以直接使用字符串表示
durable : 是否持久化,代表交换机在服务器重启后是否存在

声明队列

String queue : 队列名称
boolean durable : 是否持久化,代表队列在服务器重启后是否存在
boolean exclusive : 是否排他队列,如果要声明一个只有自己可见,其余用户都不可见的队列,可以使用排他队列;该队列有两个特性:1)只有首次声明它的连接(connection)可见(对connection中的多个channel也可见),2)会在连接断开时自动删除
boolean autoDelete :是否自动删除,如果为true,在没有消费者连接到这个队列时,会自动删除
Map<String, Object> arguments :队列的其他属性,例如x-message-ttl、x-expires、x-max-length、x-max-length-bytes、x-dead-letter-exchange、x-dead-letter-routing-key、x-max-priority;
RMQ_QUEUE_params

发布消息

BasicProperties props, :14个属性

  public static class BasicProperties extends com.rabbitmq.client.impl.AMQBasicProperties {
        private String contentType;
        private String contentEncoding;
        private Map<String,Object> headers;   // 消息的其他自定义参数
        private Integer deliveryMode;    // 2持久化,其他 瞬态 
        private Integer priority;           // 消息的优先级 
        private String correlationId;
        private String replyTo;            // 回调队列 
        private String expiration;        // TTL 消息过期时间,单位毫秒 
        private String messageId;
        private Date timestamp;
        private String type;
        private String userId;
        private String appId;
        private String clusterId;
      ...

5. 进阶知识

5.1 自动删除没人消费的消息

 TTL (Time To Live) 可以通过设置队列的过期时间或者每条消息的过期时间来实现:

            // 队列设置过期时间
            Map<String, Object> queueArgs = new HashMap<>();
            queueArgs.put("x-message-ttl", 60000);  //queue msg ttl 6s
            channel.queueDeclare("MY_TTL_QUEUE", true, false, false, queueArgs);
           
            ...
            // 消息设置过期时间
            AMQP.BasicProperties msgArgs = new AMQP.BasicProperties().builder()
                    .expiration("5000")  // TTL  5s
                    .deliveryMode(2)   // 消息持久化
                    .contentEncoding("UTF-8")
                    .build();
            channel.basicPublish("", "MY_TTL_QUEUE", msgArgs, "Hello World".getBytes());
               

5.2 无法路由的消息,去了哪里

死信队列
 创建队列的时候可以指定队列中的消息无法路由或者过期后的去处,转发到指定的交换机,也就是死信交换机,和死信交换机绑定的队列为死信队列。
 三种情况消息会进入死信交换机DLX(Dead Letter Exchange):
消息过期;
消费端设置autoAck为false,不使用自动应答而是使用手工应答,并且手工应答的处理是reject或者Nack,且requeue属性为false,被拒绝的消息不会重新入队的时候

  -- 消费端 autoAck为false
  com.rabbitmq.client.Channel#basicConsume(String queue, boolean autoAck, DeliverCallback deliverCallback, CancelCallback cancelCallback);
   ...
  -- requeue 重新入队为false
  com.rabbitmq.client.Channel#basicReject(long deliveryTag, boolean requeue);
  com.rabbitmq.client.Channel#basicNack(long deliveryTag, boolean multiple, boolean requeue) throws IOException;
  

队列达到最大长度,先入队的消息会被放至DLX
 可以为普通的队列设置死信交换机,当队列中的消息变为死信后会进入指定的死信交换机,然后定义我们的死信队列来接收死信交换机里的内容:

            String myDeadLetterExchange = "MY_DLX_EXCHANGE";
            String myDeadLetterQueue = "MY_DLX_QUEUE";

            Map<String, Object> commonQueueArgs = new HashMap<>();
            commonQueueArgs.put("x-message-ttl", 60000);
            commonQueueArgs.put("x-max-length", 4); // 队列最大长度
            commonQueueArgs.put("x-expires", "9000");  // TTL过期时间
            commonQueueArgs.put("x-dead-letter-exchange", myDeadLetterExchange);
            // 声明普通队列
            channel.queueDeclare("MY_TTL_QUEUE", true, false, false, commonQueueArgs);

            // 声明死信交换机
            channel.exchangeDeclare(myDeadLetterExchange, "topic");
            // 声明死信队列
            channel.queueDeclare(myDeadLetterQueue, false, false, false, null);
            // 绑定
            channel.queueBind(myDeadLetterQueue, myDeadLetterExchange, "#");

5.3 可以让消息优先得到消费吗

 当队列中消息堆积时,可以设置队列和消息的优先级,级别高的消息会优先消费。
  设置队列支持的最大优先级属性x-max-priority及消息优先级属性com.rabbitmq.client.AMQP.BasicProperties#priority,当队列中消息堆积时,队列会根据属性优先级大小进行优先消费,如果消息不会堆积,设置优先级并没什么用。

   // 生产者 发送消息时设置消息优先级
        Map<String, Object> headers = new HashMap<String, Object>();
        headers.put("name", "test");
        headers.put("level", "top");

        AMQP.BasicProperties properties = new AMQP.BasicProperties.Builder()
                .deliveryMode(2)   // 2代表持久化
                .contentEncoding("UTF-8")  // 编码
                .expiration("10000")  // TTL,过期时间
                .headers(headers) // 自定义属性
                .priority(5) // 消息的优先级,默认为5,配合队列的 x-max-priority 属性使用
                .messageId(String.valueOf(UUID.randomUUID()))
                .build();

  // 消费者创建队列时设置队列支持的最大优先级
        Map<String, Object> map = new HashMap<>();
        map.put("x-max-priority", 10);  //指定队列的最大优先级
        // 声明队列(默认交换机AMQP default,Direct)
        // String queue, boolean durable, boolean exclusive, boolean autoDelete, Map<String, Object> arguments
        channel.queueDeclare(QUEUE_NAME, false, false, false, null);
        

5.4 延迟队列

 当在使用智能产品时,比如要设置1个小时以后发送一条短信,可以使用延迟队列;消息会立刻进入队列,但1个小时后才会被消费掉;
 Rabbit MQ本身并不支持延迟队列,可以使用之前提到的消息过期时间TTL加死信队列DLX来实现。
 或者使用插件 rabbitmq-delayed-message-exchange

5.5 RPC

RabbitMQ RPC

5.6 服务端流控

 Flow Control, Rabbit MQ中数据是存储在磁盘或者内存中的,可以设置内存使用率,来达到限流效果。
 RabbitMQ 会在启动时检测机器的物理内存数值。默认当 MQ 占用 40% 以上内存时,MQ 会主动抛出一个内存警告并阻塞所有连接(Connections)。可以通过修改 rabbitmq.config 文件来调整内存阈值,默认值是 0.4,如下所示: [{rabbit, [{vm_memory_high_watermark, 0.4}]}].,默认情况,如果剩余磁盘空间在 1GB 以下,RabbitMQ 主动阻塞所有的生产者。这个阈值也是可调的。
 注意队列长度只在消息堆积的情况下有意义,而且会删除先入队的消息,不能实现服务端限流。

5.6 消费端限流

 当多个消费者C1,C2,C3绑定同一个队列,队列中的消息由可以快速处理和处理很慢的类型构成,比如现在队列中有100条消息,默认会均匀分给C1,C2,C3三个消费者33-34条,假设C1,C2接收到的都是可以很快处理掉的消息,快速的把数据处理完了,而此时C3在处理业务比较复杂的数据类型,处理的很慢,可能处理起来会话很长时间;但此时C1,C2其实已经空闲下来了,造成了资源的不合理利用。
 消费端限流可以达到每个消费者只可以同时处理1或N条消息的目的,当前消息没有处理完,RabbitMQ不会在给当前消费者推送消息,这和 java JUC包下的 java.util.concurrent.Semaphore很类似,具体代码实现如下:

   // 消费端 autoAck=false 非自动确认消息的前提下,如果一定数目的消息(通过基于consume或者channel设置Qos的值)未被确认前,不进行消费新的消息。
        channel.basicQos(1);
        channel.basicConsume(QUEUE_NAME, false, consumer);

6. UI管理界面

 UI页面可以用来监控消息,管理交换机队列等。不论是是由代码创建的交换机队列,还是UI界面或者http api方式创建,如果名称和参数都一样,都是可以创建的。
 当RabbitMQ需要升级时,原有RabbitMQ内的交换机,队列等重新建立会很麻烦,UI界面提供了export功能,可以将老的导出然后导入新的RabbitMQ内。
RMQ export

7. Spring配置方式集成RabbitMQ

8. Spring Boot集成RabbitMQ

posted @ 2019-05-27 20:31  BigShen  阅读(980)  评论(0编辑  收藏  举报