SpringcloudStream简单使用

官网:https://spring.io/projects/spring-cloud-stream

1.简介

1.什么是Springcloud Stream

  Springcloud Stream 是一个构建消息驱动微服务的框架。说白了就是操作MQ的,可以屏蔽底层的MQ类型。

  应用程序通过inputs 或者 outputs 与SpringcloudStream中binder对象交互。所以我们通过配置来绑定(binding),而与SpringcloudStream 的binder对象负责与消息中间件交互。所以我们只需要了解如何与Stream的binder交互就可以了,屏蔽了与底层MQ交互。

  Springcloud Stream为一些MQ提供了个性化的自动化配置实现,引用了发布-订阅、消费组、分区的三个核心概念。

2.为什么引入Stream

  屏蔽底层消息中间件的差异,降低切换成本,统一消息的编程模型。类似于Hibernate的作用一样, 我们更多的注重业务开发。Hibernate屏蔽了数据库的差异,可以很好的实现数据库的切换。Stream屏蔽了底层MQ的区别,可以很好的实现切换。目前主流的有ActiveMQ、RocketMQ、RabbitMQ、Kafka,Stream支持的有RabbitMQ和Kafka。

3.设计思想

1. 标准的MQ

(1)生产者/消费者通过消息媒介传递消息内容

(2)消息必须走特定的通道Channel

2.引入Stream

  通过定义绑定器Binder作为中间层,实现了应用程序与消息中间件细节的隔离。

组成说明
Middleware 中间件,目前只支持RabbitMQ和Kafka
Binder Binder是应用与消息中间件之间的封装,目前实行了Kafka和RabbitMQ的Binder,通过Binder可以很方便的连接中间件,可以动态的改变消息类型(对应于Kafka的topic,RabbitMQ的exchange),这些都可以通过配置文件来实现
@Input 注解标识输入通道,通过该输入通道接收到的消息进入应用程序
@Output 注解标识输出通道,发布的消息将通过该通道离开应用程序
@StreamListener 监听队列,用于消费者的队列的消息接收
@EnableBinding 指信道channel和exchange绑定在一起

3.Stream 的消息通信模式遵循了发布-订阅模式,也就是Topic模式。在RabbitMQ中是Exchange交换机,在Kafka是Topic。

4. 术语

(1)Binder 绑定器,通过Binder可以很方便的连接中间件,屏蔽差异

(2)Channel: 通道,是Queue的一种抽象,主要实现存储和转发的媒介,通过Channel对队列进行配置

(3)Source和Sink 简单的理解为参照对象是Spring Cloud Stream自身,从Stream发布消息就是输出,接收消息就是输入。

5.过程可以理解为下图

2.使用

1.RabbitMQ环境安装

参考:  docker安装rabbitMQ

2.建立生产者项目

1.新建模块  cloud-stream-rabbitmq-provider8801

 2.修改pom

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>cloud</artifactId>
        <groupId>cn.qz.cloud</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>cloud-stream-rabbitmq-provider8801</artifactId>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-stream-rabbit</artifactId>
        </dependency>
        <!--基础配置-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
            <scope>runtime</scope>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

</project>

3.新建application.yml

server:
  port: 8801

spring:
  application:
    name: cloud-stream-provider
  cloud:
      stream:
        binders: # 在此处配置要绑定的rabbitmq的服务信息;
          defaultRabbit: # 表示定义的名称,用于于binding整合
            type: rabbit # 消息组件类型
            environment: # 设置rabbitmq的相关的环境配置
              spring:
                rabbitmq:
                  host: 192.168.99.100
                  port: 5672
                  username: guest
                  password: guest
        bindings: # 服务的整合处理
          output: # 这个名字是一个通道的名称
            destination: studyExchange # 表示要使用的Exchange名称定义
            content-type: application/json # 设置消息类型,文本则设置“text/plain”
            binder: defaultRabbit # 设置要绑定的消息服务的具体设置

eureka:
  client: # 客户端进行Eureka注册的配置
    service-url:
      defaultZone: http://localhost:7001/eureka
  instance:
    lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
    lease-expiration-duration-in-seconds: 5 # 如果现在超过了5秒的间隔(默认是90秒)
    instance-id: send-8801.com  # 在信息列表时显示主机名称
    prefer-ip-address: true     # 访问的路径变为IP地址

4.主启动类:

package cn.qz.cloud;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

/**
 * @Author: qlq
 * @Description
 * @Date: 21:39 2020/11/9
 */
@SpringBootApplication
public class StreamMQMain8801 {
    public static void main(String[] args) {
        SpringApplication.run(StreamMQMain8801.class, args);
    }
}

5.业务类:

(1)Service

接口:

package cn.qz.cloud.service;

/**
 * @Author: qlq
 * @Description
 * @Date: 21:41 2020/11/9
 */
public interface IMessageProvider {

    String send();
}

实现类:

package cn.qz.cloud.service.impl;

import cn.qz.cloud.service.IMessageProvider;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.integration.support.MessageBuilder;
import org.springframework.messaging.MessageChannel;

import javax.annotation.Resource;
import java.util.UUID;

/**
 * @Author: qlq
 * @Description
 * @Date: 21:41 2020/11/9
 */
@EnableBinding(Source.class) //定义消息的推送管道
public class MessageProviderImpl implements IMessageProvider {

    @Resource
    private MessageChannel output; // 消息发送管道

    @Override
    public String send() {
        String serial = UUID.randomUUID().toString();
        output.send(MessageBuilder.withPayload(serial).build());
        return serial;
    }
}

(2)Controller

package cn.qz.cloud.controller;

import cn.qz.cloud.service.IMessageProvider;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

import javax.annotation.Resource;

/**
 * @Author: qlq
 * @Description
 * @Date: 21:46 2020/11/9
 */
@RestController
public class MessageController {

    @Resource
    private IMessageProvider messageProvider;

    @GetMapping(value = "/sendMessage")
    public String sendMessage() {
        return messageProvider.send();
    }

}

6.测试:

(1)启动后可以到RabbitMQ查看有一个交换机

 (2)测试发消息

$ curl http://localhost:8801/sendMessage
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    36  100    36    0     0    765      0 --:--:-- --:--:-- --:--:--  2250f68f21d0-7fc7-4eaf-8f43-6e672617d0df

  发出消息后到MQ看不到消息,因为Exchange本身没有存储消息的功能。此时还没有队列。但是可以通过MQ的Message rates波峰查看:

3.建立消费者一

1.新建模块 cloud-stream-rabbitmq-consumer8802

2.修改pom

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-stream-rabbit</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <!--基础配置-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
            <scope>runtime</scope>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

3.新建application.yml

server:
  port: 8802

spring:
  application:
    name: cloud-stream-consumer
  cloud:
      stream:
        binders: # 在此处配置要绑定的rabbitmq的服务信息;
          defaultRabbit: # 表示定义的名称,用于于binding整合
            type: rabbit # 消息组件类型
            environment: # 设置rabbitmq的相关的环境配置
              spring:
                rabbitmq:
                  host: 192.16899.100
                  port: 5672
                  username: guest
                  password: guest
        bindings: # 服务的整合处理
          input: # 这个名字是一个通道的名称
            destination: studyExchange # 表示要使用的Exchange名称定义
            content-type: application/json # 设置消息类型,如果是文本则设置“text/plain”
            binder: defaultRabbit # 设置要绑定的消息服务的具体设置

eureka:
  client: # 客户端进行Eureka注册的配置
    service-url:
      defaultZone: http://localhost:7001/eureka
  instance:
    lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
    lease-expiration-duration-in-seconds: 5 # 如果现在超过了5秒的间隔(默认是90秒)
    instance-id: receive-8802.com  # 在信息列表时显示主机名称
    prefer-ip-address: true     # 访问的路径变为IP地址

4.主启动类:

package cn.qz.cloud;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

/**
 * @Author: qlq
 * @Description
 * @Date: 22:01 2020/11/9
 */
@SpringBootApplication
public class StreamMQMain8802 {
    public static void main(String[] args) {
        SpringApplication.run(StreamMQMain8802.class, args);
    }
}

5.业务类:

package cn.qz.cloud.listener;

import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.stream.annotation.EnableBinding;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.cloud.stream.messaging.Sink;
import org.springframework.messaging.Message;
import org.springframework.stereotype.Component;

/**
 * @Author: qlq
 * @Description
 * @Date: 22:03 2020/11/9
 */
@Component
@EnableBinding(Sink.class) //定义消息的接收管道
public class MQMessageListener {

    @Value("${server.port}")
    private String serverPort;

    @StreamListener(Sink.INPUT)
    public void input(Message<String> message) {
        System.out.println(message.getPayload() + "\t  port: " + serverPort);
    }
}

4.建立消费者二

cloud-stream-rabbitmq-consumer8803  模块,和上面项目一模一样。只是端口不同,模拟集群部署一个项目。

5.测试

1.启动两个消费者 8802、8803

2.启动一个生产者 8801

3.RabbitMQ查看

(1)交换机

 (2)队列:会生成两个随机队列

查看其中一个队列:(查看RoutingKey 为#, 也就是匹配任何队列,类似于fanout广播类型。也就是接受该交换机的任何消息。并且该队列自动删除[auto-delete=true],没有消费者队列会自动删除)

 4.生产者发送消息:

$ curl http://localhost:8801/sendMessage
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    36  100    36    0     0   1161      0 --:--:-- --:--:-- --:--:-- 3600095847545-72ca-41a2-9c24-6940455151c8

5.查看两个消费者:

 

 6.这种模式实际有个重复消费的情况。也就是某个应用多实例部署,每个实例都会收到消息。从MQ的本质Queue不可重复消费,但是多个实例监听的是不同的queue,所以出现重复消费。解决办法就是让多个实例监听同一个queue,解决办法,两个消费者端都加上group属性监听相同的队列。

server:
  port: 8803

spring:
  application:
    name: cloud-stream-consumer
  cloud:
      stream:
        binders: # 在此处配置要绑定的rabbitmq的服务信息;
          defaultRabbit: # 表示定义的名称,用于于binding整合
            type: rabbit # 消息组件类型
            environment: # 设置rabbitmq的相关的环境配置
              spring:
                rabbitmq:
                  host: 192.168.99.100
                  port: 5672
                  username: guest
                  password: guest
        bindings: # 服务的整合处理
          input: # 这个名字是一个通道的名称
            destination: studyExchange # 表示要使用的Exchange名称定义
            content-type: application/json # 设置消息类型,如果是文本则设置“text/plain”
            binder: defaultRabbit # 设置要绑定的消息服务的具体设置
            group: testGroup

eureka:
  client: # 客户端进行Eureka注册的配置
    service-url:
      defaultZone: http://localhost:7001/eureka
  instance:
    lease-renewal-interval-in-seconds: 2 # 设置心跳的时间间隔(默认是30秒)
    lease-expiration-duration-in-seconds: 5 # 如果现在超过了5秒的间隔(默认是90秒)
    instance-id: receive-8803.com  # 在信息列表时显示主机名称
    prefer-ip-address: true     # 访问的路径变为IP地址

启动后查看RabbitMQ:

(1)两个消费者只有一个queue,实际上上面的group指定了一个queue

 (2)可以看到有两个消费者,并且由一个重要的特性就是该队列不会自动删除,也就是没有消费者,队列仍然会保存消息(间接的保证了消息的持久化)。这个很好理解,设置了group属性的队列,不会自动删除,也就是即使Consumer断开连接,队列仍然存在,Exchange本身不具备存储的能力,只负责转发,所以在队列存在的情况下队列可以保存消息;当消费者上线后会自动消费队列中的消息。

(3)测试:这种相同group的消费同一个queue的时候是轮询的方式,每个实例一条轮着消费。 

 

posted @ 2020-11-09 22:54  QiaoZhi  阅读(3677)  评论(0编辑  收藏  举报