MQ知识点汇总

1. MQ是什么

2. MQ能做什么

3. 消息模式

4. 使用MQ的时候需要注意什么

5. 常用MQ

6. MQ的不足

7. 什么时候不适用MQ

8. MQ的组成

9. MQ的关注点

 

1. MQ是什么

    MQ 是message queue ,消息队列,也叫消息中间件、消息总线,是一种跨进程的通信机制,用于上下游传递消息。遵守JMS(java message service)规范的一种软件。数据库因为历史原因,横向扩展是一件非常复杂的工程,所有我们一般会尽量把流量都挡在数据库之前。不管是无限的横向扩展服务器,还是纵向阻隔到达数据库的流量,都是这个思路。阻隔直达数据库的流量,缓存组件和消息组件是两大杀器。

 

2. MQ能做什么

    1)数据驱动的任务依赖:

         例如:task2在task1执行完成后才能执行,存在依赖关系

    2)解耦:上游不关心执行结果

         例如:注册成功后发邮件

    3)上游关注执行结果,但执行时间很长

          例如:微信支付成功的回调

    4)限流(削峰)

    5)通知

    6)数据分发

         a. 注册后我们可能需要做很多初始化的操作,如:调用邮件服务器发送邮件、调用促销服务赠送优惠劵、下发用户数据到客户关系系统等。

            那么这时候我们将这些操作去监听MQ,当用户注册成功过后,通过MQ通知其他业务进行操作。确保注册用户的性能。

         b. 后台发布商品的时候,商品数据需要从数据库中转换成搜索引擎数据(基于elasticsearch),那么我们应该将商品写入数据库后,

            再写入到MQ,然后通过监听MQ来生成elasticsearch对应的数据。

         c. 用户下单后,24小时未支付,需要取消订单。以前我们可能是定时任务循环查询,然后取消订单。实际上,我更推荐类似延迟MQ的方式,

            避免了很多无效的数据库查询,将一个MQ设置为24小时后才让消费者消费掉,这样很大程度上能减轻服务器压力。

         d. 支付完成后,需要及时的通知子系统(进销存系统发货,用户服务积分,发送短信)进行下一步操作,但是,支付回调我们都是需要保证

             高性能的,所以,我应该直接修改数据库状态,存入MQ,让MQ通知子系统做其他非实时的业务操作。这样能保证核心业务的高效及时。

    7)分布式事务

    8)日志处理:

         kafka日志处理

 

3. 消息模式

    1)点对点模式和发布订阅模式:是否可以重复消费

        a. P2P模式:

            P2P模式包含三个角色:消息队列(Queue),发送者(Sender),接收者(Receiver)。每个消息都被发送到一个特定的队列,接收者

            从队列中获取消息。队列保留着消息,直到他们被消费或超时。

        b. Pub/sub模式:

           包含三个角色:主题(Topic),发布者(Publisher),订阅者(Subscriber) 。多个发布者将消息发送到Topic,系统将这些消息传递给多个订阅者。

    2)推模式和拉模式:消息的更新者

         a. 推(push)模式是一种基于C/S机制、由服务器主动将信息送到客户器的技术。

         b. 拉(pull)模式与推模式相反,是由客户器主动发起的事务。

    

4. 使用MQ的时候需要注意什么

    1)消息必达:

        a. 消息收到先落地

        b. 消息超时、重传、确认保证消息必达

   2)幂等性:

        a. 上半场:MQ-client生成inner-msg-id,保证上半场幂等。这个ID全局唯一,业务无关,由MQ保证。

        b. 下半场:业务发送方带入biz-id,业务接收方去重保证幂等。这个ID对单业务唯一,业务相关,对MQ透明。

        结论:幂等性,不仅对MQ有要求,对业务上下游也有要求。

   3)高效延时消息,包含两个重要的数据结构:

        a. 环形队列,例如可以创建一个包含3600个slot的环形队列(本质是个数组)

        b. 任务集合,环上每一个slot是一个Set<Task>

        环形队列是一个实现“延时消息”的好方法,开源的MQ好像都不支持延迟消息,不妨自己实现一个简易的“延时消息队列”,

        能解决很多业务问题,并减少很多低效扫库的cron任务。

   4)削峰填谷

        a. MQ-client提供拉模式,定时或者批量拉取,可以起到削平流量,下游自我保护的作用(MQ需要做的)

        b. 要想提升整体吞吐量,需要下游优化,例如批量处理等方式(消息接收方需要做的)

 

5. 常用MQ

 

6. MQ的不足:

    1)系统更复杂,多了一个MQ组件

    2)消息传递路径更长,延时会增加

    3)消息可靠性和重复性互为矛盾,消息不丢不重难以同时保证

    4)上游无法知道下游的执行结果,这一点是很致命的

 

7. 什么时候不适用MQ

    1)上游实时关注执行结果

 

8. MQ的组成:

    1)生产者

    2)消费者

    3)队列

    4)路由

 

9. MQ的关注点:

    1)发布订阅

    2)消息优先级

    3)消息有序

    4)持久化

    5)消息过滤

    6)消息可靠性:主从,同步双写,异步双写

    7)消息低延迟(RocketMQ 使用长轮询 Pull 方式,可保证消息非常实时,消息实时性丌低亍 Push)

    8)At least Once(是指每个消息必须投递一次)

    9)Exactly Only Once:发送消息阶段,不允许収送重复的消息;消费消息阶段,不允许消费重复的消息。

    10)Broker的Buffer满了怎么办?

    11)回溯消费

    12)消息堆积

    13)分布式事务

    14)定时消息

    15)消息重试

 

 

 

消息通道对并发的支持以及在性能上的表现;消息通道是否充分地考虑了错误处理;对消息安全的支持;以及关于消息持久化、灾备(fail over)与集群等方面的支持。

 

 

参见:https://www.cnblogs.com/xuyatao/p/6864109.html

         https://www.cnblogs.com/joylee/p/8916460.html

         https://blog.csdn.net/KingCat666/article/details/78660535

         消息必达

posted @ 2019-01-13 14:52  Jtianlin  阅读(1365)  评论(0编辑  收藏  举报