Hystrix

一、概述

1.1.什么是Hystrix 分布式系统面临的问题

Hystrix 是 Netflix 团队于 2011 年开始研发。在2012年 随着Hystrix 不断发展，逐渐走向成熟，然后 Netflix 内部的许多团队都采用了它。目前在在 Netflix 上通过 Hystrix 执行数百亿个线程隔离和数千亿个信号量隔离的调用。极大地提高了系统的稳定性。
在分布式环境中，不可避免地会有许多服务依赖项中的某些服务失败而导致雪崩效应。而使用Hystrix ，可通过添加等待时间容限和容错逻辑来帮助您控制这些分布式服务之间的交互。Hystrix 通过隔离服务之间的访问点，停止服务之间的级联故障并提供后备选项来实现此目的，所有这些都可以提高系统的整体稳定性。

1.2.雪崩效应

在微服务架构中，一个请求往往需要调用多个服务。例如客户端访问 A 服务，而 A 服务需要调用 B 服务，B 服务需要调用 C 服务，由于网络原因或者自身的原因，如果 B 服务或者 C 服务不能及时响应，A 服务将处于阻塞状态，直到 B 服务 C 服务响应。此时若有大量的请求涌入，容器的线程资源会被消耗完毕，导致服务瘫痪。服务与服务之间的依赖性，故障会传播，造成连锁反应，会对整个微服务系统造成灾难性的严重后果，这就是服务故障的“雪崩”效应。下图就是雪崩效应的说明：

所有的请求正常的时候，如下图所示：

当其中一个服务出现延迟或者错误的时候可能阻塞整个用户请求：

在高并发的情况下，某个服务的延迟可能导致所有服务器上的所有资源在数秒内饱和。比起服务故障，更糟糕的是这些应用程序还可能导致服务之间的延迟增加，从而备份队列，线程和其他系统资源，从而导致整个系统出现更多级联故障。

1.3.造成雪崩效应的原因

造成雪崩的原因可以归结为以下三点：

• 服务提供者不可用，一般问题有硬件故障，程序本身 BUG，缓存击穿，用户请求访问量过大等
• 重试加大流量（用户重试，代码逻辑重试）
• 服务消费者不可用（同步等待造成的资源耗尽）

　最终的结果就是：一个服务不可用，导致一系列服务的不可用。

1.4.针对上面雪崩效应的原因，解决方案

雪崩是系统中的蝴蝶效应导致，其发生的原因多种多样，从源头我们无法完全杜绝雪崩的发生，但是雪崩的根本原因来源于服务之间的强依赖，所以我们可以提前评估做好服务容错。解决方案大概可以分为以下几种：

• 请求缓存：支持将一个请求与返回结果做缓存处理；
• 请求合并：将相同的请求进行合并然后调用批处理接口；
• 服务隔离：限制调用分布式服务的资源，某一个调用的服务出现问题不会影响其他服务调用；
• 服务熔断：牺牲局部服务，保全整体系统稳定性的措施；
• 服务降级：服务熔断以后，客户端调用自己本地方法返回缺省值。

二、熔断器

 熔断器（Circuit Breaker）一词来源物理学中的电路知识，它的作用是当线路出现故障时，迅速切断电源以保护电路的安全。
在微服务领域，熔断器最早是由 Martin Fowler 在他发表的 《Circuit Breaker》一文中提出。与物理学中的熔断器作用相似，微服务架构中的熔断器能够在某个服务发生故障后，向服务调用方返回一个符合预期的、可处理的降级响应（FallBack），而不是长时间的等待或者抛出调用方无法处理的异常。这样就保证了服务调用方的线程不会被长时间、不必要地占用，避免故障在微服务系统中的蔓延，防止系统雪崩效应的发生。

三、Spring Cloud Hystrix 

Spring Cloud Hystrix 是一款优秀的服务容错与保护组件，也是 Spring Cloud 中最重要的组件之一。
Spring Cloud Hystrix 是基于 Netflix 公司的开源组件 Hystrix 实现的，它提供了熔断器功能，能够有效地阻止分布式微服务系统中出现联动故障，以提高微服务系统的弹性。Spring Cloud Hystrix 具有服务降级、服务熔断、线程隔离、请求缓存、请求合并以及实时故障监控等强大功能。

注意：Hystrix [hɪst'rɪks]，中文含义是豪猪，豪猪的背上长满了棘刺，使它拥有了强大的自我保护能力。而 Spring Cloud Hystrix 作为一个服务容错与保护组件，也可以让服务拥有自我保护的能力，因此也有人将其戏称为“豪猪哥”。
在微服务系统中，Hystrix 能够帮助我们实现以下目标：

• 保护线程资源：防止单个服务的故障耗尽系统中的所有线程资源。
• 快速失败机制：当某个服务发生了故障，不让服务调用方一直等待，而是直接返回请求失败。
• 提供降级（FallBack）方案：在请求失败后，提供一个设计好的降级方案，通常是一个兜底方法，当请求失败后即调用该方法。
• 防止故障扩散：使用熔断机制，防止故障扩散到其他服务。
• 监控功能：提供熔断器故障监控组件 Hystrix Dashboard，随时监控熔断器的状态。

官方文档：https://github.com/Netflix/hystrix/wiki

目前Hystrix已经进入维护阶段，停止了更新参考文档：https://github.com/Netflix/hystrix，如下图：

四、HyStrix重要概念

4.1.服务降级

指的是：服务器忙,请稍后再试,不让客户端等待并立刻返回一个友好提示,fallback

哪些情况会发出降级：程序运行异常，超时、服务熔断触发服务降级、线程池/信号量也会导致服务降级

4.2.服务熔断

类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示

服务的降级->进而熔断->恢复调用链路

4.3.服务限流

 秒杀高并发等操作,严禁一窝蜂的过来拥挤,大家排队,一秒钟N个,有序进行