服务治理方案总结

服务治理的目标在于，提升站在用户角度的整体服务响应成功率

方案设计的主要着力点：

一、度量指标

有类似SLA、接口成功率等

二、限频

主要的设计点，在于频率算法

三、熔断/降级

主要是用户保护系统在过载时，避免引起雪崩情况。 熔断，是当检测到系统过载时，对于后续请求直接返回错误； 降级，是检测系统过载时，只完成核心链路，对于分支功能链路不处理。

设计点在于：

1. 如何检测系统过载： 主流方法是根据机器的CPU、内存使用率；  请求等待时长等。
2. 如何判定进行熔断、降级： 可能要分情况，根据业务实际场景来区分  

四、兜底缓存

主要用于避免下游服务异常时，导致请求链路失败。

设计点在于：

1. 是否要多级缓存： 本地缓存+redis
2. 多级缓存如何保证数据一致性

五、监控、告警、trace日志