摘要：
安全体系：如何建立可靠的安全体系？ 回顾 异步化”。调用方利用异步化机制实现并行调用多个服务，以缩短整个调用时间；而服务提供方则可以利用异步化把业务逻辑放到自定义线程池里面去执行，以提升单机的 OPS。 调用方之间的安全保证 根本原因就是服务提供方收到请求后，不知道这次请求是哪个调用方发起的，没法判 阅读全文
posted @ 2022-02-13 18:34
牛犁heart
阅读(159)
评论(0)
推荐(0)
摘要：
异步RPC：压榨单机吞吐量 如何提升单机吞吐量 提升吞吐量，其实关键就两个字：“异步”，提高CPU等资源的利用率 调用端如何异步 异步，最常用的方式就是返回 Future 对象的 Future 方式，或者入参为 Callback 对象的回调方式，而 Future 方式可以说是最简单的一种异步方式了。 阅读全文
posted @ 2022-02-13 17:53
牛犁heart
阅读(1496)
评论(0)
推荐(0)
摘要：
业务分组：如何隔离流量 回顾 RPC 中常用的保护手段“熔断限流” 熔断是调用方为了避免在调用过程中，服务提供方出现问题的时候，自身资源被耗尽的一种保护行为； 而限流则是服务提供方为防止自己被突发流量打垮的一种保护行为。 分组 分组，它可以实现流量隔离。 怎么分组 非核心应用不要跟核心应用分在同一个 阅读全文
posted @ 2022-02-13 17:38
牛犁heart
阅读(123)
评论(0)
推荐(0)
摘要：
熔断限流 服务端的自我保护 策略 在 RPC 调用中服务端的自我保护策略就是限流 如何实现 方式有很多，比如最简单的计数器，还有可以做到平滑限流的滑动窗口、漏斗算法以及令牌桶算法等等。其中令牌桶算法最为常用。 调用端的自我保护 策略 熔断 熔断器的工作机制主要是关闭、打开和半打开这三个状态之间的切换 阅读全文
posted @ 2022-02-13 17:36
牛犁heart
阅读(642)
评论(0)
推荐(0)
摘要：
优雅启动：如何避免流量打到没有启动完成的节点？ 回顾 优雅停机，就是为了让服务提供方在停机应用的时候，保证所有调用方都能“安全”地切走流量，不再调用自己，从而做到对业务无损。其中实现的关键点就在于，让正在停机的服务提供方应用有状态，让调用方感知到服务提供方正在停机。 启动预热 简单来说，就是让刚启动 阅读全文
posted @ 2022-02-13 17:35
牛犁heart
阅读(88)
评论(0)
推荐(0)
摘要：
优雅关闭：如何避免服务停机带来的业务损失？ 上线的大致流程 当服务提供方要上线的时候，一般是通过部署系统完成实例重启。在这个过程中，服务提供方的团队并不会事先告诉调用方他们需要操作哪些机器，从而让调用方去事先切走流量。而对调用方来说，它也无法预测到服务提供方要对哪些机器重启上线，因此负载均衡就有可能 阅读全文
posted @ 2022-02-13 17:33
牛犁heart
阅读(107)
评论(0)
推荐(0)
摘要：
异常重试：在约定时间内可靠的重试 回顾 在 RPC 框架中如何设计自适应的负载均衡，其关键点就是调用端收集服务端每个节点的指标数据，再根据各方面的指标数据进行计算打分，最后根据每个节点的分数，将更多的流量打到分数较高的节点上。 RPC 框架的重试机制 调用端发起的请求失败时，RPC 框架自身可以进行 阅读全文
posted @ 2022-02-13 17:29
牛犁heart
阅读(505)
评论(0)
推荐(0)
摘要：
负载均衡：节点负载差距这么大，为什么收到的流量还一样？ 回顾 “多场景的路由选择”，其核心就是“如何根据不同的场景控制选择合适的目标机器” 问题 RPC 框架有没有什么智能负载的机制？能否及时地自动控制服务节点接收到的访问量？ 什么是负载均衡 通过负载均衡，将请求分发给这个集群下的每个服务节点，从而 阅读全文
posted @ 2022-02-13 17:27
牛犁heart
阅读(720)
评论(0)
推荐(0)
摘要：
路由策略：怎么让请求按照设定的规则发到不同的节点上 回顾 健康检测在 RPC 中的作用，简单来讲就是帮助调用方应用来管理所有服务提供方的连接，并动态维护每个连接的状态，方便服务调用方在每次发起请求的时候都可以拿到一个可用的连接 为什么选择路由策略 在真实环境中服务提供方是以一个集群的方式提供服务，这 阅读全文
posted @ 2022-02-13 17:23
牛犁heart
阅读(183)
评论(0)
推荐(0)
摘要：
健康检测：这个节点都挂了，为啥还要疯狂发请求 回顾 超大规模集群“服务发现”的挑战，服务发现的作用就是实时感知集群 IP 的变化，实现接口跟服务集群节点 IP 的映射。在超大规模集群实战中，我们更多需要考虑的是保证最终一致性。其实总结来说，就一关键词，你要记住“推拉结合，以拉为准” 背景 因为有了集 阅读全文
posted @ 2022-02-13 17:21
牛犁heart
阅读(246)
评论(0)
推荐(0)
浙公网安备 33010602011771号