前置缓存解决热点数据

全量缓存抗住秒级百万的 QPS 毫无压力

 

 

 

“百万 QPS”有一个非常重要的限制条件，即这百万的 QPS 都是分属于不同用户的

当百万的 QPS 属于不同用户时，因缓存是集群化的，所有到达业务后台的请求会根据一定路由规则（如 Hash），分散到请求缓存集群中的某一个节点

假设一个节点最大能够支撑 10W QPS，我们只需要在集群中部署 10 台节点即可支持百万流量。但当百万 QPS 都属于同一用户时，即使缓存是集群化的，同一个用户的请求都会被路由至集群中的某一个节点

即使此节点的机器配置非常好，当前能够支持住百万 QPS

此类并发次数非常大、数据完全相同的请求称为热点查询。

微博热点吃瓜事件

电商里的秒杀或者低价薅羊毛活动

主从复制进行垂直扩容

虽然单机的机器配置和程序的性能是有上限的，但我们可以利用节点间的主从复制功能来进行节点间的扩容。

 

主从复制能够解决一定流量的热点查询且实施起来较简单。但不具备扩展性，在应对更大流量的热点时会有些吃力。

利用应用内的前置缓存

 

首先是应用内缓存需要设置上限

最后如何发现热点缓存并前置

 

 

降级兜底不可少

部署的机器能够支持的 QPS 未必都能够大于当次的热点查询。对于可能出现的超预期流量，可以使用前置限流的策略进行应对