分类
笔记 编程

缓存穿透 vs 缓存雪崩 vs 缓存失效

缓存穿透

场景描述

 一般的缓存系统,都是按照 key 去缓存查询,如果不存在对应的 value,就应该去后端系统查找(比如 DB)。如果 key 对应的 value 是一定不存在的,并且对该 key 并发请求量很大,就会对后端系统造成很大的压力,我们称之为缓存穿透

解决方案
  • 对查询结果为空的情况也进行缓存,缓存过期时间设置短一点(避免消耗太多的缓存空间),或者该 key 对应的数据 insert 了之后清理缓存
  • 对一定不存在的 key 进行过滤。可以把所有的可能存在的 key 放到一个大的 Bitmap 中,查询时通过该 Bitmap 过滤
  • 排查是否是自身程序或者数据的问题,亦或是外部恶意攻击或者爬虫,导致大量访问不存在的 key 值

缓存雪崩

场景描述

 缓存雪崩,是指当缓存服务器重启或者大量缓存集中在某一个时间段失效,这样在失效的时候,也会给后端系统(比如 DB)带来很大压力

解决方案
  • 在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个 key 只允许一个线程查询数据和写缓存,其他线程等待
  • 不同的 key,设置不同的过期时间,让缓存失效的时间点尽量均匀
  • 做二级缓存,A1 为原始缓存,A2 为拷贝缓存。A1 失效时,可以访问 A2。A1 缓存失效时间设置为短期,A2 设置为长期
  • 保证缓存层服务的高可用,后端组件做好限流措施,并提前预演缓存层失效的场景

缓存失效

场景描述

 缓存失效,是指缓存集中在一段时间内失效,DB 的压力凸显

解决方案

 这个没有完美解决办法,但可以分析用户行为,尽量让失效时间点均匀分布。大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线程(进程)写,从而避免失效时大量的并发请求落到底层存储系统上

其他

 当发生大量的缓存穿透,例如对某个失效的缓存的大并发访问就造成了缓存雪崩

 缓存失效的同时发生雪崩效应,对底层系统的冲击将会非常大。这时候,可以使用双缓存机制,在工作缓存之外另外维护一层灾备缓存

摘自:https://yuzhouwan.com/posts/2129/

发表评论

电子邮件地址不会被公开。