如何访问redis中的海量数据?避免事故产生

欢迎关注头条号:老顾聊技术

精品原创技术分享,知识的组装工


目录

  1. 前言
  2. 事故产生
  3. 分析原因
  4. 解决方案
  5. 总结

前言

有时候我们需要知道线上的redis的使用情况,尤其需要知道一些前缀的key值,让我们怎么去查看呢?今天老顾分享一个小知识点

事故产生

因为我们的用户token缓存是采用了【user_token:userid】格式的key,保存用户的token的值。我们运维为了帮助开发小伙伴们查一下线上现在有多少登录用户。

直接用了keys user_token*方式进行查询,事故就此发生了。导致redis不可用,假死

分析原因

我们线上的登录用户有几百万,数据量比较多;keys算法是遍历算法复杂度是O(n),也就是数据越多,时间复杂度越高。

数据量达到几百万,keys这个指令就会导致 Redis 服务卡顿,因为 Redis 是单线程程序,顺序执行所有指令,其它指令必须等到当前的 keys 指令执行完了才可以继续

解决方案

那我们如何去遍历大数据量呢?这个也是面试经常问的。我们可以采用redis的另一个命令scan。我们看一下scan的特点

1、复杂度虽然也是 O(n),但是它是通过游标分步进行的,不会阻塞线程

2、提供 count 参数,不是结果数量,是redis单次遍历字典槽位数量(约等于)

3、同 keys 一样,它也提供模式匹配功能;

4、服务器不需要为游标保存状态,游标的唯一状态就是 scan 返回给客户端的游标整数;

5、返回的结果可能会有重复,需要客户端去重复,这点非常重要;

6、单次返回的结果是空的并不意味着遍历结束,而要看返回的游标值是否为零

一、scan命令格式

SCAN cursor [MATCH pattern] [COUNT count]

二、命令解释:scan 游标 MATCH <返回和给定模式相匹配的元素> count 每次迭代所返回的元素数量

SCAN命令是增量的循环,每次调用只会返回一小部分的元素。所以不会让redis假死

SCAN命令返回的是一个游标,从0开始遍历,到0结束遍历

三、举例

redis > scan 0 match user_token* count 5 
 1) "6"
 2) 1) "user_token:1000"
 2) "user_token:1001"
 3) "user_token:1010"
 4) "user_token:2300"
 5) "user_token:1389"

从0开始遍历,返回了游标6,又返回了数据,继续scan遍历,就要从6开始

redis > scan 6 match user_token* count 5 
 1) "10"
 2) 1) "user_token:3100"
 2) "user_token:1201"
 3) "user_token:1410"
 4) "user_token:5300"
 5) "user_token:3389"

总结

这个是面试经常会问到的,也是我们小伙伴在工作的过程经常用的,一般小公司,不会有什么问题,但数据量多的时候,你的操作方式不对,你的绩效就会被扣哦,哈哈。谢谢!!!


-End-

如有收获,请帮忙转发,您的鼓励是作者最大的动力,谢谢!

10几年的经验实战分享

相关微服务,分布式,高并发,高可用,企业实战,干货等原创文章正在路上

欢迎关注头条号:老顾聊技术

精品原创技术分享,知识的组装工

推荐阅读

1、如何解决Redis热点问题?以及如何发现热点?

2、如何设计API接口,实现统一格式返回?

3、你真的知道在生产环境下如何部署tomcat吗?

4、分享一线互联网大厂分布式唯一ID设计 之 snowflake方案

5、分享大厂分布式唯一ID设计方案,快来围观

6、你想了解一线大厂的分布式唯一ID生成方案吗?

7、你知道如何处理大数据量吗?(数据拆分篇)

8、如何永不迁移数据和避免热点? 根据服务器指标分配数据量(揭秘篇)

9、你知道怎么分库分表吗?如何做到永不迁移数据和避免热点吗?

10、你了解大型网站的页面静态化吗?

11、你知道如何更新缓存吗?如何保证缓存和数据库双写一致性?

12、你知道怎么解决DB读写分离,导致数据不一致问题吗?

13、DB读写分离情况下,如何解决缓存和数据库不一致性问题?

14、你真的知道怎么使用缓存吗?

15、如何利用锁,防止缓存击穿?重构思想的重要性

16、海量订单产生的业务高峰期,如何避免消息的重复消费?

17、你知道如何保障生产端100%消息投递成功吗?

举报
评论 0