Table of Contents
一个新闻
新闻内容如下:
PHP工程师执行redis keys \* 导致数据库宕机
某公司技术部发生2起本年度PO级特大事故,造成公司资金损失400万,原因如下:
由于PHP工程师直接操作上线redis
,执行
keys * wxdb(此处省略)cf8*
这样的命令,导致redis
锁住,从而导致CPU飙升,引起所有支付链路卡住,等十几秒结束后,所有的请求流量全部挤压到了rds数据库中,使数据库产生了雪崩效应,发生了数据库宕机事件。
该公司表示,如再犯类似事故,将直接开除,并表示之后会逐步收回运维部各项权限。
正文
一条铁律
在业内,redis
开发规范中有一条铁律如下所示
线上Redis禁止使用Keys正则匹配操作
然而大家都知道,却一直忘记,所以事故会不断的发生。
下面讲一讲在线上执行正则匹配操作,引起缓存雪崩,最终数据库宕机的原因。
分析原因
OK,先说两句废话
1、redis是单线程的,其所有操作都是原子的,不会因并发产生数据异常
2、使用高耗时的Redis命令是很危险的,会占用唯一的一个线程的大量处理时间,导致所有的请求都被拖慢。(例如时间复杂度为O(N)的KEYS命令,严格禁止在生产环境中使用)
有上面两句作铺垫,原因就显而易见了。
- (1)运维人员进行
keys *
操作,该操作比较耗时,又因为redis
是单线程的,所以redis
被锁住。 - (2)此时
QPS
比较高,又来了几万个对redis
的读写请求,因为redis
被锁住,所以全部Hang
在那。 - (3)因为太多线程
Hang
在那,CPU
严重飙升,造成redis
所在的服务器宕机 - (4)所有的线程在
redis
那取不到数据,一瞬间全去数据库取数据,数据库就宕机了。
需要注意的是,同样危险的命令不仅有keys *
,还有以下几组
Flushdb 命令用于清空当前数据库中的所有 key
Flushall 命令用于清空整个 Redis 服务器的数据(删除所有数据库的所有 key )
CONFIG 客户端连接后可配置服务器
因此,一个合格的redis
运维或者开发,应该懂得如何禁用上面的命令。所以我一直觉得出现新闻中那种情况的原因,一般是人员的水平问题。
怎么禁用这些命令呢?
就是在redis.conf
中,在SECURITY
这一项中,我们新增以下命令:
rename-command FLUSHALL ""
rename-command FLUSHDB ""
rename-command CONFIG ""
rename-command KEYS ""
另外,对于FLUSHALL
命令,需要设置配置文件中appendonly no
,否则服务器是无法启动
注意了,上面的这些命令可能有遗漏,大家可以查官方文档。除了Flushdb
这类和redis
安全隐患有关的命令意外,但凡发现时间复杂度为O(N)
的命令,都要慎重,不要在生产上随便使用。例如hgetall
、lrange
、smembers
、zrange
、sinter
等命令,它们并非不能使用,但这些命令的时间复杂度都为O(N)
,使用这些命令需要明确N
的值,否则也会出现缓存宕机。
改良建议
业内建议使用scan
命令来改良keys
和SMEMBERS
命令
redis2.8版本以后有了一个新命令scan,可以用来分批次扫描redis记录,这样肯定会导致整个查询消耗的总时间变大,但不会影响redis服务卡顿,影响服务使用。
具体使用,大家可以参考这份文档http://doc.redisfans.com/key/scan.html
评论前必须登录!
注册