阿里云崩,钉钉崩,咸鱼崩,淘宝崩…应用集群故障后自动恢复测试之进程自我拉起应该怎么做?

2023年 11月 15日 44.3k 0

今年的11月12日,也就是双十一的第二天,阿里云崩了!!!
使用阿里云服务的一系列阿里软件,淘宝,咸鱼,天猫,钉钉、阿里云盘等阿里软件,全都崩了,一下就上了微博热搜,我司作为阿里云使用客户也受到了影响,特别是mq等组件;

淘宝天猫自去IOE后取得巨大成功,阿里云也从蚂蚁集团的体系中独立出来给全球企业提供云服务,不久前在云栖大会上都还在分享阿里云如何如何的高效支撑业务,包括前几天的双十一阿里云也抗住了购物洪峰压力,但是没想到双十一第二天就崩了,这已经是影响全球使用阿里云的客户的严重事故;

通过阿里云推送的消息显示整个事件过程

尊敬的客户:

您好!北京时间2023年11月12日 17:44起,阿里云监控发现云产品控制台

问及API调用出现异常,阿里云工程师正在紧急介入排查。非常抱歉给您的使用带来不便,若有任何问题,请随时联系我们。

--进展更新

17:50 阿里云已确认故障原因与某个底层服务组件有关,工程师正在紧急处理中;

18:54 经过工程师处理,杭州、北京等地域控制台及API服务已恢复,其他地域控制台服务逐步恢复中;

19:20 工程师通过分批重启组件服务,绝大部分地域控制台及API服务已恢复;

19:43 异常管控服务组件均已完成重启,除个别云产品 (如消息队列MQ、服务MNS) 仍需处理,其余云产品控制台及API服务已恢复;

20:12 北京、杭州等地域消息队列MQ已完成重启,其余地域逐步恢复中。

21:11 受影响云产品均已恢复,因故障影响部分云产品的数据 (如监控、账单等)可能存在延迟堆送情况,不影响业务运行。

这次非常严重的P0级事故,致使使用阿里云服务的客户的损失非常之大。

上一次阿里P0级事故是在10月24日的语雀平台故障8小时,最后恢复服务之后补偿了用户6个月的会员;

上一次阿里云大面积服务器故障的P0级事故是2022年12月,阿里云香港地域发生超过12小时的持续性故障。
通过以上故障事件,在高可用的应用集群中,出现节点故障,进程是否能够进行自我拉起从而实现恢复呢? 咱们今天聊聊应用集群故障之进程自我拉起场景。

首先是进程概念:

一个正在运行的程序或者软件就是一个进程,它是操作系统进行资源分配的基本单位,也就是说每启动一个进程,操作系统都会给其分配一定的运行资源(内存资源)保证进程的运行。

应用集群故障后自动恢复测试之进程自我拉起测试场景:

当服务的进程异常挂掉后,能够自动将进程拉起,恢复服务,实现高可用;

测试目的:

考察服务进程自我拉起有效性。

测试步骤:

1、测试场景采用混合交易模型交易配比;

2、测试执行时,采取稳定压力施压,以被测试系统最大处理能力的80%或预设压力,稳定运行5分钟;

3、通过kill -9命令 kill 掉某进程;

4、场景持续运行5分钟,通过PS -ef|grep 服务名称,命令观察被kill 的进程是否自动拉起。

预期结果:

步骤3后,进程被Kill;

步骤4后,进程自我拉起。

监控点:

TPS、交易失败率、系统资源使用率等。

测试指标:

服务进程自我拉起有效性(除了能够拉起还有时效要求,为60秒之内)为有效。

相关文章

JavaScript2024新功能:Object.groupBy、正则表达式v标志
PHP trim 函数对多字节字符的使用和限制
新函数 json_validate() 、randomizer 类扩展…20 个PHP 8.3 新特性全面解析
使用HTMX为WordPress增效:如何在不使用复杂框架的情况下增强平台功能
为React 19做准备:WordPress 6.6用户指南
如何删除WordPress中的所有评论

发布评论