给虚拟机分配巨大分区惹麻烦
由于缺乏良好的规划,有开发人员直接在公有云采购一个
容量超过100TB
的NAS
存储,使用过程中,数据的存储也没有规划,业务数据一股脑的写入到同一个目录,下边的子目录没有规律,用用户的图片、视频、访问日志、甚至还有备份。因应用日趋增多,公有云的使用成本急剧上升,考虑到成本及可控性,决定把公有云的NAS
及所有应用迁移到自建的Proxmox VE
超融合集群。
于是在Proxmox VE
集群创建虚拟机,并给此虚拟机分配40T
的磁盘空间,以单独的分区进行挂载。本来不愿意这样操作,建议使用者先清理掉无用的数据,对方答复,当前任务紧,文件目录又没规律,暂时无法进行操作,只能一锅端将公有云NAS
上的数据复制到Proxmox VE
上的虚拟机。托管机房及公有云对等开了300M
的带宽,复制了将近一个月,才基本复制完。运行过程中,突遇Proxmox VE
集群服务器全部同时重启,悲剧,Ceph OSD
故障!用指令“ceph pg repair
“,无效。因为集群上已经有业务在运行,如果重建ceph pool
,再重新从公有云的NAS
复制数据,完全不可能了。因为虚拟机分配的单分区太大,用各种方法,都不好使,最后只能等Ceph
自己恢复。一共等了快一个月,才自动恢复成功。
为解决共享存储问题,购买了专门的设备,就是普通服务器插很多硬盘,SSD
安装系统,NVME
做缓存,部署TrueNAS
,然后将Proxmox VE
集群上的那个大分区的数据迁移,彻底排除集群的隐患。
这几天,开始释放这个巨大巨大无比的虚拟机,删除起来还很费时,差不多24
小时,才进行到40%
多。