本站PVE io-err惨案!
大家好!俺是玖玖。。这是一个很不幸的事情
概况
最近本站所属的PVE服务器,运行的本站系统环境时不时停止io写入并io-err,于是玖玖查阅了晚上的资料发现是Local空间满了导致所属环境停止io以至于系统崩溃。
所以玖玖打算缩小本站系统raw的大小,虽然还有700MiB空间,但是塞得下gparted-live-1.7.0-8-amd64.iso,于是玖玖就启动了这个,进入缩小了本站系统环境内的磁盘大小,然后重启成功!
接下来是缩小pve的raw大小,使用了截断命令
qemu-img resize --shrink -f raw vm-<CT_ID>-disk-0.raw 82G
结果惨案发生!!!
本站系统环境无法启动,shell提示环境空间不足,麻了,真麻了,一定是截断数据了坏了
问了ai进入gparted-live-1.7.0-8-amd64.iso修复,修复不好。。。。
转机
好歹玖玖提前下载了raw源文件,但是pve上空间就local空间剩余95G了(pve不知道怎么计算,上传原位置这个raw到100G了,上传失败),只能放到local-lvm空间了
使用Windows smb挂载pve,账号密码死活不对,又从新建立账户密码,死活连接不上,这个方案pass
使用python 8000端口服务器,qm进去,qm不支持 http:// 这类就提示 不规则文件,这个方案pass
本地硬盘挂载,于是玖玖30M/s的速度拷贝硬盘,挂载到了pve,qm了一下1个小时完成了,变成unused0,可恶的gemini,让我执行delete 变更虚拟机,结果他喵的给我删除了死活找不到。
最后,只能dd了,raw差不多91G撑死,于是dd 97g
dd系统
步骤1: 创建 97G 的 LVM 逻辑卷
# 在 LVM 卷组 pve 的 thin pool data 中,创建名为 vm-105-disk-0 的 97G 卷
lvcreate -V 97G -T pve/data -n vm-105-disk-0
步骤 2: 执行 RAW 数据复制
我们将外部硬盘上 90G 的 RAW 数据直接复制到刚创建的 LVM 卷中。这会花费一些时间。
# 目标卷的路径是 /dev/pve/vm-105-disk-0
dd if=/mnt/raw_source/vm-105-disk-0.raw of=/dev/pve/vm-105-disk-0 bs=4M status=progress
经过了dd 差不多50分钟,dd完成了
步骤 3: 附加磁盘到 VM 105
复制完成后,将新卷附加到您的虚拟机 105。
qm set 105 --scsi0 local-lvm:vm-105-disk-0,size=97G
结果测试,奇迹发生了!!!回来了!!!
但是
PVE的硬盘是1T,实际可用876.40 GB左右,建议PVE的LVM-Thin使用空间最多占用率是85%,剩下的要留给系统容错,使用玖玖已经用满80%了不敢继续用磁盘了,虽然SSD磁盘寿命89%,但是确实不敢继续了,现在所有系统都在lvm-thin了,只要一个出现io-err,基本所有全挂了
附上玖玖现在的lvs占用
LV VG Attr LSize Pool Origin Data% Meta% Move Log Cpy%Sync Convert
data pve twi-aotz-- <816.21g 78.37 2.37
root pve -wi-ao---- 96.00g
swap pve -wi-ao---- 8.00g
vm-100-disk-0 pve Vwi-aotz-- 4.00g data 98.48
vm-101-disk-0 pve Vwi-aotz-- 336.00m data 91.42
vm-102-disk-1 pve Vwi-aotz-- <3.99g data 55.03
vm-102-disk-2 pve Vwi-aotz-- 128.00g data 78.76
vm-105-disk-0 pve Vwi-aotz-- 97.00g data 92.78
vm-106-disk-0 pve Vwi-aotz-- 256.00g data 55.01
vm-106-disk-1 pve Vwi-aotz-- 187.00g data 98.49
vm-106-disk-2 pve Vwi-aotz-- 120.00g data 97.84
vm-102-disk-0 west -wi-ao---- 465.00g
总结
如果你要是有钱,数据安全很重要,一定要上NAS多块硬盘容错
玖玖就吃了这个亏,主机空间1T,差不多用了80%,备份功能都没有(空间不够无法备份),所以要是真挂了,大家现在也看不到这个网站了,呜呜呜。
小主机这个东西,做个软路由还行,轻量纯数据还行
要是存数据,跑大型任务,还是不行的,硬盘就一个M.2和一个SATA,就没有别的口了
数据无价,要是玖玖真有钱了,玖玖就会上正规NAS,而不是现在的ALL in One(BOOM)
感谢阅读!
- 感谢你赐予我前进的力量