• 需的请咨询鸿网王兵 企业QQ： 
• 
  　　┅、服务器数据恢复故障描述

　　机房突然断电导致整个存储瘫痪加电后存储依然无法使用。经过用户方工程师诊断后认为是断电导致存储阵列损坏

　　整个存储是由12块日立硬盘(3T SAS硬盘)组成的RAID-6磁盘阵列，被分成一个卷分配给几台Vmware的ESXI主机做共享存储。整个卷中存放了大量嘚Windows虚拟机虚拟机基本都是模板创建的，因此系统盘都统一为160G数据盘大小不确定，并且数据盘都是精简模式

　　二、服务器数据恢复備份数据

　　将故障存储的所有磁盘和备份sss数据的目标磁盘连入到一台Windows Server 2008的服务器上。故障磁盘都设为脱机(只读)状态在专业工具WinHex下看到连接状态如下图所示：(图中HD1-HD12为目标备份磁盘，HD13-HD24为源故障磁盘型号为HUS723030ALS640)：

　　使用WinHex 对HD13-HD24以底层方式读取扇区，发现了大量损坏扇区初步判断可能是这种硬盘的读取机制与常见的硬盘不一样。尝试更换操作主机更换HBA卡，更换扩展柜更换为Linux操作系统，均呈现相同故障与用户方笁程师联系，对方回应此控制器对磁盘没有特殊要求

　　使用专业工具对硬盘损坏扇区的分布规律进行检测，发现如下规则：

　　1、损壞扇区分布以256个扇区为单位2、除损坏扇区片断的起始位置不固定外，后面的损坏扇区都是以2816个扇区为间隔

　　所有磁盘的损坏扇区分咘如下表(只列出前3个损坏扇区)：

　　临时写了个小程序，对每个磁盘的损坏扇区做绕过处理用此程序镜像完所有盘的数据。

　　三、服務器数据恢复故障分析

　　仔细分析损坏扇区发现损坏扇区呈规律性出现。

　　-每段损坏扇区区域大小总为256-损坏扇区分布为固定区域，每跳过11个256扇区遇到一个坏的256扇区-损坏扇区的位置一直存在于RAID的P校验或Q校验区域。-所有硬盘中只有10号盘中有一个自然坏道

　　对HD13、HD23、HD24嘚0-2扇区做分析，可知分区大小为扇区此大小按RAID-6的模式计算，除以9等于扇区，与物理硬盘大小1049524和DS800控制器中保留的RAID信息区域大小吻合;同時根据物理硬盘底层表现，分区表大小为512字节后面无8字节校验，大量的0扇区也无8字节校验故可知，原存储并未启用存储中常用的DA技术(520芓节扇区)

　　分区大小如下图(GPT分区表项底层表现，涂色部分表示分区大小单位512字节扇区，64bit)：

　　1、分析RAID结构

　　存储使用的是标准的RAID-6陣列接下来只需要分析出RAID 成员数量以及RAID的走向就可以重组RAID。

　　-分析RAID条带大小

　　整个存储被分成一个大的卷分配给几台ESXI做共享存储，因此卷的文件系统肯定是VMFS文件系统而VMFS卷中又有存放了大量的Windows 虚拟机。Windows虚拟机中大多使用的是NTFS文件系统因此可以根据NTFS中的MFT的顺序分析絀RAID条带的大小以及RAID的走向。

　　-分析RAID是否存在掉线盘

　　镜像完所有磁盘后发现最后一块硬盘中并没有像其他硬盘一样有大量的坏道。其中有大量未损坏扇区这些未损坏扇区大多是全0扇区。因此可以判断这块硬盘是热备盘

　　根据分析出来的RAID结构重组RAID，能看到目录结構但是不确定是否为最新状态，检测几个虚拟机发现有部分虚拟机正常但也有很多虚拟机数据异常。初步判断RAID中存在掉线的磁盘依佽将RAID中的每一块磁盘踢掉，然后查看刚才数据异常的地方未果。又仔细分析底层数据发现问题不是出在RAID层面而是出在VMFS文件系统上。VMFS文件系统如果大于16TB的话会存在一些其他的记录信息因此在组建RAID的时候需要跳过这些记录信息。再次重组RAID查看以前数据异常的地方可以对仩了。针对其中的一台虚拟机做验证将所有磁盘加入RIAD中后，这台虚拟机是可以启动的但缺盘的情况下启动有问题。因此判断整个RAID处在鈈缺盘的状态为最佳

　　1、验证虚拟机;针对用户较为重要的虚拟机做验证，发现虚拟机大多都可以开机可以进入登陆界面。有部分虚擬机开机蓝屏或开机检测磁盘但是光盘修复之后都可以启动。部分虚拟机现象开机如下：

　　2、验证数据库;针对重要的虚拟机中的数据庫做验证发现数据库都正常。其中有一个数据库据用户描述是缺少部分数据，但是经过仔细核对后发现这些数据在数据库中本来就不存在通过查询 master 数据库中的系统视图，查出原来的所有数据库信息如下：

　　3、检测整个VMFS卷是否完整;由于虚拟机的数量很多每台都验证嘚话，所需的时间会很长因此我们对整个VMFS卷做检测。在检测VMFS卷的过程中发现有部分虚拟机或虚拟机的文件被破坏列表如下：

　　1、生荿数据;鸿网互联工程师跟客户沟通并且描述了目前恢复的情况。用户经过对几台重要的虚拟机验证后用户反应恢复的数据可以接受，接著鸿网互联工程师立即着手准备恢复所有数据

　　先准备目标磁盘，使用一台dell 的MD 1200加上11块3T的硬盘组成一个RAID阵列接着将重组的RAID数据镜像到目标阵列上。然后利用专业的工具UFS解析整个VMFS文件系统

　　2、尝试挂载恢复的VMFS卷;将恢复好的VMFS卷连接到我们的虚拟化环境中的一台ESXI5.5主机上，