【论文解读】多组小波正则化深度残差网络：一种结合信号先验的抗过拟合故障诊断方法

在机械故障诊断领域，实际工程场景中往往难以采集到充足的故障样本，这使得基于深度学习的诊断模型在小样本训练时容易出现过拟合现象。针对这一问题，发表于期刊《Measurement》的论文《Multiple wavelet regularized deep residual networks for fault diagnosis》（多组小波正则化深度残差网络用于故障诊断）提出了一种融合经典振动信号处理先验的正则化训练策略。该方法利用小波包变换中多种不同的小波基函数构造具有差异性的时频输入，以此作为隐式的数据增强与优化约束，致力于缓解深度残差网络在有限训练样本条件下的过拟合问题。

该方法首先利用小波包变换对原始一维振动信号进行多尺度分解。通过对信号进行多层分解并将各频带的小波系数沿垂直方向排列，可以将一维时域数据转化为包含局部频带信息的二维时频矩阵。

图1 基于小波包分解的二维小波系数矩阵构建流程图

论文指出，采用不同的小波基函数对同一段振动信号进行分解时，所生成的二维时频矩阵在保留主要故障特征的同时，细节表征上存在一定的差异。这种由不同小波基带来的输入多样性，为后续神经网络的正则化训练提供了丰富的数据来源。

图3 采用不同小波基函数生成的二维小波系数矩阵示例图

在网络训练策略上，该模型预先设定一个主要小波基函数和一组辅助小波基函数。在每个训练迭代中，当前样本同时通过固定的主小波基以及随机抽取的一个辅助小波基生成两组二维时频矩阵。这两组矩阵分别输入到两个共享权重与偏置参数的深度网络分支中进行分类预测。模型将主小波基分类损失与辅助小波基分类损失相加，构成联合目标函数以更新网络参数。辅助分支的引入相当于对主干网络的参数更新施加了额外的扰动与约束，促使网络学习更具泛化性的特征，从而抑制对单一训练样本的过度记忆。

图3 多小波正则化深度网络训练策略框架图

在特征提取与推理结构方面，该方法采用深度残差网络作为骨干模型。通过在卷积层与批归一化操作之间引入恒等快捷连接，有效缓解了深层网络在反向传播过程中的退化与梯度优化难题。在网络末端，利用全局平均池化替代传统的全连接展平操作，能够削弱振动冲击在时域上的位置偏移对特征提取造成的影响，并大幅减少输出层的待优化参数量。在完成训练后，实际故障诊断阶段仅需保留主小波基与主网络分支进行前向推理，其单次诊断流程与常规网络保持一致。

图4 深度残差网络及残差构建块结构图

多组小波正则化机制在工程实现上具备较好的通用性与兼容性。该方法并不替代现有的正则化手段，而是能够与传统的权重衰减以及随机失活等算法协同使用。通过将信号处理中多小波基分解的物理特性转化为深度模型的训练约束，该框架为旋转机械在样本受限条件下的智能状态监测与故障分类提供了一种基于信号先验的正则化建模思路。

参考文献：

Multiple wavelet regularized deep residual networks for fault diagnosis[J]. Measurement, 2020, 152: 107331.

https://www.sciencedirect.com/science/article/pii/S0263224119311959