周智伟｜美国研发出一种可检测多种对抗性视频的神经网络

受美国DARPA GARD项目资助，约翰霍普金斯大学的研究人员提出一种可检测多种对抗性视频的MultiBN网络。

对抗性样本是由对抗生成网络产生的可误导深度神经网络的虚假图像或视频。目前检测对抗性样本的方法会影响深度神经网络在正常数据上的性能，且集中在图像鉴别方面。为此，研究人员提出了检测多种对抗性视频的MultiBN网络。该网络单个深度神经网络中添加了多个批量归一化层（BN），分别用于处理干净视频，Lp范数攻击、物理可实现攻击对抗性视频。每个BN分支负责学习特定类型数据的分布，从而更准确地处理不同类型对抗性视频。MultiBN中包含一个BN选择模块，会检测输入对抗性视频的类型，并将其发送到对应的BN分支。BN是深度卷积网络常用的轻量级组件，使用多个BN分支只会小幅增加深度神经网络的训练和计算开销。结果表明，新方法可检测不同类型的对抗性视频，提高了深度学习网络的鲁棒性。

这种网络安全性高，将促进深度神经网络的应用。