基于Dual Path Networks（DPN）的图像识别模型实践

图像识别模型已经非常多了，但是看到对于DPN的下面表述，动起了将它复现一下的念头：

• DPNs helped us won the 1st place in Object Localization Task in ILSVRC 2017, with all competition tasks within Top 3. (Team: NUS-Qihoo_DPNs)

可见，DPN在2017的ILSVRC比赛中相当出色。翻阅了DPN的模型，发现该模型也是一个集成模型。这在其论文的摘要里面已经得到了清晰的表述：

By revealing the equivalence of the state-of-the-art Residual Network (ResNet) and Densely Convolutional Network (DenseNet) within the HORNN framework, we find that ResNet enables feature re-usage while DenseNet enables new features exploration which are both important for learning good representations.To enjoy the benefits from both path topologies, our proposed Dual Path Network shares common features while maintaining the flexibility to explore new features through dual path architectures.

即它使用HORNN的框架将ResNet和DenseNet两个模型进行更好地集成。由于ResNet把输入直接加到（element-wise adding）卷积的输出上，DenseNet则把每一层的输出都拼接（concatenate）到了其后每一层的输入上。在这篇论文中作者用High Order RNN结构（HORNN）把DenseNet和ResNet联系到了一起，证明了DenseNet能从靠前的层级中提取到新的特征，而ResNet本质上是对之前层级中已提取特征的复用。通过把这两种结构的优点结合到一起，就有了最新结构Dual Path Networks（DPN）。

其论文框架如下所示：

从ResNet、DenseNet到DPN的结构演进关系见图d和图e，图(b)DenseNet结构中绿色和红色的1x1卷积就是fk-1k(·)、fk-2k(·)，两个1x1卷积是有独立的系数的，图(b)在ftk(·)=ft(·)时可以演变成图(c)，图(c)是满足ftk(·)=ft(·)后的DenseNet结构，也就是ResNet。在图(b)和图(c)中可以看到算术相加后有一个1x1卷积，加这个1x1卷积是为了让图(c)能与图(a)的ResNet对应上，纯粹是用于证明共享ft(·)后的DenseNet就是个ResNet，并无特殊作用。图(d)就是DenseNet和ResNet组合在一起的DPN，结构中最后一个1x1卷积的输出分成了两半，一半的特征数和ResNet分支的输入的特征数相同，这样才能和ResNet分支的输入正好相加。 图(e)是真正使用的DPN结构，和d的区别是DenseNet和ResNet分支共用了第一个1x1卷积。实际应用时3x3卷积使用ResNeXt中的GROUP方式来提升性能；ResNet分支的特征数也会更多点，这样可以减缓DenseNet随着层级加深特征宽度不停加大的问题。

2、论文实践

　　主要是对https://github.com/rwightman/pytorch-dpn-pretrained的代码进行复现，其中增加了输出结果与imagenet图像类别标签的映射。

　　可以看到，该方法准确率和时间性能还是挺高的。