作者&编辑 | 言有三
1 3D卷积
视频相对于图像多出了一个维度,而3D卷积正好可以用于处理这个维度,因此也非常适合视频分类任务,不过缺点是计算量比较大,下图展示了一个简单的3D模型。
2 RNN与LSTM
视频和语音信号都是时序信号,而RNN和LSTM正是处理时序信号的模型,也是早期用于视频分类的重要模型。
3 双流法
视频中的目标往往是运动的,因此光流也是非常重要的信息。双流法包含两个通道,一个是RGB图像通道,用于建模空间信息。一个是光流通道,用于建模时序信息。两者联合训练,并进行信息融合。
4 光流预测模型
由于双流模型是当前视频分类的主流模型,而其中光流信息对结果影响很大,因此光流预测模型至关重要,尤其是轻量级的光流预测模型非常值得研究。
5 多框架融合
Two-Stream网络和3D网络各有优点,都可以很好的建模时序关系,但是计算量巨大,因此有的框架致力于融合两类框架,并降低计算量。
6 其他
总的来说,视频分类和行为识别有非常多的研究方向,包括:
(1) 三维卷积的改进。
(2) 光流提取模型的改进。
(3) RGB和光流特征的融合改进。
(4) 多模态信息融合。
(5) 多标签视频分类。
(6) 更加细粒度的动作分类。
(7) 更长程信息的捕获。
(8) 行为定位。
(9) 视频标注。