Detecting Flying Objects using a Single Moving Camera PAMI 2017 http://cvlab.epfl.ch/research/unmanned/detection https://drive.switch.ch/index.php/s/3b3bdbd6f8fb61e05d8b0560667ea992
Flying Objects Detection from a Single Moving Camera CVPR2015
Unmanned Aerial Vehicles (UAVs) 无人机 aircrafts 飞机
本文要解决的问题是用一个运动的相机来检测飞行物体,飞行物体在图像画面中占的面积可能很小。这个问题的难度还是比较大的,一方面相机的运动导致背景的变化,另一个方面,飞行物体的速度可能比较快,面积小导致检测的难度加大。
这里我们使用 3D descriptors 从 spatio-temporal image cubes 提取特征,对这些特征进行分类,判断其是否是感兴趣目标或威胁物体 we detect whether an object of interest is present and constitutes danger by classifying 3D descriptors computed from spatio-temporal image cubes, 我们将 spatio-temporal image cubes 称之为 st-cubes,看看下面的示意图吧: 下图每一行对应一个 st-cube
这些 st-cube 是怎么来的了? 我们首先对连续帧进行 motion-stabilized,然后 应用一个 多尺度滑动窗口方法提取 st-cube,每个尺寸独立提取 multi-scale sliding window approach to extract st-cubes。 这里我们使用 motion-stabilization 而不是 基于 optical flow 的原因是: 1) it remains effective even when the shape of the object to be detected is blurry or barely visible 2) learning-based motion compensation focuses on the object and is more resistant to complicated backgrounds, compared to the optical flow method
3 Detection Framework
我们的检测流程主要包括以下几个步骤: 1)将视频序列分为长度为 N帧的子序列,序列序列重叠 50% 2)从每个子序列中提取 st-cubes,使用多尺度滑动窗口方法,每个尺寸独立进行 3)对每个 st-cubes 进行 运动补偿,建立 stabilized st-cubes 4)对每个 st-cubes进行分类,判断其是否含有感兴趣目标 5)因为每个尺度是独立处理的,在同一个位置我们在尺度空间进行非极大值抑制,得到最好的检测结果。
这里我们介绍两个分类器用于判断每个 st-cubes 是否含有感兴趣目标
we want to train a classifier that takes as input st-cubes such and returns 1 or -1, depending on the presence or absence of a flying object
3.1 3D HoG with Gradient Boost 我们的第一个方法依赖于 boosted trees 学习一个分类器形式如下 :
使用 Gradient Boost algorithm 来学习弱分类器参数
3.2 Convolutional Neural Networks
4 Motion compensation 这里需要做运动补偿,因为 不管是 3D HoG 还是 the filter responses in the CNN case 都受 the global object motion 的影响,也就是我们需要这个运动影响
4.1 Boosted tree-based regressors 一个方法是 使用 boosted trees regressors 来做运动补偿
4.2 CNN-based regressors 使用 CNN网络来做运动补偿 Structure of the CNNs used for motion compensation
Examples of motion compensation
物体的尺度会变化
尺度调整对于检测是有帮助的
Influence of the st-cubes sizes