室内视频监控系统通常使用面部模式来确定感兴趣的人的身份。然而，由于姿势、照明、表情、分辨率和被摄体与相机之间的距离的显著变化，面部图像在许多场景中可能无法提供足够的辨别信息。
在这种情况下，包含额外的生物特征模态可以有助于识别过程。在这方面，我们考虑了语音和面部模态的融合，以提高识别精度。这项工作的主要贡献是组装一个多模态（面部和语音）、半应变的室内视频监控数据集，称为MSU音频视频室内监控（MSU-AVIS）数据集。为此，我们使用带有内置麦克风的消费级摄像头来获取数据。我们使用当前最先进的基于深度学习的方法在收集的数据集上执行人脸和说话人识别，以建立基线性能。我们还探索了多种融合方案，将人脸和说话人识别结合起来，对音频视频监控数据进行有效的人物识别。实验表明，在监控场景中，所提出的多模态融合方案（人脸和语音）优于单峰方法。收集的数据集正用于研究目的。

Figure 1:  人脸识别失败的视频剪辑示例。较大的图像是来自从剪辑获得的帧的子区域。较小的图像是从同一剪辑中获得的一些其他人脸。

Publications

• MSU-AVIS dataset: Fusing Face and Voice Modalities for Biometric Recognition in Indoor Surveillance Videos
         Anurag Chowdhury,        Yousef Atoum,        Luan Tran,        Xiaoming Liu,        Arun Ross
         In Proceeding of International Conference on Pattern Recognition (ICPR 2018), Beijing, China, Aug. 2018    
     Bibtex        | PDF        | Poster