中国科学院噪声与振动重点实验室Lab9_DSP411团队参加了由IEEE声学、语音和信号处理国际会议(IEEE International Conference on Acoustics, Speech and Signal Processing, 简称ICASSP)举办的深度学习3D音频信号处理挑战赛(L3DAS22: Machine Learning for 3D Audio Signal Processing),在L3DAS22任务二——3D声事件定位与检测(Sound Event Localization and Detection, SELD)中斩获冠军。


L3DAS22 Challenge是由快手联合意大利罗马第一大学(Sapienza University of Rome, Italy)在ICASSP 2022 Grand Challenge中发起的挑战赛。该挑战赛旨在促进3D信号处理的机器学习研究。本次挑战赛共设置两个子任务:
  • 任务一:多通道3D语音增强任务,专注于办公室场景的实时语音增强需求。
  • 任务二:真实场景下特定声事件定位和检测任务。
两项任务都是在混响办公室条件下使用两个一阶全景声麦克风(First-order Ambisonics, FOA)录制。
L3DAS22的数据集采用实录的房间脉冲响应(Room Impulse Responses, RIRs)与纯净的单声道声源信号卷积合成。在任务二中,最多有3个声事件同时发生,而这些声事件可能都属于同一个类别。该任务需要在100毫秒的时间精度下预测这些活动的声事件的类别与其对应的空间位置。该任务所使用的度量指标是定位和检测的联合指标:对位置敏感的检测指标F- score,该指标将一个声事件的类别在一个时间帧内被正确预测,并且它的位置与真实位置在一个固定的空间范围内,视作真正例(True Positive, TP)。SELD在自动驾驶、环境监控、机器听觉等领域有广阔的应用前景。
中国科学院噪声与振动重点实验室的杨军研究员、吴鸣研究员和杨飞然研究员带领博士研究生胡锦波,联合英国萨里大学(University of Surrey)的Mark D. Plumbley教授、曹寅博士和孔秋强博士(现任职于字节跳动)组成Lab9_DSP411团队参加此次比赛,取得L3DAS22 Task 2中第一名的成绩。


Lab9_DSP411团队提出一个具有新型数据增强方法的集成事件独立网络(Ensemble Event Independent Network)。由于不同模型的集成存在轨道排列问题,该集成模型也结合轨道输出格式、排列不变训练和多任务学习的软参数共享方法,旨在解决具有轨道输出格式的事件独立网络的集成模型问题。我们也采取了一种新型的数据增强方法,混合了随机生成的增强方法的数据处理技术,以提高模型的稳健性和不确定性估计。该提出的数据增强方法将一些增强操作随机采样和组合,以产生多样性的增强频谱图。

该模型对应的论文:A Track-wise Ensemble Event Independent Network for Polyphonic Sound Event Localization and Detection也被ICASSP 2022接收,该论文将在ICASSP线上会议与同行进行分享和交流。