Security of Intelligent Voice Systems
Published in School of Computer Science and Technology(School of Artifical Intelligence), 2024
This talk’s Chinese name is 智能语音系统安全.
Abstract: 智能语音系统近年来在个人语音助手、智能音箱、自然身份识别等领域得到广泛应用。语音下天然内嵌有文本内容与声纹两大类信息，能够提供更接近人类交互的用户体验。通过灵活应用语音下的信息，当前系统已在智能座舱、移动银行、个性化服务等场景下大放异彩。然而，与其他深度学习系统相似，其同样笼罩在近年来受到广泛研究的对抗样本、模型后门、深度伪造等低成本攻击的阴影之下。本报告主要分享我们围绕智能语音系统的一些对抗样本攻防探索，并围绕传统语音加性扰动的劣势，介绍一种基于语音混响失真研发的新型对抗样本工具，从对抗样本攻击、模型后门等方面展开的一系列攻击研究。最后，本报告还将分享该新型工具在用户身份隐私保护的应用研究，探索攻击技术工具在正面场景中的应用可能。