KDD 2022 | 火山语音提出“无中生有式”对抗语音攻击的创新方案
日前,被誉为数据挖掘领域历史最悠久、规模最大的国际顶级学术会议 ACM SIGKDD(国际数据挖掘与知识发现大会,KDD)正于美国华盛顿召开。会上,火山语音多篇论文被 KDD 2022 Research track 接收并发表,同时创新性提出基于语音合成来有效攻击语音识别系统 (Audio Adversarial Attack) 的新技术路径,用于高效并准确发现语音安全领域的新漏洞。
伴随机器学习在语音识别上的技术突破,形式多样的语音助手已成为人们日常生活中必不可少的工具,尤其在一些特定场景下,语音助手可以通过识别语义信息帮助人们完成例如购物、转账、缴费、邮件处理等简单动作,便利正逐渐渗透到生活的方方面面。
但据近些年的研究表明:由于神经网络的冗余特性可以让攻击者在输入中加入人类无法识别的微小扰动,从而误导原本训练好的模型,甚至可以给出攻击者想要获得的输出结果,着实有些惊悚,例如:
论文标题:
Synthesising Audio Adversarial Examples for Automatic Speech Recognition
文章链接:
同时团队还分析了此种办法带来优势的原因,图 b 为传统方法在一段干净语音(图 a)上加载噪声的攻击方式。可以看出,噪声的加噪受限于原始语音波形,但基于 SSA 产生的语音对抗样本,虽然包含的语义信息与图 a&b 一致,但对比之下波形差异很大,这说明 SSA 在产生对抗语音样本时相较于已有方法,能够更加直观发现安全漏洞不易被误导,预期将会成为一种发现语音识别系统安全漏洞的方案被广泛采用。
论文标题:
Importance Prioritized Policy Distillation
文章链接:
为了自适应的根据 Reward 收益进行 Policy Distillation 训练,火山语音团队提出了一种基于香农熵 (Shannon Entropy) 对强化学习任务 Frame importance 进行估计的方法,并基于 Atari 游戏任务验证了该方法在策略蒸馏以及压缩 (Policy compression) 任务上的有效性。这种基于重要性优先的策略蒸馏方法将会更好地服务于强化学习模型在部署时的模型压缩任务,从而助力在各个强化学习场景下的实际落地。
火山语音,作为字节跳动 AI Lab Speech & Audio 智能语音与音频团队,长期以来面向字节跳动内部各业务线以及火山引擎 ToB 行业与创新场景,提供全球领先的语音 AI 技术能力以及卓越的全栈语音产品解决方案。目前团队的语音识别和语音合成覆盖了多种语言和方言,多篇论文入选各类 AI 顶级会议,技术能力已成功应用到抖音、剪映、番茄小说等多款产品上,并通过火山引擎开放给外部企业。
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
关键词
模型
语音识别
说话人
方法
语音
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。