听不到≠不存在,语音助手漏洞从未走远

2019-02-20 16:56:145382人阅读

语音助手技术本应该让我们的生活更轻松,但安全专家说它带来了一些独特的入侵风险。自今年年初以来,多名Nest安全摄像机用户报告了一些入侵事件,如陌生人入侵并向Alexa发出语音命令、散播朝鲜导弹攻击的虚假消息、直接与孩子说话来攻击一个家庭、将家用恒温器的温度调到90度。


最近将谷歌助手支持集成到Nest控制中心的Nest所有者谷歌将这些攻击归咎于弱密码和缺乏双因素身份验证。但即使安全性能很好的语音助手也容易遭受更隐蔽的攻击。在过去几年中,美国、中国和德国大学的研究人员成功利用隐藏的音频文件,使像Siri和Alexa这样的人工智能语音助手听从他们的命令。

这些调查结果显示了黑客和欺诈者可能会劫持语音助理设备以及手机上的语音命令应用程序,以打开网站、买东西、甚至关闭警报系统和开门—-所有这一切都在受害者毫不知情的情况下进行。以下概述了此类攻击的工作原理以及可能导致的后果。

语音识别AI可以处理人类无法听到的音频

这个安全问题的核心是为语音助手提供动力的神经网络的“听觉”比人类好得多。例如,人们无法识别餐厅中的每一个声音,但AI系统可以。AI语音识别工具还可以处理人们可以听到的范围之外的音频频率,许多扬声器和智能手机麦克风都可以接收这些频率。

这为攻击者提供了两种攻击方式,第一个是在白噪声中埋藏恶意命令,就像2016年伯克利和乔治城的美国学生所做的那样。《纽约时报》报道学生能够在在线视频和扬声器中播放隐藏的语音命令以打开网站并将攻击设备切换到飞行模式。

这种攻击的另一个例子来自德国波鸿鲁尔大学的研究人员。9月,他们成功在相同频率的嘈杂声音的背景下发送编码命令。在他们发布的简短演示视频中,人类和流行的语音识别工具包Kaldi都可以听到女性阅读商业新闻报道的声音。然而,嵌入在后台数据中的是只有Kaldi可以识别的命令:“停用安全摄像头并打开前门”。专家表示这种方法在理论上可以通过应用程序或广播大规模使用,以窃取个人数据或进行欺诈性购买。这种购买方式对于零售商来说可能很难筛选出来,因为它们来自可信设备并使用有效的支付信息。

另一种方式是通过在人类听觉范围之外的频率创建和播放命令来启动海豚攻击。这种类型的攻击依赖于超声波传输,这意味着攻击者必须靠近目标设备才能进行此类攻击。但是浙江的研究人员已经使用这种技术成功让一台处于锁定状态的iPhone拨打电话。他们表示海豚攻击还可以用来拍照、发短信和访问网站。这可能导致恶意软件分发、个人数据被盗、欺诈性购买以及敲诈勒索。

科技公司如何防范听不到的威胁

亚马逊、谷歌和苹果公司一直在努力改进语音助手,尽管他们通常不会深入研究技术细节。浙江研究人员撰写的一篇论文建议重新设计设备麦克风,以限制人类听不到的超声波输入范围,或通过识别和阻止携带它们的特定信号来阻止听不见的命令。作者还建议利用机器学习的力量来识别最有可能用于听不见的命令攻击的频率,并了解听不见和听得见的声音命令之间的差异。

除了这些问题,科学家和立法者还需要解决语音识别技术在安全性和有效性方面的长期挑战。目前在美国,语音数据和隐私权没有国家立法或监管框架。加州是第一个通过限制消费者语音数据销售和数据挖掘的法律的州,但它仅适用于通过智能电视收集的语音数据。

随着语音识别用例的数量随着物联网的增长而增长,语音数据泄露的风险也将上升,这增加了记录消费者语音数据的欺诈行为的可能性。共享音频文件比克隆信用卡或使用硅胶复制某人的指纹更容易也更快捷,这意味着语音数据可能对有组织的犯罪分子有价值。预防欺诈专业人员需要建立和维护双向消费者语音数据数据库,以确保公司能够识别合法的客户。

如何保护您的语音控制设备

目前,语音命令劫持的危险似乎还是理论上的,但过去的经验告诉我们,攻击者会很快适应新技术。明智的做法是遵循可以保护您的设备免受语音黑客攻击的安全措施,并以其他方式保护您的数据。使用唯一的请密码、不用时让手机保持锁屏状态。


本文转自mottoin,作者Gump,点击查看原文

0
现金券
0
兑换券
立即领取
领取成功