请选择 进入手机版 | 继续访问电脑版

跨境黑色灰论坛

 找回密码
 立即注册
查看: 87|回复: 0

亚马逊又发生重大监听事故:被Alexa智能音箱窃听的噩梦?

[复制链接]

13

主题

18

帖子

62

积分

注册会员

Rank: 2

积分
62
发表于 2018-12-24 09:20:28 | 显示全部楼层 |阅读模式

近日一位亚马逊电商网站的德国用户向当地杂志《c't》爆料,自己在向亚马逊讨要自己的个人活动语音数据时,对方竟然发给他1700份陌生人对话录音,除了他自己在亚马逊网站上的搜索记录,还有数百份音频文件以及一份解释Alexa语音命令的PDF分类记录。

不过这位用户很奇怪,因为他没有任何嵌入Alexa的硬件设备,也没有使用过Alexa的相关服务;此外,文件录音里的声音主人也跟他没有任何关系,他在拿到文件后,迅速向亚马逊发邮件告知了这件事,并要求得到回复。然而,亚马逊一方毫无音讯,与此同时,那个数据下载链接也已经失效。

不过,这些文件早已被这位用户下载并保存了下来。“我担心亚马逊不会告诉这些录音被泄露的用户真实情况,所以想把这件事公开出来。”他把整个事件都分享给了《c't》杂志,包括那几百份录音文件。《c't》听取了其中的部分录音,发现仅凭这些语音对话是完全可以“拼凑”出一个人的生活细节及个人习惯的。譬如,一个人在家里用相关设备,呆在家里的时间比呆在外面更长;不仅仅有Echo智能音箱,电视里连着Fire机顶盒,这些设备的打开频次都很高;另外,有一个女人有时会出现在他的周围;甚至可以听到他沐浴的声音(也就是说这些设备在监听他)……

亚马逊智能音箱监听用户语音并胡乱发送并非个案

今年5月份俄勒冈波特兰一名女士Danielle接到她老公同事的电话,提醒他们赶紧关掉亚马逊音箱Echo。这个同事说他收到了一封语音邮件,内容是她和老公的对话录音。当时还以为同事在恶作剧,但当他说“你们两刚刚在聊木地板”时,我们一下就懵圈了。细思则恐。Danielle赶紧扯掉了屋里4个亚马逊音箱的电源,第一时间打电话给亚马逊客服质问他们怎么回事。

△ Danielle原本在每个屋都放了一个Echo

亚马逊回应:事关隐私,亚马逊相当重视。马上找工程师调出Danielle音箱的log日志,试图搞清楚Alexa抽风的原因。初步调查后,亚马逊的客服代表给Danielle回电解释说,“我们工程师看完你音箱的log之后,事情确实如你所说的一样,Alexa出现故障了。我们真的很抱歉。”但具体啥原因也没有给个交代。客服只是一味地在长达30分钟的电话里,说了15次“我们真的很抱歉。”Danielle自然不能接受这样的结果。自己的隐私受到了侵犯,至少亚马逊应该给个事故发生的原因说明吧。

舆论发酵,亚马逊再次解释:既然打电话给客服只能收到个道歉,那么Danielle只能转向当地电视台KIRO 7了。采访视频一放出来,亚马逊面临很大舆论压力,不得不向Kiro 7进一步解释发生这样隐私泄露事故可能的原因。首先要声明的是,亚马逊没有监听用户对话。这次隐私泄露是因为语音助手Alexa被误唤醒了,把用户的对话当成了指令,才产生了错误的操作。亚马逊这样牵强的官方解释无法让人信服。因为这个解释要成立的话,至少得错误识别4次。首先Echo要先被误唤醒,然后用户接下来的对话还得出现类似“发送短信”的指令。收到指令后,Alexa还会大声问“发给谁”。如果背景音含有和联系人名单中名字发音相似的词,会再次问用户“确认发给XXX?”。除非用户最后说“确认”,Alexa才会把信息发出去。用过智能音箱的人都知道,这哪一步单拎出来说Alexa智障了识别错了都还在可理解可接受的范围内。但一连串事件都出错,那不是语音识别太弱鸡,就可能是还存在什么用户不知道的触发词和语音对话搜集目的。这还不包含人也忽略掉Alexa询问的情况。两个人聊得再high,也不可能没注意到旁边音箱突然问“(你要把信息)发给谁?”吧?

亚马逊官方代言人也承认:我们也觉得出现这种情况的概率非常小,现在我们正在重新评估怎么样降低错误识别率,减少类似的事故再次发生。Danielle不是个例:绕了一大圈,Danielle还是没有得到明确的隐私泄露原因。不过这件事被多家媒体报道之后,不少人也冒出来说,他们也遇到过类似的事情。HackerNews上有用户留言说,他就曾经收到过他朋友和女票聊天的信息。还有人说,他朋友的同事收到过语音邮件,里面全是警笛声和尖叫声,吓得对方以为他朋友出什么事了,后来联系上才确认是他朋友在追警剧。还好是虚惊一场。

还有更乌龙的就是Alexa发出诡异笑声:

今年3月份亚马逊的人工智能助手Alexa在没有唤醒的状态下,突然大笑的视频,从推特流传到了微博,着实让我们这些担忧人工智能取代、奴役人类的科幻小说重度中毒患者们吓得不轻。从2月22日开始,就有网友在推特上说,从自家的厨房中,突然听到了Alexa的笑声。随后,不少网友放上了相同的反馈。有的笑声师出无名,有的是在用户要求Alexa关灯后,突然来的一声冷笑。亚马逊表示,Alexa之所以会“诡异地笑”,可能是因为被相似的词语唤醒。在修改了口令后,Alexa听错的几率将大幅减小。除了问题外,Alexa以后应对笑的答案,也不再是传神的笑声,而将改成“当然,我会笑”的语言回答。

据了解,亚马逊并不是第一个遭遇AI“发展出自己意识”的科技巨头。去年7月,脸书也在两个AI“发展出自己的语言”后关停了项目。关于什么可能导致可怕的歇斯底里,有不少建议:它可能是软件故障吗?或者可能是人们通过操纵Alexa的电信功能来玩恶作剧?又或者有一个心怀不满的亚马逊员工决定通过将先进的AI插入Echo设备来接管世界,从而将Alexa变成一个令人生厌的恶魔?你怎么看?


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|跨境黑色灰论坛 |网站地图

GMT+8, 2019-6-26 20:20 , Processed in 0.146477 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表