亚马逊、谷歌接连暴雷,AI语音隐私问题凸显

亚马逊、谷歌接连暴雷,AI语音隐私问题凸显

智东西(公众号:zhidxcom)

文 | 年年

导语:随着AI语音技术的发展,个人隐私受到了巨大的挑战,你说的每句话都有可能正在被“偷听”。

智东西7月16日消息,随着AI语音技术的发展,用户的语音隐私问题愈加严重。不到半年,亚马逊Alexa(亚马逊智能语音助手)和Google Assistant(谷歌智能语音助手)相继被爆泄露用户语音信息,有些甚至是语音助手未被唤醒的情况下录制的用户语音。

亚马逊和谷歌在全球雇佣数千名员工专门审查和分析这些用户录音,它们的目的是为AI语音训练收集素材从而让AI更“聪明”。通过这些录音,有心之人可以定位你的身份、住址甚至是更私密的个人信息。在AI语音技术发展的过程中,隐私问题日益凸显。

目前各国已经开始意识到互联网时代公民的隐私问题,并相继酝酿出台了相关的隐私法案。不过AI语音等新技术的发展给各国法律不断提出新的挑战,如何进行更有效的隐私保护仍然是一个待解的问题。

一、AI语音技术上演“窃听风云”

今年4月11日,彭博社披露了亚马逊在全球雇佣数千名员工,收听Echo用户家中和办公室录制的对话。这些员工由亚马逊正式员工和承包商组成,他们签署了保密协议被禁止公开谈论这件事。

据彭博社文章,亚马逊布加勒斯特(罗马尼亚首都)办事处的两名工作人员说,他们每天工作9小时,每位员工每班解析多达1000个音频片段,这个办事处占据了罗马尼亚首都Globalworth大楼的前三层,但外面并没有明显的亚马逊标志。

无独有偶,7月12日,谷歌也被披露通过Google Assistant记录用户语音信息并发送给人类进行审查。据比利时广播公司VRT NWS称,内置Google Assistant的设备正在记录用户的对话和声音,更可怕的是,超过1000个录音已经遭到泄露。

VRT NWS听了超过一千个录音片段,发现这些录音包含用户的家庭对话、电话录音和更私密的对话信息,换句话说,在你以为的私密环境中谈论的内容其实已经被录音并被用于分析。

更严重的问题是,AI语音技术造成的隐私泄露问题远不止于此。

现在越来越多的人使用内置了智能语音技术的软件,大家会通过这些软件玩游戏、购物、搜索音乐和使用电子地图等。

当你用这些软件搜索或浏览特定内容的时候,你会发现在其他软件上也能看到类似的内容甚至是与内容有关的广告。

让人意外的是,即使你没有使用这些软件,而只是在日常生活中谈论了类似的内容,当你打开这些软件的时候也可能会看到相关的内容或者收到推送的广告。

例如你可能和朋友谈到中午想吃炸鸡,当你打开外卖软件的时候你可能就会看到推荐顶部恰巧显示了炸鸡店,或者谈到想购买某个物品,那么当你打开购物软件的时候可能就会收到这种物品的店铺推荐或物品广告。

这些问题的出现可能是有意的也可能只是偶然,但不管怎样,随着AI语音技术的发展,用户的个人隐私正面临愈加严峻的挑战。

二、收集用户数据为训练AI

按照亚马逊、谷歌和其他智能语音提供商的说法,搜集的用户录音只被用来训练AI语音系统,使之能够理解用户发出的语音命令。

“我们认真对待客户个人信息的安全和隐私,”亚马逊发言人在一封电子邮件声明中表示。“我们只会标注一小部分Alexa录音,以便改善客户体验。这些信息有助于我们训练语音识别和自然语言处理系统,这样Alexa可以更好地了解您的请求,并确保服务适合每个人。”

与亚马逊的Alexa非常相似,谷歌也会收集一些Google Assistant的录音并将其转录成文本。谷歌曾保证,只有一部分人能够接触这些录音,且只会被用来训练和改进AI语音系统,所有这些录音都不关联用户身份信息并且都已经做了失真处理。

但据VRT NWS的调查,泄露的录音有一部分是在Google Assistant没有被唤醒的情况下录制的,并且部分录音能够关联到用户的身份信息,谷歌将之归因为智能语音助手的“误唤醒”(false accept)。

“很少有内置Google Assistant的设备会遇到我们所说的’误唤醒’,”谷歌的用户隐私与数据产品经理David Monsees说到。“这意味着背景中存在一些噪音或谈话,我们的软件将之理解为唤醒词(如“Ok Google”)。我们有一些保护措施,以防止在您家中发生错误接受。”

与谷歌和亚马逊类似,苹果的Siri也有人工助手,他们负责判断Siri对用户命令的解释是否与用户所说的一致。据苹果安全白皮书称,他们审查的录音不关联用户个人识别信息,并与一个随机标识符绑定存储6个月。之后,数据将从随机识别信息中剥离出来,但可能会存储更长的时间,以提高Siri的语音识别能力。

三、企业承诺保护隐私但用户不信任

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:http://9827qp.com/a/ganhuo/xianshangzhengguidezhoupukepingtai/2019/0720/1036.html