AI语音以假乱真 湾区夫妇寻儿惊魂记

人气 111

【大纪元2024年01月17日讯】(大纪元记者薛明珠编译报导)《旧金山纪事报》报导,美国电话诈骗愈演愈烈,加上人工智能的广泛应用,让骗子更得心应手。

艾米·特拉普(Amy Trapp)在米尔谷学校(Mill Valley school)的办公室工作时,接到陌生号码的电话。

她接起电话,心想可能与当天早些时候的学校消防演习有关。然而,一个熟悉的声音——一个她最熟悉的声音——接通了电话。

“电话里是我儿子的哭声,他告诉我‘妈妈,妈妈,我出了车祸!’”。特拉普说。瞬间,她感到恐慌加剧。她的脑海中闪过儿子威尔(Will),在加州中央海岸上大学的情景:他躺在路边的血泊中,或被困在翻倒的汽车里。

特拉普确信儿子遇到了麻烦。当一名男子打来电话,告诉她他是一名警官,威尔在车祸中撞伤了一名孕妇,并被送进了监狱时,她相信了他,因为威尔的声音让她确信无疑。

她还相信了另一名男子,此人自称是威尔的公设辩护人,要求她从自己的银行账户中,取出15,500美元来支付儿子的保释金。

直到事件发生数小时后,特拉普的丈夫直接报警,这对夫妻才意识到这是一场骗局。显然,这些人利用人工智慧技术,复制了威尔的声音。在整个过程中,威尔一直在客厅安静地学习。

数字安全公司迈克菲(McAfee)的威胁研究高级主管,阿布舍克·克尔尼克(Abhishek Karnik)说,这种电话诈骗的版本已经存在多年。现在最大的不同是使用了人工智慧。

克尔尼克说:“事实上,克隆声音非常容易,你可以与受害者建立非常强烈的情感联系。如果再加上一些紧急或困扰的情感……他们就会失去实际判断的能力。”

人工智慧的飞速发展,使得现在的技术只需要几秒钟的声音样本,就能创造出一个人的数位仿制声音。

联邦调查局旧金山特别主管探员,罗伯特·特里普(Robert Tripp)对《旧金山纪事报》说:“20年前,需要好莱坞制片厂或一个国家的资源,你才能做到这一点。现在,犯罪分子可以使用人工智慧伪造声音,这些工具要么在公共领域免费提供,要么成本很低。”

一些开发这种技术的公司,严格控制谁可以使用它。克尔尼克说,但也有一些公司允许用户上传简短的语音片段,供人工智慧学习,以逼真地朗读用户输入的任何文本,匹配准确率高达85%。

克尔尼克说,这种简短的语音片段,很容易从社交媒体或其它网络上获取。

近年来,不管有没有使用人工智慧,诈骗电话在加州和美国各地层出不穷。

据联邦调查局(FBI)估计,截至去年9月,该局已收到超过195起此类诈骗的投诉,损失金额近190万美元。还有一些骗局让人以为电话来自警察局。有些人要求用数字货币解决法律问题。

几年前,一位律师在国会作证时说,他因为一个与特拉普一家几乎相同的电话诈骗,而损失了一大笔钱。

联邦调查局特工特里普说,他的办公室没有关于有多少报告的诈骗涉及人工智慧的数字,但鼓励任何可能成为此类犯罪受害者的人,向该机构的网路犯罪投诉中心举报。

加州总检察长办公室在电子邮件声明中说,越来越多的诈骗包括电话诈骗,使用人工智慧,鼓励受害者透过 oag.ca.gov/report 进行举报。

虽然无法准确知道骗子使用的是哪种技术,但特拉普从10月份的那个电话中确定了一件事:“我毫不怀疑,我是在和我的儿子通话。”

在那一刻,特拉普完全没有意识到,自己是一个复杂骗局的目标,当一个陌生的声音接通电话时,她的判断力被恐惧和肾上腺素蒙蔽了。

在与她认为是她儿子的人通话30或 45秒后,一个自称是警察的男子接通了电话。他告诉特拉普,她儿子在打电话时冲过了停车标志,撞上了另一辆车。他的鼻梁骨折,颈部受伤,但不会有事。

但那名男子说,另一辆车中的孕妇已被带走,血流不止。

这时,学校校长丽莎·拉马尔(Lisa Lamar)也来到了特拉普身边。她拿起特拉普的手机,开了免提,好让两人都能听到。那位“警官”说公设辩护律师会打电话来。

几分钟后,自称是威尔指定的公设辩护人、自称戴维·贝尔(David Bell)的男子打来电话。他告诉特拉普,他和她儿子谈过话,说他是个好孩子,还说他已经设法把威尔的保释金,从5万美元降到了15,500美元。

他问她能很快拿到这笔钱吗?特拉普说,她可以。

“特拉普说,他说,‘不要告诉(银行)你为什么要拿这笔钱,因为你不想玷污你儿子的名誉’。”特拉普说,“在疯狂的状态下,她同意了。他说什么我都会照做的。”

特拉普跳进车里,给在当地另一所学校工作的丈夫安迪·特拉普(Andy Trapp)打了电话,然后去接他。

安迪·特拉普回忆说,他的妻子完全相信她和他们的儿子说过话。

安迪特拉普说:“这一切都归结于他的亲生母亲认出了那个声音,他每周都要和母亲说几次话。”他补充说,他从不接听陌生号码打来的电话,对可疑的短信和电子邮件也很谨慎。

夫妻飞奔回家,艾米·特拉普开始疯狂地收拾家里的露营车,准备开车去陪儿子。她说:“我们完全崩溃了。”

然后,这对夫妇飞奔到银行网点,按照特拉普的吩咐,要求取款15,500美元。

回到家后,当他们再次与贝尔通话时,他告诉他们,会派一个信差到他们家取钱。这给他们敲响了警钟,于是这对夫妇把打包好的露营车停在了离家较远的地方,现在他们对“快递员”充满了恐惧,并开始意识到事情很不对劲。

安迪·特拉普说:“那通电话之后,我的想法变了。这听起来完全不对劲。”

特拉普回忆说,最后,这场折磨终于让她受不了了。 她跪在街上的面包车前。

“我的儿子在哪里?我的儿子在哪里?”她尖叫。

安迪·特拉普说:“就在那时,我给圣路易斯奥比斯波(San Luis Obispo)的警察局和监狱打了电话。他们没有任何记录。”

圣路易斯奥比斯波郡警察局公共资讯官托尼·西波拉(Tony Cipolla)说,最终,特拉普夫妇做了正确的事情。他说:“你给据说关押他们的地方打电话,问问这是真的吗?”

最后,特拉普给威尔打了个电话。

“哟,怎么了?”她儿子平静地回答,他正在客厅里和室友们一起做作业。

谎言被揭穿了,但这对特拉普来说太困难了。她把电话递给丈夫,丈夫向儿子简单解释了情况,然后挂断电话安慰抽泣的妻子。

特拉普说,她给圣拉斐尔(San Rafael)警察局打了电话,警方表示无能为力。该局没有回复《旧金山纪事报》的电话和电子邮件。

联邦调查局特工特里普说,这种企图是一种犯罪,但起诉可能涉及国际罪犯。

他说,该机构会监控向网路犯罪投诉中心(Internet Crime Complaint Center)提交的报告,以了解趋势,并因此抓获了一些骗子。

事件发生后,特拉普夫妇向许多熟人讲述了他们的故事,希望能让其他人免于遭受同样的精神痛苦,即使最终没有财产损失。

威尔·特拉普不清楚,怎么会有人拿到他的声音录音。他并不热衷于使用社交媒体,他使用的账户都是私人的。他说他会唱歌和制作音乐,有时也会在网上发布。

他说:“很难想像是怎么被人利用的,因为这不像我说话的声音。这真的很可怕。”◇

责任编辑:宋佳怡

相关新闻
长庚推“全方位AI智能客服”协助挂号、联络病人
【内幕】为什么现在就必须对AI进行监管?
骗子利用AI语音克隆行骗 专家警告防范
警惕新诈骗术! AI模拟家人声音求救
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论