AI語音以假亂真 灣區夫婦尋兒驚魂記

人氣 111

【大紀元2024年01月17日訊】(大紀元記者薛明珠編譯報導)《舊金山紀事報》報導,美國電話詐騙愈演愈烈,加上人工智能的廣泛應用,讓騙子更得心應手。

艾米·特拉普(Amy Trapp)在米爾谷學校(Mill Valley school)的辦公室工作時,接到陌生號碼的電話。

她接起電話,心想可能與當天早些時候的學校消防演習有關。然而,一個熟悉的聲音——一個她最熟悉的聲音——接通了電話。

「電話裡是我兒子的哭聲,他告訴我『媽媽,媽媽,我出了車禍!』」。特拉普說。瞬間,她感到恐慌加劇。她的腦海中閃過兒子威爾(Will),在加州中央海岸上大學的情景:他躺在路邊的血泊中,或被困在翻倒的汽車裡。

特拉普確信兒子遇到了麻煩。當一名男子打來電話,告訴她他是一名警官,威爾在車禍中撞傷了一名孕婦,並被送進了監獄時,她相信了他,因為威爾的聲音讓她確信無疑。

她還相信了另一名男子,此人自稱是威爾的公設辯護人,要求她從自己的銀行賬戶中,取出15,500美元來支付兒子的保釋金。

直到事件發生數小時後,特拉普的丈夫直接報警,這對夫妻才意識到這是一場騙局。顯然,這些人利用人工智慧技術,複製了威爾的聲音。在整個過程中,威爾一直在客廳安靜地學習。

數字安全公司邁克菲(McAfee)的威脅研究高級主管,阿布捨克·克爾尼克(Abhishek Karnik)說,這種電話詐騙的版本已經存在多年。現在最大的不同是使用了人工智慧。

克爾尼克說:「事實上,克隆聲音非常容易,你可以與受害者建立非常強烈的情感聯繫。如果再加上一些緊急或困擾的情感……他們就會失去實際判斷的能力。」

人工智慧的飛速發展,使得現在的技術只需要幾秒鐘的聲音樣本,就能創造出一個人的數位仿製聲音。

聯邦調查局舊金山特別主管探員,羅伯特·特里普(Robert Tripp)對《舊金山紀事報》說:「20年前,需要好萊塢製片廠或一個國家的資源,你才能做到這一點。現在,犯罪分子可以使用人工智慧偽造聲音,這些工具要麼在公共領域免費提供,要麼成本很低。」

一些開發這種技術的公司,嚴格控制誰可以使用它。克爾尼克說,但也有一些公司允許用戶上傳簡短的語音片段,供人工智慧學習,以逼真地朗讀用戶輸入的任何文本,匹配準確率高達85%。

克爾尼克說,這種簡短的語音片段,很容易從社交媒體或其它網絡上獲取。

近年來,不管有沒有使用人工智慧,詐騙電話在加州和美國各地層出不窮。

據聯邦調查局(FBI)估計,截至去年9月,該局已收到超過195起此類詐騙的投訴,損失金額近190萬美元。還有一些騙局讓人以為電話來自警察局。有些人要求用數字貨幣解決法律問題。

幾年前,一位律師在國會作證時說,他因為一個與特拉普一家幾乎相同的電話詐騙,而損失了一大筆錢。

聯邦調查局特工特里普說,他的辦公室沒有關於有多少報告的詐騙涉及人工智慧的數字,但鼓勵任何可能成為此類犯罪受害者的人,向該機構的網路犯罪投訴中心舉報。

加州總檢察長辦公室在電子郵件聲明中說,越來越多的詐騙包括電話詐騙,使用人工智慧,鼓勵受害者透過 oag.ca.gov/report 進行舉報。

雖然無法準確知道騙子使用的是哪種技術,但特拉普從10月份的那個電話中確定了一件事:「我毫不懷疑,我是在和我的兒子通話。」

在那一刻,特拉普完全沒有意識到,自己是一個複雜騙局的目標,當一個陌生的聲音接通電話時,她的判斷力被恐懼和腎上腺素蒙蔽了。

在與她認為是她兒子的人通話30或 45秒後,一個自稱是警察的男子接通了電話。他告訴特拉普,她兒子在打電話時衝過了停車標誌,撞上了另一輛車。他的鼻樑骨折,頸部受傷,但不會有事。

但那名男子說,另一輛車中的孕婦已被帶走,血流不止。

這時,學校校長麗莎·拉馬爾(Lisa Lamar)也來到了特拉普身邊。她拿起特拉普的手機,開了免提,好讓兩人都能聽到。那位「警官」說公設辯護律師會打電話來。

幾分鐘後,自稱是威爾指定的公設辯護人、自稱戴維·貝爾(David Bell)的男子打來電話。他告訴特拉普,他和她兒子談過話,說他是個好孩子,還說他已經設法把威爾的保釋金,從5萬美元降到了15,500美元。

他問她能很快拿到這筆錢嗎?特拉普說,她可以。

「特拉普說,他說,『不要告訴(銀行)你為什麼要拿這筆錢,因為你不想玷污你兒子的名譽』。」特拉普說,「在瘋狂的狀態下,她同意了。他說什麼我都會照做的。」

特拉普跳進車裡,給在當地另一所學校工作的丈夫安迪·特拉普(Andy Trapp)打了電話,然後去接他。

安迪·特拉普回憶說,他的妻子完全相信她和他們的兒子說過話。

安迪特拉普說:「這一切都歸結於他的親生母親認出了那個聲音,他每週都要和母親說幾次話。」他補充說,他從不接聽陌生號碼打來的電話,對可疑的短信和電子郵件也很謹慎。

夫妻飛奔回家,艾米·特拉普開始瘋狂地收拾家裡的露營車,準備開車去陪兒子。她說:「我們完全崩潰了。」

然後,這對夫婦飛奔到銀行網點,按照特拉普的吩咐,要求取款15,500美元。

回到家後,當他們再次與貝爾通話時,他告訴他們,會派一個信差到他們家取錢。這給他們敲響了警鐘,於是這對夫婦把打包好的露營車停在了離家較遠的地方,現在他們對「快遞員」充滿了恐懼,並開始意識到事情很不對勁。

安迪·特拉普說:「那通電話之後,我的想法變了。這聽起來完全不對勁。」

特拉普回憶說,最後,這場折磨終於讓她受不了了。 她跪在街上的麵包車前。

「我的兒子在哪裡?我的兒子在哪裡?」她尖叫。

安迪·特拉普說:「就在那時,我給聖路易斯奧比斯波(San Luis Obispo)的警察局和監獄打了電話。他們沒有任何記錄。」

聖路易斯奧比斯波郡警察局公共資訊官托尼·西波拉(Tony Cipolla)說,最終,特拉普夫婦做了正確的事情。他說:「你給據說關押他們的地方打電話,問問這是真的嗎?」

最後,特拉普給威爾打了個電話。

「喲,怎麼了?」她兒子平靜地回答,他正在客廳裡和室友們一起做作業。

謊言被揭穿了,但這對特拉普來說太困難了。她把電話遞給丈夫,丈夫向兒子簡單解釋了情況,然後掛斷電話安慰抽泣的妻子。

特拉普說,她給聖拉斐爾(San Rafael)警察局打了電話,警方表示無能為力。該局沒有回覆《舊金山紀事報》的電話和電子郵件。

聯邦調查局特工特里普說,這種企圖是一種犯罪,但起訴可能涉及國際罪犯。

他說,該機構會監控向網路犯罪投訴中心(Internet Crime Complaint Center)提交的報告,以了解趨勢,並因此抓獲了一些騙子。

事件發生後,特拉普夫婦向許多熟人講述了他們的故事,希望能讓其他人免於遭受同樣的精神痛苦,即使最終沒有財產損失。

威爾·特拉普不清楚,怎麼會有人拿到他的聲音錄音。他並不熱衷於使用社交媒體,他使用的帳戶都是私人的。他說他會唱歌和製作音樂,有時也會在網上發布。

他說:「很難想像是怎麼被人利用的,因為這不像我說話的聲音。這真的很可怕。」◇

責任編輯:宋佳怡

相關新聞
長庚推「全方位AI智能客服」協助掛號、聯絡病人
【內幕】為什麼現在就必須對AI進行監管?
騙子利用AI語音克隆行騙 專家警告防範
警惕新詐騙術! AI模擬家人聲音求救
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論