site logo: www.epochtimes.com

美國會聽證:人工智能和偽造視頻帶來的挑戰

從左到右,分別是馬里蘭大學弗蘭斯西·金·卡雷法學院法學教授席特倫(Danielle Citron)、人工智能公司OpenAI的政策主任克拉克(Jack Clark)、美國紐約州立大學布法羅分校布法羅大學教授多爾曼(David Doermann)、喬治華盛頓大學網絡和國土安全中心的高級研究員、前FBI專員沃茨(Clint Watts)。(李辰/大紀元)

人氣: 1493
【字號】    
   標籤: tags: , , ,

【大紀元2019年06月14日訊】(大紀元記者李辰美國華盛頓DC報導)想像一下——一家公司首次公開募股(IPO)的前夜,一段顯示該公司的首席執行官(CEO)的偽造犯罪視頻被廣泛傳播,該公司的股價可能受到重創,巨額資金可能流失。雖然假視頻可能在幾天內被揭穿,但是,對這家公司的傷害已經造成。

想像一下——2020年美國總統大選的前夜,在選情激烈、不相上下的情勢下,有人廣泛傳播攻擊一位候選人的偽造視頻,選舉的結果可能會從此改變……

以上是馬里蘭大學弗蘭斯西·金·卡雷法學院法學教授席特倫(Danielle Citron),在參議院情報委員會聽證會上的設想舉例,以說明「深度偽造視頻(Deepfakes)」給國家安全和社會安全帶來的危害。

6月13日,美參議院舉行聽證會,主題為「人工智能、被操縱的媒體和深度偽造視頻給國家安全帶來的挑戰」。參議院情報委員會在一份聲明中說,「深度偽造」視頻問題引發對國家安全和民主治國的擔憂,民眾和選民一旦受到這樣視頻的影響,「將不再相信自己的眼睛或者耳朵」。

眾議院情報委員會主席:採取行動迫在眉睫

美國國會眾議院情報委員會主席、民主黨議員亞當·席夫(Adam Schiff)在聽證會後接受媒體採訪。(李辰/大紀元)

美國國會眾議院情報委員會主席、民主黨議員亞當·席夫(Adam Schiff)在聽證會上說,被操控的合成假視頻可能給2020年美國大選帶來「噩夢」,「讓立法者,新聞媒體和公眾窮於辨別什麼是真的,什麼是假的。」

「一旦有人觀看了虛假的視頻,破壞力就已經造成了。即便事後被確認該視頻是杜撰的,此人可能永遠無法抹去假視頻所帶來的負面印象。」

他表示,採取行動已經迫在眉睫,「現在是社交媒體公司制定措施,保護用戶免受錯誤信息傷害的時候了…… 不要等到病毒式的『深度偽造視頻』污染 2020年大選。到那時,已為時已晚。」

聯合法律、社交媒體等多種力量應對嚴峻挑戰

馬里蘭大學弗蘭斯西·金·卡雷法學院法學教授席特倫(Danielle Citron)表示,視頻的衝擊力很大,「我們傾向於我們的眼睛和耳朵所正在告訴我們的……」

人工智能公司OpenAI的政策主任克拉克(Jack Clark)表示,「深度偽造視頻」對新聞媒體也構成巨大對威脅,因為這令公眾相信新聞報導的準確性產生懷疑。

他表示,被操控的合成媒體(synthetic media)的問題正在變得更糟糕,「雲計算、機器學習和數據處理等技術的進步,使得創建『假媒體』變得更加容易和廉價」,包括聲音、圖像和文字文件。

席特倫認為,沒有絕對的辦法來阻止偽造視頻的傳播,她表示,單一的法律手段無法解決問題,「我們需要聯合法律、科技公司以及大量的社會復原力(societal resilience)來應對這些挑戰。」

美國紐約州立大學布法羅分校布法羅大學教授多爾曼(David Doermann)表示,社交媒體公司可以發揮重要作用,這些公司可使用工具將可驗證的音頻和視頻連接在一起,並做出關於將其從各自的網站中刪除的決定,「與我們處理惡意軟件或網絡問題的方式相同」,「我們在保護我們的前門」。

參加聽證會的沃茨(Clint Watts)是喬治華盛頓大學網絡和國土安全中心的高級研究員,也是外交政策研究所研究員和前FBI專員。他也表示,應對這一挑戰需要和社交媒體公司建立「夥伴關係」,並建議國會對網絡黑客採取制裁措施。

中俄或運用人工智能來攻擊民眾和西方國家

沃茨(Clint Watts)還擔憂,中共和俄國可能運用假視頻等人工智能手段來散布假消息,打壓國內民眾和攻擊西方民主國家。

他在證詞中說,「我估計,俄羅斯作為一個持久的虛假信息傳播者,正在並將繼續尋求合成媒體的能力,並用之來對抗世界各地的對手。

「我懷疑中共會加入進來……中共的人工智能能力,由大量的數據庫提供動力,包括從美國竊取的大量信息。」

「這兩個國家(中俄)和其它極權國家可能會使用『深度偽造視頻(Deepfakes)』作為虛假宣傳活動的一部分,包括:詆毀國內持不同政見者和外國批評者;煽動恐懼,引發西方民主國家內部的衝突……」#

6月13日,美國參議院舉行題為「人工智能、被操縱的媒體和深度偽造視頻給國家安全帶來的挑戰」的聽證會現場。(李辰/大紀元)

責任編輯:高靜

評論
2019-06-14 8:14 AM
Copyright© 2000 - 2016   大紀元.