site logo: www.epochtimes.com

當聲音不再可信 許天祥:AI仿聲的自由與風險

人氣: 7
【字號】    
   標籤: tags: , , , ,

【大紀元2026年08月30日訊】(大紀元記者許天祥台灣台北報導)7月時,網路流傳「油不得你」反毒油影片,被控以深偽技術仿賴清德總統聲音,警方查訪製作人韋淳祐住處,引發部分人士質疑『查水表』。刑事局檢測認為具有疑似AI生成特性,北檢已介入偵辦,釐清是否涉及偽造準私文書等法律問題,案件尚未有司法定論。

從這事件中我們能看見「AI的創作自由、言論自由與侵權風險」的多方拉扯。

可以模仿權力、批評權力,甚至嘲諷權力;但不能在觀眾不知情的情況下,冒充權力者替自己發言。

我不認為只要模仿總統聲音就一律禁止。民主社會本來就應該保障政治諷刺、模仿秀、藝術創作及對權力批評的聲音,但這裡必須先釐清一個前提——作品如果一開始就清楚寫明「AI合成、政治諷刺或是虛構內容」,呈現方式不會讓民眾誤認為總統本人發言,那它受到言論自由保障的空間才會比較大。

我們需要區分「模仿」跟「冒充」。

模仿是觀眾知道這是假的,重點在評論與創作;冒充則是利用觀眾對於某身分的信任、讓人誤以為是真實發言。言論自由保障我們批評、諷刺總統,但不代表我們有權利讓總統「替自己說話」。

總統的人格權並沒有高人一等,特殊的是,國家元首的言論具有更高的公共訊息外溢效果,這效果不只在於公眾人物,而是他的聲音可能被理解為政府立場、政策、甚至是外交、軍事、金融或緊急指示。因此,同一種聲音,拿來做一場馬上可以辨識的喜劇,和拿來做出正式談話、發布政策、號召行動,這風險完全不同。

這次事件是否涉及國安犯罪,目前不能直接下結論。但單從資訊安全來說,冒充國家元首確實具有較高的國安風險,因為它可能破壞官方通訊的可信度。

這次事件又增加了有政治人物出聲表示是自己委託製作的爭議,這項新資訊使案件多出委託關係、決策鏈、資金來源,以及委託者是否知悉仿聲手段等需要釐清的問題。這不代表委託者一定犯罪,若存在委託、出資、審核或發布關係,法律責任也不能只永遠是停在創作者身上。

網紅小玉案販售換臉性影像案,不是一樣嗎?
兩起案件最核心的共同點確實是,行為人都借用了真人可辨識的身份特徵,使當事人做了或説了那件事。

但兩案侵害的法益與社會影響並不相同。

Deepfake真正危險的地方,不是只有影像跟聲音的修改,而是把「一個人的身分」變成可以重組、拆卸、組裝的「素材」。當事人即使公開露面,也不代表他已經同意自己的臉或聲音被拿來製作任何內容。

小玉案主要侵害的是被害人的性隱私與人格自主、名譽與個人資料,而且透過付費群組方式來營利。案件涉及119名被害人及千萬元以上獲利,最高法院於2024年駁回上訴,主謀不得易科罰金的5年徒刑部分定讞。該案發生時,台灣還沒有現在專門處罰不實性影像的刑法規定;現行《刑法》第319條之4已明文處罰製作、散布他人不實性影像,若意圖營利,最高可處七年有期徒刑。

此次深偽總統聲音案則是更接近身分冒用、製造不存在的發言、政治傳播與公共信任。它的直接被害人也許是總統,但更潛在受影響者是整個社會、整個資訊環境。若民眾無法判斷國家元首是否真的說過某句話,受損的不只是個人名譽,也可能是民主討論與政府訊息的可信度。

小玉案偷走的是一個人的身體形象;政治深偽偷走的,則可能是這個人的發言權與社會信用。

國際上還有兩個很典型的案例。

第一個,2024年美國新罕布夏州初選前,有人使用AI複製拜登的聲音,以自動電話要求選民不要參加投票。

美國聯邦通訊委員會後來因大量違法自動語音電話加上偽造來電顯示並具有欺騙、造成損害意圖等,對策劃者開出600萬美元罰款。

第二個,香港一間公司的員工,在一場預先製作的視訊會議中,錯信公司財務長與同事的深偽影像,最後依指示轉出約2億港元。

這個案例說明,當聲音、臉孔和群體會議一起被偽造時,人們原本用來驗證真實的「眼見為憑」,可能整套失效。

這三類案件分別攻擊了身體、選票與銀行帳戶,也說明Deepfake並不是一種單一犯罪,而是一種可以被融合進各種犯罪裡的技術工具。

面對AI侵權及深偽詐騙風險,民眾可以用四字口訣自我保護「停、換、問、存」

AI時代來臨,最重要的素養,不是學會從嘴形、眨眼、瑕疵來判斷真假,因為這些破綻、遲早都會因為技術進步而消失,偵測工具也不可能永遠跑在生成工具前面。

真正可靠的方法是「停、換、問、存」、從原本的「肉眼辨識」轉向「驗證來源」。

停:先停止匯款、點擊、提供資訊或採取行動。

換:換一個原本可信的管道確認,不使用對方提供的電話或連結。

問:使用事先約定的驗證方式、暗號,或透過可信第三人交叉確認。

存:保存網址、帳號、對話、影音、時間及匯款紀錄等證據。

只要影音內容涉及匯款、投票、醫療、投資、密碼、個資、政府命令或緊急事件,就不應只靠一段錄音或影片採取行動。應改用自己原本保存的電話、官方網站、另一位家人或公司既有核准流程,進行第二管道確認。家人也可以事先約定通關密語;企業則應建立大額付款的雙人核准機制。台灣刑事警察局也建議,遇到疑似親友透過AI變聲要求匯款時,應切換其他聯絡方式確認,而不是相信單一管道。

創作者呢?如何理解自己是否可能侵權?

一、權利確認:確認素材、聲音、臉孔、音樂與訓練資料是否有權使用。

二、誤認確認:找一位不知情的人觀看,詢問他是否會誤以為是真人親自發言。創作者自己覺得這很假,但不代表觀眾也跟創作者一樣感覺。

三、明確揭露:影片開頭、仿聲開始前或畫面可見處標示,而不是只藏在資訊欄最下方。

四、保留紀錄:保存授權、素材來源、腳本、生成紀錄、提示詞、修改歷程與發布版本。一旦發生爭議,才能證明創作目的與處理過程。

而一般民眾若發現自己被冒用,應先保存原始網址、帳號、發布時間、截圖、錄影及轉傳紀錄,再向平台提出冒用、詐騙或侵害隱私申訴並聯繫警方;不要只和發布者在留言區爭辯,因為內容可能隨時被刪除,證據也就會一起消失。

界線很模糊,到底在哪?不要只問能不能,要問自己有沒有權利,以及觀眾會不會因此相信一件不存在的事。

判斷界線不能只問「有沒有使用AI」,而要問六件事:有沒有取得同意、是否足以辨識特定真人、觀眾會不會誤認、使用情境是否敏感、是否可能造成損害,跟在第一時間有沒有清楚揭露。

使用自己的聲音、自己拍攝的素材、取得合法授權的角色,或創作完全虛構的人物,通常風險較低。

對真人進行明顯的戲仿、評論或藝術轉化,法規上也不是當然不可以,但必須讓一般觀眾清楚知道這是模仿、合成或虛構,不能刻意包裝成當事人的真實發言。

真正風險最高的紅線,是未經本人同意使用可辨識的臉、聲音或身分,又以足以使合理觀眾誤認的方式,讓這個人看起來真的說了、做了、推薦了從未發生的事情。

若再涉及性影像、詐騙、金融、醫療、選舉、災害或政府命令,風險就會大幅提高。

另外,平台上的「標示AI」選項,不是「免責金牌」。如果內容本身涉及詐欺、誹謗、不實性影像或其他違法行為,就算片尾寫了AI生成,也不會因此自動合法。反過來說,即使內容主張完全正確,只要刻意讓觀眾誤以為是某位真人親自發言,仍可能侵害人格權、身分自主或公共信任。

國際上有哪些AI法案,可以給這次仿聲案作為參考呢?

不得不說,台灣目前的《人工智慧基本法》已在2026年1月14日公布施行,不能說完全沒有作用。它已明定尊重人格權、保護個資、透明揭露、問責及避免資訊誤導與造假,並要求數位發展部推動風險分類框架,各主管機關應在施行後二年內檢討與修正相關法規。

但最大的問題在,目前這些多半是要求政府建立治理制度的基本原則,並不是一套可以直接對一般Deepfake創作者開罰的完整行為規則。

歐盟《AI Act》應該是目前最完整的綜合型AI法規之一,而且也在2026年8月2日起進入一般適用階段。

但它不是把所有AI都視為高風險,而是採取風險分級。

針對Deepfake,第50條要求AI服務提供者為合成影音加入可機器讀取的標記,也要求使用者揭露內容經過人工生成或操控。

即使是藝術、諷刺或虛構作品,也不是完全不用揭露,而是可以用不妨礙作品欣賞的方式說明。

美國田納西州的ELVIS Act則是把「聲音」明確納入個人形象與人格權的保護範圍,主要回應歌手、表演者及音樂產業遭AI仿聲的問題。

這對台灣很有參考價值,因為台灣目前對聲音的保護,往往必須繞道人格權、個資法、誹謗、詐欺或偽造文書去處理。

筆者個人認為,台灣接下來至少需要補上五塊拼圖。

一,建立「數位身分或數位分身權」:明確保護個人的聲音、臉孔、外貌與其他足以識別身分的特徵。同時應明確保留新聞報導、公共評論、研究、藝術創作與可辨識的諷刺戲仿等合理例外。

二,建立統一的Deepfake(生成式AI)標示標準:高風險內容不應只在資訊欄註明,而是在觀眾第一次接觸內容時揭露,並搭配可讀取的來源資訊或數位浮水印。

三,採情境分級:一般娛樂創作、明顯諷刺與新聞教育可以保留較大空間;涉及性影像、兒少、選舉、政府命令、金融、醫療、災害及國家安全時,則應有更高的同意、查證與標示義務。

四,建立完整責任鏈:我們不能每次出事,都只追究最末端的小編、剪輯或創作者,也要看誰委託、誰出資、誰核准、誰發布、平台收到通知後是否仍持續推薦。

五,建立快速下架、證據保存及申訴制度:被害人不能等兩三年判決確定,才有機會讓假影片消失;但政府也不能只以「疑似假訊息」為由任意下架政治評論,因此必須搭配司法審查與創作者申訴機制。

刑責則放在最後把關,主要處理故意欺騙、營利、詐欺、性剝削、選舉干預、重大恐慌或國安危害。一般標示疏失,可以先採補正與行政責任,避免把整個AI創作領域整個都推入寒蟬效應或完全噤聲。

台灣並不是完全沒動,數發部在2026年7月7日正式訂定《人工智慧風險分類框架》並立即生效。它要求各目的事業主管機關依「盤點情境 → 識別風險 → 評估風險 → 應對風險」建立自己領域的管理規範。

這剛好跟這起案件直接正面撞上,這框架直接把 「詐欺與深偽技術濫用」列為AI風險類型,內容明寫語音模擬、深偽影像可能被用來「偽造身分、製造不實影像、從事詐欺、勒索或操縱輿論」;另外A8也列有「錯誤或誤導訊息」。

《AI風險分類框架》的功能,是告訴主管機關:

「這是一種政府已正式識別的風險,你們要評估、管理、訂規則喔!」

但是!就是會出現一個但是。

但是它不是「你沒照規則,直接罰多少錢或坐幾年牢。」

它是一張貼在牆上的規則,不是一張刑事罰單。

所以真正要開罰,還是要繞回《刑法》、《個資法》、《選罷法》、《食安法》或其他規範去看。

並不是「違反AI風險分類框架,所以犯罪成立」。

台灣AI法真正的問題,是從風險出現到一般民眾能清楚知道什麼要標、界線在哪、誰負責、違反有什麼後果之間,仍存在一段法規落差。

責任編輯:鄭樺

評論