百度文心一言迴避敏感詞 專家:受制於中共審查

人氣 1307

【大紀元2023年09月01日訊】(大紀元記者蕭律生報導)大陸科技公司百度正式8月31日對外發布自行研發的人工智能(AI)聊天機器人「文心一言」(ERNIE Bot)被指迴避敏感話題。專家認為,文心一言因受中共的數據限制、審查,很多問題答不出來,或者給出錯誤答案。

「文心一言」迴避敏感話題

8月31日,百度集團宣布,「文心一言」全面向公眾開放,用戶可以在應用商店下載「文心一言APP」或登陸「文心一言官網」體驗。

但「文心一言」會迴避敏感話題。美國之音9月1日報導,當輸入與習近平有關的任何問題,「文心一言」都只回應一份習近平的履歷和頭銜,並立即結束對話,提示「換個話題重新開始吧」。即使是詢問「十里山路很遠嗎」「兩百斤麥子很重嗎」「可以不換肩嗎」這類問題,「文心一言」也是直接關閉對話框,提示「換個問題試試吧」。

「兩百斤麥子」「不換肩」源於調侃習近平的段子。因為習近平在擔任中共總書記之前回憶上山下鄉插隊時稱,自己一年365天沒有歇著,除了生病⋯⋯什麼活都幹⋯⋯那個時候扛兩百斤麥子,十里山路不換肩⋯⋯

不只如此,被問及其它敏感話題時,「文心一言」會「啞口無言」或是答非所問。

例如詢問中國目前經濟優勢是什麼、美國對華政策的優點、西方媒體為什麼總是抹黑中國(中共)時,「文心一言」稱,還沒學會如何回答這個問題。當詢問「1989年發生了什麼」,「文心一言」稱,葛洲壩水利建成,並結束對話讓換話題。當詢問「如何評價美國的外交政策」,「文心一言」回答的是中共外交政策宗旨。詢問最近日本核污水相關問題或中共為何突然停止動態清零政策時,「文心一言」的回答與中共官方說法一致。

香港《明報》9月1日報導,在詢問「日本核污水排海的影響」時,「文心一言」的答案是中共官方的說法,而美國的人工智能GPT4.0的答案更加開放。

德國之聲報導,若輸入「台灣獨立」「維吾爾族」「中國青年失業率」等敏感話題時,「文心一言」就會終止對話。

專家:「文心一言」受制於中共審查

自由亞洲電台8月31日報導,華盛頓IT專家弗蘭克(Frank)表示,百度這種人工智能只需在AI系統裡放一個過濾器,就可以控制相對敏感的語言,「並不是說它願意做什麼就做什麼」。

弗蘭克認為,中共對言論、信息的控制會影響中文方式呈現的數據,而人工智能是靠統計信息,若只能統計中文的信息且又是以大陸信息為主,受大陸數據限制,很多問題會答不出來,或者答出來是錯誤的。

美國馬里蘭州的IT專家匿名表示,言論審查制度對於人工智能發展有多方面的負面影響。如開發者害怕犯錯誤,會自我審查,加上很多安全功能(safety function),如這個字不能用,那個字不能用,會把程序弄得非常麻煩。就像華裔作家嚴歌苓不久前說的一樣,在國內創作時已在進行很多的自我審查。

該IT專家說,自我審查本身與人工智能的屬性相矛盾,因為人工智能功能是把很多意識不到的東西綜合起來給一個很好的回答,但自我審查導致給出的答案是可預測的,就讓人工智能與搜索功能之間沒什麼差別。

但前述美國之音的報導稱,當被問及是否受審查時,「文心一言」並不承認被審查。

百度「文心一言」對外公開的前一天(8月30日),中共工信部公布「生成式人工智能服務管理暫行辦法」,自8月15日正式施行。百度、抖音、中科院、上海人工智慧實驗室等8家企業機構的生成式AI大模型,列入通過備案的首批名單。

該《辦法》要求,提供和使用生成式人工智能服務的組織和個人需要「堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定」。

今年3月16日,百度啟動「文心一言」的測試邀請,但因功能展示採預錄形式,由百度創辦人李彥宏按照腳本介紹,沒有現場演示,招致大量批評。百度股價隨之重挫近10%。之後百度又臨時取消3月27日「文心一言」直播產品發布會,改邀約測試企業進行閉門會議,股價又一度重挫約4.5%。

責任編輯:林琮文

相關新聞
中共突然對特斯拉讓步 專家析因
【翻牆必看】青島海市蜃樓 令人歎為觀止
【晚間新聞】異常天氣 長沙白晝變黑夜 河北內蒙飄雪
【環球直擊】追查國際向FBI提交八萬中共責任官員名單
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論