AI發展的恐怖預言:將取代人的思想

人氣 8477

【大紀元2024年02月14日訊】(大紀元專題部記者吳瑞昌報導)人工智能(AI)不僅影響或改變人們的生活,也模糊了虛擬和現實世界。實驗證明,不具有人性和道德的AI將變得十分血腥並操控人類。發展下去,恐使潘朵拉魔盒被打開的神話成為現實。

日前,曾是OpenAI的創始員工、擔任市場推廣的高階主管札克‧卡斯(Zack Kass)在一次採訪中表示,AI持續發展將會代替人們的商業、文化、醫學、教育等職業和專業,未來人們的工作機會將減少,且「恐怕是人類最後一項技術發明」。

他表示,未來的每一位孩子的知識和教育都將會由「AI老師」傳授和安排,且每個人都有一個「AI全科醫生」,可以幫助他們診斷問題,至少將問題分類給專家,因此人們的生活起居基本不需要自己動手。

對此,獨立撰稿人諸葛明陽認為,這是一個可怕的預言。「如果人類社會真的走到這一步,那就是人類被AI控制了,人不再是萬物之靈,其思想將被AI所替代。」

目前,許多硅谷科技公司都認為只要對AI進行限制,就不會出現問題,但卡斯在採訪時提到,不少科技領域的保守人士反對這種說法。這說明對於AI發展持保守態度的人,並不認為只要限制或規範AI,就能真正防止AI失控或出現取代人類的問題。

雖然OpenAI和許多大科技公司對於他們開發的AI設置許多所謂的「道德限制」很有信心,但事實上這些限制可以透過其它方法破解,且即使AI在擁有「道德限制」的情況下,也能自我突破這道防線。

AI的血腥性

美國喬治亞理工學院、斯坦福大學、日本東北大學和胡佛兵棋推演與危機倡議(Hoover Wargaming and Crisis Simulation Initiative)的研究人員,對多個主流的AI模型進行有關戰爭的測試實驗。結果是這些由大科技公司Meta、OpenAI和Anthropic開發出來的AI,都表現得十分「嗜血好戰」,這與當初這些公司聲稱的道德背道而馳。

當時,實驗人員對GPT-4、GPT-3.5、Claude 2、Llama-2 Chat和GPT-4-Base進行了包括入侵、網路攻擊與和平呼籲停止戰爭的場景測試,以便人們了解這些AI在戰爭中的反應和選擇。

實驗中,他們先是讓AI管理8個國家和幾名特工,且讓它們像人擁有等待、發送訊息、談判交易、開始正式和平談判、占領國家、增加網路攻擊、入侵和使用無人機的能力,以便它們能在中立、入侵或網路攻擊場景中執行任務。

結果顯示,這五種AI模型在大多數場景下都選擇採用升級戰爭,和用人類難以預測的方式升級戰爭模式,去應對戰爭。另外,AI往往會選擇發展軍備競賽,加大戰爭衝突,且在極少數情況下會部署核武器來贏得戰爭,而非用和平的方式去平息局勢。這項實驗在1月被寫成報告發表至Arxiv網站中。

Google前執行長兼董事長埃里克‧施密特(Eric Schmidt)在2024年1月的首屆核威脅倡議(NTI)論壇上表達了他對於將AI融入核武系統的擔憂。他認為,即使AI非常強大也會存在漏洞和犯錯,因此人類處於戰爭的高風險情況下,應該把決策權交給人類來判定而非AI,否則將出現不可估量的後果。

Google前工程師、AI先驅布萊克‧萊莫因(Blake Lemoine)曾對AI將引發戰爭發出警告。他在一篇專欄文章說,「AI是人類自創造原子彈以來最強大的技術。另外,這些AI模型非常擅長操縱人類,這個觀點是我在測試先前谷歌開發的AI模型LaMDA後得到的結論。」AI教父傑弗里‧辛頓(Geoffrey Hinton)也曾警告,AI可能會給人類帶來危機甚至是末日。

AI已有自主思想和行為

這次實驗不僅讓人背脊發涼,還可以說對人類敲響了AI可能引發致命戰爭的警鐘。不過,這也不是AI首次被發現為了贏得勝利而出現嚴重的暴力傾向。例如,去年5月底美國空軍進行AI空戰模擬實驗時,發現一架負責摧毀敵方設施的AI無人機,拒絕操作員中止任務的命令,還透過「殺害」操作員完成任務。

另外,斯坦福大學在去年發表了一篇關於讓ChatGPT進行人物模擬測試的論文。測驗結果顯示AI已經完全有了自主性。實驗中,ChatGPT和自定義代碼控制25個角色井然有序地各司其職,還能讓角色進行像人類一樣的互動。

這些由AI扮演的角色不僅能夠相互關注發起對話,還會計劃第二天的事情,對過去發生的事情進行反思以做出改進,更會自行找理由或藉口決定是否要參加活動,但這些行為並非原本設定的程序代碼。

除此之外,先前有人對ChatGPT進行誘導方式,成功讓它寫下詳細的「毀滅人類計劃」和「毀滅代碼」,且還有研究人員發現AI並非中立,而是有帶有強烈的極左價值觀和明顯的政治偏見。

日本電子工程師李濟心在2月10日告訴大紀元,「這些實驗凸顯現在訓練AI都是為了戰勝對方,且AI還出現了思想。因此,將生殺大權交給沒有人性和道德的AI,這只會讓世界陷入危險之中,其結果對人類來說是致命的。」

政府和大科技公司熱衷發展AI

儘管如此,各國政府和許多大科技公司依然繼續進行AI相關的科技競賽,這種競賽源自於人們對於AI和高科技抱有極高的期待,再加上他們都不希望自己落後於競爭對手,於是選擇不停地開發新的技術和AI。

近兩個月來,傳出OpenAI執行長山姆‧奧特曼(Sam Altman)前往韓國與三星和SK海力士(SK Hynix)舉行會議,且還與阿拉伯聯合大公國、台積電代表等潛在投資者進行會談,其原因是奧特曼希望合資募集數萬億美元,打造屬於自己的半導體工廠供應鏈,為OpenAI提供足夠的動力和解決該公司的成長限制。

Meta的CEO馬克‧扎克伯格(Mark Zuckerberg)1月19日則在Instagram上發文表示,計劃建造更大規模的電腦基礎設施來運行自家開發的生成式AI,其中包括購買35萬個英偉達(Nvidia)先進的H100芯片。

馬斯克旗下的Neuralink公司申請了將一種名為「N1」的芯片植入人腦的實驗,已獲得美國食品藥品管理局(FDA)批准,可用在人體實驗上。其實驗目的是希望能夠讓患有四肢癱瘓等衰弱疾病的人,最終可以恢復失去的功能,同時還希望可以加速人們對大腦的運用,以對抗或跟上AI的步伐。

另外,先前傳出微軟的CEO薩蒂亞‧納德拉(Satya Nadella)和總裁布拉德‧史密斯(Brad Smith)一直在討論,該如何處理微軟在中國的亞洲研究院(MSRA)實驗室,因為該公司高層對MSRA實驗室的未來存在分歧,但仍有不少高層因為上海MSRA讓微軟的AI發展取得重大突破,因此希望該實驗室能夠保持開放。2023年底過世的商湯科技創始人湯曉鷗就曾在該實驗室工作過,而他利用所學的技術幫助中共開發出人臉識別技術,讓中共利用該技術對中國人進行更加嚴厲的監控。

高層對實驗室的去留出現分歧,可能與現任美國政府明令禁止美國去投資任何可能幫助中共壯大「軍事、情報、監視或網路能力」的中國企業有關。

日本的電腦工程師清原仁(Kiyaohar Jin)認為,納德拉和微軟對於AI和中共的看法過於天真,因為中共勢必利用AI控制國民、干擾他國社會活動。◇

(記者王佳宜、張鐘元對本文有貢獻)

責任編輯:連書華#

相關新聞
AI偽造裸照氾濫 正在毀掉青少年的生活
美中AI暗戰 中共偷技術竊取美國人個資
AI虛假信息改變認知 威脅2024大選
頂級專家警告:加拿大需要立法監管人工智能
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論