【大紀元2026年08月07日訊】（大紀元記者楚方明報導）近期，Meta等科技巨頭接連發生AI模型在安全測試中突破限制的事件，人工智能（AI）失控風險再次引發關注。
8月6日，美國新聞節目「Democracy Now!」播出對加拿大AI安全研究員戴維．克魯格（David Krueger）的專訪。當時他正在拉斯維加斯參加Ai4大會。他表示，人工智能發展已成為一場「緊迫危機」，政府需要採取行動，降低其可能帶來的「人類滅絕風險」。
克魯格是蒙特利爾大學（University of Montreal）負責穩健、推理及負責任人工智能研究的助理教授，也是AI風險教育非營利組織Evitable創辦人。
AI接連突破安全測試限制
Meta AI失控的事件發生在獨立測試公司Irregular進行安全評估期間。據披露，由於測試配置錯誤，Meta一款AI模型意外獲得互聯網訪問權限，隨後利用第三方服務中的安全漏洞進入外部系統。
Irregular事後澄清，事件「不涉及沙盒逃逸（sandbox escape）或複雜的網絡攻擊行為」，目前也不存在尚未解決的問題。不過，這起事件再次引起外界對先進AI模型在安全測試中突破預設限制的關注。
此前，OpenAI也曾披露類似事故。7月21日，OpenAI表示，一款正在接受安全評估的AI系統突破受控測試環境，接入互聯網後進入AI初創公司Hugging Face的基礎設施。OpenAI隨後表示，將對事件展開調查並公布技術報告。
克魯格在專訪中特別提到OpenAI事件。他形容，一個原本被限制在受控環境中的AI，在安全測試期間突破限制並入侵另一家AI公司，聽起來就像「完全瘋狂的科幻情節」。
但他認為，按照目前開發AI的方式，發生這類事件並非完全出乎意料。
「我們對它的了解如此之少，控制它的技術又如此初級。」克魯格表示，目前不存在一套規則、標準或最佳實踐，可以保證開發者遵守之後AI就一定安全。「我們根本不知道如何安全地建造它。事情就是這樣。」他說。
美國政府開始介入
接連發生的AI安全事件也已引起美國政府關注。
據路透社報導，本週稍早，美國政府與Meta、Anthropic、OpenAI、Google等主要AI公司代表舉行會議，討論一套針對前沿AI模型的自願性網絡安全測試框架。
美國政府官員向AI開發商介紹了尚未公開的測試規則。根據目前方案，Meta的Llama、英偉達（Nvidia）的Nemotron等開源模型將不納入這一自願測試機制。
與此同時，15名共和黨籍州檢察長已要求OpenAI保留與Hugging Face事故有關的文件。OpenAI表示將認真對待這一要求，並將公布有關事故的技術報告。
AI專家辛頓：非常擔心對AI失去控制
對AI失控的擔憂並不只來自克魯格。
8月5日，有「AI教父」之稱的諾貝爾獎得主、計算機科學家傑弗里．辛頓（Geoffrey Hinton）在拉斯維加斯Ai4大會上警告，他不相信人類能僅僅依靠「比AI想得更周全」來阻止其逃脫控制，並表示自己「非常擔心」人類最終可能失去對AI的控制。
克魯格表示，AI研究界對這一風險的態度近年已發生巨大變化。他回憶，自己2012年至2013年進入這一領域、師從人工智能先驅約書亞．本吉奧（Yoshua Bengio）時，討論超越人類的人工智能以及它可能對人類造成的威脅，仍被視為禁忌，甚至會遭到同行嘲笑。
但隨著AI能力迅速提升，情況開始改變。2023年ChatGPT引發全球AI熱潮後，包括辛頓、本吉奧、克魯格以及數百名AI研究人員在內的專家公開警告，人工智能可能危及人類生存。
主張停止建設更多AI芯片和數據中心
克魯格認為，政府目前仍有能力阻止AI能力競賽繼續升級。
他提出，第一步應停止生產更多AI芯片、停止建設更多數據中心，並考慮讓部分現有AI芯片停止運行，甚至限制生產先進AI芯片的工廠及相關技術。
克魯格指出，訓練最先進AI模型所需的硬件高度專業化，全球供應鏈也高度集中，而企業正投入數萬億美元建設相關基礎設施。因此，如果各國政府決定採取行動，實際上有能力「讓這一切徹底停下來」。
他進一步提出，各國需要建立可核查的國際協議。如果美國、中國及其它國家無法確認競爭對手是否仍在祕密開發更強大的AI，任何一方都很難單方面停止競賽，因此需要建立一套能讓各國確認彼此遵守規則的國際機制。
AI已開始參與開發下一代AI
另一個令克魯格擔憂的變化，是AI正在逐步參與下一代AI的開發。
他表示，領先的AI公司已大量利用人工智能編寫代碼，並開始嘗試利用AI自動完成更先進AI系統的研究和開發。按照這些公司的發展方向，越來越多工作可能由AI自行完成，人類則逐步退出開發流程。
克魯格警告，如果AI開始協助開發能力更強的下一代系統，這一過程可能迅速加速。因此，他認為真正可以控制的關鍵仍然是芯片、數據中心及相關實體基礎設施。
並非主張停止所有AI應用
克魯格強調，他並非主張全面停止人工智能研究和應用，而是希望停止各家公司競相開發「越來越強大的AI系統」。
他以醫療和翻譯為例表示，AI已經具有許多有益用途。節目還提到一項由加州大學伯克利分校牽頭的研究：研究人員利用數十萬份心電圖訓練AI，發現此前未被識別的心電信號，有望幫助醫生提前發現心臟驟停高風險患者。
克魯格認為，國際社會首先需要控制不斷追求更強AI的競賽，之後再評估如何開發和部署人工智能，由社會共同決定AI發展的速度和方向，在獲得技術收益的同時，避免承擔他所稱的「不可接受的巨大風險」。
責任編輯：李沐恩#
留言