馬斯克等上千人連署 籲暫停大型AI研究

人氣 3126

【大紀元2023年03月29日訊】(大紀元記者陳霆綜合報導)馬斯克和許多人工智能(AI)專家、企業領導人都簽署了一封公開信,信中呼籲所有AI實驗室應立即暫停訓練比GPT-4更強大的AI系統,否則可能危及社會和全人類。

這封信(鏈接)由非營利性的「生命未來研究所」(Future of Life Institute)發布,直至記者截稿時已有1,125人簽署。

簽署者之中,不乏科技界名人,例如馬斯克(Elon Musk)、蘋果聯合創辦人史蒂夫‧沃茲尼克(Steve Wozniak)、Stability AI創辦人埃馬德‧莫斯塔克(Emad Mostaque)、AI領域重量級科學家約書亞‧班吉歐(Yoshua Bengio)和斯圖爾特‧羅素(Stuart Russell)等。

信中指出,大量研究表明,具有與人類競爭能力的AI系統,可能對社會和人類構成深遠的風險,這點也得到了頂級AI實驗室的承認。

在信中,專家們呼籲高級AI開發至少應暫停6個月,讓AI實驗室和獨立專家利用這段時間共同制定、實施一套開發與設計先進AI的共享安全協議,並由獨立的外部專家進行嚴格的監督。

信中說:「如果這種暫停(計劃)不能迅速頒布,政府應介入並制定暫停令。」

信中形容,近幾個月AI實驗室陷入「一場失控的競賽」,競相開發越來越強大的數字頭腦,然而,即使是AI的創造者,也沒有人能理解、預測或可靠地控制。

「只有當我們確信它們的影響是積極的且它們的風險是可控的時候,才能開發強大的AI系統。」信中寫道。

專家們強調:「人工智能的研究和開發應重新聚焦於使今天強大的、先進的系統更加準確、安全、可解釋、透明、健全、一致、可信和忠誠。」

信中還呼籲開發者應與政策制定者合作,加強對AI的治理和監管,設立公共資金,並建立資源充足的機構,應對AI可能對經濟與民主的破壞。

雖然特斯拉也將AI用於自動駕駛系統,但馬斯克一向直言不諱地表達他對AI的擔憂。

馬斯克曾是OpenAI的聯合創辦人,但他對OpenAI的現況並不滿意,並在2月發推文:「創建時OpenAI是一間開源非營利性公司(這就是為何我把它命名為OpenAI),以作為對Google的制衡,但現在它已成為一個閉源盈利性公司,實際上由微軟控制。」

「這完全不是我的初衷。」馬斯克當時寫道。

作為簽署公開信的學者之一,紐約大學名譽教授馬庫斯(Gary Marcus)對路透社說:「這封信並不完美,但其精神是正確的:我們需要放慢腳步,直到我們更了解這麼做的後果。」

「它們可能會造成嚴重的傷害⋯⋯大公司對他們在做的事情,變得越來越神祕,這使得社會很難抵禦任何可能出現的傷害。」

責任編輯:葉紫微#

相關新聞
為何ASML是美中科技戰的關鍵角色
電動車時代 豐田押注新發動機挑戰特斯拉
加拿大拒絕被中共利用成為便宜貨貿易通道
網絡戰競賽 美CISA如何對抗中共黑客帝國
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論