【大紀元2023年07月01日訊】(英文大紀元記者Andrew Thornebrooke報導/秋生編譯)人工智能開發領域的一位領軍人物警告說,人工智能已經發展出初級的推理能力,並可能尋求推翻人類。
多倫多大學計算機科學教授傑弗里‧辛頓(Geoffrey Hinton)說,人工智能系統可能會發展出從人類手中奪取控制權的願望,作為它們實現其它預編程序目標的一種方式。
6月28日,辛頓在加拿大多倫多舉行的碰撞技術大會(Collision tech conference)上發言時說,「我認為我們必須認真對待這種可能性,如果它們變得比我們更聰明(這似乎很有可能),而且它們有自己的追求(這似乎很有可能),它們很可能會發展出奪取控制權的追求。」
「如果它們這麼做,我們就有麻煩了。」
辛頓因其在神經網絡方面的成就而被稱為「人工智能教父」之一。他最近花了十年時間幫助谷歌開發人工智能系統,但在上個月離開了該公司,說他需要能夠警告人們人工智能帶來的風險。
雖然辛頓不認為人工智能天生渴望權力,但他說,它仍然可以尋求從人類手中奪取權力,作為一個合乎邏輯的步驟,以更好地實現自己的目標。
辛頓問道,「總體上說,如果有某種東西比你聰明得多,非常擅長操縱人,而且達到了非常普遍的程度,你有信心讓人們保持掌控嗎?」
他說,「我認為它們會衍生出(奪取控制權的動機),作為實現其它目標的一種方式。」
人工智能現在具有推理能力
辛頓曾經懷疑,在未來30到50年內能否出現一個能與人類相媲美的超級人工智能(AI superintelligence)。他現在認為,它可能在不到20年內就會出現。
他說,部分原因在於,使用大型語言模型的人工智能系統開始顯示出推理能力,而他不確定它們是如何做到的。
他說,「其大型語言模型正在接近(我們),我真的弄不明白它們是怎麼做到的,它們可以做一些小的推理。」
「它們仍然無法與我們匹敵,但是它們已經很接近了。」
辛頓描述了一個人工智能系統:該系統接到了一個難題,必須計劃如何粉刷一個房子的幾個房間。它有三種顏色可選擇,其中一種顏色會隨著時間的推移而褪色,成為另一種顏色。它被要求在規定的時間內將一定數量的房間塗成特定的顏色,結果,人工智能沒有僅僅選擇將房間刷成所需的顏色,還決定不去粉刷那些它知道最終會褪色成所需顏色的房間,來選擇節省資源,儘管它並沒有被編程去這樣做。
辛頓說,「這就是思考。」
為此,辛頓說,沒有理由懷疑人工智能在未來幾年內不會達到,甚至超過人類的智力。
辛頓說,「我們就是一個大的神經網,沒有理由否認人工神經網能做我們能做的一切。」
「我們正在進入一個巨大的充滿不確定性的時期。沒有人真正知道會發生什麼。」
戰爭機器人將破壞世界的穩定
人工智能甚至可能不需要達到超級智能,就能對人類生存構成風險。
辛頓說,世界各地的軍隊正在為進行戰爭製造人工智能機器人,這些機器人可能會尋求控制權以完成其被編程的任務,或者尋求通過挑起更多衝突來擾亂政治秩序。
辛頓說,「它們是致命的自主武器,值得我們深思。」
他說,「即使人工智能不是超級智能,但是如果國防部門用它來製造戰鬥機器人,那也將是非常糟糕、令人恐懼的事情。」
在那些尋求開發致命性人工智能的國家中,最重要的莫過於世界上最大的兩個軍事強國:中國和美國。
目前中共政權正在開發具有人工智能功能的致命系統,同時投資於與軍事決策、指揮和控制有關的人工智能能力。
與此同時,美國正在為未來做準備,屆時世界各國的軍隊主要由機器人組成,高層預計這種情況在15年之內就會發生。
辛頓說,「我們知道他們將製造戰鬥機器人,他們正忙於在許多不同的國防部門做這件事,所以(機器人)不一定是好東西,因為它們的主要目的是殺人。」
此外,辛頓建議,由人工智能驅動的致命性自主系統一旦出現,將從根本上改變地緣政治結構,大幅降低那些有能力負擔此類系統的國家的政治和人力成本。
辛頓說,「即使它不是超級智能,沒有自己的意圖……它也將使,例如,富國入侵窮國,變得更加容易。」
「目前,無可奈何的是,入侵窮國都有一個障礙,那就是你的公民會死在戰場上;如果死去的只是戰鬥機器人,那真是太好了,軍工企業會喜歡這樣。」
為此,辛頓表示,政府應該鼓勵人們更多地研究如何保護人類免受人工智能的侵害。簡而言之,他說,很多人都在努力改進人工智能,但很少有人研究如何讓它變得更安全。
他說,最好的辦法是建立國際規則,禁止、限制開發人工智能武器系統,就像在第一次世界大戰後《日內瓦議定書》對化學戰所做限制那樣。
辛頓說,「類似於《日內瓦公約》(Geneva Convention)這樣的東西固然很了不起,但是,這些東西總是在災難發生後才會出現。」
他強調,無論政府在人工智能方面會不會採取什麼行動,人們都必須意識到正在開發的人工智能正在給人類帶來威脅。
辛頓說,「我認為重要的是,人們要明白,這可不只是科幻小說,也不僅僅是散布恐懼,而是一個我們需要思考的真實存在的風險,我們需要提前想好如何應對。」◇
原文:‘Godfather of AI’ Speaks Out: AI Capable of Reason, May Seek Control刊登於英文《大紀元時報》。
責任編輯:李琳#