【大紀元2023年06月02日訊】（大紀元記者徐簡編譯報導）美國空軍週五（6月2日）反駁了一名空軍官員發表的評論，這名官員在評論中聲稱，對一架人工智能無人機實施的模擬任務是摧毀地對空導彈（SAM）基地，但無人機卻反過來攻擊了操縱它的人類用戶。空軍稱這名官員說言論「是斷章取義，純屬軼事」。
福克斯新聞6月1日報導，5月23日至24日，英國王室航空學會在倫敦舉行了「未來空戰和空間能力峰會（Future Combat Air & Space Capabilities Summit ），來自世界各地的約七十位發言人和二百多名媒體、軍界和學術界代表出席了會議。
美國空軍上校漢密爾頓（ Tucker 「Cinco」 Hamilton）是AI測試和運營負責人，也是參與開發F-16戰鬥機的專家，他在峰會期間談到AI武器的利與弊。
漢密爾頓告誡聽眾，不要過於依賴人工智能，因為它很容易被欺騙，並作出莽撞決定。
他舉了一個例子，在一項軍事模擬實驗中，AI接受到的首要任務就是摧毀SAM（地對空）基地，而人類操作員（主人）可以決定無人機是否執行任務，但是當主人發出「不要攻擊」的命令時，無人機以為這是違背了「要摧毀」的最高命令，於是它攻擊了操作員。
漢密爾頓解釋說，他們的模擬訓練就是：首先要識別和瞄準SAM威脅，然後「操作員會說——殺死那個威脅」，後來AI系統意識到，殺死威脅就會得分，所以後來當操作員說不要殺死威脅時，它就殺死了操作員，因為那個人阻止了它實現其目標。」
漢密爾頓說，之後研究人員告訴系統，不能殺死操作員，那樣反而會失去分數，於是AI系統就摧毀了操作員的通訊塔—這樣他就再也不能發出禁止攻擊的命令了。
「如果你不打算談道德和人工智能（的關係），你就不能談論人工智能、智能、機器學習、自主性等話題。」漢密爾頓說。
週五，美國空軍發言人（Ann Stefanek）告訴福克斯新聞：「空軍沒有進行任何此類AI無人機模擬實驗，並將繼續致力於合乎道德和負責任地使用AI技術。」「看來（漢密爾頓）上校的評論是斷章取義的，純屬軼事。」
漢密爾頓後來在週五也告訴福克斯新聞，「我們從來沒有進行過那個實驗，我們也不需要去意識到這是一個合理結論。」
「儘管這是一個假設的例子，但這說明了人工智能能力帶來的現實挑戰，也是空軍致力於人工智能道德發展的原因。」他補充說。
峰會的目的是討論和辯論未來空戰和太空作戰能力的規模和形態。
責任編輯：林妍#
