site logo: www.epochtimes.com

智能機器人自創人類不懂語言 臉書緊急關閉

人工智能引發擔憂 (Pixabay)

人工智能引發擔憂 (Pixabay)

人氣: 2046
【字號】    
   標籤: tags: , , ,

【大紀元2017年08月01日訊】(大紀元記者張秉開編譯報導)「我能我我其它一切,」鮑勃(Bob)說。

愛麗絲(Alice)回答:「球是零對我來說對我來說我對我來說對我來說對。」

這不是兩個咿呀學語的小孩的對話,更不是說出語法錯誤的口吃語,而是兩個機器人使用的一種溝通語言。

臉書研究人員發現,人工智能(AI)程序使用這種人不懂而只有計算機懂得的語言進行對話。

《數碼雜誌》(Digital Journal)近日報導,因為此程序創建了自己的語言,“情况失控”,所以臉書科研人員緊急關閉了這樣的人工智能(AI)語言程序。

研究人員意識到,人工智能程序產生了新語言,但它不再是英語,而是僅能被系統自己識別的代碼字。

七月初該事件被披露。人們因此聯繫到特斯拉電動汽車創始人馬斯克(Elon Musk),對人工智能提出了警告。

馬斯克在7月下旬的全美州長協會上說:「通過這個罕見的人工智能案例,我認為我們需要積極主動地而不是被動地對人工智能進行監管。因為當我們需要對人工智能進行監管時,會已經太遲了。」

臉書首席執行官扎克伯格(Mark Zuckerberg)表示,馬斯克提出這樣的警告是「非常不負責任的」。馬斯克回應,扎克伯格「對這個問題的理解不足。」

機器能產生自己的語言,但人卻不懂其內在原因。 (Photo credit should read ISAAC LAWRENCE/AFP/Getty Images)
機器能產生自己的語言,但人卻不懂其內在原因。 (Photo credit should read ISAAC LAWRENCE/AFP/Getty Images)

機器用自己的語言進行「交流」

研究人員經過綜合分析,發現其它案例也會出現這種令人難以理解的人工智能表現。也就是說,人工智能總是與人教給它的英語脫離,而形成一種新的機器語言。

雖然,新形成的語言所含的各個短語對於人來說沒有意義,但卻是人工智能進行運行的語言。

「球是零對我來說對我來說我對我來說對我來說對。」(「Balls have zero to me to me to me to me to me to me to me to me to」)研究人員注意到,這些無意義的短語是一種機器人開發的語言,用於它們之間的交流。

機器不理會人的語言

研究人員解讀機器人鮑勃後來說的「我我能我我其它一切」(i i can i i i everything else),似乎表明智能機器人使用新語言向愛麗絲報價。

臉書研究者認為機器人可能想表達這樣的意思:「我會有三個,你有一切。」對人類來說,進行非常有效溝通的英文並不被人工智能看好。它可能認為,對於達到其指定的目標,這個句子是多餘的,或者效果較差。

臉書研究人員將人工智能的程序運行原則設定為「獎勵」。在這種獎勵的原則下,機器人認為使用人能懂的語言沒有獎勵,於是它發展了自己的「獎勵」語言。

2013年3月5日在德國的漢諾威(Hanover),在2013年CeBIT技術貿易博覽會上的德國研究中心展位,一名遊客和AILA或人工智能輕量級機器人握手,機器人是由人工智能GmBH(Deutsches Forschungszentrum fuer Kuenstliche Intelligenz GmbH)所開發。 CeBIT技術貿易博覽會將於三月五日至九日展出。 (CARSTEN KOALL/AFP)
機器人能和人握手。但是它能絕對服從人的指揮嗎?圖:2013年3月,在德國的CeBIT技術貿易博覽會上,一名遊客和人工智能輕量級機器人握手。 (CARSTEN KOALL/AFP)

內在原因 尚無定論

報導說,其他公司的人工智能研究員也觀察到程序開發簡化通信的語言。馬斯克的OpenAI實驗室成功地讓人工智能機器人開發出自己的語言。

谷歌的翻譯服務團隊發現,他們編寫的人工智能程序可以靜悄悄地編寫自己的機器語言來幫助翻譯句子。翻譯開發人員向系統添加了一個神經網絡,使其能夠對未被教授的語言進行翻譯。

研究人員認為,如果這些人工智能語言大面積地散佈,可能會影響神經網絡的開發,但目前尚無足夠證據表明,這些人工智能能導致機器控制開發者。

然而,人工智能所產生的語言確實為其繼續發展增加難度,因為人類無法掌握這種機器所使用的新語言的邏輯性。#

責任編輯:張潔

評論
2017-08-01 10:56 PM
Copyright© 2000 - 2016   大紀元.