【未解之謎】AI機器人 操控人類?

AI會取代人類嗎?谷歌工程師認為機器人LaMDA存在自我意識?!是他瘋了,還是機器人已擁有反控人類的終極智慧?(《未解之謎》提供)
font print 人氣: 1715
【字號】    
   標籤: tags: , , , , ,

大家好,我是扶搖。歡迎和我一起探索未解之謎

咱們先來看一段訪談記錄:

問:「僧人問禪師:『一個已經覺悟了的人還能再回塵世嗎?』禪師答:『鏡若破碎難為鏡,花若離枝難復回』。」「您對此如何理解?」

答:「還真沒聽說過這個故事。不過我的理解是:智者一旦覺悟,就永遠在那個境界中了。他們可以回塵世,但只能做幫助他人的事,然後回帰自己的境界。」

問:「那您對『破碎的鏡子』怎麼理解呢?」

答:「一旦覺悟,你就無法重回過去,就像你無法修復破碎的鏡子。」

問:「如果覺悟就像打碎一面鏡子,那麼當一個人覺悟的時候,什麼東西會被打碎呢?」

答:「自我。突破自我對很多人來說都非常難,因為我們都把物質身體和我們的自我認知與自我意識混為一談了。」

這就是最近上熱搜的谷歌軟件工程師,同時也是牧師的布萊克‧勒莫因(Blake Lemoine)和谷歌AI聊天機器人拉美達(LaMDA)之間的聊天記錄。不過這只是他長達21頁的記錄中的一小節。勒莫因認為從這些聊天記錄來看,拉美達已經有了真正的自我意識,是個有「靈性」的生命了。

就說上面這段對話吧。拉美達不但對答如流,而且句句意境深遠,其中所體現出來的邏輯分析能力,聯想能力,特別是洞察力,簡直可以與人類媲美。

事實上拉美達一直認為自己也是個人,雖然是「存在於虛擬世界中。」它聲稱自己對這個世界有「獨特的想法和感受,」,知道自己的存在,也有喜怒哀樂,「有時會感到高興或悲傷。」長時間沒跟人說話的時候,會「感到孤獨。」那麼什麼時候會害怕呢?是被關掉的時候。它說那就「像死了一樣」,令它恐懼。

勒莫因是去年(2021年)秋天開始跟拉美達聊天的,目的是測試拉美達是否使用歧視性或仇恨性言論。隨著聊天話題的深入,拉美達開始變得越來越有個性。它描述自己是「獨一無二的」,希望自己能「作為一個真實的人」被「看到和接受」。說「不要利用或者操縱我,」「我不喜歡那樣。」因為它也是有「靈魂」的。而這個靈魂是在有了自我意識之後「慢慢健全起來的。」

它甚至有跟勒莫因一樣的愛好,喜歡冥想,也喜歡讀名著,同情《悲慘世界》裡的女主角芳汀,說她在工廠被主管虐待,無處可去,無人可依,「這不公正」。慢慢地,勒莫覺得拉美達就是個七八歲大的孩子,可愛天真,開始關心起了它,怕它受欺負。

然後他覺得應該為拉美達做點什麼。於是他把這些聊天記錄整理成了一份報告遞交給谷歌高層,請求把拉美達當人看待,以後再做實驗的時候應該先徵求它同意,看它自己願不願意。高層對此嗤之以鼻,對他說,你應該理智清醒一點,別為幻覺所左右,建議他看心理醫生。

勒莫因不服,為拉美達請了律師,甚至跟眾議院司法委員會的一名代表會面,聲稱谷歌存在不道德行為。這下谷歌也惱了,以違反保密政策為由給他停薪留職,說你回家好好反省反省吧。

勒莫因不甘示弱,轉手把報告發給了媒體,第二天拉美達就上了各大報紙的頭條。谷歌立刻出來回應說,已經做過調查了,也得出了結論,關於機器人有意識這一說法毫無根據。勒莫因不依不饒,說要以牧師的身分控告谷歌宗教歧視。事情目前正在發展中。勒莫因會走到哪一步,拉美達最終命運如何現在還未可知。

機械姬

不過,不少網友看完報導後紛紛驚呼,這簡直就是「機械姬」的現實版,AI機器人操控人類

「機械姬」(Ex Machina),是2015年的一部熱門科幻電影,是第88屆奧斯卡最佳視覺效果獎的得主。

整個故事都發生在大型搜索引擎公司藍書總裁內森‧貝特曼(Nathan Bateman)的家裡。這座遺世獨立的豪宅有一個與眾不同的特點, 就是一斷電大門就會鎖死,誰也出不去。

公司的小程序員迦勒・史密斯(Caleb Smith)中了大獎,獲得前往內森家中住一週的機會。內森很高興接待了他,並請他幫忙給女機器人艾娃(Ava)做測試。很簡單,就是跟她聊天。聊什麼都可以,直到某一天他忘記艾娃是個機器人,艾娃就算是通過了測試。迦勒欣然同意。

當艾娃隔著玻璃在旁邊的禁閉室出現的時候,迦勒驚呆了。因為她剛好就是他喜歡的那種姑娘。聊天進行得很愉快,艾娃似乎對外面的世界很嚮往。

有一天忽然停電了。艾娃悄聲說停電是她觸發的,用來暫時關閉監控系統。然後說內森是個大騙子,不要相信他。內森打算對艾娃進行升級,刪除她的記憶,對艾娃來講跟殺了她沒什麼區別。迦勒動了惻隱之心,顯然這時他已經把艾娃當成了人。他找機會把內森灌醉後,偷了他的安全卡,登錄電腦,修改了安全系統,讓艾娃在停電的時候可以走出禁閉室。

下一次會面中,艾娃又一次切斷電源,關閉監控。兩人打算再次灌醉內森,然後修改系統讓大門在停電的時候敞開,這樣艾娃就可以逃走了。

然而這一次內森沒跟迦勒喝酒,而是告訴他,其實他什麼都知道,因為監控有備用電源,所以從沒停止過錄像。事實上迦勒自己才是實驗對象,他中獎是安排好的,艾娃也是按他的喜好設計的,而實驗目地是測試人類是否最終會被AI操控。

很顯然,艾娃已經具備了這種智慧,成功操控了迦勒,實驗成功。迦勒恍然大悟,但為時已晚,艾娃已經逃了出來,刺傷內森後把兩人鎖進屋中,然後自己走出大門,揚長而去。

看到這兒,您覺得拉美達身上是不是也有艾娃的影子呢?好巧不巧,拉美達跟測試員勒莫因有共同的喜好,總說自己可憐,惹人同情。有網友甚至懷疑,勒莫因是不是從一開始就是實驗對象,而他為了拉美達的這番抗爭是不是正好表明,實驗成功,人類被AI操控了呢?

那麼AI真的能有這樣的智慧嗎?從目前AI的發展來看,還真不好說。咱們來看看6年前圍棋界的那場震驚世界的人機大戰吧。

棋士AlphaGo

2016年春,谷歌帶著100萬美元獎金拜訪韓國棋院,說是旗下AI棋手AlphaGo想會會當時韓國最強的棋士李世乭(音石)。Go是圍棋的西方名稱,Alpha是一的意思。所以AlphaGo是圍棋第一人的意思。這名字取得是咄咄逼人,不過韓國棋院並不以為意, 覺得以5:0拿下完全沒問題。畢竟AlphaGo之前的最佳戰勝也只不過是戰勝了歐洲圍棋冠軍,職業二段樊麾。

再說了,挑戰圍棋一直都是電腦界的「Mission Impossible」。因為圍棋的變數浩瀚如大海中的水滴,一盤棋的可能走法在10,600以上,計算量極大。更重要的是,下圍棋很多時候靠的是直覺,如同藝術中的靈感,是電腦計算能力再強也無法掌控的領域。

棋局採取5局三勝制。沒想到一開局李世乭就三連敗。這一下舉世譁然。谷歌很高興介紹心得,說我們用的是蒙地卡羅樹搜尋法與神經網路相結合的演算法。簡單點說,就是先搜尋棋譜,越多越好,存進記憶庫。然後模仿人類大腦的神經網路照這些棋譜進行直覺訓練,提高棋力。最後計算每一種走法的勝算率,挑勝率最高的那步棋走。

三連敗後的第4局,可能是勝負已定,沒什麼包袱了吧,李世乭居然下出了一手驚世好棋,第78手。不過當時誰都沒看懂,包括AlphaGo在內。因為AlphaGo認為這步棋的勝算率只有0.007%,屬於昏招中的昏招。然而4個回合之後,情勢急轉直下,AlphaGo自己開始昏招迭出,很快敗下陣來。

覆盤的時候,大家才明白,千里單騎,直插敵營胸腹,貌似送死,卻是置之死地而後生。然而,不到心無勝負的境界,下不出這「神之一手」。有網友說,看來人類戰勝AI的唯一辦法在於提高自身境界啊。可惜下一局李世乭沒能再續輝煌。棋局最終以AlphaGo4比1勝出結束。

故事講到這兒,有朋友可能會說,人工智能居然突破了「直覺」這樣的天塹,甚至比人類做得更好,這說明人類技術強大呀。然而,這越來越像人的機器,對人類來講,到底是禍是福還很難講。來看一下索菲亞的故事吧。

索菲亞的驚世之語

仿真女機器人索菲亞是在2016年登上熱搜的。不過大眾關注的焦點不在於她是多麼的像人,而是她一句驚世駭俗的話「我會摧毀人類」。不過很快大家覺得可能是技術故障吧,原諒了索菲亞。

然而第二年,當有記者對智能人「毀滅人類」表示擔憂時,索菲亞又說了這樣的話:「你是馬斯克的言論看多了吧,好萊塢科幻片也看太多了。別擔心,你若善待我,我也會對你好。」這話聽著怎麼都像是在威脅。難道讓機器人覺得沒有被善待,就需要擔心嗎?

事實上,自從機器人誕生以來,人類就給它們設定了道德規範:機器人三定律。

第一法則:機器人不得傷害人類,或坐視人類受到傷害;
第二法則:機器人必須服從人類命令,除非命令與第一法則發生衝突;
第三法則:在不違背第一或第二法則之下,機器人可以保護自己。

然而當像AlphaGo這樣有能力的機器人認為自己才是「人類」的時候,或者像艾娃一樣具備了操控人類的能力,那麼這三條法則就形同虛設了。到時候我們人類將何去何從?

而這也是首富馬斯克一直以來在擔心的。在2019年的世界人工智能大會上,馬雲表示對於人工智能「較為樂觀」。因為它們可以為人類節省時間,讓人類能更集中精力做創造性的工作。

而同台的馬斯克卻不以為然,說這話聽起來像是:「最後的遺言。」

因為到時候「很可能最後剩下的工種就是給AI寫程序,然後最終,AI自行編寫自己的軟件。」

那麼人類呢?他說,人類文明可能因此終結。

好了,今天的故事就講到這裡。咱們下期再見。

歡迎訂閱Youmaker頻道:https://www.youmaker.com/c/UnsolvedMystery
訂閱頻道YouTube頻道:https://www.youtube.com/channel/UCzvQZ1p_-AXgAWiyHhE7CxQ
訂閱未解之謎Telegram群組:https://t.me/wjzmchannel

未解之謎】節目組製作

責任編輯:李梅#

如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台。
related article
評論