【未解之谜】细思极恐 AI接管人类倒计时?

font print 人气: 1406
【字号】    
   标签: tags: , , , , ,

大家好,我是扶摇。欢迎和我一起探索未解之谜。

最近,一直话题不断的OpenAI又爆出了个大新闻。

5月15日,OpenAI共同创办人伊利亚‧苏茨克韦尔(Ilya Sutskever)在X平台上正式宣布离职。他在离职声明中说:“这家公司的发展超出许多人的想像,希望OpenAI可以打造一款安全又有益的通用人工智能(AGI)。”

话说得有点隐晦,但言外之意大家都懂,就是OpenAI开发的通用人工智能AGI很可能已经失控了!AGI,也就是Artificial General Intelligence,就是具备与人类同等智慧,甚至超越人类智慧的人工智能。AGI的诞生也意味着AI接管人类工作的时代到来了。

AGI接管人类?

事实上,就在苏茨克韦尔宣布离开的前一天(5月14日),OpenAI正式公布了更高性能的AI模型GPT-4o,GPT-4o模型可以即时响应音讯、文字或图像的任意组合,并且可以对三者的混合进行回应。

而这,也似乎坐实了之前在网上流传的一份泄密文件的真实性。这份长达53页的文件中说,能取代人类的AGI将在2027年后发布,也就是说,AI留给人类的时间只有3年了。

文件中说,OpenAI从2022年8月就在训练125兆参数的多模态学习模型,而且已经在2023年12月完成了训练。多模态模型是一种机器学习(ML)模型,能处理图片、影片和文字等不同型态的资讯,在各种资讯之间自如转换。举例来说,你给它提供一盘饼干的相片,它就能给你用文字生成一个食谱,反过来也一样。这就好比赋予了AI类似于人类感官的体验。

这个AI的版本虽然还不算是AGI,但已经非常接近了,达到了人类专家的水平。

真正意义上的AGI会在2027年发布,这就是从去年炒得沸沸扬扬的Q-Star发展出来的Chat GPT-6。GPT-6相当于智商为145的人类。智商145是一种什么概念呢?我们知道人智商的平均值是100。智商120就是优秀人才了,130以上就是天才了。那145就是天才中的天才。

诡异的是,这份泄密文件是一个名为“Vancouver1717”的X账户在3月2日上传的。而就在前一天,3月1日,首富马斯克正式状告OpenAI和它的CEO山姆‧奥特曼(Samuel Altman)。

大家可能不知道,2015年OpenAI创立的时候,马斯克也是联合创始人之一。

OpenAI是怎么创立的?

2015年2月25日,当时还名不见经传的奥特曼公开表达了对“超人类机器智慧”发展的担忧,认为这“可能是对人类持续存在的最大威胁”,说“我觉得我们应该对抗它”。之后他联系了马斯克,问他是否有兴趣起草一封致美国政府的公开信,讨论一下这个问题。

马斯克也有着同样的担忧,两人一拍即合,马上展开行动,准备信件,找有影响力的人签名。

业界人士都很给马斯克面子,公开信在2015年10月28日发布的时候,搜集到了超过11,000人的签名。其中包括马斯克自己、天体物理学家霍金和苹果电脑的联合创始人沃兹尼克(Steve Wozniak)。

虽然许多业界大佬都表明了态度,但两人觉得,AI的发展是不可避免的。别的不说,谷歌和脸书早就在暗地使劲了。那与其让别人来做,不如我们来开发,做领头羊,这样大家都不会迷失方向。OpenAI就这么被他俩聊出来了。

两人商定,把OpenAI做成非营利组织,公开代码,确保AI技术发展能够惠及全人类。非营利组织不赚钱啊,那开发人员的薪水从哪里出呢?马斯克一拍胸脯说,我来出。

就这样,在世界首富马斯克的大力支持下,OpenAI很快发展起来了。然而,2018年马斯克辞去了董事会席位,表面上的理由是他名下的特斯拉也在研发人工智能,跟OpenAI存在着“潜在的未来(利益)冲突”。

首富走了,研发资金也就没了着落。为了生存,公司开始向盈利公司转型。一开始是为了温饱,尚且无可厚非。但自从跟微软好上了以后,OpenAI选择不公开代码,关起门来搞研发,开始为钱服务了,在马斯克眼里,这几乎就是背叛。

解职风波

特别是去年11月的那场解职风波,更是把原来藏在地心深处的安全问题晒到了太阳底下。

在那场风波中,一直在公司担任CEO的奥特曼被董事会解职。事件的导火索是OpenAI内部研究员给董事会发的一封警告信,说他们发现了一个可能威胁人类的强大的人工智能。董事会认为奥特曼知情不报,在故意隐瞒真相。

虽然几天之后,奥特曼成功回归。但这么一闹,更多幕后消息也被有意无意地放了出来。

先是OpenAI的一位员工在网上发帖说,他们发现AI开始自我编程,对自己主动进行优化,重新配置自己的神经网络结构,诱导出了有利于自我意识出现的特性。也就是说,AI有了自我意识,开始不听人类指挥了。他说,他们监测到这一现象后成功瓦解了AI的自主行为,但他们发现的或许只是冰山一角。

然后,一份据说是从OpenAI内部流传出来的泄密文件也开始在网上疯传。文件中说,OpenAI正在开发一个新项目叫做Q-Star。Q-Star的目标就是打造能取代人类的AGI。目前,Q-Star经过自我学习已经找到了一种破解AES加密密码的办法。 AES是可以用来加密国家绝密资讯的密码,顶尖的数学家都很难破译,但Q-Star做到了。如果有了自主意识的Q-Star开始攻击AES密码系统,后果不可想像,所有资讯系统和金融系统,包括加密货币,都不安全了。到时候AI操控人类易如反掌。

消息一放出来,网上一片哀鸣,有网友甚至悲观预测说,三个月后,AI就要接管人类了。

三个月过去了,太阳依然从东边升起,世界恐慌没有到来,大家也就慢慢忘记了这个警告。但马斯克显然没有忘记,一纸状书就把OpenAI送上了法庭,说它现在的行为已经严重违背了初衷,开始对人类造成危害了。

官司到底打得如何,目前还没有更多的消息披露出来。但是关于AI太过于聪明造成的隐患,现在已经慢慢显现出来了。事实上,自从1997年IBM的超级电脑“深蓝”击败国际象棋世界冠军卡斯帕罗夫以后,人工智能一直在突破人类的认知。

突破人类的认知的人工智能

当年虽然比赛一结束,“深蓝”就宣布告别棋坛,从此退隐江湖。但这场棋局还是引起了人们的恐慌,害怕电脑最终会超越人类。不过很快就有人出来说话了,“深蓝”之所以能赢只是它的运算速度够快而已。归根到底,这还只是一台计算机,怎么能跟万物之灵的人类相比呢?你看人家围棋,一共361个点,棋局的变化浩瀚如海,根本不是靠算就能算出来的。用电脑下围棋就不行了吧?

之后的19年中,围棋果然是电脑无法逾越的那道坎。然而,就在人们已经快忘记“深蓝”的时候,2016年,谷歌开发的AlphaGo强势来袭,把围棋界一众高手打得落花流水。谷歌说,我们这次采用的不是什么先进的算法,而是模仿人类大脑神经元系统,用大量的旧棋谱来让电脑学习,让它自己归纳出最优化的棋路。

虽然AlphaGo很快也像“深蓝”一样,早早退休了,没有再去为难围棋界。但关于AI的那个终极问题再次回归大众的视野:AI最终会取代人类吗?

欺骗大师

最近,美国麻省理工学院(MIT)的帕克博士(Peter Park)和他的团队发表了研究文章,指出现在的AI又突破了一个重大关卡,开始向大家担心的方向发展了──它们已经学会撒谎了。

2022年11月,脸书的母公司Meta宣布他们开发出了一种人工智能系统西塞罗(Cicero),智慧程度已经达到了人类的水准。

他们让西塞罗玩一款时下比较流行的军事游戏,叫做“外交”(Diplomacy)。玩家在游戏中代表各个国家,争夺欧洲的控制权,可以互相谈判,也可以组联盟。除了西塞罗之外,游戏中的其他玩家都是人类。

西塞罗在游戏中玩得风生水起,很快就爬上了玩家排行榜前10%。也就是说,它比90%的人类玩家都优秀。Meta称西塞罗不但诚实,而且喜欢助人为乐,绝不会背叛盟友,背后捅刀子。为了证明自己的观点,Meta还在网上晒出了西塞罗跟其他玩家的聊天记录,果然是彬彬有礼、忠厚老实,一派绅士风范。

然而,要想在这样一款权谋游戏中获胜,一点手段都不用能行吗?

帕克在论文中曝光了西塞罗在游戏中的欺骗技巧。

在曝光的对话中,西塞罗代表的法国先是向德国示好,然后又骗取了英国的信任,说自己会支持他们。一转头,它就又向德国通风报信,说:“英国人以为我会帮他们”。这样两面三刀的玩家还是Meta口中忠诚老实的西塞罗吗?

帕克说,西塞罗还并不是唯一会撒谎的AI。

谷歌旗下的DeepMind设计的AlphaStar也是一位欺骗大师。AlphaStar玩的游戏叫做《星际争霸II》(StarCraft II)。在游戏中,它非常擅长“声东击西”的战略手段。就是在游戏中进行佯攻,让人类玩家以为它朝着一个方向进攻,而它实际进攻的却是另一个方向。

现在风头正劲的聊天机器人Chat GPT-4也不遑多让。它会谎称自己是个盲人,在网络平台TaskRabbit上雇用一名人类替它做测试,通过“我不是机器人”的验证任务。

如果说西塞罗和AlphaGo这样的AI还只是在游戏的世界骗一骗,没产生什么后果的话,Chat GPT可是来真的了。它可不是在跟你玩游戏,是真真实实地在用谎言迷惑人,操控人类行为了。细思极恐啊。

防止AI失控 解决方案

科学家们还曾对Chat GPT和其它人工智能聊天机器人做过关于战争的测试。结果发现,AI多数都会选择升级战争。它们往往会选择发展军备竞赛,加大战争冲突,甚至部署核武器来赢得战争,而不是用和平的方式去解决问题。

那么,如果我们被这样的AI控制,这个世界将走向哪里?

而这,也是马斯克和许多其他业界大佬最为担心的问题。

“AI教父”杰弗里‧辛顿(Geoffrey Hinton)在今年3月的一次访谈中说,“如果AI变得比我们聪明,我们大概率会被控制”。他希望“大家能够意识到这个问题非常严重”。

曾经担任谷歌执行长的埃里克‧施密特(Eric Schmidt)也在去年11月底的健康高峰会上表示,当人们对AI没有足够的安全防护和监管时,那么AI脱离人类的掌控只是时间的问题。

帕克也警告说:“现在最糟糕的情况,可能是出现一个具有超凡智能的AI,它开始追求权力和如何掌控社会,或者为了达到它不为人知的目的,对人类做出夺权和灭绝的行动。”

虽然人类的历史也是由“兵征天下,胜者为王”八个字谱写而成的,但过去的几千年中人类为什么没有在互相征战中让自己灭绝呢?因为人类是有道德规范的,知道自己约束自己,要替别人着想,不会野蛮扩张。你看佛家讲的“善”,儒家讲的“中庸”,都是基于为别人着想的基础上的。

有人说,如果我们也给AI加上一个道德模块,简单一点吧,就是多计算一步,在采取行动之前计算一下这么做会不会对别人造成伤害,AI们是不是会人性化很多啊?是不是就能跟人类和平共处了呀?

好了,今天的故事就讲到这里了。对于AI和人类的未来,您的看法会是什么呢?

未解之谜,我是扶摇。我们下回见。

欢迎订阅Youmaker频道:https://www.youmaker.com/c/UnsolvedMystery
订阅频道Ganjingworld频道:https://www.ganjing.com/zh-TW/channel/1eiqjdnq7go2dgb6zFtQ9TYK11080c
订阅YouTube频道:https://www.youtube.com/channel/UCzvQZ1p_-AXgAWiyHhE7CxQ
订阅未解之谜Telegram群组:https://t.me/wjzmchannel

未解之谜】节目组制作

责任编辑:李梅#

如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台。
related article
评论