马斯克等上千人连署 吁暂停大型AI研究

人气 3113

【大纪元2023年03月29日讯】(大纪元记者陈霆综合报导)马斯克和许多人工智能(AI)专家、企业领导人都签署了一封公开信,信中呼吁所有AI实验室应立即暂停训练比GPT-4更强大的AI系统,否则可能危及社会和全人类。

这封信(链接)由非营利性的“生命未来研究所”(Future of Life Institute)发布,直至记者截稿时已有1,125人签署。

签署者之中,不乏科技界名人,例如马斯克(Elon Musk)、苹果联合创办人史蒂夫‧沃兹尼克(Steve Wozniak)、Stability AI创办人埃马德‧莫斯塔克(Emad Mostaque)、AI领域重量级科学家约书亚‧班吉欧(Yoshua Bengio)和斯图尔特‧罗素(Stuart Russell)等。

信中指出,大量研究表明,具有与人类竞争能力的AI系统,可能对社会和人类构成深远的风险,这点也得到了顶级AI实验室的承认。

在信中,专家们呼吁高级AI开发至少应暂停6个月,让AI实验室和独立专家利用这段时间共同制定、实施一套开发与设计先进AI的共享安全协议,并由独立的外部专家进行严格的监督。

信中说:“如果这种暂停(计划)不能迅速颁布,政府应介入并制定暂停令。”

信中形容,近几个月AI实验室陷入“一场失控的竞赛”,竞相开发越来越强大的数字头脑,然而,即使是AI的创造者,也没有人能理解、预测或可靠地控制。

“只有当我们确信它们的影响是积极的且它们的风险是可控的时候,才能开发强大的AI系统。”信中写道。

专家们强调:“人工智能的研究和开发应重新聚焦于使今天强大的、先进的系统更加准确、安全、可解释、透明、健全、一致、可信和忠诚。”

信中还呼吁开发者应与政策制定者合作,加强对AI的治理和监管,设立公共资金,并建立资源充足的机构,应对AI可能对经济与民主的破坏。

虽然特斯拉也将AI用于自动驾驶系统,但马斯克一向直言不讳地表达他对AI的担忧。

马斯克曾是OpenAI的联合创办人,但他对OpenAI的现况并不满意,并在2月发推文:“创建时OpenAI是一间开源非营利性公司(这就是为何我把它命名为OpenAI),以作为对Google的制衡,但现在它已成为一个闭源盈利性公司,实际上由微软控制。”

“这完全不是我的初衷。”马斯克当时写道。

作为签署公开信的学者之一,纽约大学名誉教授马库斯(Gary Marcus)对路透社说:“这封信并不完美,但其精神是正确的:我们需要放慢脚步,直到我们更了解这么做的后果。”

“它们可能会造成严重的伤害⋯⋯大公司对他们在做的事情,变得越来越神秘,这使得社会很难抵御任何可能出现的伤害。”

责任编辑:叶紫微#

相关新闻
日本改造轻型航母搭载F-35B 为何令中共不安
【新闻五人行】伊以冲突 中共怕了 曝4大顾忌
【时事金扫描】以色列轰伊朗 亚洲油价金价飙涨
消息:布林肯访华 将向北京发出最明确警告
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论