site logo: www.epochtimes.com

加国诺奖得主警告:AI发展或危及人类生存

2023年6月28日,多伦多大学教授杰弗里‧辛顿在多伦多Enercare展览中心举行的碰撞技术大会上发言。(Geoff Robins/AFP/ Getty Images)
2023年6月28日,多伦多大学教授杰弗里‧辛顿在多伦多Enercare展览中心举行的碰撞技术大会上发言。(Geoff Robins/AFP/ Getty Images)
人气: 360
【字号】    
   标签: tags: , ,

【大纪元2024年10月16日讯】(大纪元记者王兰多伦多报导)被称为“人工智能教父”的加国诺贝尔奖获得者杰弗里‧辛顿(Geoffrey Hinton)近日接受媒体采访时警告,如果不对如何控制人工智能进行深入研究,人工智能技术可能会不断发展并“让我们人类变得无关紧要”。

多伦多大学的英加双重国籍教授辛顿与普林斯顿大学的约翰‧霍普菲尔德(John Hopfield)本月初共同获得诺贝尔物理学奖,表彰他们在机器学习和人工神经网络领域的开创性工作。

辛顿周一(10月14日)接受了Global News的采访,他警告说,人工智能的快速发展可能会危及人类的生存。

他最担心的是长远的危险,因为人们往往认为这些问题只是科幻小说中的情节。

他说:“最严重的长期危险是,一旦这些人工智能变得比我们人类更聪明,它们就会掌控一切并使我们人类变得无关紧要。这是非常令人担忧的,目前没有人知道如何确切地防止这种情况发生,因此我们现在需要进行大量研究。”

诺贝尔委员会成员表示,辛顿和霍普菲尔德因利用物理“设计出可充当联想记忆并在大型数据集中寻找模式的人工神经网络”而获得该奖项。

辛顿的研究发现已被应用于面部识别和语言翻译等领域。

辛顿还提到,他离开谷歌是为了能够更加公开地讨论人工智能的潜在危险。他特别强调,医疗保健是一个可以从人工智能中获得巨大帮助的关键领域​。

无法预测人工智能发展

辛顿说,即使对于那些引领人工智能发展的人来说,未来十年技术的发展方向也是无法预测的。

“我认为你无法看清十年后的情况,事情发展得太快了,就像雾中迷雾,你可以清楚地看到一定距离,然后墙倒了,之后你就什么也看不见了。”

他表示,回顾过去十年就会发现人工智能技术发展的速度有多快。

辛顿解释说,过去十年人工智能和技术的快速发展超出了所有人的预期,并以ChatGPT或谷歌的Gemini等大型语言模型作为例子。

他说,尽管这项技术仍然存在一些缺陷和不准确性问题,但它通常可以写出完整且引人注目的句子,这是该行业10年前无法预测的。

辛顿说:“这些大型语言模型及其正确处理自然语言的能力,比我们10年前预测的要好得多。

“没人想到我们会拥有能够回答你提出的任何问题的语言模型,而且在各个方面都可能是不怎么好的专家——这太神奇了。十年前,人们会非常自信地预测我们做不到这一点。”

责任编辑:严枫#

评论