新型智能语句生成器太聪明 开发者担忧遭滥用拟不发布

人气 430
标签: ,

【大纪元2019年02月24日】(大纪元记者林达编译)由非营利人工智能研究公司OpenAI建立的一种新语言模型正在酝酿一场风暴,据悉该模型能够写出极具说服力的文字,让开发者担心这一工具会被人滥用。

OpenAI表示,这种自然语言模型GPT-2被培训从40千兆互联网文本样本中猜测下一个单词是什么,这种培训的结果是:系统能够就某个话题“写出”真实连贯的文字,和前一版模型相比,新版在连贯性和一致性上获得了极大的改善。

但是,随着系统的在一些应用上展现出良好的结果,例如能够更好地对话以及更好地识别语音,该组织也发现了潜在的问题,例如这个工具可以用来生成假新闻,在网络上冒充真人,或在社交媒体上自动发出欺辱性评论。

出于这个原因,OpenAI表示,将只发布了一个缩水版的语言模型,并且表示,预计鉴于安全问题可能在未来将减少发布新的版本。当然,OpenAI对此决定并不太肯定, “相信AI社区经过深思熟虑,最终将解决某些研究领域的发布规范问题”。

这一决定激怒了社区中一些人,指责该公司欲撕毁其不封闭期研究的承诺。其他人则更加宽容,称此举树立起一个“道德标准”,在可能的滥用之前防范于未然。OpenAI的政策主管Jack Clar表示,该公司的要务是避免“恶意或滥用该技术”,又说“很难在应用和滥用之间搞好平衡”。

OpenAI资助者之一马斯克(Elon Musk)最近陷入了这一争议,在一条推文中他证实自己“没有参与该公司已超过一年”,并且,他已与OpenAI友好地分道扬镳。

OpenAI表示,发布GPT-2的决定尚未作出,并将于六个月内重新审视。与此同时,公司表示,政府“应考虑采取措施,更系统地监控人工智能技术的社会影响,并衡量此类系统在能力上的进步”。

美国情报界警告说,人工智能等领域对美国国家安全至关重要,包括量子计算和无人驾驶车辆。上个星期,川普总统签署了推动美国人工智能研究的行政命令。◇

责任编辑:朱涵儒

相关新闻
专家警告:智能设备或致儿童语言发育迟缓
智能手机能挽救濒危的澳洲土着语言
智能耳机可即时翻译不同语言 方便环球旅行
开春第一天 正隆赠爱慢飞天使
最热视频
【远见快评】六个州激战 川普都有哪些高招?
【拍案惊奇】共和党浪潮 川普曾预言国会取胜
【新闻看点】习贺拜登何意?川普联军五线反攻
【有冇搞错】数字极权主义侵袭 最后的自由之战
【珍言真语】张崑阳:痛心同伴陷囹圄 坚持抗争
【新闻大家谈】至暗时刻 重现奇迹关键密码
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论