大量加沙“深伪”影像热传 专家忧AI被滥用

人气 586

【大纪元2023年11月29日讯】(大纪元记者陈霆综合报导)在以哈冲突中,有一些特别引人注目、沾满鲜血的弃婴照片,事实上是人工智能(AI)制作的深伪(Deepfakes)图像。战争开始以来,这些图片在网上已被浏览了数百万次。

如果仔细观察,可发现一些蛛丝马迹:照片里的手指奇怪地弯曲,或者人物的眼睛闪烁着不自然的光芒。然而,这些图片所引发的愤怒却是真实的。

以哈战争中的图片,生动且残酷地展示了AI作为宣传工具的潜力,它可创造出栩栩如生的大屠杀图像,用来欺骗民众,让他们相信从未发生过的暴行。

随着技术不断进步,且缺乏监管。专家们担心,未来的冲突、选举和其它重大事件中,AI可能更频繁的被滥用。

CREOpoint是一家总部位于旧金山和巴黎的科技公司,该公司创建了一个资料库,收录了网上热传的加沙地区深伪图像与影音。

CREOpoint的首席执行官戈登斯坦(Jean-Claude Goldenstein)说:“在好转之前,情况会变得更糟,非常糟。”

“图片、视讯和音讯:有了生成式AI,这将是前所未有的升级。”戈登斯坦说。

有时候,来自其他冲突或灾难的照片,会被AI重新利用,制作成新照片。有时候,生成式AI可以无中生有,从头创建一张图像。例如,在冲突初期,一个婴儿在轰炸残骸中哭泣的图像在网络上疯传,然而那其实是AI伪造的。

AI生成的图像,还包括一些视频,显示所谓的以色列导弹袭击,或坦克轧过被毁坏的街区,或家人在废墟中寻找幸存者等。

在许多情况下,这些伪造的视频似乎是为了唤起人们强烈的情感反应,其中包括婴儿、儿童的尸体。

非营利组织“反数字仇恨中心”(CCDH)首席执行官艾哈迈德(Imran Ahmed)说,制作这类图片的宣传者,善于抓住人们内心深处的冲动和焦虑。

图片越令人憎恶,用户就越有可能记住并分享它,从而在不知不觉中进一步传播虚假信息。

在俄乌战争中,也有一段经过篡改的视频显示乌克兰总统泽连斯基(Volodymyr Zelenskyy)命令乌克兰人投降。这则视频直到上周还在网上流传,这说明了即使是很容易被揭穿的错误信息,也能长期传播。

这让许多AI专家发出警告,明年有几个国家要举行大选,包括美国、印度、巴基斯坦、乌克兰、台湾、印度尼西亚和墨西哥等。AI和社交媒体可能被用来散布谎言。

在最近一次关于深伪技术危险的听证会上,民主党联邦众议员康诺利(Gerry Connolly)表示,美国政府应投资开发能反制其它AI的AI工具。

全球各地都有初创公司在开发新程序,以识别深伪作品。

多尔曼(David Doermann)是一名电脑科学家,曾领导美国国防部高级研究计划局(DARPA)应对AI操纵图像对国家安全造成的威胁。

多尔曼现在是布法罗大学(University at Buffalo)的教授,他说,要有效应对AI虚假信息带来的政治和社会挑战,需要更好的技术和更完善的法规、自愿性行业标准,以及对数字素养计划的广泛投资,帮助互联网用户找出分辨真假的方法。

多尔曼说:“检测和试图清除这些东西不再是解决办法。我们需要一个更大的解决方案。”

(本文参考了美联社的报导)

责任编辑:李沐恩#

相关新闻
【新闻大家谈】乌军弃城换帅 俄乌战最大变数
中国资金枯竭 柬埔寨多座机场项目恐烂尾
【全球新闻】日本警方突袭中共驻东京警察基地
【晚间新闻】赵安吉被曝死在自家牧场
纪元商城
Apple AirPods Pro无线耳机 USB-C充电 2倍主动降噪
这种杯子为何如此火爆 加州女子偷65个被捕
每日更新:112粒Tide三合一洗衣球 有3大功效
这些亚马逊好物 让你生活品质大提升
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论