【大纪元2023年11月29日讯】（大纪元记者陈霆综合报导）在以哈冲突中，有一些特别引人注目、沾满鲜血的弃婴照片，事实上是人工智能（AI）制作的深伪（Deepfakes）图像。战争开始以来，这些图片在网上已被浏览了数百万次。
如果仔细观察，可发现一些蛛丝马迹：照片里的手指奇怪地弯曲，或者人物的眼睛闪烁着不自然的光芒。然而，这些图片所引发的愤怒却是真实的。
以哈战争中的图片，生动且残酷地展示了AI作为宣传工具的潜力，它可创造出栩栩如生的大屠杀图像，用来欺骗民众，让他们相信从未发生过的暴行。
随着技术不断进步，且缺乏监管。专家们担心，未来的冲突、选举和其它重大事件中，AI可能更频繁的被滥用。
CREOpoint是一家总部位于旧金山和巴黎的科技公司，该公司创建了一个资料库，收录了网上热传的加沙地区深伪图像与影音。
CREOpoint的首席执行官戈登斯坦（Jean-Claude Goldenstein）说：“在好转之前，情况会变得更糟，非常糟。”
“图片、视讯和音讯：有了生成式AI，这将是前所未有的升级。”戈登斯坦说。
有时候，来自其他冲突或灾难的照片，会被AI重新利用，制作成新照片。有时候，生成式AI可以无中生有，从头创建一张图像。例如，在冲突初期，一个婴儿在轰炸残骸中哭泣的图像在网络上疯传，然而那其实是AI伪造的。
AI生成的图像，还包括一些视频，显示所谓的以色列导弹袭击，或坦克轧过被毁坏的街区，或家人在废墟中寻找幸存者等。
在许多情况下，这些伪造的视频似乎是为了唤起人们强烈的情感反应，其中包括婴儿、儿童的尸体。
非营利组织“反数字仇恨中心”（CCDH）首席执行官艾哈迈德（Imran Ahmed）说，制作这类图片的宣传者，善于抓住人们内心深处的冲动和焦虑。
图片越令人憎恶，用户就越有可能记住并分享它，从而在不知不觉中进一步传播虚假信息。
在俄乌战争中，也有一段经过篡改的视频显示乌克兰总统泽连斯基（Volodymyr Zelenskyy）命令乌克兰人投降。这则视频直到上周还在网上流传，这说明了即使是很容易被揭穿的错误信息，也能长期传播。
这让许多AI专家发出警告，明年有几个国家要举行大选，包括美国、印度、巴基斯坦、乌克兰、台湾、印度尼西亚和墨西哥等。AI和社交媒体可能被用来散布谎言。
在最近一次关于深伪技术危险的听证会上，民主党联邦众议员康诺利（Gerry Connolly）表示，美国政府应投资开发能反制其它AI的AI工具。
全球各地都有初创公司在开发新程序，以识别深伪作品。
多尔曼（David Doermann）是一名电脑科学家，曾领导美国国防部高级研究计划局（DARPA）应对AI操纵图像对国家安全造成的威胁。
多尔曼现在是布法罗大学（University at Buffalo）的教授，他说，要有效应对AI虚假信息带来的政治和社会挑战，需要更好的技术和更完善的法规、自愿性行业标准，以及对数字素养计划的广泛投资，帮助互联网用户找出分辨真假的方法。
多尔曼说：“检测和试图清除这些东西不再是解决办法。我们需要一个更大的解决方案。”
（本文参考了美联社的报导）
责任编辑：李沐恩#
