【大纪元2023年12月05日讯】(大纪元记者陈霆综合报导)在以哈冲突爆发以后,TikTok上充斥着许多罹难者的深伪(Deepfake)视频,一些视频更获得了高达数百万的浏览,以及数千条评论。
想使用现成的人工智能(AI)编辑工具创造深伪视频,只要利用一张死者的照片,加上几分钟的操作,就能制作出一个会说话、会移动的虚拟图像。
AI研究人员称这些视频为“数字复活”(digital resurrections)。
最近,TikTok上出现了数十个以罹难者为主角,用各种语言描绘悲剧受害过程的深伪视频。这些视频的目的,似乎是博取同情和病毒式传播。然而,其创作者往往是匿名的,不确定其真实的目的。
彭博社指出,发布这些视频的用户,遵循着类似的模式。每当新闻报导了一个悲惨的死亡事件,在几天甚至几小时内,就有用户发布这个受害者的深伪图像,并常以当事人的视角,讲述他们是如何去世的。
许多“数字复活”的视频成功通过了TikTok内容审核机器,并在该平台上疯传。彭博社称,直到记者去信询问后,TikTok才删除了这些视频。
这些视频的主角包括死去的儿童、普通公民和名人等。然而,在彭博社浏览过的帖子里,没有一则有证据表明,发布者事先取得了肖像授权。
10月7日,23岁德裔以色列女子莎妮‧卢克(Shani Louk)在诺瓦音乐节上被哈马斯绑架,随后遭到斩首。然而,她的深伪视频在删除前,被浏览了超过700万次。
彭博社称,这些视频中仍有几十个在网络上,没有被TikTok的内容审核系统删除。这些视频,能扩大发布者的关注人数,而TikTok则受益于人们在网路上对这些影片的参与度。
生成式AI研究员亨利‧阿吉德(Henry Ajder)说,这些视频在快速滚动中,与其它主题较轻松的TikTok内容一起出现,让用户在没有任何上下文或解释的情况下,接触到这些不真实的视频。
“可怕”或“令人不安”的内容,是不被平台允许的。但这些视频运用了已故儿童图像,讨论著虐待和谋杀的细节,却通过了平台的审核,这引发了道德与伦理的争议。
目前,有超过10亿人在使用TikTok。许多用户会在该平台上,寻找或观看有关新闻时事的视频。以哈战争相关的标签已积累了数十亿的浏览量。然而,许多人批评TikTok已成为用户发布未经核实的叙述和错误信息的场所。
新闻事件爆发的当下,相关信息的浏览量迅速攀升,任何人都可参与病毒式传播。这一因素加上廉价AI技术的普及,使得TikTok充斥着深伪图像。
社交平台的核心设置是,提高有大量参与度帖子的曝光率。因此,当人们对TikTok上的视频和照片点赞、评论、转发或回复时,这些内容往往会被推送给更多人。
目前,国会开始讨论保护名人和艺术家的立法措施,但目前的讨论中,大多还未涉及对公民个人的保护。
责任编辑:李琳#