台湾人工智慧实验室发布全球首份民主国家协同操作年报

专家:境外势力操弄认知战 300万台人受影响(下)

人气 774

【大纪元2024年01月19日讯】(大纪元记者钟元台湾采访报导)台湾人工智慧实验室发布“2024年台湾总统大选期间网路讯息操作分析报告”,这是全球首份以AI技术观察民主选举资讯操弄的报告。该实验室创办人杜奕瑾指出,台湾大选遭境外势力操弄认知战,估计有300万人受影响。

境外势力干预台湾选举已是常态,且手段更加细腻、多面向。中华民国中选会1月19日公告总统、副总统当选人为赖清德、萧美琴;另外,竞逐总统、副总统的3组人马皆可获得补助金,民众党柯盈配可获得约1.1亿元(新台币,以下同)(约0.03亿美金)、民进党赖萧配约1.6亿元(约0.05亿美金)、国民党侯康配约1.4亿元(约0.04亿美金)。

接上文:专家:境外势力操弄认知战 300万台人受影响(上)

台湾的经验提供全球示警

台湾人工智慧实验室提出警示,过去民主国家以为网路的便利及科技的发展可以帮助民主与多元,但台湾的经验反而提醒大家,全球在生成式科技的进步与社交媒体方便境外操作后,对数位人权的侵害及境外操作民主情势变得更加严峻。也呼应到全球的数位人权及民主指数,反面随着科技的进步下降。

台湾人工智慧实验室观察2024年台湾大选的操作,提出十项全球民主社会需要特别警惕的事项:

观察1:生成技术已广泛用于资讯操弄,文字误导是最大战场,辟谣不再有效

杜奕瑾表示,由于事实查核已广泛被接受。主要的问题不在于假消息而是误导消息。文字的曲解叙事为大型语言模型参战后的主要战场。已观察到大量文字生成曲解不对称的宣传。虽然文字本身并非造假。但透过大量不对称的宣传影响民众喜恶的观感。

杜奕瑾以台湾缺蛋事件为例表示,利用少量的鸡蛋短缺误导民众囤蛋,快速生成新战场让官方辟谣不再有实质效果,且图像生成已经用于辅助建立大量虚假账号头像。此外,虽然在选举前已观察到大量影片生成用于抹黑中,但实际影响效果有限。

观察2:议题方向由少数几个主导协同团体掌控

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

虽然有为数众多的协同团体试图带动特定的风向与论述,里面也包含台湾公关公司,但根据台湾人工智慧实验室的观察,只要掌握到少数几个主导的协同操作群就可以控制主要的操作声量。以台湾人工智慧实验室发现的脸书(facebook)前两大协同群(#61009、#61019)为例,光626个账户创造的资讯操弄声量,在脸书上的总资讯操弄声量数就占了45.71%。

观察3:主流协同群并非来自台湾本土

杜奕瑾分析,主导操作舆论的协同团体账户群会同时以中英文操作国内外的论述,除了以中文论述攻击台湾政治人物,也以英文论述操作反美的议题,散播疑美论、抨击美国总统拜登与美国外交策略。从协同团体操弄账号使用双语且攻击各方政党等迹象来看,这些协同团体账号的控制者并非来自台湾本土,就攻击的方向与对象来说,也不属于特定政党,其目的为散播混乱。

他表示,这一类的操作手法常见于一些境外极权专制国家,目的是在民主国家传播混乱,推动“独裁比较有效率”的论述。另外可见于美国军援、台湾引进印度劳工及日本灾害救助议题上。这些协同操作账号遇到台湾友好的国家,会进一步积极抹黑攻击,试图制造舆论带出不支持合作的假象。

最后,他以社群软体上出现军官海上浮尸的假消息为例,发现台湾社交媒体有大量账号被盗现象,台湾人工智慧实验室也藉由鼓励账号被盗的使用者报案来协助调查。由此可知,背后有人系统性地在社交媒体上盗取账号,经进一步调查发现,这是透过以中国网通设备的后门漏洞做植入VPN为跳板,到社交媒体发表文章。综合以上操作,不太像是台湾内部公关公司所为,已超出国内公关组织的能力。

观察4:主流协同群与中共官媒有大量呼应

台湾人工智慧实验室以在脸书发现的前两大协同团体(#61009、#61019)为例,在2023年9月至12月期间以非自然方式放大特定论述声量,值得注意的是大量论述呼应中共官媒的说法(下图),包括“将台湾推向兵凶战危险境”“美国不顾台湾人死活”“两岸经贸架构协议(ECFA)终止影响台湾经济”等。随着台湾大选接近,与中共官媒接近的论述也逐步增加,包括持续以战争恐吓台湾,并加大攻击台湾教育与经济问题。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

观察5:主流协同群大规模影响台湾舆论

台湾人工智慧实验室表示,网路操作有很大的影响力,例如台湾总统候选人粉丝页中,大约每六则内容就会看到一则是来自协同团体,尤其现任总统的粉丝页更多,几乎每三则就有一则是来自协同团体。图中蓝色线为一般使用者,红色线为协同团体,从图表可以发现一般使用者的互动量本来并不高,但是会被协同团体的行为影响,进而也跟着风向增加互动量。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

观察6:中资社群平台上的内容有国家支持偏见

台湾人工智慧实验室也关注中资TikTok(抖音海外版)平台上的协同操作,发现监测期间的操弄言论主要在提及台湾、美国与日本时绝大多数为负面论述;相较协同团体操作群提到中共的论述时,内容则多数为正面,并且强力建立认知意象,包括“赞扬中国(中共)武器强大”及“支持中国(中共)统一台湾”等。

观察7:中国平台候选人声量如同已决定特定总统

观察平台发现,相对于其它平台的协同团体对于各政党皆有批评,不属于特定政党。TikTok 上的资讯操弄行为显示有明确的政党倾向,压倒性支持台湾特定政党民众党参选人,不只网络声量主要集中在该名候选人身上,且其论述多为正面,相较于其它两大党参选人的非自然网路声量,皆不到前述参选人的三成,且主要多为负面攻势。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

社交平台也开始影响民众社群所见,无形中挑选触及的贴文,让民众只能看到特定议题或内容。其中正向与负向也明显不成比例,这与台湾其它平台或美国社交平台相比有很大的不对称性。因此最近欧盟与美国皆在提倡人工智慧算法的中立性,其算法结果的中立性对于民主国家的影响是非常大。

观察8:主流协同群试图主导政党合作的相关言论

从平台上也观察到这一次在脸书上的两个主要协同团体(#61009、#61019)在“蓝白合”的议题上,明确地操作舆论影响某特定候选人与政党,明显且直接企图影响“蓝白合”结果,以达到此协同行为目的。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

观察9:网军大量潜入社区校友社团 适时喂食讯息

协同团体会佯装身份创建论坛或朋友圈,例如地区社团、校友会、兴趣社团等,借此大型社群连结传递讯息,拉近与民众距离,适时给予相关讯息与回应,进而影响使用者与控制议题,污染某些群体的内容,使其导向特定的方向与结果。这些协同团体也潜入分布在各个台湾新闻媒体的官方频道里。

杜奕瑾提醒,民众在使用这些社交平台或粉丝页时,需要随时保持警觉,对于那些奇怪的言论与账户,可以适时查核是否为社区真实的成员及言论真实性。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

观察10:短影音的影响成为一种趋势

杜奕瑾表示,这次台湾总统大选中,短影音占很大的影响力。以以哈冲突为例,tiktok上以哈冲突相关的短影音大量出现在各平台,用类似的内容重新创作成看似不同的影片,因此在网路上就会看到单一观点的内容,导致大众可能会对某一方会产生认知失衡。

另外,他表示,值得注意的是,早在以哈冲突爆发前几个月,这类短影音就已经在中资平台出现,虚构两国之间的冲突内容,且获得了大量的浏览次数。因此可推断背后有相关预算推动此认知操作,并通过平台作为演练,并以平台使用者协助操作与散播不实讯息。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

责任编辑:林琮文#

相关新闻
专家分析台湾未来战略为何关乎全球
台湾大选前夕 中共施放5枚空飘气球扰台
台湾投票日 中共派8军机6艘舰2气球扰台
台湾大选后 专家就新政展望与挑战分析建言
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论