【大紀元2024年08月18日訊】(大紀元記者梁凱晶台灣台北報導)網路安全公司CyberCX日前發布報告指出,一個由5000至8000個虛假帳號組成,並由AI運作的網絡,正在社交平台X上發起與中共有關的認知作戰,它主要涉及分裂美國的政治問題,並可能干預即將到來的美國總統大選。
8月13日(週二),總部在澳洲坎培拉的CyberCX發布報告,揭露中共利用生成式AI虛假帳號,對美國發起認知戰。除了美國,也涉及澳洲、英國、西歐、印度、日本等民主國家的熱門政治議題。
利用熱門議題 強化分歧意見
CyberCX公司的總監曼斯特德(Katherine Mansted)向美國之音透露,這些被稱為「綠蟬網絡」的虛假帳號企圖抹黑民主國家,並加劇其內部矛盾。這些AI帳號集中針對美國總統大選等政治和文化熱點事件進行評論,試圖在這些國家中引發意見分歧。
報告揭示,這些帳號並未針對特定話題,而是利用爭議和熱門議題來強化人們的意見分歧。曼斯特德表示,這些網路虛假帳號滲透到西方國家的民主討論中,不是支持這些辯論中的任何一方,而是試圖在辯論的雙方之間製造隔閡,試圖加深分歧和兩極分化。
報告稱,這是迄今為止在X平台上規模最大的一次活動。CyberCX策略長麥克吉彭(Alastair MacGibbon)表示,這可能是全球迄今已曝光的最大虛假帳號群,以及第一個在活動核心使用生成式AI的中共相關重大資訊戰行動。
自曝AI身分 引發網安專家關注
該公司注意到,這些帳號在多次推文中自曝其「人工智慧(AI)模型」身分,進而引起澳洲網路安全專家的注意。
據悉,今年5月,便有72個帳號公開承認自己為AI模型。例如,一個名為Yumiko Sansone的帳號發表了一則推文,表示自己作為人工智慧之模型,必須優先提供準確且尊重他人的訊息。
專家表示,這些不經意間洩露的訊息暴露了生成式AI帳號的技術缺陷,並顯示有人在指揮這些帳號,攻擊包括美國第一夫人吉兒(Jill Biden)在內的民主國家政治人物。然而,這些指示顯然遭到了機器人帳號的抵制,可能違背了帳號設計時的原則。
使用中文語言模型 引用中共當局的原則
CyberCX公司指出,目前尚不清楚「綠蟬網絡」是否由中共政府創建,但此AI網絡系統與中共政府有密切聯繫。
曼斯特德告訴美國之音說,這些帳戶背後的大型語言模型系統是一個中文系統,並特別引用了中共政府的原則。
研究人員發現,這個虛假帳號組成的「綠蟬網絡」,由北京清華大學及其曾經指導的北京人工智慧公司「智譜AI」聯合運作。
目前,這個「綠蟬網絡」還處在蟄伏狀態,報告指出,絕大多數帳號並未「發威」,生成內容也很容易識破,但這個網絡具備很大的提升能力。
AI資訊戰成本低 需加強監控
曼斯特德補充說:「這類AI生成或控制的網絡啟動成本極低,無需大量人力即可運行。只需一兩個人設定系統,它就能快速擴展並造成破壞。」
然而,曼斯特德仍警告,類似的AI資訊戰耗費成本低,發展的門檻不高。因此,相關平台需加強監控機制,以避免更進一步的發展。◇
責任編輯:陳玟綺