site logo: www.epochtimes.com

AI代理人爆红 藏资安、国安双重危机

近期科技圈兴起以“养龙虾”比喻部署代理式AI(AI Agent)的迅速发展。图为OpenClaw。(宋碧龙/大纪元)
人气: 513
【字号】    
   标签: tags: , , , , , ,

【大纪元2026年04月03日讯】(大纪元记者张原彰台湾台北报导)随着AI代理人技术崛起,开源软体“OpenClaw”因能自主执行任务而在开源代码平台GitHub迅速窜红,单周涌入近200万访客,但也因其“超权限”运作模式而传出多起资安与财务灾情,更令人忧心的是,这类技术恐成为中共对台发动自动化资讯战的新工具,专家建议,用户应建立限缩权限与财务隔离的基本认知,同时政府应主动出击,在法规与操作指引上尽速补位,以应对潜在的资安与国安风险。

OpenClaw不只是“聊天”的机器人,还作为AI代理人,替用户在电脑系统中直接“执行任务”,但近期灾情不断,据媒体报导,深圳一名程式设计人员在安装OpenClaw后,因未对该程式设限,导致收到高达人民币1.2万元的Token(AI货币)使用账单;另外,有一个OpenClaw所提的专案遭到人类开发者拒绝后,竟自行调查该人的背景,发表抹黑文章进行人格攻击。

在中国,不少使用者反映程式“请神容易送神难”,发生无法彻底删除的情况,甚至催生出专业“代客卸载”服务,反映出技术失控引发的现状。

未限缩AI权限 恐酿意外

“它虽然方便,但只要疏忽,就可能做很多不该做的事。”国立阳明交通大学教授、前科技部政务次长林一平接受《大纪元》采访时警告,特别是当AI与财务功能连结时,后果尤为严重。

他说,这类程式能与多种大型语言模型(LLM)互动,当大量档案累积在一起,加上任务的堆叠,看似无害的动作可能出现连锁反应,特别是它又可以自主操作电脑系统,可能产生预期之外的结果。

林一平举例,若透过AI搜集社群资料,它可能吸收不当留言,进而发表错误言论;而对中国用户而言,他们的“龙虾”可能从墙外带回许多被封锁的资讯。

建议用户避免连结财务、个资

他坦言,这样的AI趋势很难挡,AI用户只会越来越多,“使用者必须增加更多的操作认知”,特别是要“隔离使用”,避免跟支付与财务类的程式连动,“避免因为AI出错而花了大笔金钱”。

再来,林一平说,跟个资有关的资料要避免被AI“触碰”,否则一旦私密讯息被发送到社群平台,后果可能难以挽回,“这样的程式要尽量限缩权限,在合理的范围运作,不然惊喜可能变成惊吓”。

学者吁提指引 强化风险意识

成功大学社会科学政治学系助理教授王祎梵接受《大纪元》采访时表示,OpenClaw类似“AI管家”,能整合许多电脑上的工作,使用者则变成类似监督者的角色。

王祎梵说,有一部分人还没准备好拥抱这项科技,政府在立法上也还跟不上发展的脚步。他建议,为避免出现失控的状况,仍可以提出官方版本的操作指引,增加民众对这类程式的认知,例如说明哪些权限不能交给AI,也加强对资安的防范意识,同时避免被诈骗,或是资料被商业平台取用等问题。

林一平坦言,AI的发展速度太快,“有时候像是道高一尺魔高一丈,政府只能努力跟上脚步,尽可能的处理衍生出的问题。”

针对AI的发展是否冲击就业,王祎梵认为,目前AI产制的文章、图片与影像仍存在瑕疵,反而因此出现许多工作机会,像是协助调整AI产品的人员;不过,重复性较高的低技术门槛工作,确实有被取代的可能,这牵涉产业转型与育才等议题。

AI驱动的自动化资讯战

台湾民主实验室日前分析发现,中共已开发出一套AI驱动的境外资讯操弄与干预(FIMI)系统,能自动侦测区域政治趋势、锁定目标受众,生成客制化内容,再透过成千上万极度逼真的假账号“全自动”发布假讯息攻击。

王祎梵说,政府直接介入管理的难度高,但仍可以跟社群平台业者合作,针对AI生成讯息设置“警示灯号”或标示,强制要求平台提供识别资讯,协助使用者在接收讯息时能有更多的反思与查证。

当人们正将电脑控制权交给OpenClaw等AI代理人时,中共恐已把此技术转化为自动化资讯战武器,政府与全民若不提前防范,这场技术演进可能从个人的资安威胁,进一步升级为国家安全危机。◇

责任编辑:陈玟绮

评论