AI诈骗 深伪换脸冒充亲友 视像通话骗取百万元

人气 4763

【大纪元2023年11月07日讯】(大纪元记者张瑛瑜香港报导)香港警方8月瓦解一个犯罪集团,不法分子瞒过金融机构的人脸办析系统,利用人工智能换脸程式冒认已报失身份证的市民,成功骗取7万元港币贷款。在科技发展下,利用AI影像和声音的深度伪造(Deepfake)技术行骗变得愈来愈容易,不法分子假冒“亲友”进行电话诈骗也越来越猖獗。

(听更多请至“听纪元”平台)
如日本设计师Hirokazu Yokohara的作品是通过生成式AI 模型“Stable Diffusion”生成的(▶点击这里看视频),40岁大叔的容貌经AI运算,变成美少女易如反掌,难以找到破绽。

除了可以轻易将人改头换面之外,骗徒更可利用相关技术模仿任何人的样貌、声音行骗。

不少香港市民近期接连收到陌生人打来的Whatsapp的视像通话(Video call)邀请,综合网民反映,电话号码字头显示这些电话来自中国大陆、美国、英国、印尼等地,不过大部分人都不敢接听。有意见分析,一旦接通,骗徒便会取得用户的容貌和声音,可以透过上述的AI技术,合成受害人的影像,再用以诈骗其他联络人。

应用深度伪造技术的门槛不断降低,图片、影片移花接木的仿真度愈来愈高,网上随处可见相关的软件、手机应用程式等,犯罪成本因此大大减低。以下列出近期在大陆发生的数宗案例。

盗取影片中肖像假冒朋友 以视像通话诈骗钱财

浙江温州市公安局5月称,陈先生收到身处国外的好友“阿诚”发来的私信,在添加对方的微信后,对方表示自己最近准备回国,不过购买机票时遇到困难,已经付出8,000元(人民币,下同)订金,但受到国际漫游限制,联络不上国内航空公司的经理,希望将剩余的钱转给陈先生,请他帮忙联络经理付款。

陈先生觉得此人的身份可疑,但对方随后又打来视像电话,“阿诚”跟陈先生挥手打招呼,显得亲切,但没多久,对方称国外网路很不畅顺就挂断电话了。陈先生打消了心中的顾虑,并在“阿诚”的指导下加了“航空公司经理”的微信,为“阿诚”支付4.9万元。经过当地警方核实,骗徒用AI换脸技术,利用阿诚社交平台上先前发布的影片,截取脸部图像并“换脸”,从而诈骗陈先生。

今年5月8日,内蒙古包头市公安局公布,福建省福州市一间科技公司法人代表郭先生4月20日收到微信“好友”的视频通话称,他的朋友在外地投标,需要保证金及公司对公司账户过帐,想要借用郭先生公司的账户过帐。

对方取得郭的银行卡号后,声称已转账到郭的账户,并发出银行转账截图;但郭之前曾与“好友”视频聊天,因此未核实是否到账,就陆续转430万元给对方,后来才发现在短短10分钟间就被骗了。

4月27日,安徽安庆的何先生遭遇同类事件。他的微信“好友”突然来了视像通话,何先生见到对方正在一间会议室内,正当准备进一步询问时,“好友”挂断电话,并表示在会议中有重要事情交代,需要加何先生的QQ沟通。

何先生当时因为对方“打了视像电话又是熟人”,没多想就转账245万到对方指定的账户上,事后拨打对方电话才得知被骗。

当地警方后来追踪账户,拘捕3名疑犯,扣押涉案手机26部,但只追回一百余万元。

另外,江苏常州警方亦发布过类似案例,小刘的中学同学“小韩”透过QQ联络小刘,先发来一条语音称想借6,000元,声音很像小韩本人。后来“小韩”又同小刘视像通话。

汇款后,小刘愈想愈不对劲,认为视像通话中的“小韩”表情僵硬,于是打电话给小韩,结果小韩的QQ账号被盗了。

中港诈骗手法雷同

香港警方也曾经公布,今年3月,一名25岁男子在交友平台被诱裸聊,并下载对方指定的手机直播App展开对话。该男子之后发现其肖像被移花接木到色情影片,对方要求他购买一万元(港币)点数卡,所幸他力保不失并向警方报案。

扮俄国士兵卖货 30万网民追随

另一方面,有人窥准商机,在“换脸”后于网上推销货品。

今年最知名的案例,莫过于一个说普通话、网名为“保尔‧柯察铁”的男子,在抖音上骗到了不少“小粉红”与俄粉。影片中的男子光头并留有络腮胡,用普通话称,自己是一名在乌克兰前线作战的车臣特种部队的士兵,又在核电站前取景,称自己在乌克兰哈尔科夫的核电站,后来被揭露那是河南洛阳的一家发电厂。网友发现,他的IP地址在中国河南,并非他所称的乌克兰前线。

(视频截图)
(视频截图)

影片中的“保尔‧柯察铁”带有河南口音,其IP位址显示为中国河南,破绽处处,但他仍然在两个月左右就吸引三十多万粉丝。他并在自己的网店卖俄罗斯的伏特加酒、蜂蜜、奶粉等货品。他最终被发现假冒身份,遭到抖音封锁。

“保尔‧柯察铁”在自己的网店卖俄罗斯的伏特加酒、蜂蜜、奶粉等货品。(网上图片)

骗徒盗用知名艺人的肖像直播带货

有骗徒更加肆无忌惮,盗用包括杨幂、刘亦菲、迪丽热巴、Angelababy等知名艺人的肖像,用AI实时换脸技术在大陆各大直播间带货。

据提供“换脸软件”的网站介绍,使用者自己从零开始训练模型,如果24小时挂机不停地训练模型,经过半个月到一个月的时间,就能达到合成影片的效果。◇

责任编辑:陈玟绮#

相关新闻
生成式AI成熟 Gogolook:加速新型诈骗萌芽
9秒骗到245万 大陆AI换脸诈骗案频发
警惕新诈骗术! AI模拟家人声音求救
鹰眼识诈降九成 全台32家银行4,300个据点落地
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论