站内搜索:
张文宏带货卖蛋白棒?你看到的是AI假人
日期:[2025-01-13]  版次:[A07]   版名:[新快观察]   字体:【
图片来源:由AI生成

网上曾出现“张文宏”带货的假视频。 网络截图

老年人在学习防诈骗知识。 受访者供图

■多位老年人在广州市浪花智慧助老服务中心学习防诈骗知识。 受访者供图

不法分子利用AI技术精准诈骗,记者走访探寻防诈骗良策

据中国互联网络信息中心(CNNIC)去年8月发布的《中国互联网络发展状况统计报告》显示,在2024年上半年新增的742万名网民中,60岁及以上群体占比达20.8%。越来越多警惕性弱、对新技术不了解的老年人使用智能手机,引起了不法分子的“兴趣”。

近日,AI合成的假人、假视频多次出现,冒充名医、名人甚至长者的家人,对其进行精准诈骗。比如,网上就曾出现假冒名医张文宏带货卖蛋白棒的视频。老年人如何防范AI诈骗?新快报记者近日进行了走访,探寻老年人防诈骗良策。

■新快报记者 高京 麦婉诗

AI假信息“像漫天蝗虫一样害人”

近日,有网友报料称家中老人在观看网络卖货视频时,看到了知名度极高的张文宏医生。“张文宏”在视频中推销一种名为“白芸豆威化蛋白棒”的产品,很多老人不仅转发了该视频,还纷纷下单购买。

事实上,这是一个AI制作的视频,视频中使用张文宏的样貌和声音,从而达到以假乱真的效果。

张文宏在接受媒体采访时表示:“这样的卖货账号有很多个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓,特别是有些对AI不是很熟悉的、年纪较大的市民,很容易相信。卖货的账号一直在换,我最后也没有精力(去管)了。这些假的AI合成信息一次又一次发生,像漫天飞过来的蝗虫一样害人。”

张文宏称,曾考虑过报警,但对方看不见摸不到,就像幽灵一般难以描述,只能寄希望于相关部门加强监管。

AI假人模仿明星、熟人“收割”老年人

新快报记者梳理发现,除了张文宏之外,雷军、靳东等名人的样貌和声音均曾被AI仿冒。很多老年人对相关视频信以为真,随即向相关账号转账或购买相关产品。不法分子正是利用老年人警惕性弱、对新技术不了解,精准对其进行“收割”。

有媒体报道称,江西一位老人去银行开卡,希望贷款200万元,给自己的男朋友“靳东”拍戏用。她还称“靳东”向她表白,她要去帮助男朋友。直到民警赶来向老人展示一系列AI合成方式,老人才幡然醒悟,放弃了开卡贷款的念头。

去年12月15日,“微信珊瑚安全”微信公众号发文称,从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为,目前,累计处置内容532条,关闭账号209个。根据其公布的案例显示,4个参与仿冒知名人士进行营销宣传的账号已被永久封禁。

除了模仿名人之外,不法分子还利用老年人在网上曾发布的照片、视频,通过个人信息、社交关系、消费习惯,定制套餐和组合拳对老年人进行精准诈骗,甚至模拟老年人的子女与其进行视频通话,要求转账汇款。

也就是说,如果一位老人听到一个“声音很熟的电话”或者一段“熟人的视频”,都可能是犯罪分子的精心诈骗。

此前,东莞的马先生在刷视频时,收到一条自称为其“表哥”的消息,请求添加好友。添加成功后不久,“表哥”就打来视频电话,称自己目前在非洲务工,网络信号不稳定,急需与公司签订合同,希望马先生能帮忙垫付合同资金。基于对亲戚的信任,并且“核实”了视频,马先生分三次转账15000元至对方指定账户。事后,马先生给表哥发微信核实,才发现视频连线的“表哥”是骗子利用AI换脸技术伪装的冒牌货。

社会组织积极应对 教老人防诈

为了帮助老年人防诈骗,广州市的一些社会组织开展了相关活动。

广州市黄埔区平安促进会会长李桂泉从事志愿服务十多年。据他介绍,目前该促进会正在开展“靠‘埔’反诈哨兵 守护社区幸福”关爱老年人项目。该项目通过举办讲座、制作宣传资料、开展社区宣传活动等方式,帮助老年人了解各类常见诈骗手段和防范措施,培养他们提高防骗意识和应对能力。

“通过广大志愿者特别是初老志愿者走街串巷不断进行宣传,老年人才容易接受反诈知识。特别是最新的AI视频骗术,需要大家多加小心。”李桂泉说,该项目的特点是“以老助老”,通过中年及初老志愿者(50岁至65岁)对中老(66岁至80岁)、老老(80岁以上)进行防诈骗宣传,容易引起共鸣,效果较好。

广州市浪花智慧助老服务中心同样是防诈骗公益服务的社会组织。该中心秘书长陈子贤介绍,该中心主要通过开展防诈骗教学课堂和讲座,为长者传授防诈骗知识。该中心还通过线下问答比赛的形式,让长者与好友面对面“PK”防诈骗知识,寓教于乐。“身边有老年人接触过AI生成的短视频,比如仿冒某名人传播养生和保健知识,虽然他们更多只是观看,我们也会提醒他们提高警惕。”陈子贤说。

■律师支招

●不轻易提供人脸指纹等生物信息

●身份证银行卡照片不要存在手机

据中国互联网络信息中心(CNNIC)2024年8月发布的第54次《中国互联网络发展状况统计报告》显示,截至2024年6月,我国网民规模达10.9967亿人,其中60岁以上的网民数量占比14.3%;在2024年上半年新增的742万网民中,60岁及以上群体占比高达20.8%。

这份报告同时显示,2024年上半年随着支付便利性系列举措的深入实施,移动支付便利化程度不断提升。老年群体移动支付服务不断完善。移动支付产业各方积极推进适老化升级,通过简化流程、增加语言播报等方式提升老年群体移动支付服务体验,推动老年群体移动支付普及。截至2024年6月,我国60岁及以上网民网络支付的使用率已达75.4%。

随着越来越多老年群体“触网”,以及支付便捷性提升,不法分子发现了“商机”。如何让老年人安全“触网”?北京浩天(广州)律师事务所合伙人张万隆表示,去年9月国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》,对AI造假进行了约束。他建议,老年人防范AI视频诈骗,首先要保护好个人信息,不要轻易提供人脸、指纹等生物信息,尽量少在社交平台发布正面照片和视频。

同样,老年人不要把身份证、银行卡的照片存在手机里,不要在社交软件上提及年龄、工作、个人所在地等信息,不常用的APP要及时卸载、注销。如果遭遇AI诈骗,首先要保持冷静,不要被诈骗者的话语或情绪所左右,而如果已经涉及交易,应立即停止,并尽快与相关机构或公司联系,查证信息真伪。同时,收集与诈骗活动有关的物证、书证、电子数据等,如转账记录、聊天记录等,这些证据对于后续的调查和追诉至关重要。如有需要,要及时向公安机关报案。平时,老年人应提高风险意识与防范能力,最大程度保护自身权益。

■教你一招

如何识别AI假人?

●观察假人牙齿、眼睛细节

如果牙齿边缘过于整齐,瞳孔颜色不一样、反射光源不一致,则要充分警惕,很可能是假人。另外,正常人每2秒至10秒眨眼一次,每次眨眼用时0.1秒至0.4秒,假人眨眼频率用时可能更长。另外假人眼睛移动也不协调,面部表情极不自然。

●假人视频通话不流畅

伪造的视频可能有视频抖动现象,会出现跳跃、闪烁的画面,从而造成假人唇形不匹配,语句不连贯。

分享到:
  以上内容版权均属广东新快报社所有(注明其他来源的内容除外),任何媒体、网站或个人未经本报协议授权不得转载、链接、转贴或以其他方式复制发布/发表。