“AI换脸”真假难辨,如何防范新型诈骗?
![](/skin/2018/images/text-message.png)
随着人工智能技术的AI换脸进步,一些不法分子开始利用AI技术融合他人面孔和声音,真假制造非常逼真的难辨合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。何防那么,范新我们应该如何识别和防范新型诈骗?
有人偷了你的型诈脸!当AI诈骗遇上虚拟数字人“天妤”。AI换脸视频来源:最高人民检察院公号
警惕“AI换脸”新型诈骗
记者调查发现,真假最近多地出现的难辨AI换脸诈骗案件,均具备定制性、何防迷惑性等特征。范新
其中,型诈香港警方近期披露一起涉案金额高达2亿港元的AI换脸多人AI换脸诈骗案尤为典型。据媒体报道,真假某公司职员受邀参加公司“多人视频会议”时,难辨先后将2亿港元分别转账到5个本地银行账户内。据警方调查,这场视频会议中除了受害者外,其余均为AI换脸后的诈骗人员。
不少业内专家表示,随着文生视频大模型Sora等多模态人工智能的探索和出现,人们可能陷入“眼见也不一定为实”的困局。“一直以来,银行等部门将实时视频用做检验身份的手段之一,如今其可靠性将面临巨大挑战。”中国行政法学研究会常务理事、华东政法大学教授沈福俊说,“随着人工智能技术的迭代升级,这类违法行为还可能演变出更多形态。”
沈福俊坦言,对此类AI换脸和AI拟声的恶性诈骗案件,若只依靠传统监管手段已不能防堵,监管部门在提升自我科技能力储备的同时,有必要引入新兴技术,探索用AI技术监管AI的可能。
Sora可根据文本内容生成逼真视频。图片来源:Sora/OpenAI
“AI换脸”的技术原理是什么
中国网络空间安全协会人工智能安全治理专委会专家薛智慧介绍,“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。
首先通过视频的采集,追踪定位图片里人的面部;第二步,做一个面部特征点的采集和提取,主要包括嘴、鼻子跟眼睛的特征;第三步就是把这张原始的照片,做一个变换跟融合。
其背后最核心的包括为三个部分,首先,利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次,将这些特征与目标人脸图像进行匹配、替换、融合。最后,通过背景环境渲染并添加合成后的声音,生成逼真度较高的虚假“换脸”视频。
如何识别和防范新型诈骗
遇到这种类型的诈骗,普通人该怎么识别和防范呢?四川网警的网络安全专家张警官在线支招:一提高反诈意识;二是涉及资金往来应多途径核对,在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作,观察视频有没有穿模或异常变形,以此来识别是否为AI伪造的视频;三是通过电话、微信等多渠道多方式确认;四是在转账时,可以将到账时间设定为2小时到账或者24小时到账,以预留处理时间。
掐脸、捏鼻子这一招引起了大家的热议。“超级头脑”创始人张泽伟说:“随着技术的发展,它的这些漏洞都会被修复掉。对AI的训练日趋成熟后,可能掐脸、捏鼻子AI也会做了,建议变成捏成“猪鼻子”等一些AI不易做到的动作。或者制定一些只有属于家人才知道的暗号,这是最保险的。”
张警官尤其谈到,要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术,前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全,使用正规软件,防止自己的聊天信息、身份信息泄露,同时我们要尽可能减少社交媒体上自己的照片和声音曝光。张警官还向大家再次推荐:一定要下载国家反诈中心app,那里面有非常多的案例供大家借鉴。
相关文章
- 恒大汽车公告称,本公司得悉其执行董事刘永灼先生因涉嫌违法犯罪,已被依法刑事拘留。本公司已向联交所申请由2024年1月8日下午1时起恢复买卖股份。恒大汽车公告截图2024-06-29
全球暖化正在毀滅葡萄:從栽種到裝瓶,葡萄酒產業其實還能更「永續」
2019年8月底,我在從台灣飛回英國的飛機上,看了李奧納多・狄卡皮歐製作並擔綱旁白的電影《燃冰之急Ice on Fire)》。這是一部關於全球暖化的紀錄片,影片一開始就完全吸引了我的注意力。片中引用許2024-06-29《說真話不得罪人的方法》:將「怒、怒、怒」改成「笑、怒、笑」的「三明治生氣法」
文:野野村友紀子三明治生氣法,先笑、再怒、最後笑有的時候,確實會很想發脾氣,但又怕對方一時惱羞成怒。這可能也是很少在外發脾氣,或是會刻意避免自己動怒的人,內心最大的隱憂吧。如果說話方式像用小火煮開水那2024-06-29從《巫師與先知》看台灣環保先驅林俊義(下):「反核是為了反獨裁」成為台灣生態政治學的重要論述
文:林益仁台北醫學大學人文創新與社會實踐研究中心主任)從《巫師與先知》看台灣環保先驅林俊義上):「我就是要給你們挫折!」林老師對我的科學啟蒙四、知識與政治:高爾街Gower Street)上的片段記憶2024-06-29- 为斩断市场销售长江流域非法捕捞渔获物的产业链,营造保护长江流域生态环境的良好氛围,北京市东城区市场监管局积极开展打击市场销售长江流域非法捕捞渔获物专项行动,对辖区从事水产品经营销售等相关餐饮企业开展专2024-06-29
巴西婦女太餓偷汽水遭逮:逮捕因飢餓而偷竊的人,能解決什麼問題?
中央社)COVID-192019年冠狀病毒疾病)疫情大流行,加劇巴西貧困問題,一名41歲婦女因飢餓在聖保羅市某超級市場偷汽水和速食麵被捕,掀起一陣對司法的討論。9月29日,41歲的安娜化名)被控在聖保2024-06-29
最新评论