“被迫检测”变为“主动留心” AI鉴伪期间运转反制AI“换脸”诈欺

刻下，基于生成式东谈主工智能（AIGC）伪造期间的电信集聚诈欺技能不停升级，呈现规模扩大化、套路各类化、体式躲闪化等脾性，危害社会安全。科研东谈主员正在缔造更先进的东谈主工智能器具和期间，识别并隔绝东谈主工智能奢华行径。

“不论所以往的PS变调识别，还是如今的AIGC鉴伪，都属于东谈主工智能鉴伪的被迫检测阵势。”在第十三届中国鼎新创业大赛鼎新挑战赛（浙江）暨2024年浙江省期间需求“揭榜挂帅”大赛总决赛上，杭州电子科技大学集聚空间安全学院副培植、浙江—法国数字媒体取证聚合实验室线路东谈主乔通展示了其团队研发的“面向电诈场景的音视频鉴伪溯源期间”，这种期间变“被迫检测”为“主动留心”，有望为东谈主工智能鉴伪提供新想路。

 

稀薄水印完满“预先留心”

上网搜索“AI换脸”，斟酌应用软件和影音图像作品比比齐是。同期，深度东谈主脸伪造带来的安全恫吓也缓缓表露。

香港警方曾泄露沿途东谈主工智能“多东谈主换脸”诈欺案：积恶分子诈欺东谈主工智能深度伪造期间，通过某跨国公司在酬酢平台的贵府，仿造多位高层处置东谈主员的形象和声息，在视频会议中进行冒充，拐骗该公司香港分公司财务职员进行转账操作，涉案金额达2亿港币。

此前，针对东谈主脸伪造，东谈主们常常罗致“过后阔别”的被迫检测、被迫取证步履，但这种步履难以实时、有用按捺伪造东谈主脸图像的传播。主动留心步履由于“预先留心”的属性，得到越来越多学者柔和。

然则，现在大多数主动留心步履只可针对单一或特定的几种伪造模子进行留心，濒临日益各类化和不停升级的东谈主脸伪造期间，会显过劲不从心。

为此，乔通团队缔造出了一种可膨大通用抗击性（SUA）水印，将其镶嵌在需要保护的视频、图像或语音素材中。当素材被用于东谈主工智能加工，就会触发SUA水印的“引信”，平直龙套生成后的执行。

这一期间蹊径此前已有所应用，但局限性较大。乔通先容，以往单个水印只可针对一种模子，一段素材可能要镶嵌多个水印才能起效，而SUA水印则不消基于所有这个词伪造模子进行重新磨练。大都实考讲明注解，SUA水印不仅能省俭算力，还能有用膨大主动留心规模，显耀升迁主动留心效劳，能大大升迁鉴伪效劳。

“洞若观火”进行东谈主脸识别

2024年9月，杭州公安通报了沿途诈欺东谈主工智能期间侵扰公民个东谈主信息案件：有积恶分子使用东谈主工智能换脸大模子冲突头部平台东谈主脸认证，窃取用户秘籍信息。

“登录银行大要其他App时，用户会被条款作念摇头、眨眼的手脚，即进行东谈主脸活体检测。”乔通说，积恶分子通过玄色产业链，不错获得想象对象的东谈主脸相片、音频素材，伪造多模态媒体素材，然后践诺诈欺。

为保证平台安全，乔通冷落，进行东谈主脸识别前应再加一谈无形的核验神态。据了解，针对现在阛阓上主流的东谈主工智能伪造器具，乔通团队缔造的东谈主工智能鉴伪系统，能秒速级识别出东谈主工智能图像及视频，并给出相应分析讲演，准确率95%以上。

“比较大型银行，所在中小银行对防伪期间的参加相对不及。”乔通说，团队现在在与所在公安、微型金融机构等进行配合，研发定制化期间，在活体检测神态为斟酌平台装上“洞若观火”，判定屏幕那端“是东谈主还是妖”。

在乔通看来，东谈主工智能鉴伪和深度伪造是此消彼长的干系，需要更多机构、企业参与，股东东谈主工智能鉴伪期间冲突和应用落地，共同搭建东谈主工智能期间的集聚安全防火墙。“咱们团队正积极对接企业，探索买卖化模式。”乔通说，“要筑牢东谈主工智能安全底座，让反诈举措愈加柔性。”

文/洪恒飞 江耘

（科技日报）

裁剪/倪家宁