近来,诈骗团队利用AI换脸进行诈骗的案例逐渐增多。2023年11月安徽发生的一起AI换脸冒充熟人的事件,借用受害者帮忙垫付的9秒钟共骗走资金123万元;2024年3月香港的一起会议换脸案造成的损失更是高达2亿元。面对AI合成人像严重损害民众生命、财产安全、扰乱社会秩序的困境,浙江工商大学声像诚鉴团队自主研发了识别深度伪造手段的嵌入式插件,并与云视频通信服务公司合作,为企业视频会议安全保驾护航。
声像诚鉴推出的“智会管家”能够对视频会议进行实时防护,一旦发现伪造人脸就能即时发出文字警示提醒其他与会人员,并自动报警以减少财产损失。同时还能留存证据并上报平台,以供后续证据提供等用途。
谈及双方合作的经过,学生团队负责人金逸胜表示:“我们团队自主研发的声像联合检测技术,能够综合比对面部动态特征和音频时序特征中的视听差异化特征来提升鉴伪准确度。因而相比其他声像鉴伪技术具有准确度更高、稳定性更强、拓展性更好的优势。”通信服务公司的负责人对此作出了肯定,公司正是看中了声像诚鉴团队的检测技术具有市面其他检测产品所不具备的快速监测反映能力。
在不久前的一次AI换脸技术冒充企业高管参与视频会议的案件中,声像诚鉴团队研发的嵌入式插件在该伪造者露面30秒内成功鉴伪并发出文字警示,最终挽回资金156万元。据团队负责人介绍,声像诚鉴也因此获得了多家企业的好评与支持,目前已在12家企业进行使用运营,实现100+画面并发计算的实时帧级高效检测。
记者了解到,除视频会议中的AI合成人像伪造检测,声像诚鉴系统还支持图像、音频、视频综合分析等多重功能,并以多种软件形态全方位覆盖三大应用场景,真正做到了音视频防伪需求的高效满足。声像诚鉴相关技术负责人员也提及,“因为随着AI科技的发展,深度伪造很可能在后续几年中越来越频繁地出现,这就需要我们相应的防伪技术也随之多样化、灵活化”,团队的最终目标是实现一种准确率高、泛化性强的多模态音视频伪造检测系统的普及应用。
未来,声像诚鉴团队还将进一步优化算法、扩展系统应用场景,将声像鉴伪技术延伸至更多商用、民用领域,有效减少深度伪造技术所造成的诈骗损失。
请输入验证码