清华-RealAI联合战队GeekPwn2020“虚假人脸AI识别大赛”夺冠


发布时间:2020-10-29      来源:互联网

10月24日,国际安全极客大赛GeekPwn 2020在上海完美落幕。本次大赛聚焦云、AI、5G等前沿技术,发起首届CAAD虚假人脸AI识别大赛,RealAI与清华大学计算机系联合战队TSAIL以绝对的比分优势拿下该赛目的冠军。

AI遇上假脸傻傻分不清楚?近年来,“AI换脸”风靡一时引发社会广泛关注,从最初的侵犯肖像权,到近期犯罪分子使用AI假脸实施犯罪,“AI 换脸”正带来一系列紧迫现实问题:电信诈骗、财产盗刷、伪造色情视频……

虽然人眼难辨真假,但通过AI技术却可以对虚假人脸进行识别,这也成为了现阶段计算机视觉领域竞相研究的热点。为此,在今年重磅开启的赛程中,GeekPwn发起首届CAAD虚假人脸AI识别大赛,深入挖掘人脸识别现实安全威胁。

比赛中,主办方为五组选手提供真假混合的视频、图片数据,要求选手现场开发出 AI 检测方法,快速识别出图像以及视频中的虚假人脸。

同时为了增加比赛的对抗性,主办方还在决赛中设计了攻防环节:每队选手既要用自家的 AI 模型识别出其他队伍的假脸,又要用假脸骗过其他队伍的 AI 模型,这样的设置同时考察了选手利用AI技术识别和造假的能力。经过激烈的比赛,TSAIL联合战队最终以1450分斩获第一名。

作为这次联合战队的代表成员,RealAI安全算法负责人萧子豪表示,随着AI技术在视听资料领域的快速发展跟普及,“AI换脸”的门槛变得越来越低,普通人也可以上手,而且生成的内容逼真,伪装性强、欺骗性高,背后的安全隐患不容忽视。

就如GeekPwn主办方希望通过实战演练的方式推动更加快速、高效的虚假人脸检测方法出现,RealAI依托自身积累,深入研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,于此前推出DeepReal深度伪造内容检测平台,能够快速、精准地对多种格式与质量的图像与视频进行真伪鉴别。

在萧子豪看来,换脸检测本质上也是“魔高一尺、道高一丈”攻防不断升级的过程,DeepReal基于大规模的真实和伪造的图像素材进行训练,创建大容量神经网络,简单来看,通过生成大量更逼真的换脸素材来训练出更高准确率的检测技术。整体来看,DeepReal平台目前具备三大优势:

训练数据量达到百万级,覆盖学术深伪数据集、网络深伪数据集和自研深伪数据集三大类数据形式;

高准确率,在学术数据集和ZAO等主流方式生成的数据集中达到99以上的准确率;

高检测效率,每张图片的检测时间可控制在50ms之内,每秒视频的检测时间在150ms之内,一天可支持320小时的视频文件或340万张图片文件的检测。

通过降低虚假内容检测的技术门槛,DeepReal平台能够帮助用户更好的应对深度伪造带来的一系列挑战。除了预防利用AI换脸实施诈骗等犯罪行为,DeepReal平台还可以协助公安、司法等执法部门鉴别图片、视频等物证真伪,以及辅助视频网站、社交媒体等第三方内容平台实时检测虚假信息内容。

凭借在换脸检测领域的创新技术优势,RealAI近年来也频频现身国内外多场安全挑战赛。2019年,Facebook、微软、亚马逊、麻省理工等知名企业、高校曾联合发起一场针对深度伪造检测的挑战赛Deepfake Detection Challenge,最终RealAI助力清华团队取得了初赛1、决赛5的优异成绩。

包括对抗样本攻防也是RealAI长期以来深耕的研究方向,在去年GeekPwn大赛中联合清华团队斩获“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两个赛道的冠军,并在今年发起的CAAD-AI变脸口罩挑战赛中勇夺第四名。

作为安全AI领域的代表企业,解决AI潜在安全问题、提升AI安全性是RealAI长期奋斗的目标。未来,RealAI将持续探索前沿安全技术,加速攻防成果落地,为人工智能产业发展提供更加完善的安全防护体系,助力行业稳健成长。