清华-RealAI联合战队GeekPwn2020“虚假人脸AI识别大赛”夺冠

清华-RealAI联合战队GeekPwn2020“虚假人脸AI识别大赛”夺冠

10月24日,国际安全极客大赛GeekPwn 2020在上海完美落幕。本次大赛聚焦云、AI、5G等前沿技术,发起首届CAAD虚假人脸AI识别大赛,RealAI与清华大学计算机系联合战队TSAIL以绝对的比分优势拿下该赛目的冠军。

AI遇上假脸傻傻分不清楚?近年来,“AI换脸”风靡一时引发社会广泛关注,从最初的侵犯肖像权,到近期犯罪分子使用AI假脸实施犯罪,“AI 换脸”正带来一系列紧迫现实问题:电信诈骗、财产盗刷、伪造色情视频……

虽然人眼难辨真假,但通过AI技术却可以对虚假人脸进行识别,这也成为了现阶段计算机视觉领域竞相研究的热点。为此,在今年重磅开启的赛程中,GeekPwn发起首届CAAD虚假人脸AI识别大赛,深入挖掘人脸识别现实安全威胁。

比赛中,主办方为五组选手提供真假混合的视频、图片数据,要求选手现场开发出AI 检测方法,快速识别出图像以及视频中的虚假人脸。

同时为了增加比赛的对抗性,主办方还在决赛中设计了攻防环节:每队选手既要用自家的AI 模型识别出其他队伍的假脸,又要用假脸骗过其他队伍的 AI 模型,这样的设置同时考察了选手利用AI技术识别和造假的能力。经过激烈的比赛,TSAIL联合战队最终以1450分斩获第一名。

作为这次联合战队的代表成员,RealAI安全算法负责人萧子豪表示,随着AI技术在视听资料领域的快速发展跟普及,“AI换脸”的门槛变得越来越低,普通人也可以上手,而且生成的内容逼真,伪装性强、欺骗性高,背后的安全隐患不容忽视。

就如GeekPwn主办方希望通过实战演练的方式推动更加快速、高效的虚假人脸检测方法出现,RealAI依托自身积累,深入研究 伪造内容和真实内容的表征差异性辨识、不同生成途径的 伪造内容一致性特征挖掘等问题,于此前推出DeepReal 伪造内容检测平台,能够快速、精准地对多种格式与质量的图像与视频进行真伪鉴别。

在萧子豪看来,换脸检测本质上也是“魔高一尺、道高一丈”攻防不断升级的过程,DeepReal基于大规模的真实和伪造的图像素材进行训练,创建大容量神经网络,简单来看,通过生成大量更逼真的换脸素材来训练出更高准确率的检测技术。整体来看,DeepReal平台目前具备三大优势:

l训练数据量达到百万级,覆盖学术深伪数据集、网络深伪数据集和自研深伪数据集三大类数据形式;

l高准确率,在学术数据集和ZAO等主流方式生成的数据集中达到99%以上的准确率;

l高检测效率,每张图片的检测时间可控制在50ms之内,每秒视频的检测时间在150ms之内,一天可支持320小时的视频文件或340万张图片文件的检测。

通过降低虚假内容检测的技术门槛,DeepReal平台能够帮助用户更好的应对 伪造带来的一系列挑战。除了预防利用AI换脸实施诈骗等犯罪行为,DeepReal平台还可以协助公安、司法等执法部门鉴别图片、视频等物证真伪,以及辅助视频网站、社交媒体等第三方内容平台实时检测虚假信息内容。

凭借在换脸检测领域的创新技术优势,RealAI近年来也频频现身国内外多场安全挑战赛。2019年,Facebook、微软、亚马逊、麻省理工等知名企业、高校曾联合发起一场针对 伪造检测的挑战赛Deepfake Detection Challenge,最终RealAI助力清华团队取得了初赛1%、决赛5%的优异成绩。

包括对抗样本攻防也是RealAI长期以来深耕的研究方向,在去年GeekPwn大赛中联合清华团队斩获“CAAD CTF 图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两个赛道的冠军,并在今年发起的CAAD-AI变脸口罩挑战赛中勇夺第四名。

作为安全AI领域的代表企业,解决AI潜在安全问题、提升AI安全性是RealAI长期奋斗的目标。未来,RealAI将持续探索前沿安全技术,加速攻防成果落地,为人工智能产业发展提供更加完善的安全防护体系,助力行业稳健成长。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

Baidu
map