蚂蚁集团两款AI鉴真产品亮相2024WAIC 揭秘AI如何监督AI

7月4日消息，随着AI技术获得的门槛变低，一些黑灰产也瞄准了AI新型诈骗手段，为社会带来了安全隐患。为了唤起公众对AI安全的认知，联合行业对抗AI风险，并真正为行业提供鉴真辨伪的工具产品，蚂蚁研发了AIGC和 伪造的鉴真产品，并在2024世界人工智能大会上首次展出。

“多模态AI鉴真”是模拟蚂蚁大模型安全检测平台“蚁天鉴2.0”的AIGC检测和证照 合成检测两大能力推出的互动产品。观众可选择证照、音频、视频等多样化素材，该互动会先对这些素材做一番伪造模拟生成。之后，该产品能对上述伪造的素材快速进行精准鉴别，并形成检测报告。在真实的生产场景，蚁天鉴AI鉴真解决方案，支持多模态内容真实性和 伪造检测，防范 合成技术滥用风险，图像识别准确率99.9%，达到信通院测评行业最高优秀级别，已经具备了引领性的AI安全对抗能力。

在“谍影重重”互动装置前，观众还可用一场情景剧的方式打开 伪造（Deepfake ）的攻防“魔盒”。首先，用户在该装置上传一张照片，可通过AI换脸合成一张新的人脸照片。下一步，可使用合成后的照片甚至视频去刷脸，该互动能够鉴别出该照片或者视频是否是AI合成，进而阻止风险行动。这一套装置背后，是蚂蚁数科安全科技品牌 ZOLOZ 搭建的端云一体的技术体系。“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面”，蚂蚁工作人员表示。

蚂蚁集团认为，大模型从智能涌现到应用涌现实现人人可得，需要布局关键技术，用以解决大模型的可信、经济、易用三大难题。本次会展中，蚂蚁展区展示了应对大模型大规模应用背后的系列关键技术。

大模型可信应用是指在面向专业领域（如金融、医疗等）应用时，构建一个以大模型为核心的专业智能服务体系。该体系应确保应用的专业性、真实性、可控性和安全性，以满足专业领域的高标准要求，可通过专业知识库、智能体、知识图谱、运筹优化等技术来实现。本次大会入选SAIL TOP30奖的“智能认知决策技术与平台”便是关键技术成果。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。