为了AI向善，蚂蚁将一群「AI打假师」聚在了一起

酷狗e族

两个月前，2024 世界人工智能大会暨人工智能全球治理高级别会议（以下简称 WAIC 大会）在上海举办。与往年不同，本届 WAIC 大会把 AI 的治理提到了前所未有的高度，图灵奖、菲尔兹奖、诺贝尔奖得主以及国内外顶级院士聚集一堂，共同探讨 AI 带来巨大红利的同时，必须面对的多重风险与挑战。

与此同时，外滩大会智能科技创新大赛（简称 AI 创新赛）开始「接棒」，将 AI 安全可信从理论探讨推进到实战落地，邀请全球各国 AI 技术人才，针对 Deepfake（深度伪造）的欺诈风险进行攻防实战演练。

生成式 AI 突飞猛进的当下，AI 的安全可信变得愈发关键。

时至今日，滥用 Deepfake 技术的危害已经有目共睹，通过 AI 生成看似真实的虚假图像和音视频，已经给越来越多人带来了伤害。然而面对更加拟真且激增的「AI 换脸」，人工分辨既不现实，也不明智，我们亟须技术乃至生态层面的推动。

9 月 6 日，外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛表演赛在外滩大会现场举行，在现场无数双眼睛的注视下，多组参赛队伍的 AI 模型互相挑战，展示了用 AI「去伪存真」的高效与实用性，更便利地帮助我们发现隐藏在真实内容中深度伪造内容。

但与 Deepfake 的对抗注定不止于比赛。从「AI 马斯克」骗走老人退休金，再到韩国女性遭遇的「AI 换脸」性犯罪，滥用 Deepfake 的受害者早已从政治人物和娱乐明星扩大到了无数普通人。

而就在几天前，参与外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛的多组选手，包括中科院、澳门大学、中国海洋大学等参赛队宣布，愿意把参加这场大赛的 AI 模型面向全球开源，帮助更多人用技术手段对抗「AI 换脸」。

作为外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛的主办方，这亦是蚂蚁所愿意看到的。

在顶级 CV 大赛上，打假「AI 换脸」


客观地说，Deepfake 是一场全球性的技术挑战，根本上离不开全球技术人才的交流与共同进步。

作为 CV（计算机视觉）领域的顶级国际赛事，外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛由中国工程院院士王耀南担任专家委员会名誉主席，由蚂蚁数科 ZOLOZ 和天玑实验室作为大赛出题方，分成图像和音视频双赛道，参赛者需要开发并提交 AI 模型，经过大赛数据集的测试。

尽管还是首届，但外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛吸引了来自全球 26 个国家和地区的 2200 多名选手、1500 多支队伍，既有来自清华、中科大、中科院等国内顶级高校和机构的参赛者，更有来南洋理工大学、多伦多大学、斯坦福大学、帝国理工学院以及微软亚洲研究院等全球顶尖院校和机构的参赛者。

大赛除了高达 100 万元的奖金池，还提供了极其难得的实战环境，数据集中图形和音视频生成数据超过 150 万，覆盖各种生成方式和攻击组合。蚂蚁数科的出题团队还根据人口统计学分布和实战经验，在数据集中充分考虑了全球各地的人种、年龄、拍摄环境、图像遮挡等多重变量，确保参赛者面临的比赛环境在最大程度上接近真实世界中的 Deepfake 攻击。

所谓「真金不怕火炼」，也只有高度拟真的实战环境，才能检验出真正具备实际应用的 AI 模型。

而在经过大赛数据集检验以及专家评审后，TOP 战队才得以脱颖而出：澳门大学代表队和个人参赛者唐永威分别获得图片和音视频赛道冠军，此外获奖的还有在新加坡工作的字节跳动代表黄江波、小红书代表队 ShuKing 以及来自中国科学院自动化研究所的 2 支队伍。

9 月 6 日下午，本次大赛的 TOP 战队受邀参加了外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛表演赛，面对由蚂蚁数科和中国科技大学网络空间安全学院联合设计的高逼真 Deepfake 内容，进行「终极考察」。

由知名科普博主毕导主持，TOP 战队两两轮流 PK，在真实图像/视频与高逼真 Deepfake 图像/视频中更准确地分辨出 AI 生成的虚假内容。这不仅是一次技术上的对抗，更是一次对 AI 安全技术极限的检验。

火热的不只是参赛选手和 AI 模型，现场观众也不由自主投入到比赛之中，「本来以为只需要隔岸观火，不曾想到，自己也被卷进了战斗状态，试图用肉眼与 AI 一较高下，」有现场观众说到。

此外，比赛过程中还有新加坡科技研究局前沿人工智能研究中心 (CFAR) 首席科学家周天異、中国科学技术大学副教授周文柏以及 ZOLOZ 技术总监姚伟斌，给所有观众科普了 Deepfake 技术以及 AI 识别的重要知识。

对 AI 技术，尤其是 Deepfake 的滥用，已经对我们造成了严重的威胁。从 AI 冒充名人进行诈骗到伪造视频操纵公众舆论，AI 滥用的后果触目惊心。通过这场赛事，普通人第一次深刻认识到 AI 带来的潜在风险，以及如何通过技术手段去对抗这些风险。

从一定角度上，这场比赛的意义远远超越单纯的技术对抗。

在这个信息迅速传播的时代，Deepfake 内容的泛滥不仅削弱了人们对媒体和内容的信任，更可能引发严重的信任危机。外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛在做的，正是通过汇聚全球的 AI 技术精英，在实战演练中交流和提高全球的对抗水平，实际上是在为我们建立一道「分辨真假」的防线，一道「信任」的防线。

「Deepfake 攻防是一场看不见硝烟的持久战，蚂蚁和所有对抗技术的研究者，是战友关系。」蚂蚁数科 CTO 王维也坦言，蚂蚁举办这次大赛的初心就是希望把服务产业的技术经验、研究积累的数据集与行业分享，以攻促防，同时希望推动更多的人才投身其中，提高整体的防御水位。

AI 时代的打假师，真实与虚假的「守门人」


当《泰坦尼克号》的经典一幕再次出现在眼前，包括毕导以及现场很多观众始终都没发现奥纳多·狄卡比奥饰演的 Jack 原来被进行「AI 换脸」，融入了毕导的脸。但现场的的 AI 模型仍旧从「蛛丝马迹」之中分辨出了 Deepfake 的干预。

这不仅是对技术的极限考验，也展示人类与 AI 合作如何突破虚假信息的迷雾。

Deepfake 技术的伪造能力极强，窜改的细节可能只是图像边缘的微小失真，或声音频谱中极其细微的不一致性。即便是最为细心的普通人，也难以凭借肉眼分辨伪造内容的真假。

中科院团队的王博在采访中还提到，生成式 AI 发展迅猛，而且各种工具的使用门槛实际上越来越低。在这样的背景下，普通人越来越难以应对这些伪造内容的侵袭。

还有更多人也意识到，「AI 换脸」带来的不只是技术上的挑战，还可能导致普通人对 AI 技术普遍的不信任。若没有足够的安全防范措施，AI 技术的发展将成为一把双刃剑。这也更加体现了所有参赛者以及这场大赛的难能可贵。

生成式 AI 的火热早已无需多言，当更多人都在涌向 AI 技术的应用与发展，有一批人却看到了这场技术浪潮的另一面——AI 存在的风险与危害，并且投身其中成为「AI 打假师」。某种程度上，这些「AI 打假师」们不只是在与 Deepfake 对抗，更是在防止虚假信息蔓延，用技术守护真相。

借用下作家苏心的那句话：哪有什么岁月静好，不过是有人替你逆浪而行。

正如在今年 WAIC 大会上，上海人工智能实验室主任、首席科学家，清华大学惠妍讲席教授周柏文提出的「人工智能 45° 平衡律」理论，我们应该在大体上沿着 45° 平衡发展 AI 的安全能力和性能。

事实上，在外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛表演赛稍后举办的圆桌讨论上，同济大学计算机科学与技术系副主任，CCF 数字金融分会秘书长卫志华就明确指出，大模型以势不可当的架势发展起来，但这个过程中的安全问题远远没有跟上：

如果安全问题没有跟上的时候，不可能大面积铺开应用，但我们都是做矛和盾是同步发展的。

蚂蚁数科 CTO 王维也认同这一说法，并且认为用红蓝攻防对抗的方式解决技术可能产生的漏洞或攻击，在大模型时代可能会越发重要，就如古语所言，「魔高一尺，道高一丈。」

这恰恰需要我们必须更多地重视 AI 安全能力的提升，AI 安全领域人才的培养，也正是外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛的初心所在。

AI 向善，蚂蚁的答案


过去一段时间，在韩国发生的 Deepfake 性犯罪事件引发了全球范围内高度关注，蚂蚁作为赛事主办方在本次大赛中发起了开源 AI 模型的动议，希望通过技术手段对抗愈发猖獗的 Deepfake 滥用行为，很快就率先得到了中国科学院自动化研究所 VisionRush 和澳门大学 JT Group 的积极响应。

9 月 1 日，中科院 VisionRush 参赛队就对外宣布开源了参赛模型，加入「代码接力」行动。而截至目前，已有近百名选手及所在队伍都表示愿意参与代码接力 ，并且规模还在不断扩大中。

同时开源不仅仅意味着可以免费使用技术保护每一个可能受到伤害的人，实质上也推动全球更多的技术力量共同参与到 Deepfake 对抗的行动中，更好地完善开源模型，为更多人提供更好的保护。

毋庸置疑，发展与安全是 AI 的一体两翼。AI 以前所未有的速度向各行各业渗透的同时，对 AI 的误用和滥用可能导致的多重安全风险和挑战，同样不容忽视。而面对 AI 浪潮，蚂蚁通过大赛也继续表明了自己态度：

既要发展，也要安全，只有这样才能确保 AI 向善。

而蚂蚁前瞻性的观点以及 AI 向善的价值观，具象到外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛，不仅在推动全球范围内对抗技术的发展，也在通过赛事培养了具备实战能力的优秀 AI 技术人才，从而全面提高全球 AI 安全水平。另一方面，这也让这场大赛成功赢得全球各界的高度关注和认可，以及大赛未来的期待。

在此之外，这场大赛也让外滩大会的影响力超越为期三天的议程，在 AI 领域建立了一个全球性的长期关注焦点。更重要的是，外滩大会借助这一赛事强化了整个行业以及公众对于 AI 安全的重视，为 AI 安全可信的持续推进奠定坚实的基础。