小电影网站

“当今屏幕上的都是经典的好莱坞好意思女，一眼看以前照实是真假难辨，诸位不雅众也不错猜一猜，其中哪两张是 Deepfake 伪造的假图片。”

撑抓东谈主话音刚落，屏幕上就出现 9 张玛丽莲梦露的像片。然后台下运转躁动起来。9 张像片中有 2 张是 AIGC 伪造的，仅凭东谈主眼不雅察，实在难辨真假。

而台上参与挑战的两位选手，需要用他们的 AI 大模子“揪出”这两张假像片。

就在不雅众们一筹莫展时，两位选手的 AI 罕见一致地找出了两张被认为八成率是伪造的像片。而看成为主抓东谈主的科技博主毕导公布正确谜底，AI 识别的准确性得胜引起台下一派惊呼。

……

这是 9 月 6 日下昼，外滩大会 AI 编削赛・全球 Deepfake 攻防挑战赛的饰演赛第一轮的现场。全球 Deepfake 攻防挑战赛，是由蚂集中团主持、蚂蚁数科经办，是 CV 范围的顶级海外赛事。

而就在 9 月 6 日下昼的 2024 Inclusion・外滩大会上，外滩大会 AI 编削赛・全球 Deepfake 攻防挑战赛举办了一场饰演赛，诱骗了大都眼神。

回到此次大赛，赛事提供了百万级的数据集，需要参赛选手们针对“AI 换脸”的诈骗风险进行攻防实战演练。大赛官方拓荒了 100 万元东谈主民币的奖金池，荧惑鼓吹 AI 向善的技艺东谈主才。

本次大赛诱骗了全球 2200 多名选手，1500 多支队列报名，消散中国、好意思国、印度、澳大利亚、日本、印尼、马来、新加坡、香港、越南等 26 个国度和地区。

由此可见，全球的技艺东谈主员们对于抗争“AI 换脸”诈骗风险的神志辱骂常高的。

面前，大赛的通盘赛程已经斥逐。8 月 30 日，赛事组委会发起开源倡议：

撑抓并荧惑优秀参与者开源比赛模子，裁汰技艺门槛、加强技艺研究，进而匡助更多东谈主检测伪造执行，助力 AI 向善。参赛者自主开源后，大赛组委会将在官方 Github 主页上汇总通盘开源存储库。

倡议照旧发出，就获取中国科学院自动化商议所 VisionRush 队列和澳门大学 JT Group 的积极相应。

甩掉面前，已有近百名选手及所在队列暗意首肯参与代码戮力于，但愿通过技艺技能，为每一个可能受到伤害的东谈主提供保护。

再看此次在外滩大会的饰演赛，由大赛的 TOP3 选手进入，分别是来自上海的数据分析师唐永威、来自中科院自动化所师生联手的 7 东谈主战队，以及一支来自香港和澳门的大学生组成的港澳团队。

在饰演赛现场，由蚂蚁数科和中国科技大学网罗空间安全学院相接操办了高传神 Deepfake 图像，对选手们的 AI 模子进行终极考验。

同期，清华大学商议员兴军亮、新加坡科技商议局前沿东谈主工智能商议中心 (CFAR) 首席科学家周天異、中国科学技艺大学副评释周文柏等嘉宾将亲临饰演赛现场与科技博主毕导沿路，为不雅众科普了 Deepfake 攻防常识以及防骗技巧。

接下来让咱们具体来了解。

01.AI 换脸诈骗豪恣，防护刻残害缓

不管你是否关注科技圈，确信若干都传奇过 Deepfake 的大名，这是一种深度学习伪造技艺，即行使深度学习算法，达成音视频执行的模拟和伪造，可用于电影制作、视频剪辑、臆造现实等范围。

Deepfake 不错归类为 AIGC 生成的一种，原来是个好技艺。但连年来，在境外已发生多起坏心行使 Deepfake 技艺进行 AI 换脸诈骗，带来的经济财产赔本、名誉受损等事件，况且该趋势正慢慢向境内膨胀。

于是这项技艺渐渐被贴上一些不好的标签。

此前本次大赛出题东谈主、蚂蚁数科 ZOLOZ 技艺总监姚伟斌在收受采访时曾浮现：在本年，对于 Deepfake 诈骗的线崇高量占比已经达到了 10%，而客岁还独一 1%，至于来岁，增长可能只会更快，甚而可能超越 20%。

比如最近备受瞩目的韩国女性被 AI 换脸形成畏怯的事件，便是 Deepfake 伪造的现实案例。还有本年 2 月香港一家跨过公司职工被邀请进 Deepfake 作念的“高管视频会议”中，然后被骗走 2 亿港币的事件，也让东谈主大为惊奇。

可见，濒临全球范围的技艺挑战，培养具有实战才智的 AI 东谈主才刻残害缓。

这亦然蚂集中团举办全球 Deepfake 攻防挑战赛的初志，一方面为引起各人对 Deepfake 危害性的关注和嗜好，另一方面也但愿借助本次大赛发掘 AI 东谈主才，并以此鼓吹通盘行业在 AI 检测、识别伪造方面才智的提高。

02.AI 到底是何如击败 AI 的？

说到这，可能爱想考的同学就要发问了：所谓的 AI 检测，它到底是何如检测的呢？

咱们不妨就以此次赛事来说。

此次大赛，分为图片赛谈和音视频赛谈，这里最初要说，音视频伪造和图片伪造各别很大，音视频触及到多帧图像加声息模态、语音模态的多模态模子，难度比图片伪造的识别大许多。此次现场饰演赛的斥逐也能看到，音视频伪造识别的得胜率要比图片伪造识别更低。

不外在识别旨趣上，两者倒是相比通常。

以图片识别为例，选手们是将已经明确是 AIGC 生成的图片作为老师数据，模子不错学习到 AIGC 生成图片的特征和模式。

通过分析图像的像素散播、纹理、容貌模式和不当然的细节（如角落或结构畸变），模子能够识别与真实图像的各别，而有用隔离真实与生成的执行。

浅薄来说，便是让大模子不断地学习 AI 生成图片的各式特征，熟悉“假图片”的性情，当然就能鉴别真假了。

音视频的鉴别亦然雷同，仅仅除了画面，算法还会关注到嘴巴话语的动作是否与音频同步，眼睛眨动的频率是否闲居。还包括分析皮肤名义的细节，光影的散播等一系列身分。

既然是让 AI 学习，那么“课本”就很紧要了，因此，学习样本的丰富度、圆善性，对于 AI 最终识别伪造的准确性赫然至关紧要。此外，算法本人的才智也对模子识别的准确性有凯旋影响。

不外呢，就此次比赛来说，选手们老师我方模子用的数据集都是由赛事方提供的，包括公开数据和伪造数据。

其中，伪造图片数据涵盖了现实场景中超 50 种生成花式，伪造音视频中则纳入了超 100 种组合挫折花式，老师数据集总量超越 100 万，满盈丰富。

因此，其实此次大赛更侧重考验选手们在算法方面的技艺才智，以及综合应用的才智，有莫得模子算法不错更泛化地适用于不同的场景和数据下。

那么，说了这样多，面前 AI 到底能不成 100% 识别 Deepfake 伪造呢？

对于这少量，大赛出题东谈主姚伟斌明确暗意：

让 AI 百分百识别伪造图像是否伪造，是十分清贫的。

一方面，就像前边所说，老师样本其实很难作念到简直的丰富、圆善，而且伪造技艺也在不竭迭代更新，抗争也只可随着伪造技艺进行提高，这是面前的近况。

说到这，还有一个相比特真义的傲气，便是有些咱们东谈主类以为一眼假的画面，AI 却不成都备答对。比如饰演赛现场有一组将科技博主毕导的脸替换到哈利波特身上的视频，咱们大部分东谈主一眼就能分辨，关联词现场战队有一组 AI 模子却分辨错了。

关联词在第一组图片测试要领，10 张明星像片里有两张伪造图片，大部分东谈主都没看出来，AI 却能秒识别。

这个问题新加坡科技商议局前沿东谈主工智能商议中心(CFAR)首席科学家周天異在现场给咱们作念了恢复，其实是因为东谈主类在判断图像是否伪造时，会更依赖直观和逻辑。比如咱们把一个普通东谈主的脸换到哈利波特身上，东谈主类一看就知谈是假的，因为咱们了解哈利波特的配景故事，但 AI 却不知谈。

不外，东谈主类的举止存在不牢固性，许多画面细节若是不说明看，就会出错。AI 却不会。正如周天異所说：

AI 是最尽责的器具东谈主，AI 不受厚谊骚动，他会一点不苟、勤勤恳恳地完成东谈主类的辅导，还不会疲钝。

对于技艺，还有一个问题各人可能也相比慈祥，便是此次大赛展现出来的 AI 识别伪造的技艺，畴昔何如进行应用落地呢？赛事方又该何如去鼓吹技艺的应用？

对此，作为出题东谈主的姚伟斌也给出了恢复。最初，此次老师的一些公开测试集都是开源的，这些挫折的数据通达出来后，对于各家公司去老师他们的检测才智会有凯旋的匡助。

其次，此次大赛的选手组成也十分丰富，有半谈削发的名校学霸，又有自学 AI 的商科生，还有许多是个东谈主竞赛爱好者，以及专注于 AI 安全的公司代表团。

比如来自企业界的选手就占了 20% 傍边，他们畴昔应该会把大赛的联系技艺应用在我方公司的居品和服务中。还有很大一部分是来自学术界，这一方面会鼓吹联系学术的研究超越，另一方面，这些面前停留在学术层面的技艺畴昔也有可能学生们毕业被带到企业中，渐渐履行应用。

03.提高全行业的崇尚水平，咱们在路上

在了解了用 AI 来抗争 Deepfake 诈骗的技艺可行性、紧要性以及刻下存在的局限性后，想必各人也会有一个共鸣，那便是：

将 AI 识别的联系技艺尽快履行、升级，并提高行业全体的抗争水平，其实已经近在咫尺。

而这，需要通盘行业共同参与进来。

作为行业的一员，蚂蚁也毅力到了这少量，因此他们才会举办这场高度模拟实战的 Deepfake 攻防挑战赛，一是为了加强外部关注，培养和荧惑东谈主才，二是将交易实战蓄积的攻防教育融入赛事操办与赛题数据集，与行业共享，提高全体崇尚水位。

而从斥逐来看，此次大赛赫然很好地完成了它的工作。

平时专注于纯表面的工作，照旧会有点止渴慕梅的嗅觉，进入比赛不错实时对一些新技艺、新目的作念作念考证。

在此次饰演赛上，来自中科院自动化商议所的王博在谈到进入此次比赛时，笑着说。他们的战队由师生 7 东谈主组成，平均年级独一 25 岁。

而在谈及进入此次比赛对我方的匡助时，来自澳门大学的选手陈逸鸣刚烈地暗意：“比赛对我最大的匡助是让我能够在实战环境中老到我方的技艺才智。我在很短的时候内突击学到了许多对于 Deepfake 生成和识别的新技艺，这些常识将对我畴昔的商议和作事发展有很大匡助。”

除了挖掘出许多在 AI 抗争伪造方面极具后劲的东谈主才，蚂蚁也很好地以此次大赛为序论，与通盘行业进行了一次潜入的研究和共享，这对于提高行业全体的崇尚才智大有裨益。

最初，此次比赛诱骗了全球 1500 支队列，超 4500 次算法提交，是远超蚂蚁预期的，也可见大赛的影响力十分豪迈。更紧要的是，此次挑战赛像选手们提供了该范围数目最多的 Deepfake 数据集，超越 180 种生成步履亦然行业最全的，还有种种化的东谈主脸散播、16 大所在估计带来的客不雅评价真实性。不错所蚂蚁是简直拿出了干货，这些败落的数据对于行业全体崇尚才智提高的真义也不是一届比赛能笼统的。

其实，除了此次技艺挑战赛，蚂蚁对于 Deepfake 深度伪造危害的崇尚以及生物检测安全方面早有多年攻防教育的千里淀。

要知谈，以前 20 多年里，蚂集中团在国内金融业务场景上蓄积了十多亿用户，还有丰富的实战攻防教育，其多代风控平台的抓续优化、严格的数据安全处置、先进的智能风控居品开发以及全面的智能安全体系构建，不仅提高了蚂集中团自身业务的安全性和效果，还为通盘金融行业的风险处置提供了珍爱的教育和参考。

2017 年 10 月，蚂蚁数科推出了简直身份认证平台 ZOLOZ ，蚂蚁的生物识别技艺成为零丁品牌。如今 ZOLOZ 综合多种技艺技能达成认证准确率已经达到 99.9%。

证据蚂蚁数科 CEO 赵闻飙的先容，蚂蚁数科 ZOLOZ 自 2019 年运转商议 Deepfake 攻防技艺，已服务数十个国度和地区的金融、电信、政务等机构。

咱们首肯将交易实战蓄积的攻防教育融入赛事操办与赛题数据集，与同业结成战友关系，共同提高全行业的安全崇尚水位。

赵闻飙如是说。

04.结语

临了，小编猜度，此次比赛的称号叫作念“全球 Deepfake 攻防挑战赛”，其中“攻”是“Deepfake 深度伪造诈骗”的坏心势力，“防”则是为抗争伪造执行好学不倦探索的科技工作者，甚而是通盘千行百业。

但其实，每个参与挑战赛的东谈主，一建都在期待畴昔“攻”与“防”颐养的一天。

照旧要借用本次大赛出题东谈主姚伟斌收受采访时所说的：

所谓谈高一尺，魔高一丈，今天咱们照旧被迫的解题想路，等着挫折出来，然后咱们去防护，短期内这是客不雅近况，但咱们有莫得可能主动去防护风险，能不成让这些执行去主动奉告它便是 AI 产生的，一朝这个事情作念成了，许多时候咱们就很容易识别了。

而刻下小电影网站，蚂蚁在勤奋，身处在行业的每一位科技工作者们也都在勤奋，确信这样的一天会更快到来。