9月6日下午，外滩大会AI创新赛·环球Deepfake攻防寻衅赛的演出赛拉开帷幕，用AI技能对抗Deepfake的TOP选手代表，在全网期待中亮相。室外40度的景象，室内400度的激情亲切。
来自上海的不雅观众朱师长西席表示，第一次肉眼看到天生式AI与deepfake检测技能的正面交手，比赛太故意思了。
人工PK人工智能，哪家强？
在简短的Top选手颁奖之后，选手之间的比拼再次打响。中国科学技能大学网络空间安全学院和蚂蚁数科天玑实验室联合出题，对选手模型进行终极稽核。和线上赛一样，演出赛现场分为图像赛道和音视频赛道，各赛道TOP3选手两两PK。
图像赛道一开始，台下立即躁动起来。主持人毕导唤出了9张玛丽莲梦露的照片，个中2张是AIGC假造的。肉眼真假难辨的9张图，选手却须要用自己的参赛模型给出每张图片的假造概率值，并对概率值最高的2张照片与精确答案进行比对。
“本来以为只须要隔岸观火，未曾想到，自己也被卷进了战斗状态，试图用肉眼与AI一较高下”，来自一家科技公司的不雅观众小张说。不雅观众互动环节，台下不服气的视觉设计师乃至请战AI，希望展示自己的专业敏感度。
假造概率值的问题，引发了毕导的追问，到底AI能否100%识别假造。赛事出题人之一、ZOLOZ技能总监姚伟斌先容道，让AI百分百识别假造图像是否假造，是十分困难的。假造技能也在不断迭代更新，对抗须要不断地提升。这也是我们本日做比赛的一大意义。在实际运用中，常日是将识别算法与其他检测手段结合利用，综合判断风险。
视频赛道环节，毕导数字分身出演了多部经典电影名场面，选手同样要通过AI模型来辨别真伪。现场选手比分上，在一些难度一样平常的赛题上，演出赛的结果比分靠近，假造识别率险些都在80%以上，但是在一些高难度赛题上，模型结果差异悬殊。
毕导向新加坡科技研究局天異教授发出灵魂拷问，为什么肉眼以为一眼假的画面，AI却不能完备答对？而肉眼难以辨别的画面，AI反而1秒识别？
对此，周天異认为人类在判断图像是否假造会依赖直觉和逻辑，比如毕导的人脸换到了哈利波特身上，人类一眼便知，AI却不理解背后的故事。而人类会下意识地偷
近百名选手参与开源模型代码接力
近日，Deepfake恶性事宜牵动人心。8月30日，赛事组委会发起开源倡议：“支持并鼓励精良参与者开源比赛模型，降落技能门槛、加强技能互换，进而帮助更多人检测假造内容，助力AI向善。参赛者自主开源后，大赛组委会将在官方Github主页上汇总所有开源存储库。”
倡议一经发出，就得到中国科学院自动化研究所VisionRush军队和澳门大学JT Group的积极相应。开源不仅仅是免费分享，还意味着在技能社区开展代码接力，任何人都可以参与完善开源模型。
姚伟斌表示，截至目前，已有近百名选手及所在军队表示乐意参与代码接力，希望通过技能手段，为每一个可能受到侵害的人供应保护。参与选手还在不断增加。
研发检测算法，只是遏制Deepfake技能滥用的办法之一。姚伟斌坦言，这种办法是相对滞后的。如果要从根源上戒备敲诈行为，姚伟斌认为应在标准和立法角度，哀求给AIGC内容建立通用标识，比如每一张AIGC天生的视频/图片都在文件信息里带一个署名或水印，这样平台管理更有依据，也能让AIGC可以更可信。
会上，十余家机构联合发布海内首个面向金融场景的“AI 换脸”检测标准。该标准的发布为金融场景下的虚假数字人脸安全检测和评估供应了依据，也补充了这一领域的空缺。这场Deepfake 攻防寻衅赛，正是运用了此标准的框架和指标，进行赛题的制订和答案的评价。
环球Deepfake攻防寻衅赛针对“AI换脸”的敲诈风险进行攻防实战演习训练，并设立100万元公民币的奖金池，鼓励推动AI向善的技能人才。大赛吸引了环球2200多名选手，1500多支军队报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、喷鼻香港、越南等26个国家和地区。
据理解，外滩大会AI创新赛包括 “AFAC2024 金融智能创新大赛”和“环球 Deepfake攻防寻衅赛”两大子赛事。全面展示了人工智能在多个领域的最新运用与前沿探索，也彰显出了科技创新的无限活力。同时，Inclusion外滩大会第二届AI创新赛· \"大众环球AI攻防寻衅赛”也正式启动。赛事聚焦AI大模型家当实践，设有攻防双向赛道。