《科创板日报》9月7日讯（特约记者 陈俊清），9月6日下午，外滩大会AI创新赛·全球Deepfake攻防挑战赛赛拉开帷幕。
用AI技术对抗Deepfake的TOP选手代表，在全网期待中亮相。来自上海的观众朱先生表示，第一次肉眼看到生成式AI与deepfake检测技术的正面交锋，比赛太有意思了。
▌人工PK人工智能，哪家强？
在简短的Top选手颁奖之后，选手之间的比拼再次打响。
中国科学技术大学网络空间安全学院和蚂蚁数科天玑实验室联合出题，对选手模型进行终极考察。和线上赛一样，表演赛现场分为图像赛道和音视频赛道，各赛道TOP3选手两两PK。
图像赛道一开始，台下立即躁动起来。主持人毕导唤出了9张玛丽莲梦露的照片，其中2张是AIGC伪造的。肉眼真假难辨的9张图，选手却需要用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张照片与正确答案进行比对。“本来以为只需要隔岸观火，不曾想到，自己也被卷进了战斗状态，试图用肉眼与AI一较高下”，来自一家科技公司的观众小张说。观众互动环节，台下不服气的视觉设计师甚至请战AI，希望展示自己的专业敏感度。
伪造概率值的问题，引发了毕导的追问，到底AI能否100%识别伪造。
赛事出题人之一、ZOLOZ技术总监姚伟斌介绍道，让AI百分百识别伪造图像是否伪造，是十分困难的。伪造技术也在不断迭代更新，对抗需要不断地提升。这也是我们今天做比赛的一大意义。在实际应用中，通常是将识别算法与其他检测手段结合使用，综合判断风险。
据悉，Deepfake赛事覆盖了最主流的图片和图像赛道，覆盖了从基础科研到商业转化的全过程。数据集由公开数据和伪造数据组成，其中，伪造图片数据涵盖了现实场景中超50种生成方式，伪造音视频中则纳入了超100种组合攻击方式，训练数据集总量超过100万。
视频赛道环节，毕导数字分身出演了多部经典电影名场面，选手同样要通过AI模型来辨别真伪。现场选手比分上，在一些难度一般的赛题上，结果比分接近，伪造识别率几乎都在80%以上，但是在一些高难度赛题上，模型结果差异悬殊。
毕导向新加坡科技研究局天異教授发出灵魂拷问，为什么肉眼觉得一眼假的画面，AI却不能完全答对？而肉眼难以辨别的画面，AI反而1秒识别？
对此，周天異认为人类在判断图像是否伪造会依赖直觉和逻辑，比如毕导的人脸换到了哈利波特身上，人类一眼便知，AI却不了解背后的故事。而人类会下意识地偷懒，AI是最称职的工具人，AI不受情绪干扰，他会一丝不苟、勤勤恳恳地完成人类的指令。所以，AI在工作效率和稳定性上，都是大大高于人类的。
▌“AI 换脸”检测有了标准
近日，Deepfake恶性事件牵动人心。
8月30日，赛事组委会发起开源倡议：“支持并鼓励优秀参与者开源比赛模型，降低技术门槛、加强技术交流，进而帮助更多人检测伪造内容，助力AI向善。
研发检测算法，只是遏制Deepfake技术滥用的方式之一。姚伟斌坦言，这种方式是相对滞后的。如果要从根源上防范欺诈行为，姚伟斌认为应在标准和立法角度，要求给AIGC内容建立通用标识，比如每一张AIGC生成的视频/图片都在文件信息里带一个签名或水印，这样平台管理更有依据，也能让AIGC可以更可信。
会上，十余家机构联合发布国内首个面向 场景的“AI 换脸”检测标准。该标准的发布为 场景下的虚假数字人脸安全检测和评估提供了依据，也填补了这一领域的空白。
这场Deepfake攻防挑战赛，正是应用了此标准的框架和指标，进行赛题的制定和答案的评价。
全球Deepfake攻防挑战赛针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、越南等26个国家和地区。
▌意在人才培养
据了解，外滩大会AI创新赛包括 “AFAC2024 智能创新大赛”和“全球 Deepfake攻防挑战赛”两大子赛事。全面展示了人工智能在多个领域的最新应用与前沿探索，也彰显出了科技创新的无限活力。同时，Inclusion外滩大会第二届AI创新赛· "全球AI攻防挑战赛”也正式启动。赛事聚焦AI大模型产业实践，设有攻防双向赛道。
该大赛中设置了算法挑战、应用场景设计、创业项目路演三大板块，算法挑战聚焦于机器学习、深度学习等前沿技术；应用场景设计鼓励参赛者将AI技术应用于医疗、教育、环保等领域；创业项目路演则为初创企业提供了一个展示其创新理念和技术实力的平台。
Deepfake参赛队伍中，有一支“混搭”队伍，一个学长带着一群学弟学妹“打怪升级”。「队伍名字」核心成员来自香港和澳门的大学，去年8月刚从澳门大学博士毕业，目前是香港城市大学的博士后的吴海威，带着他在澳门大学智慧城市物联网实验室的学弟学妹一起参加比赛。
早在2019年，吴海威就曾参加过Facebook组织的关于Deepfake的检测大赛，2020年到2022年，吴海威连续参加过了多场相关比赛，均拿到了前三的名次。唐永威是此次赛事中最特别的一位，商业毕业的他，自学计算机专业知识。此次在两个赛事中都取得了三强名次。
唐永威的参赛队名为“初淅沥以萧飒”，来自欧阳修的《秋风赋》。这个充满古风的名字，和他一路披巾斩棘的参赛风格截然不同。2022年底，首次参加专业赛事的他，就获得了A-tech大赛季军。
比起最终取得的成绩，参加AFCA大赛的闫强更看重大赛在人才培养、激励上的价值，通过参与竞赛，能够及时了解行业动态和技术趋势，不仅能让自己变得更强大，而且让一群人变得更强大。
赛事评委之一、华东师范大学计算机科学与技术学院教授兰曼指出，AFAC大赛的赛题既有前瞻性又有实操性，有的涉及 行业的基础技术研究，有的与具体应用场景结合，体现了“解决行业真命题”的赛事初心。“以赛促研、以产促研，相关成果很有价值。”
两场比赛不仅体现了赛事的国际化程度，也彰显出其在专业领域的权威性。参赛项目涵盖了医疗健康、 科技、智能制造等多个热点领域，显示了AI技术的广泛应用潜力。
“这样的比赛对不同阶段的选手都有帮助。”Shopee公司算法工程师马千里是第二次参加AFCA大赛。去年参赛时，他还是高校应届毕业生，“求职时，创新和实践能力是与竞争对手拉开差距的重要一点，AFAC大赛成为这种创新实践能力的佐证，比赛经历在面试中给了我不小的助力”。
来源：财联社
标签：