国内首个AI大模型攻防赛收官
转自：新安晚报
颁奖现场。
世界互联网大会乌镇峰会不仅是企业家大佬们的“AI赛场”，也是全世界年轻技术精英们的舞台。
11月20日，国内首个AI大模型攻防赛在乌镇收官。大赛自9月启动以来，来自全球18个国家和地区的2700多支赛队、3200余名技术精英参与，选手来自清华大学、北京大学、南洋理工大学、约翰霍普金斯大学、香港科技大学、悉尼大学等290多个国内外高校，以及腾讯等280多个企业。通过攻、防双向赛道竞技，大赛最终角逐出全球十强，由来自安徽大学、上海交通大学、字节跳动等企业和高校的赛队获得。
用AI对抗AI
“这段视频明显是AI合成的！视频中人脸动作轨迹和速度等信息都出现异常。”“这条语音在某些频率上过于‘干净’，显示出不自然的变化，AI生成概率在98%以上！”
近年来，人工智能技术特别是大模型及AIGC领域飞速发展，给我们生活带来了前所未有的便利与可能性，也带来了安全方面的挑战。在11月20日“AI大模型攻防赛”收官现场，全球十强选手面对“眼见不为实、耳听不为实”的场景，通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI。
赛事由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。
中国工程院院士、中国图象图形学学会理事长王耀南表示，“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在，也是我们在这个充满机遇与挑战的时代必须肩负起的重要使命。”
在此背景下，全球AI大模型攻防挑战赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，赛题涉及信用成长、凭证审核、商家入驻、智能助理等多个业务场景，覆盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域，通过创新的技术解决方案，进一步保障大模型应用安全和产业安全。
“通过攻防实战演练，直面大模型应用中的安全问题，促使大模型安全技术不断进步，从而携手行业迈向更高的安全水平。”蚂蚁集团安全实验室首席科学家、全球AI大模型攻防挑战赛评审委员会委员王维强表示。
用算法阻止图像篡改
安徽大学计算机科学与技术学院三年级研究生周立锋，此次与同伴们获得了“全球AI大模型攻防赛·赛道二”的亚军。他们的项目主要关注金融领域，“金融领域交互式自证业务中，涵盖信用成长、用户开户、商家入驻、职业认证、商户解限等多种应用场景，通常都需要用户提交一定的凭证，用于证明资产收入信息、身份信息、所有权信息等，而凭证的真实性一直是困扰金融场景自动化审核的一大难题。”
据介绍，随着数字媒体编辑技术的发展，越来越多的AI手段和工具能够轻易对凭证材料进行篡改，大量的黑产团伙也逐渐掌握PS、AIGC等工具制作逼真的凭证样本，并对金融审核带来巨大挑战。
“所以，这次比赛开设AI核身-金融凭证篡改检测赛道。”周立锋说，篡改图像的应用领域广泛，涵盖金融场景、证券、发票税以及店面等多个方面，涉及文字修改、店面修改等多种操作。“为了有效识别这些篡改内容，我们团队采用了现有的Co-DINO算法进行检测，并在此基础上进行了自主设计的篡改数据增强处理，以及后续的图像分析步骤，从而能够准确识别出图像和照片中的篡改位置。”
“大赛的举行，汇聚了全球范围内数千位技术精英，为大家提供了技术交流与竞技平台。在这个舞台上，许多优秀的人才脱颖而出，发现和培养一批优秀的安全人才，为行业的未来发展储备智力资源，也是大赛的初衷之一。”中国图象图形学学会副理事长兼秘书长、北京科技大学教授马惠敏说。
新安晚报安徽网大皖新闻记者项磊摄影报道