2024外滩大会|中国图象图形学学会、蚂蚁集团、CSA大中华区等发起全球AI攻防挑战赛
2024-09-06 13:00:56 - 北京商报
北京商报讯（记者魏蔚）9月6日，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办的“全球AI攻防挑战赛”正式启动。
大赛设置了“攻击”与“防守”两大赛道，分别聚焦大模型自身安全和大模型生成内容的防伪检测及大模型滥用风险检测，涵盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域的考点。
“攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术，诱发大模型输出风险图像。“防守赛道”聚焦于AI核身中的金融场景凭证篡改检测，以应对日益严峻的Deepfake深度伪造及AIGC假证风险。