AI辨真伪能否“魔法打败魔法”
不得不承认，随着人工智能（AI）技术的发展，人们对虚假照片的警惕性越来越高。然而“假作真时真亦假”，据新华社报道，参加巴黎奥运会冲浪比赛的巴西运动员的一张照片就因太过超现实而一度被质疑是假的（见图）。
显然，识别一张照片或一段视频是真是假，人类也会犯错。而“用魔法打败魔法”，依赖技术手段识别技术“创作”出来的虚假照片或视频，人类也依旧有很长的路要走。
真的假不了？
随着技术日新月异，“AI换脸”“AI伪造图片”的例子屡见不鲜，AI生成的照片也越来越逼真，“有图有真相”“眼见为实”早已成为历史。现如今，遇到看起来超现实的图片，人们不免提高警惕。这不，巴西冲浪运动员梅迪纳的真实照片就险些被“错杀”，打上“AI生成”的标签。
7月29日巴黎奥运会冲浪项目男子第三轮比赛，梅迪纳在社交媒体上秀出一张照片。照片中的他右手指向空中，和他的冲浪板一道，摆脱地球引力般“悬浮”在空中。
这张酷炫十足的照片很快走红，但也因为梅迪纳超出物理学常识的姿势，一度被质疑经过PS，甚至由AI生成，直到拍摄这张照片的摄影师布鲁伊莱特露面。
“当时的天气条件非常完美，海浪比我们预想的要高。”布鲁伊莱特说，自己当时在比赛现场附近的一艘船上拍摄了这张照片。
简单点说，布鲁伊莱特能够拍摄出如此“违背”常识的“超现实”照片，是因为他在正确的时间出现在了正确的地点。“梅迪纳在海浪后面，我看不见他。”但布鲁伊莱特知道，梅迪纳经常会在冲浪结束时做出类似的庆祝动作。于是他等候着拍摄时机，“后来他突然冒了出来，我拍了四张照片，这是其中一张”。
假的真不了？
真实照片险些被当成虚假图像，而虚假的AI生成图片和视频却通过“拿捏”人们的“吃瓜”心理，在社交媒体上获得病毒式传播。
拥有脸书和照片墙两大社交媒体平台的元宇宙公司已宣布，将利用自己的AI检测工具对上传至平台的图像进行检测与标记，并要求用户对其分享的AI生成图像进行标记。OpenAI也推出专用的AI检测工具，能够识别图片是否由DALL_E3模型生成。
有数据显示，目前约有40家初创企业提供涉及AI的“鉴伪”服务，甚至标榜准确率高达99%。但研究AI生成图片与深度伪造视频的美国克莱姆森大学教授阿尔马吉德直言：“这在科学上行不通。”
有分析指出，目前AI检测工具依然存在不少局限。由于软件开发本身的限制，某一款AI检测工具或许可以识别由某一AI生成工具生成的图像，但会“放过”其他AI生成工具的“作品”。想要“欺骗”AI检测工具也并不难，剪裁画面、降低像素，使图片或视频的原始编码信息丢失，便可以在AI检测工具面前以假乱真。甚至有研究人员用AI生成工具将真实照片中的汽车替换为坦克，便被AI检测工具判定为“不太可能是AI生成的”。
如今，生成式AI治理正成为全球治理的重要议题。被称作AI治理领域“世界首个”“全球最严”的《人工智能法案》1日在欧盟范围内生效，将在未来三年内逐步实施。中国也正在努力完善生成式AI发展和管理机制。在扎紧AI“护栏”、去伪存真的路上，人类还有很长的路要走。本报记者齐旭