聊天截图被随意篡改害人不浅如今篡改检测技术可以慧眼识假了
7月6日—8日，2023世界人工智能大会（WAIC）在上海隆重开幕。本次大会上，在中国信息通信研究院主办的“多模态基础大模型的可信AI”论坛专场中，人工智能公司合合信息向截图篡改、生成式图像诈骗发起挑战，发布多项图像内容安全保护技术，吸引了众多研究、产业机构的关注。
合合信息智能创新事业部总经理唐琪介绍AI图像安全相关技术成果。
图像篡改检测“慧眼”识破虚假截图
图像编辑软件的发展和普及降低了虚假图像的制作门槛，虚假截图的传播可能导致个人及公司隐私泄露、虚假资讯传播，是网络暴力、电信诈骗的罪恶推手。
现阶段，虚假转账记录、交易记录、聊天记录引发的恶性事件已经屡见不鲜。据媒体报道，今年2月，重庆警方成功抓捕一位用虚假付款截图连续行骗7次的女子，该女子用微信零钱换取路人现金，假装扫码付款，用虚假付款截图欺骗受害者，换取现金后逃之夭夭。
4月，“某国企员工加班事件”相关截图连续霸占多平台“热搜”，经警方调查后，发现嫌疑人因求职未被录用，心生不满，利用软件捏造制作了多张“怒怼领导、发泄情绪”的微信聊天记录截图，故意散播谣言，造成恶劣影响。
面对日益高发的截图篡改问题，合合信息研发了一种基于HRNet的编码器——解码器结构的图像真实性鉴别模型，将被篡改的图片输入到模型后，模型能够判别这张图像是否被篡改，定位出篡改图像的篡改区域，并以可视化形式定位结果。
合合信息图像篡改检测技术应用效果展示。
无论是从原图中“抠下”关键要素移动“粘贴”至另一处的“复制移动”，还是“拼接”“擦除”“重打印”等图片篡改方式，合合信息的图像篡改检测技术均可“慧眼”识假。
2022年WAIC期间，合合信息首次推出“PS篡改检测”技术，一经亮相即成为大会“黑马”。该技术通过学习图像被篡改后统计特征的变化，智能捕捉图像在篡改过程中留下的细微痕迹，可识别身份证、护照等多种证照识别类目，门诊发票、检查报告等多种文档图像的篡改痕迹。今年图像篡改检测“黑科技”优化升级，将应用场景拓展至了转账记录、交易记录、聊天记录等手机截图。
与现有的视觉模型相比，合合信息的模型能有效识别截图本身的信息，包括但不限于噪声、频谱等，从而捕捉到细粒度的视觉差异，达到高精度鉴别目的，既保障了信息的真实性和完整性，又有效防止欺诈行为的发生，保障了用户的合法权益。
治标也要治本，AI可信化发展需要标准引领方向
图像内容安全的重要性与日俱增。在这场隐形的安全保卫战中，除了技术之外，针对可信AI产品及服务的标准规范的出台，将有助于AI图像行业整体向合规方向发展。
今年，为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务管理办法（征求意见稿）》等文件中对于AI服务的规范性要求，系统性建立图像内容安全行业发展秩序，中国信通院牵头启动了《文档图像篡改检测标准》制定工作，合合信息、中国图像图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合编制。
目前，中国人工智能产业发展联盟已制定了《可信AI操作指引》和《可信AI示范区管理办法》，合合信息等科技企业也将通过标准建立、产品服务帮助个人及企业保护图像内容安全，支持可信人工智能产业生态发展，助力科技向上的同时践行科技向善。
南京晨报/爱南京记者杨静