深度伪造技术被滥用 如何守好个人信息的安全门？
眼见一定为实？在信息爆炸的时代，这个观念正受到前所未有的挑战。近日，在微博等公众平台中，#Deepfake#多次冲榜，利用Deepfake工具进行侵权的行为引发公众关注。“AI换脸”犯罪并不是个例，以“AI换脸”为代表的AIGC技术被应用在诈骗的案件屡屡发生，前两天，湖北公安破获了一起用AI换脸技术解锁社交账号并倒卖获利的案例……人工智能时代，如何守护我们的信息安全？
1
AI深度伪造，躲不掉的诈骗和侵权
生成式人工智能技术的快速发展，一张“肖像照片”、一段视频更或者是音频，都有可能成为不法分子诈骗的手段和工具。四川攀枝花市民王先生突然收到“外甥”添加微信好友请求，称其想借点钱用于周转，犯罪分子在诈骗过程中，利用“AI换脸”技术以获得王先生信任；深圳市民吴先生收到陌生手机号码发来“换脸”伪造不雅照，并被对方实施敲诈勒索，深圳警方接到报案后，通过梳理报案记录，发现全市有同样遭遇的不止吴先生一人，犯罪嫌疑人的敲诈勒索方式都如出一辙……
深度伪造也就是deepfake，是learning和fake的组合，主要指用AI深度学习的技术，合成某个人的图片或视频、甚至声音，产生以假乱真的效果，最常见的便是AI换脸。AI技术的发展，也在不断降低“实时换脸”技术门槛，有数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌在接受媒体采访时表示，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍，整个风险其实是呈指数级上升的情况，不仅仅是在中国，在韩国，在菲律宾、印尼等等国家都有类似的情况发生。
２
以技术治理技术，AI+安全纵深发展
随着生成式人工智能驱动AI发展进入新阶段，AI治理随之也变成了一个突出问题。在权衡AI应用与安全，并利用AI技术治理AI犯罪的过程中，行业共识日益清晰：既要充分发挥AI技术的高效性与精准度优势，提升安全运营的智能化水平，又要强化安全措施，确保技术应用的抗风险能力。
安恒信息董事长范渊指出：“AI让网络攻击的门槛更低，更难以防范。用AI来防控和治理AI，正在成为安全领域的必选项。”天翼安全科技有限公司副总经理张晖认为“大模型赋能网络安全，则是利用先进的人工智能技术，提升检测与防御能力，为网络空间安全构筑更为智能的防线”。
行业已积极将人工智能技术应用到安全领域，例如，电信安全自研的安全垂类大模型“见微安全大模型”通过日志降噪研判、智能攻防地貌分析等关键技术，有效提升了安全事件的响应和处理能力，当前已成功赋能五条内部产线及十多家省级专业安全服务公司；中国移动推出九天•泰合安全大模型，融合了启明星辰安全行业特有的海量数据资源，有效支撑各类安全业务场景下的AI技术应用；中国联通推出元景网络安全大模型，通过结合“大模型+小模型+安全工具”的协同作战模式，有效针对告警日志降噪、恶意样本检测、威胁情报生产、攻击事件研判分析等核心安全场景提供智能化解决方案，极大提升了安全防护的效能和响应速度。
除大模型外，中国电信还推出了金融级KYC证件识别产品“侦图”平台，通过“级联+双路卷积+多尺度特征融合”，交叉校验用户上传的证件信息，并比对人脸进行精确识别，有效阻挡了“AI换脸”相关欺诈模式的入侵，有力保障了用户支付安全。工业和信息化部反诈专班专家李坤表示，正在会同行业内的手机终端企业，将推出AI换脸诈骗风险提醒功能。这项功能仅在手机端来本地运行，能够有效保护用户数据不泄露，经过用户授权后，可为用户提供AI换脸诈骗风险预警提醒。
３
产业协同共治安全未来
伴随着AI技术的发展，在积极防范人工智能等新技术带来的安全风险，持续提升技术筑牢安全防线的同时，也要加强人工智能产业协同。一方面，以生成式人工智能技术为代表的新兴技术和应用快速崛起，亟须在理论架构和软硬件层面实现质的飞跃，解决人工智能技术瓶颈、促进人工智能成熟发展，离不开产业交流与合作。另一方面，人工智能在促进生产力水平提高的同时，也带来了权益侵害、隐蔽犯罪和认知混乱等客观风险，构建可信向善的人工智能亦离不开产业共同协作。在第二十三届中国互联网大会数据安全论坛上，中国信通院携手三大运营商集团公司共同启动信息通信行业“人工智能+安全”领航计划，将从“提升企业人工智能安全管理能力”“提升企业人工智能安全技术保障能力”“深化人工智能安全能力行业赋能”三方面展开，推动行业人工智能安全能力整体提升。
加强人工智能风险治理，还需要健全法治引领技术向善。如何让人工智能循着以人为本和技术向善的方向发展，监管之外离不开法治的保障。目前，我国已颁布实施《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律，但针对AI领域的司法治理仍有进一步细化空间。只有通过立法为AI开发和使用划定基本底线，明确各方权责，才能从源头防范风险，避免“先污染后治理”的被动局面。
人工智能迎来了以大模型为主导的新世代，其颠覆性力量正在改变人类的生产生活方式和思维方式，与此同时，技术的滥用已成为信息安全领域的一大挑战，面对新挑战新机遇，仍需要产业各方通过技术创新与协同，进一步构建起更加坚固的安全防线。