9秒被骗走245万元，“打了视频电话确认是熟人”！广州也有人差点中招
“眼见”不一定“为实”之后，
怎么办？
此前，“10分钟被AI换脸骗走430万元”
事件引发关注。
据5月25日媒体报道，
又一起在4月发生的AI换脸诈骗事件曝光。
这次金额达到245万，
且整个诈骗过程时间更短，
只有9秒钟。
9秒被骗走245万
“打了视频电话又是熟人”
据报道，今年4月，安徽安庆经开区发生一起“冒充熟人”诈骗案，经开公安分局反诈中心民警调查发现，诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”，让受害人放松警惕从而实施诈骗。
“视频里边我看到是他的脸”，“但是没几秒就挂了，说在开会不方便”。4月27日，何先生的微信“好友”突然向其发起视频通话，电话接通后，何先生看到“好友”正在一间会议室内，就在他准备进一步询问时，“好友”直接挂断了电话，并表示在会议中有重要事情交代，需要何先生添加QQ沟通。
随后，“好友”在QQ上告诉何先生，目前有一个项目招标需要周转资金，希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”，“我就没多想，就转账了”，基于对“熟人”的信任，何先生没有犹豫，立刻让家人将245万元到对方指定的账号上，直到事后拨打对方电话才得知被骗。
发现被骗之后，何先生迅速报警，接报案后，安庆经开公安分局立即抽调精干警力组成专案组第一时间对涉案账户的资金流、信息流进行查询追踪。4月28日，专案民警连夜赶赴北京市抓获3名涉诈嫌疑人。5月22日，警方将先行追回的132万元被骗款及时返还给何先生，目前案件正在进一步侦办中。
警惕“AI换脸”“AI声音合成”
广州一公司财务差点被骗
近日，广州某公司财务张小姐，接到一个所谓“领导”打来的电话，要求她转钱给一位供应商。
当事人张小姐：显示是“领导”的电话，说供应商要求我们转钱过去，很像“领导”的声音，时间上也说得很紧迫，要转两万元过去。
正当张小姐想转钱的时候，被民警成功拦截。民警表示，这是骗子利用AI技术，合成了张小姐领导的声音。
广州市公安局荔湾区分局冲口派出所民警黄家梁：骗子会通过骚扰电话、录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音去骗对方，第二种诈骗是“AI换脸”，人脸效果更易取得对方信任，骗子会使用AI技术进行换脸，可以伪装成任何人，然后再通过视频方式进行信息确认。
“AI换脸”诈骗怎么防？
专家支招：通过回拨对方手机号核实身份
随着人工智能发展，AI换脸、AI换声等技术不断成熟既带来了乐趣，也导致不少骗局出现。5月24日，中国互联网协会在官网发文提醒：面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。
中国互联网协会表示，近期，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信网络诈骗的案件。不法分子利用AI技术，通过声音合成，伪造成特定人物的声音，通过AI换脸，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，能够冒充他人身份联系被害人，博取被害人信任后实施诈骗。
据记者了解，
除了AI换脸诈骗有增多趋势，
各种利用AI实现侵权的案件有增加趋势。
有主播就盗用“明星脸”进行商业带货。很多粉丝在直播中看见自己的偶像直播，马上愉快下单，但其后仔细一看才发现这些都是“换脸”的结果。
广东奔犇律师事务所律师刘国华表示，根据《互联网信息服务深度合成管理规定》第六条，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
而知名互联网律师赵占领表示，未经明星同意而使用其肖像进行换脸，主要涉及侵犯明星的肖像权，如果还使用了明星的姓名，还构成姓名权侵权。此外赵占领表示，如果AI翻唱还可能涉及侵犯词曲作者的著作权。
中国互联网协会提醒，在AI时代，文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，无论对方是谁，不要仅凭单一沟通渠道未经核实就直接转账汇款。
要加强个人信息保护意识，防止信息泄露：不轻易提供人脸、指纹等个人生物信息给他人；不要轻易透露自己的身份证、银行卡、验证码等信息；不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。
赵占领表示，被“换脸”的明星向平台发出侵权通知之后，那么平台应当及时采取删除、屏蔽、断开链接等措施，否则平台需要承担连带责任。
曾在多家互联网企业担任安全技术顾问的李军向记者表示，“AI换脸”诈骗是目前大众了解较少的诈骗方式，给大众带来较大危害。但这一诈骗模式并非突然出现，早在几年前已被不法分子盯上，相关部门也曾作出安全提醒。未来各互联网平台或需要加强检测音视频真假的能力，但要做到这一步预计还需要一定时间。
平台关注AI过度使用问题
互联网平台方面也关注到AI过度使用问题，抖音之前发布公告称，平台允许适当使用虚拟人技术，但必须遵循规范。使用虚拟人进行直播，或创建以虚拟人为人设的账号，必须对相应的虚拟人形象在平台注册。虚拟人背后的真人使用者，必须进行实名注册和认证。使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。
据悉，目前抖音直播不允许换脸直播，一旦发现，平台会直接断播。抖音电商目前也在跟进换脸带货的情况，除了断播、限制橱窗小黄车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。抖音通过分析过往诈骗行为，建立了文本、视频、链接、设备等多个数据风险库，并以此上线了100多个风险模型，提前识别、拦截异常行为。
提高警惕，谨防诈骗
转账汇款、资金往来典型场景：
●要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款。
加强个人信息保护意识，防止信息泄露：
●不轻易提供人脸、指纹等个人生物信息给他人；
●不要轻易透露自己的身份证、银行卡、验证码等信息；
●不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。
信息时报记者潘敬文卢云龙
综合央视财经、大皖新闻等