“眼见不一定为实”的时代到来了,警惕AI换脸下的网络诈骗
在最近一段时间里,一些不法分子已经开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,当AI成为实施诈骗的工具时,这类高科技含量的骗局常常令人防不胜防,会在短时间内给被害人造成较大损失。“AI换脸”被滥用,科技切莫成犯罪者的帮凶AI打开“潘多拉的魔盒”最近两年,以ChatGPT、“文心...
科技观察丨AIGC魔盒初现在五月
AI诈骗防不胜防。20日,“平安包头”微信号发布了一条使用AI换脸技术的诈骗案例,迅速冲上热搜。诈骗团伙借用AI换脸技术,10分钟诈骗430万元。现在,有图、有视频、有语音,也不一定有真相,因为这些,AI都已经可以生成,并越来越逼真。AI谣言扰乱视听。24日,科大讯飞股价异常下跌,后官方回应“股价下跌系某生成式A...
看广州「微位科技」如何盖上通信安全的“潘多拉魔盒”
常见的手机安全防范软件虽然可以帮助过滤拦截骚扰、诈骗电话,但是“作恶者”只需更换新的电话号码就可逃避过去的标记,电话号码无法再提供可信的身份。「微位科技」参与制定的《基于密码令牌的可信通信服务技术规范》是全国信息安全标准化技术委员会在2020年立项的国家标准研究项目,项目研究了国内外电话通信防骚扰防诈骗领域...
玩换脸软件一时爽,AI拿你的脸去诈骗怎么办?
未来的诈骗,已经没人类什么事了Zao软件引发人脸识别的安全性质疑只是一个开始,我们应该想到,隐私泄露不仅仅是官方用户协议有霸王条款的问题而已,还有冰山之下的很多隐患有待发掘。比如,如果Zao背后的公司信息安全方面做的很差,不愿意花钱做好防范措施,即使它自己遵纪守法,会不会有黑客攻击Zao的系统,然后把万千用户的...
AI诈骗成功率近100%!潘多拉魔盒已开启?
防不胜防,10分钟就被AI骗走430万元!这是近日震惊全网的真实诈骗案件。话题#AI诈骗正在全国爆发#冲上网络热搜,和你通过社交软件视频对话的,可能不是你认识的那个人本人,而是经过AI伪装的骗子!近期,内蒙古自治区包头市公安局电信网络犯罪侦查局发布了一起使用AI技术进行电信网络诈骗的案件。不法分子利用AI技术,通过声...
AI是潘多拉魔盒吗?
开展前端防范,切断AI诈骗的“数据喂养”(www.e993.com)2024年7月6日。通过不断提高堵截能力,让诈骗软件下不了、诈骗网站登不上;持续完善有关管理制度,防止违法获取个人信息。同时,可通过技术分析网络用户的行为特征、活动频率、会话长短,揪出可疑的社交机器人,对网络诈骗上游进行清理;通过在线监测报警,对网络有害信息采取风险标注、拦截提示、搜...
AI“作恶”案件频发 潘多拉魔盒已打开,数字水印会是那顶紧箍吗?
《科创板日报》5月27日讯(编辑邱思雨)以ChatGPT为代表的AI大模型正掀起一场科技革命,各类下游应用百花齐放。但在人们惊叹于AI带来的生产力变革的同时,尚未完善的监管制度纵使各类乱象滋生。近期,多起新型AI电信诈骗案件受到公众的广泛关注。4月底,一名受害者10分钟被AI换脸骗走430万元;紧随其后,5月22日,又一...
换脸女明星?骗子掌握“黑科技”!太可怕了!
除了“俄罗斯娜娜”以外,各种利用AI换脸实施的诈骗已频频出现在人们的视野中。AI技术被滥用,便成了可怕的“潘多拉魔盒”……AI换脸+裸聊骗子假扮成“美女”,在社交软件上邀请男性进行裸聊,同时用“钓鱼APP”获取通讯录,然后录下男性的不雅视频进行敲诈,这就是我们常说的裸聊诈骗。
ChatGPT“登陆”手机 AIGC的潘多拉魔盒开启?
然而,就在我们对ChatGPTApp上线带来超级管家“贾维斯”翘首以待时,AI核心技术门槛的降低,也就给一些不法分子以可乘之机。近日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州一科技公司老板10分钟被骗走430万元。最终警方联动银行迅速启动止付机制,成功止付拦截336.84万元,但仍有93.16...
从AI换脸到AI开会,潘多拉的魔盒是否会打开?
或许有一天,任何人发布或者引用的任何资料,都有理由被质疑存在刻意或无意的修正。而比这更可怕的是我们甚至不知道自己正在被欺骗。如果够幸运,人们或许会发现,从遥远的那一天起,又一个潘多拉魔盒正在被开启。科技正在以我们难以预见的方式发展、演变,而这将给当下的全球治理与法律监管体系带来巨大的挑战。