“智能换脸”引恐慌,生成式AI面临三大风险

Deepfakes使用生成式AI技术,将个人的声音、面部表情及身体动作拼接合成虚假内容,极大影响了个人的合法权益与社会的公共利益。这背后,是生成式AI的研发与应用带来的一系列法律风险及司法适用难题的缩影:不仅涉及知识产权保护、个人隐私保护,以及内容的真实性和可靠性等问题,其智能化的特点也可能引发AI法律主体地位、侵权...

AI生图五大乱象②|“艳照”里的生意:换脸和脱衣,屡禁却难止

针对AI换脸、去衣等现象，中央民族大学法学院教授李梁表示，首先要对人工智能应用违法的侵权主体进行明确划分；其次要对人工智能应用违法责任（后果）分担机制进行构建；再次，在综合考虑法理及社会利益的基础之上进行科学立法，建立健全人工智能应用相关法律体系，推动技术研究及科学发展，加强监督监管机制。上游新闻记者金鑫...

AI换脸为什么韩国最泛滥 性别歧视与技术滥用下的危机

随着AI技术的发展,一些旨在创造真实图像的模型意外地促进了AI换脸和AI生成不当内容的现象,尽管部分功能已被调整,但技术的开源性让这类滥用难以彻底遏制。在黑灰产领域,这些技术被用来谋取利益,如在Telegram平台上,存在大量以AI色情为诱饵的群组。一个公开可加入的群聊,专注于利用AI技术伪造知名网络红人的色情图片,成...

《韩国AI换脸潮来袭,你的自拍是否还能安全?》

在这场AI换脸的风波中，社会的思考与进步，让我们深刻意识到科技与伦理、法律与生活之间的紧密联系。

“AI换脸”技术的应用风险及其规制引导

(一)“AI换脸”技术与人格权益“AI换脸”技术本质上是对替换者和被替换者面部信息的读取与重塑,未经权利人同意违法应用“AI换脸”技术,将直接侵害相关权利人的肖像权。肖像权的绝对性、专属性、排他性等权利特征,决定面部形象的主人有权拒绝将其面部形象移转至他人身体形象中,身体形象的主人亦有权利拒绝其身体形象...

AI换脸,该抵制吗?

第三,利用AI换脸冒充名人进行直播带货,骗取用户下单(www.e993.com)2024年11月24日。比如主播在直播间利用“AI换脸”给自己“换”了一张名人脸,从而增加直播视频流量,助力直播带货。此外,未经他人允许,通过AI换脸对名人/普通人进行长短视频二创、制作表情包等侵权问题也十分常见。AI换脸诈骗案件频发且手段多样,与这一技术的成熟度和广泛度密切相...

五男子使用“AI换脸”技术篡改系统数据牟暴利被判刑

法官提醒,此类通过“AI换脸”方式非法突破人脸识别认证的行为,已成为近年来新型网络犯罪的发展方向,不仅侵害网络安全,也严重侵犯了个人信息安全。法院建议,一方面,应强化个人信息权益保护,推进网络空间治理法治化。另一方面,公民自身也应当强化个人肖像的保护意识,未经肖像权人许可,不得制作、使用、公开他人肖像,当他人侵...

成龙的新电影《传说》扑街了,因为他们的AI换脸实在太抽象了

相比电影里的效果,宣传片的AI换脸质量还算是稳定的了,但依然,很假。全片但凡是出现AI成龙的片段都让我无比出戏,给本就不扎实的剧情和画面雪上加霜。只要一出现那张AI脸,僵硬的表情、突兀的磨皮特效和微妙涣散的眼神,我竟然从真人身上看出了恐怖谷效应。

每日网事 | AI换脸拟声技术使用乱象惊人

记者近日调查发现,AI换脸拟声技术已成为简单易操作的“低门槛”技术,只需拥有声音与照片等“素材”,借助软件即可瞬间实现“AI克隆”。实践中,一些不法分子试图利用AI换脸拟声技术实施违法犯罪活动。近日,国家金融监督管理总局金融消费者权益保护局发布防范新型电信网络诈骗风险提示,将“AI换脸拟声”纳入其中,作为专门类...

涉黄AI换脸案:技术双刃剑下的道德警示与法律反思

总之,涉黄AI换脸案给我们带来了深刻的启示和反思。我们需要认识到技术的双刃剑特性,加强对于新兴技术的监管和规范,加强公众对于技术伦理和法律知识的普及,同时也需要保护个人隐私和加强网络环境治理。只有这样,我们才能真正实现技术的健康发展,为社会带来更多的福祉和进步。