生成式 AI 遭恶意滥用,美国政府敦促科技行业遏制换脸视频传播

IT之家5月25日消息,据美联社,美国政府要求科技行业和金融机构关闭日益猖獗的“利用人工智能生成色情图像”市场。报道指出,新出现的生成式AI工具可以轻松将一个人的肖像变成具有性暗示内容的AI换脸视频,从而便于这类逼真的深度伪造图像在网上传播,而受害者(无论是名人还是儿童)都几乎没有办法阻止这种情况...

一文了解生成式AI视频

对比Pika的PerFrame架构,PerClip更完整地保留了训练视频素材的信息,成本较高的同时天花板也相对较高。由于扩散模型本身就是计算密集型的,所以在生成长视频时,这种计算负担会急剧增加,并且时间一致性也是对扩散模型一项不小的考验。而Transformer架构特别擅长处理长序列数据,这对于生成长视频来说是一个重要优势,它们...

AI造谣乱象调查:批量生成成本低,博流量当“水军”赚收益

2021年，南都记者调查发现，深度伪造及类似的合成技术的滥用已催生了一批黑灰产：有卖家出售破解版换脸软件，并打包出售通过换脸软件制作的女明星淫秽视频；短视频平台“假靳东”事件后，仍有假冒“东哥”账号在平台活跃。“AI换脸、换衣技术已经相当成熟，如深度伪造，可以生成逼真的视频、图片。”近日，方宇向南都记者介...

淮南一女子被“换脸” “上海鱼腥草公司”被判下架视频、道歉赔偿

郭女士诉称,2022年8月,其发现上海鱼腥草信息科技有限公司在其视频生成器APP“换颜”上,未经她的许可擅自使用上述视频,并制作融脸视频模板,提供给付费会员使用。郭女士称,根据法律规定,公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。公民的肖像权受到侵害的,有权要求停止侵害,恢复名誉,消除影响,赔礼...

香港最大AI诈骗案!Deepfake换脸「英国CFO」,直接骗走公司2亿港币

首先将模仿对象的视频逐帧转化成大量图片,然后将目标模仿对象面部替换成目标对象面部。最后,将替换完成的图片重新合成为假视频,而深度学习技术可以使这一过程实现自动化。随着深度学习技术的发展,自动编码器、生成对抗网络等技术逐渐被应用到深度伪造中。

华裔数学家用GPT-4解数学难题;全国人大法工委回应“AI换脸”现象...

1、全国人大法工委回应“AI换脸”现象2、清华唐杰新作WebGLM性能超WebGPT3、大型语言模型MPT-30B发布训练成本仅71万美元4、陶哲轩公布调教GPT-4聊天记录5、YouTube测试AI多语言配音功能6、Midjourney更新5.2版本可生成摄像头变焦效果7、Dropbox网盘推出AI搜索工具...

AI换脸技术,有“侵犯隐私”之嫌?

前不久,社交媒体平台上一款名为“蚂蚁呀嘿”的特效火爆全网,许多网友都将自己的照片导入换脸软件Avatarify中,照片便可以被算法驱动,生成一段表情夸张扭曲且跟着节奏晃动的换脸短视频。短短几天后,正如此前火爆一时的换脸软件ZAO一样,Avatarify被下架,许多人猜测下架原因是AI换脸可能涉及隐私问题。AI换脸技术的原理是什...

人工智能时代,如何应对“换脸”危机?

案例一:一秒变身“奥巴马”,“换脸”技术的攻防战2018年,一段“奥巴马”呛声特朗普的视频在全美疯传——“Simply,PresidentTrumpisatotalandcompletedipshit.”事后,这个视频被证明为伪造,其背后所利用的即是AI“换脸”技术。该技术是基于生成对抗网络(GANs),通过两个模型——一个负责生成伪图,另一个...

人脸识别时代,如何应对“换脸”危机?

案例一:一秒变身“奥巴马”,“换脸”技术的攻防战2018年,一段“奥巴马”呛声特朗普的视频在全美疯传——“Simply,PresidentTrumpisatotalandcompletedipshit.”事后,这个视频被证明为伪造,其背后所利用的即是AI“换脸”技术。该技术是基于生成对抗网络(GANs),通过两个模型——一个负责生成伪图,另一个...

从奥巴马假视频到ZAO,换脸和人脸检测技术发生了什么?

图1展示的人脸合成样本即通过StyleGAN生成；换脸：即将一个人的脸换成另一个人的脸。该领域通常采用两种不同的方法：1）经典的计算机图形学技术，如FaceSwap；2）新型深度学习技术DeepFake，如近期的移动应用ZAO；人脸属性操纵：即修改人脸的某些属性，如发色、肤色、性别、年龄、是否戴眼镜等。该操纵过程...