韩国N号房再现,大量女性被AI换脸在微博求助,涉及500所学校,超过22...
Deepfake可能被看作恶作剧,但它显然是在匿名掩护下利用技术的犯罪行为,任何人都可能成为受害者。Telegram的服务器在海外,其首席执行官又被拘留在巴黎,所以调查起来有困难。韩国通信标准委员会表示已经致函,要求法国政府配合调查Telegram。被舆论关注之后,相关行为有所收敛,但《韩民族日报》又跟踪报道发现,有些贼心不死...
Deepfake被滥用是悬挂在女性头上的一把刀
同时,比N号房犯罪更可怕的,是利用Deepfake犯罪的人,因为和受害者可以没有任何关系。道德借由网线隔开,被人性煽动,再被技术麻木磨灭,在他们犯罪的过程中,受害者最大程度的被物化为牺牲品。陌生人可以随机作案,熟人也可以,尤其是熟人作案,很容易摧毁受害者构建起来的熟人圈层的安全感。有一些女孩,如我们前面...
韩国Deepfake危机,一种新型暴力围剿全球青少年
韩国总统尹锡悦在Deepfake事件中指出,许多受害者是未成年人,而施害者大多仅有十几岁。对于这些年轻的受害者来说,他们的照片或视频被恶意篡改和传播,直接导致个人隐私的泄露,并使他们的社交圈瞬间崩塌。更可怕的是,这些伪造的内容可以在几秒钟内传播到世界的每一个角落。对于正处于成长阶段的青少年来说,这种压...
韩国再现“N号房”事件,大量Deepfake性犯罪引恐慌,超500所学校受...
一、用户利用DeepfakeAI制造虚假露骨视频,女性肖像权受到侵犯上周六,大学生Heejin(化名)收到了一个匿名Telegram消息,声称她的照片和个人信息被泄露。对方发送了一张她的照片和一张经过深度伪造技术处理的不雅图片,后者将她的脸非法合成在了一张具有性暗示的图片上。在接受BBC采访时,Heejin表现的很自...
一个AI恐怖故事:我在色情网站,看到了自己
与非法拍摄的视频不同,在韩国,单纯拥有和观看深度伪造视频是不会受到处罚的。而即使你利用DeepFake制作了破坏受害人人格的非法深度伪造图像或者视频,但只要你说你没有“以传播为目的”,你依然可以避免受到惩罚[3]。这也是韩国在处理新N号房事件时出现非常多非常戏剧性案例的原因。比如在今年一场针对Telegram上制作...
Taylor Swift 身陷不雅照风波:AI 越强、Deepfakes 越猖狂,微软和...
这种方式的优点是:水印的实用性很强,有助于轻松、快速识别AI生成的内容,据此发现被删除的有毒帖子(www.e993.com)2024年9月18日。HuggingFace研究员SashaLuccioni曾对AI系统中的偏见问题进行过系统研究,她表示默认在所有图像中包含水印,能够有效遏制不良分子生成Deepfakes内容的行为。
她又被造黄谣,不能再忍了|韩国|景甜|霸凌|受害者|加害者|被害者...
高分英剧《真相捕捉》曾展现了DeepFake的可怕之处。一个英国军人被控告殴打并绑架了一名女性,证据是一段街道上的监控录像。可经过调查却发现,这个视频是那名女性受害者用DeepFake制作的。如果调查不够仔细,一个无辜之人就很可能被投入牢狱之中。将这种转白为黑的手段运用在性犯罪事件中,其带来的后果简直无法想...
N号房2.0,终于爆了
高分英剧《真相捕捉》曾展现了DeepFake的可怕之处。一个英国军人被控告殴打并绑架了一名女性,证据是一段街道上的监控录像。可经过调查却发现,这个视频是那名女性受害者用DeepFake制作的。如果调查不够仔细,一个无辜之人就很可能被投入牢狱之中。将这种转白为黑的手段运用在性犯罪事件中,其带来的后果简直无法想...
AI造假成风下,一群人决定做“打假英雄”
对抗Deepfake又称“伪造对抗”,虽也是AI领域,但相较于“生成式AI”实在是太冷门了——商业潜力不如生成式AI、研发还需要投入资金。包括这次比赛,也是VisionRush团队为数不多的专业“对口”比赛。在得知蚂蚁集团举办了全球范围的安全大赛、可以和来自全球的同行交手后,团队立即成立了报名参赛,除了“切磋练兵”的心态...
从换脸骗钱到套壳卖课,AI诈骗如何避坑?
发布在社交媒体上的照片,可能被别有用心的人拿来“喂”AI。普通人也随时面临着被“开盒”(指网络上公开曝光他人隐私的行为)的风险。根据奇安信集团发布的《2024人工智能安全报告》,“2023年基于AI的深度伪造(Deepfake)欺诈暴增了3000%”。利用换脸技术来招摇诈骗固然可怕,然而更深的套路是“攻心计”。