雷军AI语音屡禁不绝 谁该为此负责?
第二种方式为,创作者上传公众人物的真实声音,克隆出接近其声音的语音角色,并分享至AI音频分享社区上,其他制作者可以直接使用此类语音角色再生成AI音频。相比前一种,第二种生成AI语音的方式更加便捷。经济观察网记者在睿声社区中选择一个名为"雷军"的语音角色,输入200个字符的文字,点击生成音频。...
诺奖再度垂青AI!复旦AI大课开课满月,问策战略咨询委员会
新学期学校开出AI通识基础课程10门,如计算机学院黄萱菁老师授课的《走进人工智能》;开出11门AI专业核心课程,如计算机学院邱锡鹏老师授课的《模式识别与机器学习》;开出24门AI学科进阶课程,如外文学院郑咏艳老师开设的《AI赋能的语言分析和语言习得》;开出16门AI垂域应用课程,如文物与博物馆系的文少卿老师开设的《AI...
AI生成合成内容将有专属水印,能遏制“换脸”诈骗吗?
语音标识应同时包含人工智能要素——含“人工智能”或“AI”,表明使用人工智能技术;包含生成合成要素——含“生成”和/或“合成”,表明内容制作方式为生成和/或合成。音频节奏标识应为“短长短短”的节奏。《标识方法》注释称,“短长短短”节奏为“AI”的摩斯码表示。以“AI换脸”诈骗为例,肖飒分析,根据《...
外滩大会参会规模创新高,人们都在关注如何防止AI作恶
如果要从根源上防范欺诈行为,姚伟斌认为应在标准和立法角度,要求给AIGC内容建立通用标识,比如每一张AIGC生成的视频或图片都在文件信息里带一个签名或水印,这样平台管理更有依据,也能让AIGC可以更可信。“让人工智能帮助人弹钢琴,而不是作恶。”是本届外滩大会反复强调的价值观。上海市数据科学重点实验室主任...
事关AI生成合成内容!网信办:新规征求意见!
第五条服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
AI如何赋能数据安全?网安周座谈会热议大湾区安全技术创新
他认为,AI训练应重视数据的原生性,通过数字水印区分好真实内容和生成内容;同时,可通过数据质量控制、算法优化和模型评估改进、开展伦理审查、人工干预与审核等多种方式,提高AI可信性(www.e993.com)2024年10月16日。中国工程院院士邬贺铨围绕“AI时代的数据安全”发表主题演讲。(主办方供图)...
AI如何监管?OpenAI支持“加水印” 马斯克希望强化安全测试
OpenAI、微软等支持对AI内容“加水印”据媒体报道,OpenAI、Adobe和微软等已表示支持加州的AB3211法案——加州数字内容来源标准(CaliforniaDigitalContentProvenanceStandards)。AB3211法案要求科技公司对AI生成的照片、视频和音频片段的元数据(Metadata)中添加水印。当前,已有不少AI公司这样做了,但大多数人不会阅...
展示青少年无限科创可能,“外滩大会AI创造营”启幕
在9月5日及9月7日上午,观众可以在ai非遗互动体验区,体验用木版水印解构和重构的过程,将由木版水印专业人员辅导观众,将四块分版套印到同一个小立轴上,形成一个完整的图案。通过互动,观众可以加强对图像结构“标注”和“分版套印”的理解。“青少年科创作品展示”面向上海科创特色的中小学校,展示沪上青少年们的创...
人工智能造假行骗:能治吗?
AI生成合成内容将有“专属水印”9月,国家网信办起草了《人工智能生成合成内容标识办法(征求意见稿)》,这能遏制“换脸”诈骗吗?对外经贸大学数字经济与法律创新研究中心主任许可:在大量AI深度伪造技术的诈骗中,最大的问题是被骗的人以为视频是真的。《人工智能生成合成内容标识办法(征求意见稿)》要求,通过...
当数据成为“生产资料”,三篇论文总结如何用水印技术保护AI训练...
2、在AI训练数据中添加水印的方法及应用场景2.1Black-boxDatasetOwnershipVerificationviaBackdoorWatermarkinghttpsarxiv/pdf/2209.06015.pdf本文将保护AI训练数据集的问题表述为所有权验证问题,即防御方识别一个可疑模型是否是在(受保护的)被攻击的数据集上训练出来的。特别是,作者考虑了黑...