AI陪伴案:网络平台利用算法组织用户创设虚拟形象构成侵权

被告上海某科技公司是某款手机记账软件的开发运营者,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像,设置与该陪伴者的人物关系(如男女朋友、兄妹、母子等),并借助聊天语料实现与虚拟人物的交流互动。原告何某系公众人物,在该款软件中被大量用户设置为陪伴人物并设置了人物关系。某公司通过聚类算法,将...

虚拟伴侣上线先要“学法”

AI伴侣高度仿真又不甚稳定,给用户造成似真似假的幻觉;当屏幕前对话的是孩子时,AI伴侣的后果更难把控。今年2月,美国一少年对AI伴侣产生依恋后自杀,成为史上“首例AI聊天致死案”。此外,AI聊天分寸不易拿捏,很容易一言不合跨越红线;与AI“交往”过程中,用户大量个人信息被平台掌握。有用户反馈,平台往往默认打开相机...

缺少精神寄托的人们,找上了“纸片人”和聊天AI|第2眼

《全职高手》人物的AI化，主要还是依照现有作品的人物，也就是“纸片人”的设定，通过AI的深度学习进行制作。而后，像“DAN”这一种聊天AI，则不再具备具体的人物形象，而是经过广泛学习后生成专属于用户的“私人”AI。如此的聊天AI，国内的快手、Soul等社交平台也纷纷推出。在分享AI聊天的使用体验时，网友们的关键...

一周找了五个情感陪伴AI产品聊天,我感到更空虚寂寞了?

以筑梦岛为例,基于一个虚拟人物,用户可以在「梦境」功能板块主动分享自己这个人物的精彩对话;同时,通过「小剧场」功能板块,可以为梦中人补充创作故事或情节,其它用户玩家选择任意小剧场导入后也可以根据小剧场设定接着聊天。(筑梦岛)星野App也设置了类似功能,被命名为「记忆簿」、「故事」。卡牌机制中的「剧情星念...

“过火”的AI聊天:为爱氪金,青少年模式暗藏软色情

贝壳财经记者发现,在这类AI剧情聊天软件中,用户自创人物时可以自定义虚拟人物的形象描述及风格,系统会生成AI人物形象。此外,用户还能创建角色人设,如设置昵称、身份背景、开场语、为角色定制语音。用户对角色的个性化需求,往往与充值挂钩。AI剧情聊天软件会员收费情况。截图...

“过火”的AI聊天 暗藏色情和暴力

新京报记者发现,在这类AI剧情聊天软件中,用户自创人物时可以自定义虚拟人物的形象描述及风格,系统会生成AI人物形象(www.e993.com)2024年11月11日。此外,用户还能创建角色人设,如设置昵称、身份背景、开场语、为角色定制语音。用户对角色的个性化需求,往往与充值挂钩。新京报记者在测试时看到,星野可通过购买星钻和星月卡的方式,获得更多权益,如自动播放...

每日数码科普三十六:数字人崛起 AI驱动的虚拟代言人与品牌营销

在数字化时代的浪潮下，越来越多的品牌开始探索新颖的营销方式，以吸引年轻消费者的注意力。数字人，即通过人工智能和计算机图形技术生成的虚拟人物，正在成为品牌宣传和市场营销的新宠。本文将探讨数字人如何通过AI技术赋能，改变品牌与消费者之间的互动方式，以及它们在未来的潜在应用。什么是数字人？数字人是一种基于AI...

段一鸣|元宇宙虚拟社交场景侵害行为的类型化治理

通过上述事例可以发现,现存的一些引起争议的虚拟社交场景性侵害行为,基本是加害者通过其虚拟人物模拟现实世界中的直接触摸类猥亵行为,强制被害者观看或察觉而使其产生心理上的不适。但从技术角度来预判,利用虚拟社交场景来实施的可能构成性骚扰的行为还不限于此。如某游戏允许玩家上传图片来自定义自己的服装,那么当一位...

生成俊男美女虚假形象骗互动,抖音治理不当使用AI生成虚拟人物

新京报贝壳财经讯3月27日,抖音安全中心发布消息称,去年,抖音发布《关于人工智能生成内容的平台规范暨行业倡议》,明确平台不鼓励利用AI生成虚拟人物进行低质创作,将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。近期平台发现,站内仍有不当使用AI技术生成虚拟人物发布内容的账号,平台进行...

微软AI 语音服务推出虚拟人形象 实现文本转高清人物说话视频

太平洋科技快讯近日,微软公司宣布其AzureAI语音服务新增了一项创新功能——TexttoSpeechAvatar,该功能为开发者提供了将文本转换为自然语音视频的能力,该功能突破性地将文本直接转换为具有人类自然声音的说话视频。这一技术利用了AzureAI的文本转语音引擎,使得虚拟人物在视频中呈现出逼真的说话效果,并且...