OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全

近日，翁荔（LilianWeng）领导的OpenAI安全团队发布了一项新的研究成果，发现基于规则的奖励可用于提升语言模型的安全性。这不由得让人想到了科幻作家艾萨克??阿西莫夫提出的「机器人三定律」和作为补充的「机器人第零定律」，这就相当于用自然语言给AI系统设定的一套安全规则。看起来，OpenAI已经在向着这个方...

发门票了!特斯拉Robotaxi首秀日渐近 第三代人形机器人有望同台

据彭博报道，为了控制特斯拉的成本，马斯克决定避开摄像头以外的传感器，他可能会在运行Model3和ModelY的现有平台上开发第一代Cybercab。机器人马斯克是一个科幻迷，活动口号“We,Robot”便是为了致敬科幻作家艾萨克??阿西莫夫的短篇小说集《我，机器人》。阿西莫夫在书中提出了“机器人三定律”，这些定律优先考虑人...

「机器人教父」50年经验总结:现实版「三定律」出炉

为了纪念艾萨克·阿西莫夫和阿瑟·克拉克,他将这些知识总结为「机器人三定律」:1、机器人的外观可以体现其功能和智能程度,它必须履行或稍微超出这一预期,否则将不会被接受。2、当机器人与人类共存于同一空间时,机器人绝不能剥夺人类的自主权,尤其是当机器人出现故障时(它们有时会不可避免地会出现故障)。3、(...

谷歌开发“机器人宪法”防止伤害人类,灵感来自机器人三定律

这部“机器人宪法”的灵感来自科幻作家艾萨克·阿西莫夫(IsaacAsimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身安全,但不得违反第一、第二定律。为了提高安全性,DeepMind对机器人进行编程,如果机器人关节受力超过一定阈值...

老黄一口气解密三代GPU!粉碎摩尔定律打造AI帝国,量产Blackwell...

新智元导读刚刚,老黄又高调向全世界秀了一把:已经量产的Blackwell,8年内将把1.8万亿参数GPT-4的训练能耗狂砍到1/350;英伟达惊人的产品迭代,直接原地冲破摩尔定律;Blackwell的后三代路线图,也一口气被放出。就在刚刚,老黄手持Blackwell向全世界展示的那一刻,全场的观众沸腾了。

人形工业机器人的现状与未来:我们为什么要发展人形工业机器人?

斯普纳被分配去调查一起看似普通的自杀案,死者是机器人制造巨头USR公司的创始人阿尔弗雷德·兰宁博士(www.e993.com)2024年11月26日。然而,斯普纳在调查过程中发现,兰宁博士的死并不简单,他怀疑是一台机器人违反了机器人三大定律,谋杀了兰宁博士。电影《我,机械人》剧照随着调查的深入,斯普纳与USR公司的新型机器人桑尼(由艾伦·图代克配音)合作...

机器人给我们的生活带来了哪些冲击?——聚焦世界机器人大会

著名科幻小说家阿西莫夫曾经提出过机器人三大定律,首要的一条就是机器人不得伤害人类。但从目前的发展趋势来看,还存在很多隐患问题。机器人“小胖”没人操纵,自己突然跑起来,打倒了玻璃墙,砸伤旁边一位路人……去年底,深圳高交会上机器人“小胖”伤人事件引发热议。事后深圳高交会组委会发布公告表示,事故是由于展商工作...

“世界模型”发布,机器人迎来scaling law?

图3弹奏空气吉他图片来源:1X官网尽管在物体一致性、物理规律和自我认知方面仍存在一些挑战,1X此次发布的“世界模型”为机器人学习和认知研究提供了全新的视角。其创始人兼CEOBerntBornich认为,该模型“首次证明了人形机器人数据正显著地推进“ScalingLaw”(规模定律,即系统性能会随着规模的变化而呈现规律性变化...

孙山|论人形机器人的法律地位

通常情形下,人形机器人可以自由进出家庭中的每个房间。在缺少法律规制的情况下,走进家庭的人形机器人会持续搜集用户的隐私信息,最终会对隐私权造成破坏性的影响。第三,数据领域公共安全的多方威胁。如果机器人搜集信息的行为不受任何限制,那么可以想象,平台之外还会出现滥用他人隐私信息的其他主体,包括但不限于企业、个人...

《沙丘》里的电脑和机器人都去哪了?

赫伯特在《沙丘》中做出这样的设定,很大程度上是对阿西莫夫“机器人-银河帝国-基地”系列作品的一个回应——对于阿西莫夫“机器人三定律”的推演。将“三定律”推演到极致,就出现了一个基本的伦理和哲学问题:如果机器人保护一个人类的代价是坐视另一个人类受到伤害,该如何行动?一个智能机器版本的“电车难题”:绝对...