OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全

这不由得让人想到了科幻作家艾萨克??阿西莫夫提出的「机器人三定律」和作为补充的「机器人第零定律」，这就相当于用自然语言给AI系统设定的一套安全规则。看起来，OpenAI已经在向着这个方向努力了。论文标题：RuleBasedRewardsforLanguageModelSafety论文地址：httpsarxiv/pdf/2411.01111代码与数据...

从数学角度概述阿西莫夫机器人三定律

??第二定律:从观察到的不服从会导致伤害(在(10)的意义上)这一事实出发,机器人会学习到,为了最小化对其他人类的伤害,它应该服从他们的命令,除非这与第一定律相冲突。??第三定律:从观察到机器人必须保持其存在以积极减少他人伤害这一事实出发,机器人可能会学习到,只要这不违反第一或第二定律造成伤害,它...

发门票了!特斯拉Robotaxi首秀日渐近 第三代人形机器人有望同台

机器人三定律：1）机器人不得伤害人类或因不作为而让人类受到伤害；2）除非与第一定律相冲突，否则机器人必须服从人类的命令；3）除非与第一和第二定律相冲突，否则机器人必须保护自己。OptimusGen2发布于2023年8月，与初代Optimus相比，OptimusGen2的外观更加精致，行走速度提高了30%，减重10公斤，OptimusGen2...

马斯克第三次接受 Lex Fridman 深度专访:「筷子夹火箭」回收技术...

2024年3月第三次发射,火箭第一、二级成功分离,但助推器在尝试着陆点火后意外解体,飞船再入大气层时失联。2024年6月第四次发射,火箭第一、二级成功分离,并分别按计划落入墨西哥湾和印度洋。2021年底,ElonMusk曾第三次作为嘉宾接受LexFridman播客两个半小时的深度采访,访谈涉及星舰对于创建火星营地...

「改革创新」邵春堡:人工智能的安全风险大过一般科技问题

比如,在伦理上要遵从阿西莫夫“机器人三定律”,即机器人不得伤害人类,或坐视人类受到伤害;机器人必须服从人类的命令,除非与第一定律冲突;在不违背第一定律和第二定律的情况下,机器人必须保护自己[11]。无论人工智能发展到什么程度,甚至AI能够替代人类的一些能力,超出人的智商,都要坚守“人机伦理”的基调,将“科技...

谷歌开发“机器人宪法”防止伤害人类,灵感来自机器人三定律

谷歌的“机器人宪法”采用“以安全为重点的提示”,指示大语言模型避免选择涉及人类、动物、尖锐物体甚至电器的任务(www.e993.com)2024年11月26日。这部“机器人宪法”的灵感来自科幻作家艾萨克·阿西莫夫(IsaacAsimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应...

谷歌开发机器人宪法防止伤害人类,灵感来自机器人三定律。-24小时...

它通过收集数据帮助扩展机器人学习,从而更好地训练机器人适应现实世界。这部“机器人宪法”的灵感来自科幻作家艾萨克·阿西莫夫(IsaacAsimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身安全,但不得违反第一、第二定律。

黄仁勋对话软银孙正义:打造AI代理和物理AI,强调企业必须在AI浪潮...

第二个是GrootGen,它利用Omniverse的生成式AI技术生成大量随机数据,并创造多种环境和任务,以帮助机器人学习和改进。第三个是GrootControl,这是一个模型蒸馏框架,能够将机器人学到的所有技能和任务精简为一个统一模型,从而执行多种运动技能。

人类抖M计划:如何造出一个会反叛的机器人?

你去强行定义一个人的边界,很难事无巨细,必有漏洞。而你让一个人通过和周围环境的交互,而且是“不断交互”来逐渐定义自己,才可以自洽。举个栗子:你肯定玩过那种即时战略游戏,比如《王者荣耀》,你只能看到视野范围里的东西。这些东西,反过来框定了你看待当前局面的视角。

孙山|论人形机器人的法律地位

第二,心理层面的隐私破坏。通常情形下,人形机器人可以自由进出家庭中的每个房间。在缺少法律规制的情况下,走进家庭的人形机器人会持续搜集用户的隐私信息,最终会对隐私权造成破坏性的影响。第三,数据领域公共安全的多方威胁。如果机器人搜集信息的行为不受任何限制,那么可以想象,平台之外还会出现滥用他人隐私信息的其他...