OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全

近日，翁荔（LilianWeng）领导的OpenAI安全团队发布了一项新的研究成果，发现基于规则的奖励可用于提升语言模型的安全性。这不由得让人想到了科幻作家艾萨克??阿西莫夫提出的「机器人三定律」和作为补充的「机器人第零定律」，这就相当于用自然语言给AI系统设定的一套安全规则。看起来，OpenAI已经在向着这个方...

从数学角度概述阿西莫夫机器人三定律

回顾一下机器人学三定律:机器人不得伤害人类个体,或因不采取行动使人类个体受到伤害。机器人必须服从人类的命令,但前提是这些命令不与第一定律相冲突。机器人在不违反第一及第二定律的情况下,必须保护自己。——阿西莫夫(1950)《我,机器人》[114]虽然这些定律本身并不是AI对齐的实际解决方案,但它们为我们...

黄仁勋最新2万字演讲实录:将打破摩尔定律发布新产品,机器人时代...

物理人工智能正引领人工智能领域的新浪潮,它们深谙物理定律,并能自如地融入我们的日常生活。为此,物理人工智能不仅需要构建一个精准的世界模型,以理解如何解读和感知周围世界,更需具备卓越的认知能力,以深刻理解我们的需求并高效执行任务。展望未来,机器人技术将不再是一个遥不可及的概念,而是日益融入我们的日常生活。...

「机器人教父」50年经验总结:现实版「三定律」出炉

3、(实验室外的)机器人技术,还需要经过10年以上的稳步改进,才能达到降低成本的同时,并充分了解其局限性,从而实现99.9%的交付率。每过10年,其可靠性就会增加9%。这些定律,是以「让机器人在现实世界中工作」的角度制定的——当人们为机器人付费,必然希望获得投资回报,这与在实验室中演示demo或者前沿技...

谷歌开发“机器人宪法”防止伤害人类,灵感来自机器人三定律

这部“机器人宪法”的灵感来自科幻作家艾萨克·阿西莫夫(IsaacAsimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身安全,但不得违反第一、第二定律。为了提高安全性,DeepMind对机器人进行编程,如果机器人关节受力超过一定阈值...

黄仁勋2万字演讲实录:打破摩尔定律,机器人时代来了

????黄仁勋展示了最新量产版Blackwell芯片,2025年推出BlackwellUltraAI芯片,推出Rubin平台,更新节奏“一年一次”,打破“摩尔定律”????英伟达通过加速计算技术实现100倍速率提升,功耗仅增加到原来的3倍,成本为原来的1.5倍????黄仁勋表示机器人时代已经到来,所有移动的物体都将实现自主运行,推进物理...

OpenAI押注的「1X」训出专用世界模型,首证机器人Scaling Law

1X工程师DanielHo表示这是机器人世界模型的初步进展，模型可以理解接触到的物理世界并生成高保真视频，使机器人可以在自己的神经空间中执行规划、评估和模拟操作。并且，很多生成的视频片段很难与真实视频区分开来。1X创始人兼CEOBerntBornich表示，这是人形机器人数据显著增强扩展定律的首个证据，「没有...

OpenAI重金押注,机器人NEO世界模型登场!机器人迎来ChatGPT时刻?

01OpenAI投重金押注人形机器人初创1X,发布了背后的世界模型NEO,具备生成针对不同场景的行为预测能力。021X世界模型通过理解世界并与之交互,可以生成高保真视频,并在神经网络中重新规划、模拟和评估。03然而,1X的世界模型仍存在一些问题,如物体一致性、物理学定律理解和自我认知等方面。

黄仁勋对话软银孙正义:打造AI代理和物理AI,强调企业必须在AI浪潮...

第三个是GrootControl,这是一个模型蒸馏框架,能够将机器人学到的所有技能和任务精简为一个统一模型,从而执行多种运动技能。5、物理AI因此,这些未来的工厂将会是精心策划的机器人工厂,专门构建机器人的机械系统。让我给大家展示一下。物理AI不仅体现于自动驾驶汽车这样的机器人,它们能够在现实世界中安全导航...

自由意志是一场幻觉吗?

最近神经科学实验支持这样的观点,即我们的物理大脑遵循已知的科学定律决定我们的行动,而非不受这些定律约束的某种力量在决定我们的行为……因此,我们似乎仅仅是生物机器,而自由意志只不过是一种幻觉而已。”e另一位著名物理学家和作者布赖恩·格林也同意这一观点:“自由意志是做出选择的感觉。这种感觉是真实的,但选择...