OpenAI重拾规则系统,用「AI版机器人定律」守护大模型安全

可以看到，这些规则都是用自然语言描述的，类似于阿西莫夫机器人定律。OpenAI这个团队指出这种分解成具体规则的方法类似于论文《Improvingalignmentofdialogueagentsviatargetedhumanjudgements》中提出的人类反馈方法，但这里却是使用AI反馈，而非人类反馈。并且，由于这些规则非常具体，所以可以对模型进行非常细粒...

从数学角度概述阿西莫夫机器人三定律

??第二定律:从观察到的不服从会导致伤害(在(10)的意义上)这一事实出发,机器人会学习到,为了最小化对其他人类的伤害,它应该服从他们的命令,除非这与第一定律相冲突。??第三定律:从观察到机器人必须保持其存在以积极减少他人伤害这一事实出发,机器人可能会学习到,只要这不违反第一或第二定律造成伤害,它...

黄仁勋最新2万字演讲实录:将打破摩尔定律发布新产品,机器人时代...

①黄仁勋展示了最新量产版Blackwell芯片,并称将在2025年推出BlackwellUltraAI芯片,下一代AI平台命名为Rubin,2027年推RubinUltra,更新节奏将是“一年一次”,打破“摩尔定律”。②黄仁勋宣称英伟达推动了大语言模型诞生,其在2012年后改变了GPU架构,并将所有新技术集成在单台计算机上。③英伟达的加速计算技术帮助...

AI的摩尔定律2年就不行了?AI寒冬又要来了?

2023年11月30日,随着ChatGPT问世,人工智能领域多了一条类似“摩尔定律”的法则:ScalingLaw。ScalingLaw意味着只要模型参数、数据量和算力不断提高,AI模型的表现就会持续提升,这条法则一度成为不少专业人士相信通用人工智能(类人AI)能够实现的基石。现在,这种信念似乎正面临挑战。11月9日,TheInformation率先爆料...

专访面壁智能李大海:任何业务都是商业效率的比拼,大模型没有离开...

界面新闻:AIPC、AI手机、机器人和汽车,算是你目前比较明确的硬件落地方向。李大海:对。界面新闻:这些厂商目前是都有在接触吗?李大海:都有,而且很多时候是别人找上门来。界面新闻:他们找上门来,最想要验证你们的什么能力?李大海:他们最想要的还是希望能够跟通过合作,对他们的产品产生增量价值。

稚晖君:野生钢铁侠,开始新冒险|创业有何蓝

这可能是当下的通用机器人赛道最需要的创业者人格(www.e993.com)2024年11月26日。技术快速更迭、竞对既有创业公司也有大厂、从DayOne就开启全要素竞争……这是一个只有六边形战士才能进入决赛的战场,智元机器人不得不“赌”,用做大公司的方式高举高打创业。蓝驰创投已经连续三轮投资智元机器人。关注机器人赛道超过8年,我们相信通用机器人是“超...

大就是好:前沿大模型盘点

如果你刚开始用AI的话，GPT-4o是个不错的选择，它可能是大多数认真用AI的人至少在某些时候想要用的模型。Claude3.5Sonnet。Sonnet是一个非常聪明的第二第模型，特别擅长处理大量文本。它部分可算多模态，可以处理图像或文件（包括PDF），可以输出文本或所谓的工件小程序（可以直接在应用内运行）。它...

黄仁勋对话软银孙正义:打造AI代理和物理AI,强调企业必须在AI浪潮...

例如,可以用文字解释蛋白质的功能,描述化学品的特性,甚至控制机器人。这种能力正带来新行业、新公司、新应用的"寒武纪大爆发"。有充分的证据表明,随着我们扩大模型规模,训练数据量、数据的有效性和质量,以及智能的性能都得到了提升。每一年,业界都在将模型的规模扩大约两倍,因此需要两倍的数据量,进而需要四倍的计算...

专访智源研究院院长王仲远:中国大模型年底追上GPT4,将迎来应用...

王仲远：因为CPU的摩尔定律失效了，但GPU、算力的摩尔定律还没有失效。国内还处于努力冲万卡的阶段，需求真实存在，算力只是时间问题。界面新闻：你提到大模型走的是资源消耗型路线，但现在国内几乎所有的大厂以及很多家创业公司都在做大模型，这个格局会带来哪些问题？王仲远：美国做基础大模型研究的公司主要有三家，...

2024人工智能十大前沿技术趋势展望发布

6.全模态大模型全模态大模型可处理和理解文本、图片、音频、数据表格等多种类型的数据输入,并根据任务需求生成多种类型的输出。例如引入通常用于捕捉三维空间信息的3D点云数据模态,对于机器人的导航和避障尤其重要。7.人工智能驱动的科学研究使用大模型、生成式技术等来提高科学研究中提出假说、试验设计、数据分析等...