人工智能如何与人类“对齐”

Anthropic公司探索了一种被称为“合宪人工智能”(ConstitutionalAI)的方法。他们有一份列举了他们希望自己的大语言模型“Claude”所遵守的所有价值观的文件。他们能够利用Claude在这些价值观(如诚实、乐于助人、无害等)方面批判自己的输出并提出改进建议,这些建议又可以作为训练的一部分反馈回模型本身。在这两种情况下...

《麻省理工科技评论》万字长文:什么是人工智能?

硅谷风投大佬MarcAndreessen说:“这有可能让生活变得更好……我觉得这简直就是个轻松得分的机会。”Altman说:“我不想在这里听起来像个乌托邦式的技术狂人,但人工智能能带来的生活质量提升是非凡的。”Pichai说:“人工智能是人类正在研究的最深远的技术。比火还要深远。”JonStewart讽刺道:“是啊,火,你...

关注AI必读!Anthropic CEO万字长文预测强人工智能的积极未来

??DarioAmodei经常对许多AI风险领域的公众人物(更不用说AI公司领导人(说你呢Sam))谈论后通用人工智能(AGI)世界的方式感到不适。??DarioAmodei认为强人工智能可能最早会在2026年出现,尽管也有可能需要更长的时间。??强人工智能在形式上可能类似于今天的大型语言模型(LLM),但可能采用不同的架构...

追问weekly | 过去一周,脑科学领域有哪些新发现?

麻省理工学院的研究人员联合KASIKORNLabs和哈佛大学的学者,开发了一种名为“FutureYou”的生成式AI工具,用以帮助用户通过与模拟的未来自我对话,减少焦虑并改善决策质量。研究团队利用大语言模型开发了一个互动性强的AI工具“FutureYou”,该工具基于用户提供的个人信息,生成一个虚拟的60岁自我形象,帮助用户进行情境...

收藏! Anthropic CEO烧脑雄文(略删减 ):5-10年,AI将扫除人类几乎...

等几个方面,强大的AI开启的一个充满希望的未来。具体如引文,略有删减。DarioAmodei拥有斯坦福、加州理工以及普林斯顿的学历背景,专业是物理学。Amodei对人体大脑功能充满好奇心,因此在博士后出站后,他加入了百度公司和谷歌大脑团队,并开发出了人类语音识别系统。2016年,他加入了OpenAI,并最终升至公司副总裁位置。

人工智能在很多方面已经远远超过人类

三联生活周刊:有没有反过来的例子,就是我们通过人工智能的某种表现,反而加深了我们对人类大脑的理解?王梦迪:有的(www.e993.com)2024年11月23日。现在人工智能领域最通用的一个网络结构叫“转换器”(transformer),用来找复杂数据中不同位置之间的联系。你会发现让一个转换器在不同的场景里面学习,刚开始它可能只学到一些简单的逻辑,但是突然有一天...

看完香港大学马毅的采访才知道,原来人类离真正的人工智能,还是...

去年我在twitter上发过一个很得罪的人话:现在说AI危险的人,要么是无知,要么是别有目的。《晚点》:就算现在的大模型还不是高级智能,但是不是需要提前防范它的潜在危害?马毅:任何技术都可能是双刃剑。照这个逻辑,互联网太危险了,可以传递各种错误信息,炼钢也危险,可以做刀、做炮。

人工智能时代,什么才是好的翻译?

4月23日,世界读书日,在主题为“跨越语言,连接世界——致敬翻译的力量”的第二届雅努斯计划颁奖礼暨雅努斯论坛上,作家、雅努斯计划发起人之一许知远这样说道。在雅努斯论坛的“人工智能时代的人文社科翻译:现状与展望”主题对谈中,作家兼译者陆大鹏、法语译者董树宝、德语译者强朝晖和英语译者刘慧宁共同讨论了这些议题:在...

“自然”和“人工”的边界:关于人工智能与合成生物学的讨论

一方面,在人工智能的起步阶段,模仿在其中发挥了至关重要的作用,当图灵最初谈论对人类智能的模仿时,他通过编程实现了一台能够下棋的纸带机(Turing,1948)。其次,他通过与一种更复杂的机器,即数字计算机,进行更复杂的语言互动来谈论人工智能的模仿(Turing,1950)。在这两种情况下,机器必须通过放弃其他人类的、更具身...

8 名谷歌员工发明了现代人工智能,这是那篇论文的内幕故事

杰弗里·辛顿(GeoffreyHinton)虽不是论文的作者之一,但也许确实全球最卓越的人工智能科学家。他说:“要不是因为有了transformers,我觉得我们走不到今天这一步。”他指的是随着OpenAI等公司开发出能与人类产出相媲美,甚至在某些情况下超越人类产出的系统,我们已经进入到一个地动山移的时代。