OpenAI的漏洞提醒人们 人工智能公司是黑客的宝库

这可能是旧的预算表或人事记录（例如，为了使它们更容易被搜索到）这样平淡无奇的东西，也可能是未发布软件的代码这样有价值的东西。他们如何使用人工智能的功能（以及这些功能是否真的有用）是他们自己的事，但一个简单的事实是，人工智能提供商拥有特权访问权，就像任何其他SaaS产品一样。这些都是行业机密，而人...

OpenAI首席科学家有个计划,寻找方法控制超级人工智能

人工智能安全中心主任丹·亨德里克斯（DanHendryks）表示：“很高兴看到OpenAI主动解决控制超级人工智能的问题，我们需要多年的努力来应对这一挑战。”人工智能安全中心是旧金山一家致力于管理人工智能风险的非营利组织。阿森布伦纳与“超级对齐”团队的其他两名成员科林·伯恩斯（CollinBurns）和帕维尔·伊兹梅洛夫（Pavel...

为什么人们越来越不信任 OpenAI

这个团队原本致力于开发与人类利益相符的AI系统。其中一位离职研究员简·莱克(JanLeike)表示,他"长时间以来一直不认同OpenAI领导层的核心优先事项"。首席科学家伊利亚·苏茨克维尔(IlyaSutskever)对离职原因保持沉默,内部人士透露,由于他在试图罢免CEO萨姆·奥特曼(SamAltman)行动中的角色,...

从美国总统到英国皇后,没人在乎他们的肖像是真是假

虽然在神圣罗马帝国皇帝利奥波德一世的多幅画像里,他的特征并不像亲戚们一样明显,但这位哈布斯堡皇室统治者确实拥有家族标志般的下巴:下颌向外突出,严重地包天——现在这种情况被称为下颌前突。画像并未突出这个引人不悦的外貌特点(长久以来一直被归咎于近亲结婚),而是把利奥波德描绘得光耀夺目、贵气逼人。你很难不...

OpenAI首席科学家:寻找方法控制超级人工智能

OpenAI的研究人员利奥波德·阿森布伦纳(LeopoldAschenbrenner)指出:“通用人工智能(AGI)正在迅速接近,我们将看到具有巨大能力但也可能非常危险的超智能模型,而我们还没有找到控制它们的方法。”他参与了今年7月成立的“超级对齐”(Superalignment)研究团队。OpenAI表示,将把其可用算力的五分之一用于“超级对齐”项目,以探...

AI统治世界,需要分几步走?_澎湃号·湃客_澎湃新闻-The Paper

“图灵测试”由计算机科学家艾伦??图灵在1950年提出(www.e993.com)2024年11月5日。他将人工智能给出了一个完全可操作的定义:如果一台机器输出的内容和人类大脑别无二致的话,那么我们就没有理由坚持认为这台机器不是在“思考”。“图灵测试”和“机器人三定律”,一直被人类世界视为保护人类的最后屏障。

简明AI伦理及其路线斗争史

这都并不是技术问题,而是道德问题和哲学问题。多年之前,生物学家威尔逊、经济学家斯蒂格利茨,社会学家托尼·朱特,早就提出了发展时代中的道德问题,但是没有一个美国政客把他们当真。但是他们的预言,最终都变成了现实。人工智能也是一样的。说句实话,我并不看好苏茨克维的技术解决方案,就算他真的研发出了所谓的安...

《读书》新刊 | 何怀宏:为动物的正义:目标和道德敏感性

在雷德利·斯科特所执导的美国科幻电影《普罗米修斯》中,人工智能机器人大卫试图毁灭人类(来源:theatlantic)我并不反对提出崇高的目标,也认为有些人会努力奉行这一目标,但是要将其放在一种恰当的地位上,即不是作为一种普遍推行和实施指导的理论,而可能是一种指向保护动物和生态行为后面的支持理论,也就是说,是作...

美媒曝OpenAI丑闻:遭黑客入侵机密被盗 高管决定不公开

“我们感谢阿森布伦纳在OpenAI工作期间提出的担忧,这并不是导致他离职的原因。虽然我们和他一样致力于打造安全的通用人工智能,但我们不同意他后来对我们的工作提出的许多说法,包括他对我们安全措施的描述,尤其是这次入侵事件。在他加入公司之前,我们已经解决了这个问题,并向董事会报告。”布尔乔亚表示。(作者/箫雨)...

任莉:穿越科技百年,我们更需回看“童子操刀”

人工智能的飞速发展,迫使科学家们思考人机对齐的问题。谷歌的前首席科学家李飞飞教授也曾经说过,她在斯坦福大学的人工智能实验室里,除了有理工科的专业人士外,还有社会学家、人类学家、音乐家等等。她解释说,人工智能发展是为人服务的,只有更好地理解了人和社会,人工智能才能真正改善世界。