人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

一方面,数智技术的全面嵌入和良好的交互性使得用户对人工智能的期许和信任度不断推高;另一方面,可解释性陷阱的存在以及技术-社会两者发展逻辑在本质上的异质性使得“AI威胁论”从未真正消失,对AI可能带来的风险和挑战进行防范的研究方向之一就是探索引导和操控“超智能”AI系统的新方法。其中的一种路径就是通过价值对...

人工智能价值对齐的哲学反思|探寻欺骗性价值对齐的应对逻辑:从...

欺骗性价值对齐的出现使得旨在确保人工智能安全并为人类带来福祉的价值对齐备受质疑,因此,对其的应对是价值对齐必须解决的一个关键问题。依据“意图”与“主体”两个要素所形成的欺骗性价值对齐行为象限可构筑应对欺骗性价值对齐的概念框架;以理性认知面对与欺骗“共生”的价值对齐,可形成应对欺骗性价值对齐的认识论基础。...

重磅| 人工智能治理:历史经验的启示

如果人工智能在获取时伴随巨大风险,那么此类人工智能适用于类似基因工程的治理模式,但各相关方应谨慎采用类似加密技术的治理模式。决策者应在关注人工智能的发展,追求共同治理标准、关注技术和环境变化的同时,也应该借鉴历史教训。人工智能治理的紧迫性近年来,人工智能的发展使大众重新关注人工智能带来的风险,这些风险既...

人工智能,超越“核武器”的“人造上帝”|独思录 x 郑永年

经验地说,各国对人工智能主要有两种态度:第一,不监管,一些国家为了强化自身的国际竞争能力,有意识地不监管人工智能的发展,而另一些国家则是不知道如何监管;第二,不发展,一些国家因为出于恐惧而不发展,或者片面发展。不过,严格来说,监管不代表“不发展”,监管能力也不体现在“片面发展”。第四,一国之内的监管问题...

生成式人工智能的主体性问题

摘要:生成式人工智能在与人类交互中,表现出与以往人工智能截然不同的自主交互能力,呈现出一定的主体性特征,形成了全新的人机交互形态,给已有的主体性概念带来了挑战。从主体交互的视角看,生物有机体的主体性由自组织驱动的个体与环境交互所定义,人类主体性由情绪、语言和文化驱动的个体与自然、社会文化环境交互所定义,...

人工智能还给人类的思维难题

人工智能只是最近一次迫使人类反思自己思维的事件(www.e993.com)2024年11月14日。这里先以最粗略的线索来追溯人类反思自身思想的历史伏笔,以便更清楚地理解人工智能提出的思维问题。原始人都是经验主义者,他们的生活经验足够维持生存所需,不需要反思。人类的反思意识是在思想开拓了经验无法解释的许多问题之后才发生的。思想反思自身需要特别的条件和机会...

朱浩川 李元国|人工智能如何介入司法裁判——从本体出发到规范建构

人工智能独立裁判很难实现息讼服判的社会和谐效果,法学基本理论为人工智能辅助司法提供了基础。原则要求明确人工智能辅助裁判的限度。人工智能辅助程序性工作可以帮助法官提高工作效率和准确性,而辅助实质性工作会消灭司法偶然性、压制法官的主观能动性和造成司法工作停摆,应当采取谨慎态度。规则要求规范人工智能辅助裁判的...

形塑新闻:AI时代新闻业的7个变化-虎嗅网

腾讯研究院对新闻传媒业的关注由来已久。在《拐点时刻》之前,早在2017年发布的报告《人工智能时代:新闻业的谢幕与重生》就已聚焦Al给新闻推送带来的根本性改变。新闻是一个特殊的行业,在不同的历史时期与文化语境中,它被赋予不同的内涵,但不变的是,它始终是社会的守望者,是现实与历史的观察者和书写者。在最近十...

王坚:AI,让科学发生革命的工具

还有百余位对人类作出重大贡献科学家的画像，就如他倾其全身在苦苦追索“创新究竟如何发生，尤其在决定人类命运的关键性创新，在何种条件下产生”，犹如他创办“云栖大会”“云栖小镇”“2050”的初衷，而酝酿已久的“梦溪论坛”亦初步成型，既追踪沈括，也借鉴为期两个月诞生了近代“人工智能”的达特茅斯会议。

这里有28条有关人工智能的名言 霍金的最靠谱?

有些人把这种技术称之为“人工智能”,但实际情况是这种技术将增强我们人类的能力。因此,我认为,我们将增强人类的智能,而非“人工”的智能。——吉尼·罗曼提(GinniRometty)“我对于人工智能的忧虑多于兴趣——事实上这两种态度本身就相差不多。”事情会在头脑中变得清晰,你会被欺骗,你会相信一些你平常不会相信...