人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

一方面,数智技术的全面嵌入和良好的交互性使得用户对人工智能的期许和信任度不断推高;另一方面,可解释性陷阱的存在以及技术-社会两者发展逻辑在本质上的异质性使得“AI威胁论”从未真正消失,对AI可能带来的风险和挑战进行防范的研究方向之一就是探索引导和操控“超智能”AI系统的新方法。其中的一种路径就是通过价值对...

人工智能价值对齐的哲学反思|探寻欺骗性价值对齐的应对逻辑:从...

在解释AI这种复杂系统时,需要解释AI背后复杂的人类心理学因素,因此,技术本身是否具有“意图”或具有什么样的“意图”不应该成为否定AI欺骗的因素。不仅如此,正如在斯特凡·萨卡迪(StefanSarkadi)等基于价值对齐目的对欺骗性AI的规范框架所展开的研究中,其以美国受试者在五个选定的未来工作环境中对欺骗性AI的看法为...

人工智能价值对齐的哲学反思|有限主义视域下的人工智能价值对齐

现有人工智能(artificialintelligence,简称AI)价值对齐方案试图借助自然科学的经验证据与实证方法厘清人类道德的自然主义基础,并通过技术手段将其应用到AI对人类价值观的学习之中,忽视了道德的自然主义解释的根本性缺陷,引发了AI价值对齐难题。有限主义认为,现有AI价值对齐方案主张使AI具备类人道德,在本质上遵循AI发展的自由...

人工智能是否拥有类人意识? | 社会科学报

因此,人工智能是否具有意识,现阶段与其说是一个科学问题,不如说是一个哲学问题。机器是否具有类人意识,取决于如何界定意识。我们对于人工智能意识问题的反思,应该首先从对人类意识的反思中寻找答案;我们对人工智能危害的反思,则应该首先回归人性的反思与批判。现象学视角下的人工智能意识意识是生命特有的现象。单细胞...

为了获诺奖,AI 不仅要懂物理学,还要懂哲学?

由于实际因果关系是一个适用于任何因果系统的通用哲学框架,因此ReX的工作无需了解人工智能系统的内部运作。无论人工智能系统的内部结构如何,只要我们能给它输入信息并读取相应的输出结果,ReX就能让我们从人工智能中获得解释。正因为如此,它可以应用于我们无法直接理解的过于庞大或复杂的人工智能系统。

《麻省理工科技评论》万字长文:什么是人工智能?

一方看到的是人工智能带来的无限潜能,是人类智慧的延伸,是解决复杂问题、提高生活质量的工具;另一方则担忧它可能带来的失业、隐私侵犯、社会不公,甚至是人类自主性和生存的威胁(www.e993.com)2024年11月14日。ChatGPT的出现,如同那个举起笑脸表情的修格斯,象征着人工智能技术在提供友好交互界面的同时,也隐藏着深刻的社会、伦理和哲学挑战。这场...

人工智能与西方哲学的交织

AI的发展需要哲学的引导,以确保技术进步与人类价值观的和谐统一。通过这些哲学思想的启发,AI领域的研究者可以更深入地思考智能的本质,探索更符合人类认知方式的AI模型。同时,这也提示我们,AI的发展不仅仅是技术问题,更是哲学问题,需要我们从哲学的高度去思考和探索。#生物人工智能#...

尤瓦尔·赫拉利|人类如果要对抗人工智能,最弱的一环大概就是独裁者

要是信息通道交会在其他地方，那里就会成为真正的权力枢纽。如果政权仰赖的是人类（如塞扬努斯与马克罗），高明的独裁者就能操弄他们互相对抗，而让自己稳居高位。如果政权仰赖的是一套力量强大且高深莫测的人工智能，所有信息都由人工智能来收集与分析，人类独裁者就有可能直接失去一切权力。这位独裁者就算依然身在首都，...

观点|我们需要哲学家来研究人工智能的重大问题

观点|我们需要哲学家来研究人工智能的重大问题数学家、物理学家StephenWolfram近日接受TechCrunch采访,谈到了自己一些对于AI技术和哲学的看法。Wolfram认为,随着AI开发者和其他人开始更深入思考人机之间的交互,这变得更像一种「哲学练习」,涉及一些技术对人类影响的纯粹思考,和古典哲学有关。

人工智能大模型表征方式的一致性及其哲学启示

因此,虽然人工智能大模型的表征收敛是人工智能智能性的技术体现,本质上却是以人类本质力量对象化的方式考问智能本质的哲学追问。与其说是大模型试图表示现实模型的稳定性推动了系统的表征收敛,倒不如说是大模型以“挖掘即认知”“学习获智能”“高维达简洁”对观测的经验升华构成了表征收敛的智能动因。