人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

然而,将人类价值观嵌入人工智能系统,一方面会使得技术的发展成为最小化人类责任的借口;另一方面,这种话语以一种抽象性的人机价值差异掩盖了人工智能技术发展全过程中的价值性因素,从而以价值排他性的方式将人工智能的“问题”建构为一种绝对意义上的外在,使得关于价值的讨论只逡巡在人机的边界之上,而不向人类内部返回。

人工智能治理:历史经验的启示

☆核技术在军事上的应用是治理话题的主题;而虽然人工智能在军事上的应用早已存在治理话题,但迄今为止,人工智能和平的、商业用途一直是治理话题的主题,并推动着治理发展。☆核武器的最终产物是有形资产或可追踪事件:如裂变材料、核试验和运载系统;而人工智能开发的最终产物是数字资产:如模型权重、代码和用户接口。核...

全文丨人工智能时代 新闻媒体的责任与使命

????新华社研发的“新闻雷达(NewsRadar)”,能够自动预警突发事件,并根据事件性质和规模预测事件热度;BBC研发的新闻聚合和内容抽取系统“榨汁机(Juicer)”,能够自动抓取全球免费新闻网站的内容,利用人工智能将新闻分类、贴标签,为记者提供新闻素材和选题参考;《纽约时报》开发的数据分析机器人“Blossomblot”,通过对社交...

人工智能:机遇与挑战并行

中国致力于发展应用型人工智能，将其应用于危险、劳累且少有人愿意从事的工作领域。例如，救火无人机可以在危险的火灾现场发挥重要作用，减少消防员面临的生命危险；泰山上的搬运机器狗能够承担繁重的搬运任务，减轻人力负担；健康AI医生则可以为患者提供初步的诊断和建议，提高医疗效率。相比之下，美国全力打造通用型...

重磅| 人工智能治理:历史经验的启示

防止核武器专业知识扩散到其他国家是必要的,但这远远不够。核机密一经泄露,其后果不可逆转。此外,即使不涉及盗窃和间谍活动,专门的研发工作也总能发生同样后果。尽管美国不遗余力地防止核武器机密数据传播,但防核扩散工作的重点应放在可以监控的有形资产上:裂变材料、核武器试验和武器运载系统。如果人工智能治理没有...

兰德报告:面向AUKUS在负责任的军事人工智能方面的合作

负责任AI的整合挑战:AUKUS的三名成员和许多其他国家仍在评估如何将人工智能整合到军事应用中,以及如何负责任地整合人工智能(www.e993.com)2024年11月10日。虽然每个AUKUS成员国都发布了国防AI战略和道德声明,但这些政策多处于实施初期,如何将负责任使用的规范整合到AI的开发、测试、脆弱性评估和风险评估中,以及如何确保快速发展的AI技术能够按预期运...

郑东|生成式人工智能服务的软法之治

生成式人工智能依赖于其强大的基础模型,实现了与使用者进行深度交流的突破,在文本生成、图形绘画以及代码修改等任务中表现卓越,正在被应用于电子商务、交通运输以及法律服务等各种领域。然而生成式人工智能除了带来丰富的发展机遇,也产生了各种风险,集中体现在训练阶段中的数据安全风险和输出阶段的虚假信息或内容侵权风险。

人工智能治理的历史经验借鉴

核技术与AI技术的相似之处有三:其一,人工智能和核技术都具有和平用途与军事应用两种属性,同时,在冲突中可以提供战略性和不对称的优势。其二,这两种技术在技术和专业知识方面都有极高的门槛。其三,这两种技术都被视为对全球构成灾难性风险、甚至对人类构成生存威胁的技术。然而,核技术与AI技术仍存在差异,其中的差异导...

全球人工智能将规模化应用

企业如何负责任地使用人工智能技术也至关重要。尚云平说:“越来越多的企业开始使用人工智能提升生产力、塑造竞争优势,企业的每一位员工都应该对生成式人工智能有所了解和实践。同时,企业也要精心策划如何使用这项科技。人工智能本身处于黑盒之中,所以我们要负责任地使用它,确保其产生的成果与预期一致。”...

论坛·全球人工智能治理 | 美国人工智能治理体系的底层逻辑浅析

2022年,美国国防部发布《负责任的人工智能战略和实施途径》(ResponsibleArtificialIntelligenceStrategyandImplementationPathway)文件,旨在以顶层设计推动人工智能技术快速发展,并在实战中加强人工智能技术运用。可见,美军数字化战略包括的人工智能治理体系,具有明确而清晰的通盘逻辑。此外,美国国防高级研究计划局(DARPA...