和AI，怎么谈人性？
摘要：人类历史上的每一次技术革新，都是兴奋与焦虑同在，期待与抗拒交织，AI也不例外。
AI应该有什么样的价值观？这是2024外滩大会开幕前抛出的“科技人文十问”之一。讨论之前，不妨先看一则名为“洛克蛇怪（Roko’sBasilisk）”的思想实验。
10年前，AI远没有达到ChatGPT的能力，一位论坛用户Roko设计了一则假设：未来将出现能力超强的AI，可以回溯历史，惩罚如今那些没有帮助它诞生的人类。在这种设定下，我们将面临两种选择——要么积极推动AI诞生，以免被其秋后算账；要么冒着被惩罚的风险极力阻止AI诞生。
人类历史上的每一次技术革新，都是兴奋与焦虑同在，期待与抗拒交织，AI也不例外。面对“洛克蛇怪”的选择，如果我们无法阻止AI的诞生，那么至少不要是一个邪恶的AI。
AI不只是技术问题
“AI到底是人类的帮手，还是对手？”记者向北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员曾毅索要一个确切的答案，他无法给出“YesorNo”的选择，只能两手一摊：“我们需要把人工智能塑造为人类的帮手。”
如果把AI换成更笼统的“科技”一词，再问一遍这个问题，英国工人早在19世纪就曾探索答案。
第一次工业革命时期，珍妮纺织机的出现，效率与人工纺织不可同日而语，大批纺织工人丢掉了工作，一名莱斯特的纺织工人内德·卢德毁掉了两台纺织机，向工厂主抗议，这便是历史上有名的“卢德运动”。
200多年后，谷歌孵化出的自动驾驶汽车Waymo在亚利桑那州钱德勒地区进行路测，附近居民向无人驾驶汽车投掷石块，还有人割破汽车轮胎，甚至拿着枪指着无人驾驶汽车的安全员司机。2018年，美钱德勒地区至少出现了21次Waymo无人驾驶车遭受袭击事件。
6年后的今天，武汉的“萝卜快跑”无人网约车，虽然没有引起暴力行为，但在舆论场上也掀起了不小的风波。
“技术出现的问题，能否用技术来解决？”记者向曾毅抛出了第二个问题，这次他没有犹豫：“不能。”
事实上，早在2020年前，“技术引起的问题终将用技术来解决”，这一观点被不少业界人士奉为圭臬，但是近几年来的技术演化路线，“技术万能论”遭遇了前所未有的挑战。
随之而来的是“技术问题要靠发展解决”的观点。北京大学光华管理学院应用经济学系教授翁翕举例说，比如说十年前智能手机在普及的时候，老年人电脑都没用过，用智能手机更加麻烦。如今，智能手机普及以后，上到90岁下到3岁，大家几乎都会用智能手机。
国务院发展研究中心研究员李广乾也认为，只有发展才有资格谈伦理问题，“在一项新技术萌芽的时候，它会有100种问题，每种问题都会让你止步不前，让它先走了才知道哪不好，有问题慢慢解决。我们要以一种宽容的姿态去对待新技术、新业态、新模式。从全球竞争的角度来看的话，如果我们不发展，未来不在人工智能的牌桌上，连谈伦理的资格都没有。”
与“发展解决论”不同，曾毅将技术的问题回归到社会层面去考量：社会出现的问题，终究用社会来解决。
在他眼里，人工智能引发的问题并不是技术问题，而是技术捕获到的社会问题，“人工智能可能用什么样的方式犯错，要回到社会学当中去研究，去研究人类的行为，去预测人工智能有可能以什么样的方式去犯错，用以规避人工智能服务社会时的潜在风险。”
“不要将希望全部寄托于技术研究者。”曾毅警告说。
数字鸿沟难以跨越
外滩大会开幕前夕，另一个重磅会议在上海举行，事关AI公平性。
在首届人工智能能力建设研讨班上，联合国秘书长古特雷斯表示，世界正处于历史性关键时刻。人工智能正以惊人的速度发展并改变世界，将有助于可持续发展目标实现。同时，人工智能机会并未公平分配，不少国家尚未从中真正受益。
联合国设定的目标是“2030年前实现普遍且有意义的数字连接”，但数据显示，全球仍有超过20亿人处于“离线”状态，很多地区仍未被网络覆盖。即便有网络，也因为资费过高，普通人无力负担，更不用提“数字技能”的缺失。
2024年，世界上有超过四分之一的人口“不能上网”“不会上网”“上不起网”，比例之高令人惊讶！
在数字时代，性别鸿沟的差距不亚于区域鸿沟。
世界银行数据显示，全球范围内，男性使用互联网的数量比女性多出2.44亿，而每100名掌握数字技能的年轻男性中，只有65名年轻女性具备同等的技能水平。由于性别刻板印象女性在人工智能领域的参与度不足，被排除在人工智能设计、研发、生产的各个生命周期中。2022年全球发表人工智能研究论文的研究人员中，女性只占四分之一，主要机器学习公司的女性技术雇员也仅占20%。
甚至价值观也存在巨大鸿沟。
在采访过程中，不少专家都有同一感受：无论是在新加坡还是在巴西，走到哪里都能听到人工智能治理的讨论，武汉萝卜快跑自动驾驶引发市民不满后，巴西的政府和专家也立刻关注到。但是另一个现象也值得关注，某国际论坛在调查人工智能发展相关问题关注度时，发达国家的学者最关心就业问题，而发展中国家则更关注技术难点和趋势。
在AI第一阵营中，算力可达百万级显卡，数据量动辄上亿，语料库集纳世界百余种语言。而这一切在很多地方，几乎是不可想象的。
“无论是大模型数量、专利数量，还是算法来看，美中两国一起占了绝大多数。”中国信息通信研究院副院长胡坚波表示，不同国家、区域之间的基础设施程度、经济发展水平，法律法规差异、AI技术的代差等种种因素，或多或少将对数字鸿沟产生影响。
关注“走的慢”的人
面对潜在的威胁，以及不平衡的数字鸿沟，我们要把AI训练成工具还是“人”？
从外滩大会“科技人文十问”中可以看出，人们对AI的感情很复杂：如何应对AI与人类抢饭碗？人类的思考力会因为AI退化吗？“人机共生”时代还有多远？AI可能超越工具属性，获得意识，甚至建立AI文明吗？
“伴随着AI进化，人与人之间的社会关系也将随之发生变化，AI将成为人类从事各种生产和活动的代理。人与机器之间的关系、机器与机器之间的关系，将不可避免地纳入我们对社会关系考察范围，”复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华说。
在外滩大会，我们看到更多人与AI之间的探索，正在加速落地，特别是一些“隐秘的角落”，AI也展示了温情一面。
找好医院、看好医生，是大众普遍的就医诉求。公开数据显示，我国全科医生的缺口达24万，四成医师每天工作超过10小时，患者平均门诊就医时间仅有3分钟。近年来，AI在医疗服务体系支持与重塑、优质资源扩容和分配等方面展现出巨大潜力，记者在展区看到了一款“AI健康管家”。
据介绍，“AI健康管家”从解决就医难与繁入手，提供了找医生、读报告、陪看诊、问医保、管健康等30多项服务。
针对用户最刚需的找医生、挂号服务，“AI健康管家”可根据病症描述、目标科室等从超90万医生中做精准推荐，并连接问诊及挂号服务。医院就诊时，“管家”能调起相应的医院智能体，为用户提供诊前、诊中、诊后的数十项陪诊服务，让AI“跑腿”导航科室、提醒叫号。做完检查，化验结果、体检报告、专科多报告，AI也能帮读，并为患者生成重点，提醒人们“对症复诊”。
外滩大会展示的“AI健康管家”。
针对日益严峻的养老需求，基于“AI+物联网技术”的养老一站式服务平台“i守护”引起了记者的注意。专为70岁及以上老年人群设计，通过智能手表实时检测身体状况，预警信息直达亲属等方式实现健康监护。此外还整合了远程问诊、居家安全管理、社区活动等与老年人日常生活健康密切相关的功能。
上海交通大学电子信息与电气工程学院副院长薛广涛介绍，团队正在研发智能设备监测技术，如声波探测系统，与“i守护”合作项目能够有效预防老人摔倒。这些技术不仅监控生理指标，还通过机器学习解析数据，预警健康风险。
“当一个足以改变世界的技术出现时，我们先用它来帮助最需要的人。”浙江强脑科技创始人兼CEO韩璧丞认为，技术前进的时候，更应该关注“走的慢”的人。在助力肢体、视力障碍等人群上，AI技术已经发挥出越来越大的作用，帮助视障者重新“看见”，帮助肢体残疾的人重新恢复行动能力。
在外滩大会开幕式现场，12岁失去右臂的00后周键，借助人工智能和脑机接口技术，用仿生手弹奏了一首钢琴曲。
音乐流淌在黄浦江边，正是AI的人性底色。
栏目主编：李晔
题图来源：上观题图
图片编辑：雍凯