情感人工智能:助力“儿童友好”的技术及其风险
我国情感人工智能技术刚刚起步,关于“共情式AI”技术风险的讨论主要聚焦技术本身,还缺乏特定应用场景下不同群体与AI互动的社会调查,尤其是儿童与情感人工智能的交互行为研究。建构“儿童友好”的情感人工智能系统既要考虑儿童在生理、心理等方面的特殊性,也应该到儿童与情感人工智能交互的具体场景中去考察,从“在地”经验...
外滩大会热议科技伦理 探讨为全球AI治理贡献“中国智慧”|直击...
而同样面对人工智能治理和发展的关系这个问题,联合国人工智能高层顾问机构专家、北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员曾毅认为,安全和治理是人工智能的核心能力,将加速人工智能稳健发展及应用。“人工智能的安全和能力不是正交,更不是相互掣肘的关系,提升安全性,加强治理,并不意味着能力...
人工智能安全治理的新篇章:《人工智能安全治理框架》
2.**风险导向、敏捷治理**:人工智能技术的快速发展带来了复杂多变的风险,因此需要一种以风险为导向的敏捷治理机制。通过动态调整策略和措施,及时应对新出现的安全威胁。3.**技管结合、协同应对**:技术管理与技术本身应当紧密结合,通过技术与管理措施的协同,增强整体安全防护能力。这要求在技术开发、应用和管...
积极探索建立我国人工智能治理与应用指南制度
《指南》要求,设立首席人工智能官(CAIO)、成立人工智能治理委员会、推动人工智能应用创新、遵循最低风险管理实践等,为推进人工智能治理、创新和风险管理确立了新的管理要求和实践指引。作为负责任的科技大国,我国也积极推动人工智能治理体系优化完善,《指南》中的一些内容对于促进我国政府部门人工智能应用和治理实践具...
梁正|新兴技术视域下的人工智能善治——发展现状、风险挑战与治理...
梁正,清华大学公共管理学院教授、人工智能国际治理研究院副院长。研究方向为新兴技术治理、科技创新政策、研发全球化、标准与知识产权。主要著作有《科学、技术与创新经济学》、《黑镜与秩序:数智化风险社会下的人工智能伦理与治理》(合著)、《数字双赋打通韧性城市建设“最后一公里”》(论文)、《互联网平台协同治理体系...
施骞 肖超 | 筑牢人工智能安全监管制度防线
由于不同区域间经济社会发展与人工智能技术应用水平存在差异,进而导致风险响应能力的不一致,社会风险的跨区域传播演化呈现不均衡的现象(www.e993.com)2024年10月4日。需要结合区域发展实际制定个性化风险治理方案,通过多主体多区域协同降低局部应力,避免形成社会系统的结构性破坏。因此,人工智能技术的风险治理首先要评估不同区域的人工智能技术应用水平,并...
加强人工智能伦理治理需“软硬兼施”
同时,在很多人工智能技术的应用场景中,我国实际上已扮演先行先试者的角色,没有太多可借鉴的现成经验。因此,新时期必须加强人工智能影响评估的理论和方法研究,持续丰富治理实践,努力形成人工智能伦理治理的中国经验和中国方案。二是要更重视人工智能治理实践中的伦理问题。治理方式和治理工具符合伦理规范,是强大的科技...
国家安全视角下的人工智能风险与治理
在大力发展人工智能、提升我国在人工智能领域国际竞争力的同时,也要对人工智能带来的技术安全风险、网络安全风险、经济社会风险、意识形态风险,以及伴随的伦理、法律和安全问题进行约束和监管,建立并逐步完善人工智能风险治理体系,推动人工智能安全、健康、有序发展。
直面人工智能“复活”技术应用的伦理挑战
从AI“复活”应用的科技伦理维度来看,伦理治理已成为人工智能治理举足轻重的议题与环节。面对人工智能技术迅速发展,单一的法律监管维度显得力有不逮:一方面,立足于解决明确、现实风险的法律难以应对人工智能技术快速迭代所导致的风险的高度不确定性。另一方面,人工智能历史展现了从工具向价值建构的角色转换,需要伦理治理引导...
“AI换脸”技术的应用风险及其规制引导
“AI换脸”技术的应用风险及其规制引导——关于虞某某个人信息保护民事公益诉讼案的法律思考人工智能是人类发展的新领域,人工智能技术是当前备受关注的新兴科技,给人类生产和生活方式带来颠覆性变革的同时,也给社会治理领域带来一系列新挑战。人工智能的治理攸关全人类命运,已成为世界各国面临的共同课题。2023年10月,中...