要淡化研发和应用的边界，中国科协主席万钢表态如何面对人工智能伦理问题
财联社5月18日讯（记者郭松峤实习生赵相锋）在5月18日举行的第七届世界智能大会上，中国科学技术协会主席万钢表示，要进一步推动科技、伦理、规范、标准和技术的融合，为智能体构建与科技向善的人类共同理念相契合的学习、理解和行为模式，以及更有效的安全性、可靠性、有效性的行为边界，让智能体系能够理解并践行人类社会的共同价值观念。
万钢认为，生成式人工智能更加需要通过精准的邀约吸收更多的参与者，因为生成式智能是一个向人学习的过程，通过交互来汲取人类的知识。人机的深度融合可以提高科学研究的速度和准确性，来推动未来基础科学的重大方向。
人机协同互动发展不仅能推动人工智能技术逐步走向成熟，还能够在技术研发过程中帮助人类提升对自然的认知。万钢表示，我国在启动新一代人工智能重大专项和发展规划以后，随即就开始了脑科学和类脑计算的重大专项立项，论证并且于2020年就启动了实施。这个重大专项是以“脑认知”原理为主题，以脑重大疾病诊治和类脑计算、脑机智能研究为两翼。目标就是在人工智能研究和应用发展过程中通过基础学科、技术进步、跨界协同来拓展人类的感知视野，探索认知科学发展规律，在提升人工治理的能力和效率同时，也助力于健康事业的发展。
对于新一代人工智能发展，万钢认为要淡化研发和应用的边界。将初步开发的模型部署上线，为用户提供测试服务，由此而收集每一位用户的思维模式，为进一步优化模型作为基础。
如今在人工智能发展速度加快，安全和伦理问题也成为重点关注对象GPT-4的推出迅速掀起大语言模型开发浪潮，同时GPT-4的表现也引起一些使用者恐慌。今年3月由马斯克牵头呼吁暂停比GPT-4更强的系统开发6个月，包括许多科技界名人在内的超过上千人签署联名信，希望能在暂停开发人工智能系统的时间里制定一套针对人工智能的安全协议。
事实上，早在2019年我国就曾发布《新一代人工智能伦理规范》，指出将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。
今年4月，国家互联网信息办公室根据《中华人民共和国网络安全法》等法律法规起草并发布《生成式人工智能服务管理办法（征求意见稿）》，规定提供生成式人工智能产品或服务过程中不得出现歧视、不公平等问题，应采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
万钢表示，人工智能的伦理规范，要适应于发展的新需求。新一代人工智能的加速发展和广泛应用将走向人类与人工智能体、人机共生的新时代，智能算法的不断发展带来了智能化时代的新的安全和伦理的挑战。如智能算法内生安全的缺陷会导致智能系统存在深层次的隐患，滥用会导致社会不公和群体激化。
万钢指出，要进一步推动科技、伦理、规范、标准和技术的融合，为智能体构建与科技向善的人类共同理念相契合的学习、理解和行为模式，以及更有效的安全性、可靠性、有效性的行为边界，让智能体系能够理解并践行人类社会的共同价值观念。