未来会出现AI法官吗？人机协作如何推动社会善治？
转自：上观新闻
7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议在上海拉开帷幕。今年大会主题为“以共商促共享以善治促善智”，将举行多场与治理相关的论坛研讨活动。
近年来，人机协作成为法律领域的趋势和热点话题。有人甚至发问：“不久的将来，会出现AI法官吗？”应该说，人机协作在司法实践中的应用，的确为法律界带来了前所未有的便利和效率。但同时应该看到，这一应用也带来了法律与伦理风险。因此，深入探讨人机协作在司法实践中的应用及其带来的法律与伦理风险，对于确保司法公正和效率，推动社会善治具有重要意义。
一、人工智能不能替代司法自主性
在人工智能的浪潮中，大模型的构建、生成式人工智能（GAI）技术的深入应用，成为推动司法现代化的重要力量。GAI技术在司法审判中的应用，如智能化诉讼服务、自动化审判管理以及可视化司法公开等，都为司法实践带来了显著的优化。但司法裁判并非简单的机械操作，而是一个充满动态与开放性的过程。为保障这一过程的自主性，不能将GAI系统视为司法的替代者，而应遵循“人类中心主义”理念，将其视为辅助工具。
在涉及法官实体职权的行使时，GAI系统虽然能够提供数据支持、案例参考和决策建议，但无法替代法官的独立思考和判断。法官在行使审判权时，应基于法律规则、案件事实和自身的法律素养，结合GAI系统提供的辅助信息，作出公正、合理的裁决。例如，在案件预警方面，虽然智能辅助系统能基于既往案例提供建议，但法官仍应根据具体案件的情况进行独立判断。对于新型案件，法官可以运用自身的专业知识和经验，结合GAI系统提供的数据支持，探索新的法律规则和解决方案，既确保司法的自主性，又能够应对新型案件带来的挑战。
二、人机协作与司法亲历性的融合
在司法裁判的殿堂中，法官的审判方式与言语行为如同明灯，指引着当事人和社会公众对程序公正的感知与判断。剖析程序公正的具体评价要素，不难发现，法官、当事人、诉讼参与人的亲历性构成了确保程序公正不可或缺的基石。所谓司法亲历性，是指司法人员应当亲身经历案件审理的全过程，直接接触和审查各种证据，特别是直接听取诉讼双方的主张、理由、依据和质辩，直接听取其他诉讼参与人的言词陈述，并对案件作出裁判。这种亲历性不局限于当事人亲临庭审现场，参与庭审活动的实质性过程，更体现在法官通过敏锐的观察、审慎的审查以及对证据材料的直觉感知，最终形成内心确信，并据此认定案件事实、作出公正判决的整个过程。
在人机协作日益深入的司法实践中，保障这种司法亲历性尤为重要。GAI技术为我们提供了可能。例如，智能分案系统的运用，能够依据案件的性质、难易程度等因素，结合法官的专业特长和工作经验，实现案件的智能分配，确保案件得到合理且专业的审理。这一创新不仅提升了司法效率，更确保了司法的亲历性，使得法官能够全面、深入地了解案件情况，进而作出更加公正、合理的判决。此外，涉法信访申诉案件智能处理系统的引入，也为保障司法亲历性提供了有力支持。该系统通过高效筛选与分流案件，有效减轻了承办法官的办案压力，使他们能够更专注于案件的核心问题。需要注意的是，我们必须注重过程中技术应用的合理性和有效性，加强对语言识别技术的研发和应用，确保案件信息的准确获取和有效处理。同时，还要建立严格的案件过滤机制，确保被过滤处理的案件真正不符合立案条件，这也是维护司法公正和亲历性的必要举措。
三、人机协作与强化司法社会信任
司法信任是公众对国家司法制度或司法机构按照自己预期运行的信念或信心。这种信念或信心不仅与个体的心理状况或人格特征相关，更是政治文化或社会资本的重要组成部分。信任或不信任都可以在社会化过程中实现传递，并转化成一种普遍而稳定的个体心理特征。
以司法裁判中的在线庭审为例，虽然在线庭审为不便出庭参加诉讼的当事人提供了便利，但不可否认，在某种程度上也削减了司法活动本身的仪式性，有损其权威性。庭审过程中法官居高中立就座，一系列法庭仪式具有促进诉讼参与人产生信任感与敬畏感的作用。因而，在人机协作中应寻求加强司法社会信任的途径。首先，通过加强技术研发和应用，提高在线庭审的效率和公正性。例如，利用AI技术实现庭审过程的实时监控和记录，确保庭审过程的公正性和透明度。同时，利用GAI技术，模拟真实的庭审环境，增强当事人的信任感和敬畏感。其次，建立严格的司法制度和规范，确保司法活动的公正性和权威性；建立健全的司法公开制度，确保司法活动的透明度和公正性，从而保障司法的社会信任，同时又充分利用GAI技术的优势来推动司法现代化。
四、司法实践中人机协作的伦理风险应对
随着GAI技术特别是大语言模型在司法领域的应用，引发了法律界对人机协作伦理风险的担忧。GAI生成模型技术的不断进步，让我们看到了解决问题的曙光。生成对抗网络（GAN）等GAI模型正逐渐成为用户隐私数据保护的新途径，这些模型具备在不依赖传统数据共享机制的情况下，生成不含个人身份信息的合成数据的能力。通过将这些合成数据替代原始数据进行对外访问、共享和使用，可以从源头上解决下游数据应用中的隐私泄露问题。据Gartner预测，合成数据有望在2030年前取代真实数据，成为人工智能模型训练的核心数据源。
展望未来，为确保GAI技术在司法领域的健康发展，建议可以从以下几方面进一步完善：一是加大技术研发与创新的力度，特别是在GAN等隐私保护技术上的投资，并鼓励跨学科合作以推动技术创新；二是制定和完善与合成数据使用相关的法律框架和规范，明确数据使用的界限，确保司法活动的合法性和合规性；三是加强对司法人员的培训和教育，提升他们对合成数据技术和隐私保护重要性的认识；四是建立健全监管机制，对GAI技术在司法领域的应用进行定期评估和监督，确保数据库的及时更新与健康发展；五是加强国际间的合作与交流，共同应对全球性的隐私保护挑战，推动司法领域的国际合作与发展。通过这些措施的实施，在确保个人隐私安全的基础上，促进GAI技术在司法领域的广泛应用，为法治社会的构建提供有力支持。
（作者单位：华东政法大学法律学院）