“蒲公英”人工智能治理开放平台OpenEGLab亮相世界人工智能大会
转自：上观新闻
为积极应对全球人工智能治理挑战，系统解决规则落地难、软硬研究分离、治理碎片化等问题，保障人工智能健康可持续发展，上海人工智能实验室治理研究中心，联合清华大学、复旦大学合作团队共同发起了“软硬结合”的蒲公英人工智能治理开放平台——OpenEGLab（www.openeglab.org.cn），平台1.0版本，昨日于2022年世界人工智能大会科学前沿全体会议上，由科技部高新技术司司长陈家昌、科技部战略规划司副司长邢怀滨、上海市科技工作党委书记徐枫和国家新一代人工智能治理专业委员会主任薛澜教授共同正式启动。
目前，国际上尚少见规则和技术双轮互动的治理体系性平台。最新亮相的“蒲公英”OpenEGLab，目标是打造系统、实用的人工智能伦理与治理基础设施，探索“规则-技术-场景-评测”一体协同的人工智能治理体系。蒲公英代表着希望、温暖与友谊，蒲公英人工智能治理开放平台秉持促进跨学科研究、多元主体共建共享的理念，让蒲公英的种子飞的更远。国家新一代人工智能治理专业委员会主任薛澜教授说道：“希望业界同仁能在平台上持续积淀治理创新成果和工具，促进人工智能治理理念的落地，服务提升人工智能治理效率，共促人工智能可信、可持续发展。”
此次平台共发布了包括规则集、治理图谱、风险展示、评测框架和行业方案在内的五大亮点。规则集致力于构建全球治理知识库，目前已收录约1500条标注规则文件，包括伦理原则、政策战略、法律法规和标准等。治理图谱脱胎于平台收录的全球AI治理标注规则集，旨在打造人工智能治理全景图像，呈现各地治理情况，支撑研判国际治理动向和趋势。规则集标签全部开放，用户可根据需求自主构建、自由探索各种“蒲公英”式的治理图谱。风险展示的目标是打开人工智能模型价值影响“黑箱”，通过互动方式，帮助用户理解AI模型的基本结构、鲁棒性、安全性、隐私性等。平台目前支持36种常见视觉和语言模型的交互分析，致力于推动探索规则和技术紧密结合、互相促进的人工智能治理研究。评测框架则旨在对常用人工智能模型进行多维度评测。结合业界研究，该平台提出“人工智能六维评测体系”，用于综合评估一个人工智能模型的基础属性。目前，平台提供10个常用人工智能模型的初步评测结果。最后，行业方案致力于推动人工智能治理在典型应用场景的落地。在自动驾驶领域，平台广泛收集国内关于自动驾驶的重要法律文件，从全流程角度，对研发、测试、道路行驶各个环节设计的数据类型、相关利益人、处理原则、法律基准进行梳理，形成《自动驾驶数据合规评估指南》和自动驾驶数据合规评估平台。在医疗领域，平台聚焦人工智能医疗影像中的伦理问题，尝试提出对策建议，推动人工智能医疗影像从伦理原则到实质性落地。
蒲公英人工智能治理开放平台1.0诚邀各方共建共享，将AI治理的理念播向世界。
栏目主编：李晔文字编辑：李晔