本报讯 (记者 李洋) 近日,由上海人工智能实验室治理研究中心联合清华大学、复旦大学合作团队共同发起建设的“软硬结合”蒲公英人工智能治理开放平台——OpenEGLab在2022世界人工智能大会科学前沿全体会议上正式发布。
该开放平台共发布规则集、治理图谱、风险展示、评测框架和行业方案五大部分。其中,规则集致力于构建全球治理知识库,目前已收录约1500条标注规则文件,包括伦理原则、政策战略、法律法规和标准等。规则集标签全部开放,用户可根据需求自主构建、自由探索各种“蒲公英”式的治理图谱。治理图谱基于平台收录的全球AI治理标注规则集,旨在打造人工智能治理全景图像,呈现各地治理,支撑研判国际治理动向和趋势。
风险展示的目标是打开人工智能模型价值影响“黑箱”,通过互动方式,帮助用户理解AI模型的基本结构、鲁棒性、安全性、隐私性等。该平台目前支持36种常见视觉和语言模型的交互分析,致力于推动探索规则和技术紧密结合、互相促进的人工智能治理研究。评测框架则旨在对常用人工智能模型进行多维度评测。结合业界研究,该平台提出了“人工智能六维评测体系”,用于综合评估一个人工智能模型的基础属性,目前可提供10个常用人工智能模型的初步评测结果。
为实现在典型应用场景落地的人工智能治理目标,该开放平台积极推进为智慧医疗、自动驾驶、智慧教育、智慧城市等重点行业提供行业方案。目前,在自动驾驶领域,平台广泛收集了国内关于自动驾驶的重要法律文件,从全流程角度对研发、测试、道路行驶各个环节设计的数据类型、相关利益人、处理原则、法律基准进行梳理,形成《自动驾驶数据合规评估指南》和自动驾驶数据合规评估平台。在医疗领域,平台聚焦人工智能医疗影像中的伦理问题,尝试提出对策建议,推动人工智能医疗影像的伦理原则实质性落地。