IT时报记者孙妍
　　在大模型大行其道之际，人工智能如何做到安全、可信、可控？上海AI有何治理之道？
　　2024年4月28日，“上海AI治理之道”暨《人工智能大模型可信赖应用评价指标体系》标准研讨会在上海西岸人工智能中心召开，研讨会由上海市徐汇区新型工业化推进办公室指导，上海大模型生态发展有限公司、上海徐汇滨江经济发展有限公司主办，中国信通院华东分院联合主办，上海市人工智能标准化技术委员会提供支持。
　　来自同济大学、复旦大学等高校科研机构，上海软件中心、长三角智慧城区发展研究院、华为、蚂蚁集团、百度、阿里云、Mini⁃Max、星环科技、达观数据、蚂蚁云科技、卓繁信息、上海钢联、浦软平台等近30家人工智能领域企业参与讨论。
　　《人工智能大模型可信赖应用评价指标体系》标准研讨会的召开，意味着上海启动国内首个大模型评测领域地方标准的制定。在会上，多家机构与企业就草案展开研讨，据中国信通院华东分院人工智能事业部的介绍，《人工智能大模型可信赖应用评价指标体系》以可靠性、可解释性、公平性、鲁棒性、数据安全与隐私保护、内容安全为支撑的整体框架，下一步，将就标准的细化展开工作，打造健全的可信AI标准和评测体系。
　　华为、阿里云、百度、MiniMax、开放传神、达观数据、上海计算机软件技术开发中心、上海浦东软件平台等机构和公司的代表就大模型评测平台框架建设、评测数据集搭建、大模型代码生成能力评测工具链等内容进行讨论，并结合企业自身发展实践，就通用大模型持续赋能垂类应用过程的可控性、可信赖性，以及基于工业、金融、教育等场景构建具体评测标准的关键问题深入交流。
　　针对人工智能的风险和治理，上海市徐汇区新型工业化推进办公室副主任郭岩涛介绍了上海及徐汇区大模型相关产业和布局，强调了安全治理在推动产业健康发展的重要保障作用。
　　2021年，上海可信AI评测中心在世界人工智能大会成立，开启了中国信通院的人工智能可信研究之路。2023年，中国信通院和上海人工智能实验室联合成立了“大模型测试验证与协同创新中心”，在上海打造国家级大模型测试验证能力。
　　依托于该中心的能力，可信大模型评测平台建设也于去年12月启动。中国信通院华东分院院长廖运发表示，中国信通院今年将发布《大模型安全框架（2024）》和《大模型安全实践（2024）》两个报告，聚焦大模型安全展开从理论框架到应用实践的深度探索。