上海市信息安全测评认证中心发布全国首个生成式人工智能安全测试公共服务平台

据“网信上海”发布的信息，36氪了解到，在上海市委网信办和市经信委的指导下，上海市信息安全测评认证中心建设的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，于9月14日在国家网络安全宣传周上海地区活动开幕式上正式亮相。该平台以公共服务产品的创新理念，为中国人工智能治理实践贡献了上海方案。平台的大模型安全测评模块针对生成违法违规内容、歧视偏见、事实性错误等风险进行自动化评估，输出评估结果和改进建议，对模型违规输出的判断准确率超过95%。