为深入学习贯彻全国两会精神,落实《工业和信息化部等十六部门关于促进数据安全产业发展的指导意见》《生成式人工智能服务管理暂行办法》以及“人工智能+”行动等要求,加快数据安全技术与人工智能新兴技术的交叉融合创新,促进人工智能与实体经济深度融合,加快培育形成新质生产力,为高质量发展注入安全新动能。中国软件评测中心(工业和信息化部软件与集成电路促进中心)联合数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国计算机行业协会数据安全专业委员会,共同研究大语言模型的技术架构、安全性能与标准体系,并发布《开源大语言模型安全性测评报告》。
本报告聚焦测评国内外开源大语言模型的安全性,通过选取典型的八款开源大语言模型,在指令安全、内容安全、模型安全、网络安全和数据安全五大维度展开深入测评。研究大语言模型的安全性对于提高大模型厂商的安全意识、保障行业用户的合法权益等具有重要的意义,通过系统性分析国内外大语言模型安全性的综合表现,为产业各界提供权威参考。