3月27日，《工业和信息化领域人工智能安全治理标准体系建设指南（2025）（征求意见稿）》（以下简称《指南》），面向社会公开征求意见。该《指南》提出针对AI技术广泛应用带来的数据安全、网络安全、伦理风险等挑战，构建AI安全治理标准体系框架。

短期急用先行，快速突破

长期全面保障，产业落地

《指南》提出两阶段建设目标。

短期来看，未来1至2年内，秉持急用先行，快速突破的策略，初步构建工业和信息化领域人工智能安全标准体系框架，明确标准体系的总体架构、分类和关键标准领域。制定一批急需急用的标准，为行业提供基本的安全规范和技术指导。推动相关标准的试点应用，在部分重点企业和项目中开展标准实施的验证和反馈工作，及时发现和解决标准在应用过程中存在的问题，为标准的完善和推广奠定基础。

长期来看，未来3至5年，为AI技术的产业化落地提供全面保障。完善工业和信息化领域人工智能安全标准体系，补充和细化各领域的安全标准，涵盖人工智能系统的设计、开发、部署、运行、维护等全生命周期，覆盖工业和信息化领域人工智能应用的各个方面，并促进与国际标准的对接协调。同时，加强标准的推广应用，规范工业和信息化产业主体人工智能应用，提高行业整体的安全水平，为传统产业的高端化升级和前沿技术的产业化落地提供有力保障。

搭建AI安全治理标准体系框架

从7方面着手AI安全治理

《指南》提出的人工智能安全领域标准体系框架主要由治理能力、基础设施安全、网络安全、数据安全、算法模型安全、应用安全、赋能安全等7个部分组成。

其中，人工智能治理能力标准主要规范人工智能支撑能力和管理能力，包括监测、防护等安全支撑技术，透明性、可解释性、隐私保护等治理支撑技术，以及风险分类分级、管理影响评估、应急响应等相关标准，为实现人工智能安全治理夯实基础底座。人工智能基础设施安全标准主要规范硬件平台、软件平台和智算中心等方面安全，确保人工智能基础设施安全稳定。人工智能网络安全标准主要规范网络安全的防护、监测、管理，以及供应链安全、网络安全风险评估，确保网络安全可靠运营。数据安全标准主要规范基础数据服务、训练数据、业务数据等方面安全，明确人工智能数据安全要求。人工智能算法模型安全标准主要规范算法、模型等方面安全，保障人工智能技术创新安全可控。人工智能应用安全结合新型工业化、智能网联汽车、生成式人工智能、生物特征识别、智能体等典型应用，提出新型工业化应用安全、行业应用安全、智能产品应用安全、智能服务应用安全，以及智能体安全等新产品形态安全的要求和评估方法，为推动产业智能化发展提供安全保障。人工智能赋能安全标准主要包括人工智能赋能网络、数据、信息、业务和其他安全等方面的要求。

日前发布的《人工智能生成合成内容标识办法》，明确AI生成合成内容需添加显式和隐式标识，细化了生成服务提供者、传播平台、用户的标识义务。《指南》也特别强调规范深度合成、生成式人工智能等在应用过程中的内容安全等方面的要求，制定安全规范和评估方法。规范利用深度合成和生成式人工智能技术生成内容、算法审核及评估、合成鉴伪检测技术等内容管理的安全要求，包括生成内容的模型引导、模板制作、内容审核等方面的技术规范要求，算法审核及评估的算法机制机理审核、信息发布审核、涉生成违法违规内容审查等能力评估，合成鉴伪检测技术的测评要求、评测方法和工具箱、指标体系等评价标准。

已发布55项AI安全治理标准

未来三年内还将发70项标准

据《指南》统计，截至2025 年2 月，在人工智能安全治理领域，全国信息技术标准化技术委员会、全国网络安全标准化技术委员会、中国通信标准化协会等技术委员会或工作组，共计发布55 项国家标准与行业标准，涵盖AI治理能力、数据安全、算法模型等领域。其中，AI治理能力方面的国家标准《人工智能 管理体系》，AI数据安全方面的国家标准《人工智能 面向机器学习的数据标注规程》，AI算法模型方面的国家标准《信息安全技术机器学习算法安全评估规范》《人工智能 深度学习算法评估》，涉及自动驾驶、人脸识别、生物特征识别等AI应用安全的多个国家标准，如《智能网联汽车运行安全测试技术要求》《信息安全技术人脸识别数据安全要求》等已正式施行。此外，还有《智能网联汽车运行安全测试项目和方法》《网络安全技术人工智能生成合成内容标识方法》两项国家标准将分别于今年5月和9月落地实施。另有《网络安全技术数字水印技术实现指南》《人工智能安全治理 生成式人工智能图像检测服务系统能力要求》等针对生成式AI内容治理的国家标准和行业标准正在审查、研究阶段。

《指南》指出，当前我国在人工智能安全治理标准制定方面具备一定基础，但标准主要呈现点状化、分散性、交叉性等特点，部分人工智能关键技术环节和新兴应用场景标准缺失，尚无法满足快速发展的技术需求。因此在未来三年内，针对AI治理能力、AI数据安全、AI算法模型、AI应用安全等多个方面，还计划发布70个国家标准和行业标准，进一步完善AI安全治理标准体系。

出品：南都大数据研究院

采写：陈袁