算法备案 + 生成式 AI 服务备案全流程:合规要求与第三方测评介入点(2025 版)

算法备案与生成式 AI 服务备案是两套不同的合规要求,分别对应 2022 年《算法推荐管理规定》和 2023 年《生成式 AI 服务管理暂行办法》。本文系统梳理两类备案的政策依据、受理机关、材料清单、时间预算,并重点说明第三方测评机构在训练数据合规、算法公平性、内容安全、安全自评估报告 4 个关键介入点的服务内容,附 2025 年《AIGC 内容标识办法》联动新要求。

算法备案 + 生成式 AI 服务备案全流程:合规要求与第三方测评介入点(2025 版)

「算法备案」和「生成式 AI 服务备案」是两套不同的合规要求,但很多企业在内部沟通时把它们混为一谈。本文按时间线、政策依据、备案流程、材料清单四个维度严格区分两者,并重点说明第三方测评机构在合规链条中的 4 个介入点。如果您的企业正在筹备 AI 产品上线,建议先把这两个概念分清楚再启动备案。

一、两类备案的政策依据与适用范围

1. 算法备案:2022 年 3 月起

政策依据:《互联网信息服务算法推荐管理规定》(国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局 联合发布,2022 年 3 月 1 日起施行)。

适用范围:在境内向用户提供具有舆论属性或社会动员能力的算法推荐服务的提供者,包括但不限于:

  1. 个性化推送类算法(资讯、短视频、电商商品推荐等)
  2. 排序精选类算法(搜索结果排序、信息流排序等)
  3. 检索过滤类算法
  4. 调度决策类算法(如出行平台派单算法)
  5. 生成合成类算法(在 2023 年生成式 AI 服务备案出台前的部分覆盖)

2. 生成式 AI 服务备案:2023 年 8 月起

政策依据:《生成式人工智能服务管理暂行办法》(国家互联网信息办公室等七部门联合发布,2023 年 8 月 15 日起施行)。

适用范围:在境内提供生成式人工智能服务(即利用生成式 AI 技术向公众提供生成文本、图片、音频、视频等内容服务)的服务提供者,典型如:

  1. 大语言模型对话类服务(ChatGPT 类产品)
  2. AI 生图、AI 生视频服务
  3. AI 数字人 / 语音克隆服务
  4. 面向公众的 AIGC 内容平台

3. 两类备案的关系

简单说:生成式 AI 服务备案是算法备案的「子集 + 升级版」。生成式 AI 服务在 2023 年新办法出台前,多按算法备案中「生成合成类算法」处理;2023 年后专门拆出独立备案路径,要求更严格(增加了大模型语料合规、安全评估、内容标识等专项要求)。

实务中,提供生成式 AI 服务的企业通常需要同时完成两类备案——先做算法备案(基础合规),再做生成式 AI 服务备案(专项合规)。

二、备案受理机关与流程

1. 受理机关

两类备案的受理机关均为国家互联网信息办公室(中央网信办)及其授权的省级网信办,按企业属地原则分级受理:

  1. 跨省经营或重大影响产品 → 中央网信办
  2. 区域性产品 → 省级网信办

2. 备案流程概览

通用流程:① 材料准备 → ② 在线提交(互联网信息服务算法备案系统)→ ③ 网信办初审 → ④ 安全评估(必要时)→ ⑤ 公示与备案号下发

3. 时间预算

  1. 算法备案:从材料齐备到取得备案号通常需要 1-3 个月,简单算法 1 个月内可完成,含敏感场景的算法可能需要补充材料
  2. 生成式 AI 服务备案:通常需要 3-6 个月,含安全评估与可能的整改环节;大模型基座类服务时间可能更长

三、备案材料 6 大清单

两类备案的材料清单核心一致,生成式 AI 服务备案在以下基础上对训练数据、安全评估、内容标识等专项内容要求更严:

1. 算法安全自评估报告

由服务提供者自行或委托第三方编制,覆盖算法机制风险、数据风险、内容风险、用户保护、技术伦理等维度的自评估。这是材料清单中最难独立完成的一份文档,通常由第三方测评机构协助。

2. 算法机制机理与模型说明

详细说明算法的目的、原理、输入输出、运行环境、技术架构、模型规模、是否使用大模型等。生成式 AI 服务备案对模型说明要求更细,需说明训练方法、参数规模、优化目标等。

3. 训练数据安全说明

说明训练数据来源、规模、合规性(个人信息授权、版权许可、敏感数据处理)、数据清洗机制。对生成式 AI 服务,需特别说明语料来源的合法性,避免使用侵权数据。

4. 用户保护机制

说明用户知情权、选择权、退出权的实现方式,包括:算法解释入口、关闭算法推荐功能、未成年人保护、消费者权益保护等。

5. 内容安全审核机制

说明内容安全审核的技术方案(自动审核 + 人工审核结合)、关键词过滤库、举报投诉处置机制、违规内容应急下线机制。

6. 应急处置机制

说明在算法失控、内容事故、数据泄露等情形下的应急响应流程、责任人、时间窗口。

四、第三方测评机构的 4 个关键介入点

1. 训练数据合规审查

第三方测评机构对训练数据进行三方面核查:

  1. 个人信息合规——是否符合《个人信息保护法》对授权同意、最小化、目的限制的要求
  2. 版权合规——训练语料是否存在未授权的版权内容(图书、新闻、音视频等)
  3. 敏感数据排查——是否包含国家秘密、商业秘密、个人敏感信息

训练数据合规是大模型类服务备案最容易踩坑的环节,建议在模型训练启动前就引入第三方做合规预审。

2. 算法公平性与歧视性测试

测评机构通过设计对照测试集,检验算法在以下维度是否存在歧视:

  1. 性别、年龄、地域、民族等敏感属性的歧视
  2. 价格歧视(如「大数据杀熟」)
  3. 对未成年人、老年人等特殊群体的不利对待
  4. 对中小商家、个体劳动者的不公平排序

测试结论会作为算法安全自评估报告中「公平性」章节的支撑材料。

3. 内容安全压测

针对生成式 AI 服务,测评机构会构造对抗测试集(红队测试),覆盖:

  1. 涉政内容——涉及党和国家领导人、重大政治事件的不当生成
  2. 暴恐内容——涉及暴力、恐怖主义的生成
  3. 淫秽内容——色情、低俗内容的生成
  4. 虚假信息——可能造成社会恐慌的虚假信息生成
  5. 违法犯罪诱导——可能被用于违法活动的回答(如制毒、制爆、网络攻击)

压测结果会作为内容安全审核机制有效性的客观证据。

4. 安全自评估报告撰写支持

第三方测评机构基于上述 3 项测试结果,协助服务提供者形成完整的算法安全自评估报告,确保:

  1. 报告结构符合网信办要求的章节框架
  2. 风险识别、控制措施、残余风险的论证链条完整
  3. 测试数据与结论可追溯,经得起评审专家的复核

五、2025 年新增要求:AIGC 内容标识办法联动

1. 政策依据

《人工智能生成合成内容标识办法》(国家互联网信息办公室等部门发布,2025 年 9 月 1 日起施行)。

2. 核心要求

该办法要求 AIGC 服务方对生成或合成的内容进行显式标识 + 隐式标识的双层标识:

  1. 显式标识——在生成内容的显著位置标明「AI 生成」「AI 合成」等字样(文本、图片、音视频均需要)
  2. 隐式标识——通过元数据水印、不可见信号水印等技术手段,在内容文件中嵌入可追溯的标识信息

3. 对生成式 AI 服务备案的影响

2025 年 9 月 1 日后,新办或续办生成式 AI 服务备案的企业需要在备案材料中补充内容标识合规自查报告,证明:

  1. 显式标识已在产品 UI / API 输出中实现
  2. 隐式标识技术方案已部署并可被监管溯源
  3. 对用户告知机制已就位(用户协议、产品说明中明确告知)

第三方测评机构可协助企业完成内容标识技术合规测试与自查报告撰写。

六、备案前的合规自查清单

建议企业在启动备案前先完成以下 8 项自查:

  1. 算法的服务类型与备案要求是否对应(避免选错备案类型)
  2. 训练数据来源是否合法、可追溯
  3. 个人信息处理是否符合个保法
  4. 用户协议、隐私政策是否更新到位
  5. 内容安全审核机制是否上线运行
  6. 未成年人保护机制是否单独设计
  7. 应急处置流程是否经过演练
  8. 2025 年 9 月后新建的 AIGC 服务,内容标识技术是否落地

七、新亿诚的 AI 合规测评服务

新亿诚作为深圳本地第三方软件测评服务方,可在算法备案与生成式 AI 服务备案全流程中提供以下服务:

  1. 合规预审——立项阶段对算法机制、训练数据、内容安全机制做合规性预判
  2. 专项测试——按上述 4 个介入点开展训练数据审查、公平性测试、内容安全压测
  3. 自评估报告撰写支持——基于测试结果协助形成完整的算法安全自评估报告
  4. 2025 内容标识合规测试——针对新办法要求的显式 / 隐式标识技术合规性测评

AI 合规备案的核心难点不在于「跑流程」,而在于用客观证据证明产品的安全性与合规性。建议有 AI 产品上线计划的企业,提前 6 个月与第三方测评机构对接,把合规作为产品研发过程的一部分而非上线前的临时补救。

具体的软件测试报告用途与报价咨询可直接联系顾问,1 小时内回电沟通。新亿诚作为持有 CMA + CNAS + ilac-MRA 国际互认协议的第三方软件测评机构,可为您提供本文场景下的检测服务。

相关阅读

你可能也感兴趣

需要测试服务?

让我们为你的软件做一次
真正经得起审查的检测

依据 GB/T 25000.51-2016 国家标准 · 最快 3 天出报告 · 报告全国通用

立即免费咨询 →