哪些数据不能喂给 AI 模型,训练和使用个人信息的合规清单

技术分享2026/11/16 02:16:51
哪些数据不能喂给AIAI训练数据合规个人信息保护法敏感个人信息数据安全法

判断一条数据能不能进模型,依据是它有没有处理合法性基础、要不要单独同意、算不算重要数据。这三道关任何一道过不去,就别喂。2025 年 11 月起两项国标给训练数据写了具体口径,照着自查比临时立规矩省事。喂之前先做一次个人信息保护影响评估,报告留三年。

企业现在攒数据的动作多起来了。做私有化知识库要把文档喂进检索库,微调行业模型要把业务数据喂进训练集,员工日常把资料贴进对话框。2025 年 11 月 1 日,两项关于训练数据的国家标准开始施行,GB/T 45652《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》和 GB/T 45654《网络安全技术 生成式人工智能服务安全基本要求》,训练环节该查什么第一次有了成文的对照表。

写这篇之前我把《个人信息保护法》《数据安全法》《生成式人工智能服务管理暂行办法》和这两项国标放在一起读了一遍。读完的结论可以压缩成一句话,法律禁的从来是「没有依据的处理」,不是「AI」这个用途本身。把这句话展开,就是下面这份清单。

先把喂给模型翻译成法律语言

员工把一份带客户姓名和手机号的表格贴进大模型,这件事在个人信息保护法里对应几个动作。数据进入了另一个系统的处理范围,处理目的从原来的业务变成了生成内容或训练模型,接收方可能是外部服务商。

这几点每一点都有对应的法条。目的变了,原来收集数据时的依据未必还能用,需要按第十三条重新找合法性基础。接收方变了,涉及第二十一条的委托处理或第二十三条的向第三方提供,两者都有书面要求。服务商在境外,还叠加出境规则。逐条过一遍,才知道手里的数据处在哪一档。

合法性基础,同意只是七分之一

个人信息保护法第十三条列了七项可以处理个人信息的依据。取得个人同意是第一项,也是多数人唯一记得的一项。另外六项里,履行合同所必需、履行法定义务所必需、人力资源管理所必需这几项,在企业场景里同样常用。

用员工的企业邮箱账号给员工发工资通知,不需要单独收集同意,靠的是人力资源管理所必需。拿同一份员工花名册去微调一个客服模型,用途就从人力资源管理滑到了模型训练,原来的依据撑不住新目的。

所以判断能不能喂,第一个动作是问一句,这条数据进模型,依据是七项里的哪一项。答不上来,就先补依据或者不喂。

三类数据在源头上就进不了模型

第一类是没有合法性基础的个人信息。客户留给销售的联系方式的用途是履约和售后,拿去训练模型没有对应依据。应聘者简历收集目的是招聘,招聘结束后长期留存本身就违反最小必要原则,更谈不上进训练集。

第二类是重要数据。数据安全法第二十一条要求对数据分类分级,被行业主管部门列为重要数据的,处理活动全程有报送和评估义务,重要数据出境还有单独的审查程序。这类数据进任何外部通道都要走专门流程,进模型池之前先过数据安全法第三十条的定期评估。

第三类是涉及国家安全的核心数据。电网结构、测绘成果这类落在核心数据范围里的资料,任何形式的对外输出都触碰红线,模型通道不构成例外。

敏感个人信息要过单独同意这道门

个人信息保护法第二十八条定义的敏感个人信息包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹,以及不满十四周岁未成年人的全部个人信息。处理这一类,第二十九条要求取得单独同意,第三十一条还要求未成年人的信息取得监护人同意并有专门规则。

单独同意的门槛比一般同意高。勾一个打包的隐私政策不算,要在处理每一项敏感信息前单独弹出来。2025 年网信部门专项执法里列举过一类违规情形,有平台在未取得被编辑个人同意的情况下克隆他人声纹做语音合成。换脸和拟声功能都吃生物识别信息,这条线在执法侧已经被实际踩过。

落到企业场景,人脸考勤截图、员工体检报告、客户银行卡号、行程轨迹,都属于先拿单独同意再谈后续的档位。拿不到,就不进模型。

什么条件下可以喂

能把数据送进模型的路有三条。

第一条是取得同意或落在其他六项依据里。员工知情并同意把绩效数据用于内部模型微调,或者该用途确实属于人力资源管理所必需,这条路是通的。判断时把目的、方式、范围写清楚,越具体越站得住。

第二条是数据本身不构成个人信息。产品手册、公开的技术文档、不含任何可识别到人的记录,随便喂。多数企业的制度文件和操作规程走这条路。

第三条是匿名化。第七十三条给的定义是处理后无法识别特定自然人且不能复原,匿名化后的信息不属于个人信息,整套规则不再适用。这条路技术上比听起来难。把表格里的姓名和手机号删掉,剩下部门、职级、绩效和病假记录的组合,小范围数据集里仍然可能反推出是谁。去标识化达不到这个标准,去标识化之后的数据还是个人信息,只是安全性要求更高。

训练环节的专项要求,两项国标给了口径

《生成式人工智能服务管理暂行办法》第二条划了一道适用边界。企业研发和使用生成式 AI、未向境内公众提供服务的,不适用这个办法。所以内部微调一个模型给自己用,直接的监管依据回到个人信息保护法和数据安全法,暂行办法和两项国标当参考。

一旦对外提供,第七条的义务就来了。训练数据要来源合法,涉及个人信息的要取得个人同意或符合其他法定情形,数据质量要有保障措施。第十七条还叠加了安全评估和算法备案。

两项国标里更细的要求值得直接抄进合规自查表。GB/T 45652 要求语料里包含个人信息的取得授权同意,敏感个人信息取得单独同意。单个来源的违法不良信息占比超过百分之五,放弃这个来源。文本语料要建关键词库和分类模型,把隐私和敏感信息识别出来。GB/T 45654 给出训练数据、模型和服务的整套要求,已经是大模型备案和测评的技术参考。两项都是推荐性国标,但备案测评照它执行,事实上就是门槛。自查的顺序也照标准走,先核来源合法性,再核个人信息授权链条,最后核过滤机制有没有真的建起来,一轮下来训练数据的合规状态就有了可出示的记录。

员工把数据贴进外部工具时发生的是什么事

回到使用环节最常见的场景,员工把带个人信息的资料贴进一个外部 AI 网站。

这一步在法律上至少发生两件事。数据交给了外部处理者,构成委托处理或向第三方提供,第二十一条要求签订协议约定处理目的和方式,第二十三条要求告知接收方名称、联系方式、处理方式和个人信息种类,并取得单独同意。如果服务商在境外,第三十八条和第三十九条的出境路径和单独同意全部叠加。

暂行办法第十一条对服务提供者也写了对应的义务,不得收集非必要个人信息,也不得非法留存或者向他人提供能识别使用者身份的输入。企业作为使用者能做的是在采购 API 和工具时核合同,数据是否用于服务商的训练、留存多久、删除怎么证明,三个问题写进合同才作数。员工侧的完整管控做法,员工把公司资料贴进 AI 该怎么管里有单独一份,这里不重复。

喂之前的三步动作

第一步是数据分类分级。按 GB/T 43697 的方法把资料过一遍,敏感个人信息和重要数据标出来,具体做法见数据分类分级怎么落地。这一步的产出直接决定后面两步的工作量。

第二步是分层处理。可以匿名化且验证过无法复原的,进训练集。只能去标识化的,进内部检索库并限定用途,靠权限和审计兜住。敏感个人信息和重要数据,原则上留在原来的系统里,模型场景用脱敏样本替代。

第三步是把规则写进制度并做影响评估。个人信息保护法第五十五条列的情形里,委托处理、向第三方提供、处理敏感个人信息、向境外提供全部要做事前的影响评估,第五十六条要求评估报告和处理记录至少保存三年。评估这件事本身也是对客户的交代,投标和尽调时能出示的东西是报告,不是一句我们很重视数据安全。治理措施怎么落到网络和终端,企业 AI 使用治理与数据边界方案有完整清单。

结束在可走的路上

把不能喂的划清楚之后,能喂的部分需要一个足够好用的去处,否则规则会重演禁令失灵的老问题。私有化部署的知识库让资料留在内网,配合统一身份和权限,是当前最顺的一条路,形态和部署方式参考企业私有化 AI 知识库方案。对外的生成内容标识义务怎么履行,企业用 AI 生成的宣传内容要不要标识写过。个人信息保护法对企业的全部约束,个人信息保护法对中小企业的实际约束有逐条梳理,重要数据的评估报送要求见数据安全法落地要做的事。更多同类内容见技术分享栏目。

关键来源

政策与实操更新,一个月一两封

只发内容更新,不做群发推销。不想收了随时退订。