GDPR 下用大模型：个人数据多半不是从训练进来的

在欧盟用大模型处理个人数据，可以做，但要有合法依据、把送进模型的内容压到最少，并接得住查阅和删除。多数个人数据不是从训练语料进来的，而是从运行时的提示、检索到的文档、上传的文件、代理记住的事实，以及为了排错留下的日志进来的。下面按 GDPR 公开条文和欧洲数据保护委员会 2024 年 12 月的第 28/2024 号意见整理，不是法律意见。系统风险那一侧的时间表，见人工智能法的期限。

法什么时候套得上

只要处理的是欧盟境内个人的数据，公司设在不在欧盟、有没有对欧盟提供服务，都可能适用。提示、检索文档或输出里出现可识别的人，就是在处理个人数据。模型“只是在预测下一个词”不改变这一点。第 83 条对最严重的违规，罚款上限是 2000 万欧元或全球年营业额的百分之四，取较高者。

几乎每个项目都会碰到的几条

第 6 条的合法依据不只有同意。许多企业场景靠合同或正当利益，正当利益要有书面的平衡测试。健康、生物识别等特殊类别还要满足第 9 条的额外条件。第 5 条要求目的限制和最小化：只为你声明的目的使用，并且只把完成这件事所需要的个人数据送给模型。存储限制同样落在提示、记忆和运行记录上，不是只落在源系统。第 32 条要求按风险采取安全措施，包括加密、按角色限制访问，以及能做的假名化。第 22 条针对具有法律效果或类似重大影响的自动化决定，例如拒绝信贷，需要有意义的人工参与和保障。第 35 条的数据保护影响评估，在处理很可能给个人带来高风险时要做。用新技术大规模处理客户或员工数据，常常落在这里。上线前更新隐私通知，说明何时、为何由这套系统处理他们的数据。

监管对模型本身说了三件容易漏的事

欧洲数据保护委员会 2024 年 12 月的第 28/2024 号意见里，有三点对使用模型的人直接有用。第一，一个模型算不算匿名，要逐案看：既要极难从模型识别出训练数据里的人，也要极难通过提问把那些数据套出来。第二，正当利益可以成立，但是三步测试：利益是什么、处理对这个利益是否必要、和当事人的权利如何平衡，包括他们合理预期会怎样。第三，训练阶段违法，可能跟着模型走到部署。除非模型已经被适当地匿名化，否则部署的合法性会受影响。所以在选供应商时要问：模型怎样训练、你的数据会被用来做什么。问不到，就不要把客户档案送进那个接口。

模型跑在哪里，决定还有谁在处理数据，但不自动等于合规。托管接口要有处理协议、转移保障和保留条款。声称区域驻留的，要核对哪些功能真的留在区域内，推理和日志常常是另说的。开放权重模型放在你自己的云或机房，少了一个处理者，但依据、最小化、保留、安全和权利请求仍然是你的。敏感数据可以走自建，其余走已批准的托管，这种组合很常见。两套都要写进影响评估。

删除请求要找得着副本

当事人可以要求删除。副本可能在提示、检索库、代理记忆和日志里。从已经训练进权重的模型里拿掉某一个人，困难得多。所以个人数据尽量不要进训练集，需要时用检索，并让记忆按用户和会话分开，删除时能按人清掉。做不到按人删除的记忆，就不要开。具有法律效果的决定留在人那里，模型至多准备对照过来源的草稿。

试点第一周就可以做的，不是再选一个模型，而是把七个入口各写一行：训练、提示、检索、上传、记忆、日志、输出。每一行写依据、是否必要、保留多久、谁能看、删除怎么做。高风险的在上线前做影响评估，用途一变就重看。处理者在你的区域之外时，协议和转移保障先于第一条客户数据。建设的人和操作的人都要知道这些行，而不是只放在法务的文件夹里。

把你这套助手的提示、检索、记忆和日志各写一句保留多久，交给效率龙虾 用效率龙虾改这一稿。