人工智能要问模型还学了什么。测试准确不等于没记住训练名单。2026年成员推断能从输出反推某条记录有没有进训练集，多余容量会被拿去藏后门。联邦学习里一个恶意参与者能换掉联合模型。性别分类器会顺手学种族。最小权限才该进生产。不准只报测试正确率。

人工智能训练痛点在只问任务学好了没有，不问还顺手学了什么

对外可查的分类器，反复查询输出就能判断某条记录在不在训练集里：患者有没有进过研究、某地点有没有被某人的轨迹模型见过。建设者该把「还学了什么、多余容量、最小权限」写成硬规格。管数据的人，该拒收只有测试正确率的上线单。

两处只有对着内部才清楚。其一，深层网络容量远大于任务所需，测集准确可以很高，同时记住训练样本、发现与任务无关甚至统计不相关的敏感属性。性别分类的下层会分开种族，准确率看不出来。其二，协作训练会把内部参数和更新交出去。一个恶意参与者可以换成准确率看起来一样、却带后门的模型：特定特征故意分错，或在补全句子时塞进指定词。预处理动一下、训练程序不变，也能让模型把训练图像记进查询响应里。

操作上再钉三件事。第一，上线前做成员推断和属性推断抽检，抽中敏感记录或无关敏感属性，模型作废。第二，联邦和协作训练必须防模型替换：准确率相同不能当没被换。第三，目标改成最小权限：只学任务所需。评测加一问「还学了什么」。建设者该把「本周多余特征抽检」写进例会。管安全的人，该拒收开放查询却从不测推断的接口。

人工智能最小权限2026五步：问还学了什么、测成员推断、锁多余容量、防协作替换、正确率不当唯一门

1. 必须报告还学了什么。只报测试正确率，方案作废。
2. 对外查询必须做成员推断抽检。抽中敏感记录，方案作废。
3. 多余容量必须当风险。能藏后门还上线，方案作废。
4. 协作训练必须防替换。准确率相同就放行，方案作废。
5. 必须按最小权限验收。任务无关敏感特征留下，方案作废。

上表对应「测试准确不等于没记住训练名单」。多问一句的价值是让无意学习进事故表，不是少用深度网络。

现场还要防口号替换验收。把「已经能上线分类器」写成周报，不等于没泄露名单。若只能改一处：先做成员推断抽检。

结论：人工智能模型要以最小权限为准，不要只拿测试正确率交差

还学了什么会变成隐私和后门。仍只报准确率，数据评审会先拒绝你。

你下次交一个对外模型，先写出成员推断结果、无关特征抽检、协作有没有防替换；三格空着，正确率先不要进材料。

现场还要防口号替换验收。把「已经能生成、已经能检测、已经能合成、已经能上线、已经能通过考试」写成周报，不等于五类幻觉能分开核、鉴真核验两套闸、干净房间测过、最小权限、评测对得上岗位。周报可以写，门禁必须绑在对照表和分列指标上。缺对照表的方案，一律按未完成处理，不能进月报。

若只能改一处：先把「差不多就能交差」从唯一成功标准里拿掉。演示可以记，生成引用当已核、一次分类当真假、网上抄答案当合成、测试准确当没泄露、考试分当能上岗五件跟不上就算事故。事故要写负责人、复验日期和作废条件，不许用「下期优化」搪塞。

落地时把指标钉在周会上：引用按类核了没、鉴真和核验有没有分开、评测挡没挡泄漏、模型还学了什么、上游榜有没有当下游验收。哪一格空着，哪一项不准对外说已经上线。空格超过两周仍空，项目暂停扩面。

现场还要防口号替换验收。把「已经能生成、已经能检测、已经能合成、已经能上线、已经能通过考试」写成周报，不等于五类幻觉能分开核、鉴真核验两套闸、干净房间测过、最小权限、评测对得上岗位。周报可以写，门禁必须绑在对照表和分列指标上。缺对照表的方案，一律按未完成处理，不能进月报。

若只能改一处：先把「差不多就能交差」从唯一成功标准里拿掉。演示可以记，生成引用当已核、一次分类当真假、网上抄答案当合成、测试准确当没泄露、考试分当能上岗五件跟不上就算事故。事故要写负责人、复验日期和作废条件，不许用「下期优化」搪塞。

落地时把指标钉在周会上：引用按类核了没、鉴真和核验有没有分开、评测挡没挡泄漏、模型还学了什么、上游榜有没有当下游验收。哪一格空着，哪一项不准对外说已经上线。空格超过两周仍空，项目暂停扩面。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源