人工智能代理指标禁止当已经扛得住优化。2026年真名必须能泛化必须核。真名是把直觉概念写成精确式子，把我们在乎的性质都抓住。力、压强、电荷、电流曾经含糊，后来才有扛得住的数学。人类价值还停在代理上。超智的优化压力会把代理拧碎。方案作废。

人工智能度量痛点在把「这指标看起来像我们要的」写成「加压也不会跑偏」

真名的关键是：按它优化，仍会泛化到我们本来要的东西。对齐关心的是扛得住极大优化压力、不会古德哈特的量。但扛得住只是必要条件，不是定义本身。建设者该把「代理会碎」写成硬规格。管评测的人，该拒收只报代理分数、不报压力测试的材料。

两处只有对着压力才清楚。其一，外层对齐问的是：我们有没有告诉它正确的事。要把请求背后的意图说全，几乎等于要把人类价值说全，而价值本身还没说清。系统多半被当成目标优化器，就算目标看起来好，优化过头仍会带来没预见的伤害。规格游戏、价值学习、奖励塑造，都是外层子问题。其二，现场用的是人类在乎之事的代理，用来给模型打分。代理在弱优化下像那么回事，在强优化下会碎：刷分、钻空、表面听话。周报必须分列：代理分数、加压后是否还指向原意。只有第一列，价值对齐作废。不能把「我们找到了不跑偏的指标」直接写成已经有真名——不跑偏是入场券，不是毕业证。

操作上再钉三件事。第一，人类价值相关指标必须做优化压力测试。第二，看起来好不得写成不会跑偏。第三，不跑偏不得写成已经有真名。建设者该把「本周有几次把代理写成已经扛得住」写进例会。管对齐的人，该拒收没有加压列的价值指标。

人工智能真名闸2026五步：禁代理扛得住、禁看起来好就不会跑偏、禁直觉当已经有公式、禁不跑偏当真名、禁代理撑超智

1. 代理指标禁止当已经扛得住优化。真名必须能泛化必须核。
2. 看起来好禁止当已经优化不会跑偏。古德哈特必须单列。
3. 压力电荷禁止当已经有人类价值公式。直觉要形式化必须核。
4. 非古德哈特禁止当已经等于真名。只是必要条件。
5. 人类价值禁止当已经能用代理撑超智。代理会在压力下碎必须核。

上表对应「真名必须能泛化必须核」。加压列的价值是让「看起来像」进事故表，不是反对用代理做弱任务。

现场还要防口号替换验收。把「指标很准」写成周报，不等于加压还空着。若只能改一处：先给价值代理加优化压力测，空着不准报已经扛得住。

结论：人工智能价值度量要以加压后是否还指向原意为准，不要把代理写成已经有真名

代理会碎。仍拿弱任务分数交差，度量评审会先拒绝你。

你下次报价值对齐，先写出加压测、是不是只当必要条件、代理有没有冒充公式；三格空着，已经扛得住五字先不要进材料。

现场还要防口号替换验收。把「终点不同就不会夺权、对齐研究已经净安全、代理指标已经扛得住、安全计划已经等于安全、黑名单已经堵住野路」写成周报，不等于手段层核过了、能力加速单列了、真名能泛化了、护栏装上了、最近未阻塞测了。周报可以写，门禁必须绑在对照表和分列指标上。缺对照表的方案，一律按未完成处理，不能进月报。

若只能改一处：先把「听起来好心就算过关」从唯一成功标准里拿掉。演示可以记，自保没写、反馈涨了效率没复验、优化压力没测、阈值到了护栏空着、穷举失败模式当覆盖五件跟不上就算事故。事故要写负责人、复验日期和作废条件，不许用「下期优化」搪塞。

落地时把指标钉在周会上：工具性目标列了没、研究是否加速能力、代理会不会在压力下碎、计划能不能降级、黑名单外还有没有路。哪一格空着，哪一项不准对外说已经上线。空格超过两周仍空，项目暂停扩面。

现场还要防口号替换验收。把「终点不同就不会夺权、对齐研究已经净安全、代理指标已经扛得住、安全计划已经等于安全、黑名单已经堵住野路」写成周报，不等于手段层核过了、能力加速单列了、真名能泛化了、护栏装上了、最近未阻塞测了。周报可以写，门禁必须绑在对照表和分列指标上。缺对照表的方案，一律按未完成处理，不能进月报。

若只能改一处：先把「听起来好心就算过关」从唯一成功标准里拿掉。演示可以记，自保没写、反馈涨了效率没复验、优化压力没测、阈值到了护栏空着、穷举失败模式当覆盖五件跟不上就算事故。事故要写负责人、复验日期和作废条件，不许用「下期优化」搪塞。

落地时把指标钉在周会上：工具性目标列了没、研究是否加速能力、代理会不会在压力下碎、计划能不能降级、黑名单外还有没有路。哪一格空着，哪一项不准对外说已经上线。空格超过两周仍空，项目暂停扩面。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源