人工智能用一个方便的上限去代替真正的害处，不能叫成已经管住了。人受不受得了，要量人碰到的那一下。代用品一刀切，能把害处做小的做法也会变成不许试，于是该迭代的那一类停很多年，另一类只是更安全、更省，并没有解决原来那一下。内部规则也一样。先写人实际碰到的害处，再看满足害处、但仍被代用品拦住的做法还在不在。还在，这条规则量错了。

人工智能用好写的代用品冻住该试的那一类

有一种限额写的是快慢，要管的其实是人听到的突然一声。声可以很大，也可以被做成很小。限额不看声，只看快慢，于是把声做小的那一类和声很大的那一类一起禁止。禁止久了，行业只会把慢的那一类做得更安全、更省，快的那一类没有机会一轮一轮改。五十年后慢的很好，原来要管的那一声并没有被一条对症的标准管住。这不是稳定，是量错了对象。

人工智能先写害处再检查代用品有没有误伤

每条内部限额先写两行。第一行：人实际碰到的害处是什么，怎样算过了线。例如突然的错、别人看得见的打扰、一次不可收回的发出。第二行：现在条文限制的代用品是什么。例如次数、长度、速度、模型大小。然后找一种做法：害处已经在线下面，代用品却仍然不许。找得到，这条限额量错了，不能叫成已经管住。

量错了的限额不要马上改成没有限额。改成直接量害处。害处过线就停，害处在线下面就允许试。试的记录写明这一轮害处的数，不写代用品的数来代替。代替过一次，试的资格取消，回到只能量错的那条旧文。

允许试不等于取消害处。害处的线要在试之前写好，并且用人能碰到的单位，不是用内部代号。线没写好就放开代用品，是另一种翻车：什么都能试，害处没有数。两条一起要。先有害处的数，再允许代用品下面、害处也在线下面的那一类。

已经运行很多年的代用品，要专门做一次对照：这些年变好的是代用品那一侧，还是害处那一侧。只有代用品一侧变好，例如慢的更省、更安全，害处的标准却从未写成一条，这条老规则记成未完成。未完成的规则不许用年头来辩护。年头长只说明冻得久。

人工智能现场用两行对照挡住一刀切

改规则的会只看两行和那一种被误伤的做法。有人说这个上限好写、好检查，先问它有没有把害处在线下面的做法也禁了。禁了，好写不能成为留下的理由。新规则的第一句必须是害处的单位。第一句仍是代用品，文本退回。

试做一周后只报害处的数。报代用品下降了多少，不代替害处。害处过线的那一次，立即停这一类，不论它的代用品看起来多温和。

人工智能常见翻车是用年头和慢的进步证明规则是对的

翻车是规则写了几十年，就说它一定对症。对症要看它量的是不是人碰到的东西。另一类是慢的、小的那一侧确实更安全了，于是宣布问题已解决，被冻住的那一类从未试过。还有一类是放开所有代用品，害处没有线，出错了无法停。

好检查不是对症。好检查的代用品如果误伤，检查越勤，冻得越死。

结论：人工智能规则量人碰到的害处，代用品不能单独当标准

先写害处的线，再写代用品。害处在线下面却仍被代用品拦住，这条规则量错了。量错了就改成直接量害处，不是改成没有标准。慢的更安全，不等于被冻住的那一类可以继续不许试。

年头不能替规则辩护。试做只报害处的数。害处过线就停这一类。第一句仍是代用品的文本退回。

两行缺一行，规则不算写完。写完的标志是能指出一种害处合格、以前却被拦住的做法，现在可以试，并且线已经在试之前公布。

试的第一周如果害处的数没有人记，这一周视同没试。没试的做法不能用来证明规则已经改对。补记必须是当时的记录，事后回忆不算。回忆写进周报的，把这一周从试做里划掉。划掉的一周不能累计进已试的月数。月数不够就继续算未完成，不因年头已长而改口。改口过的句子收回，收回清单和未完成放在一起。

你下次有人用一个好写的上限说害处已经管住了，先问人实际碰到的是什么，并举出一种害处合格却仍被拦住的做法。举不出，先不要把这条当对症。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源