人工智能的标记可以完全看对，紧接着的决定仍可以是错的。错不在它有没有看见敏感词、缺勤或异常，错在看见和处理中间那一步没人去看。你拿出自己的底稿、日志、打卡，往往只是再证实一遍它看见的事实。事实本来就不是争议。没人申诉的标记被算进准确率，是把沉默当成正确。标记只说明该去看哪里，去看的人必须另写在决定格里。

人工智能标记痛点在用观察代替处理

内容里确实出现了那些词，人确实没来，登录确实异常。系统没有看错。下架、约谈、拒绝、暂停，是另一件事。它需要一句标记里没有的话：看见这些之后，为什么是这个处理，而不是先找人问一句。没有这句，流程就是看见即处理。看见即处理时，看对了反而更难翻，因为你无法说它看错了。

申辩界面常常有两个动作。一个是对处理不服，一个是对标记方式不满。前者改的是这次决定，后者可能只是去调整以后怎么标。人分不清哪个按钮有用，屏幕上也不写。点错的那个，决定没动，标记模型却把这次不满收进去当训练。这不叫给了申辩。

准确率的定义会把这件事藏住。有的系统把自动处理的精度说成没被成功推翻的比例。绝大多数人根本不申诉。不申诉的被计成正确。申诉的人本来就是觉得自己有理的那一小部分，他们的推翻率说明不了那些沉默的决定。精度写到很高，复核却几乎没发生。

人工智能决定五步：标记和决定分列、决定格写人看过什么、未申诉单独计数、按钮说明改的是哪一个、只重复事实的材料退回

1. 标记列可以自动填。决定列空白，不得执行下架、拒绝、约谈或暂停。
2. 决定列写谁看的、看了什么、和标记不一致时为何仍这样处理。三句缺一，退回。
3. 未申诉的数量单独统计，禁止并进准确率。准确率只在被独立复核过的子集上算。
4. 申辩必须写明这一下改的是本次决定，还是以后的标记方式。两个动作不能共用一个没有说明的按钮。
5. 当事人的材料若只重复标记已看见的事实，退回，并写明要回答的是决定为什么不该发生。

上表把看见和处理拆开。决定列空着，标记再准也不能执行。

人工智能现场怎么抽这批沉默的决定

复核不要只从申诉里抽。申诉样本是会投诉的人，不是被处理的人。每月从全部标记里抽，含那些没有申诉、已经执行的。抽到决定列空白或三句话不全的，这条执行记为未复核，未复核的处理暂停后续升级，例如从提醒升到处分。

见过缺勤标记完全属实的情形。人当时处在严重的个人危机里，系统把缺勤送进处分流程，没有回访。后来在一个会损失大额费用的截止日期前办了离开。标记没有看错，处理错过的是该见面的窗口。标记该触发的是人去看，不是一封威胁。下架或拒绝若发生在传播的头几个小时，或发生在申请窗口里，事后恢复也不等于没有损害。决定列要写时效。只写最终恢复了，等于没写损害。

回访不能是照着机器稿念。念稿仍然是标记在说话。看，是问了标记没问的那一件事：这个人当时在什么情况下，这个内容是在描述风险还是在实施风险，这个缺勤旁边有没有别的事实。问不出这件标记以外的事，回访不算数，决定列保持空白。

人工智能常见翻车是用精度代替复核比例

精度若把未申诉算成正确，数字本身是循环的。对外说百分之九十几，先问分母里有没有沉默的决定。有，这个数就不能当质量。质量看的是抽到的未申诉里，有多少决定列经得起问。

另一类翻车是恢复率。恢复的是会申诉、而且申诉被看懂的那一小部分。不会申诉的人永远不进入恢复率。把恢复率当系统健康，会把最需要回看的人排除在指标之外。

决定列若允许事后补。执行已经发生，补写的三句话是解释，不是复核。复核必须发生在执行前。已经发出的处理，补写只能记为事后说明，不能把状态改成已复核。事后说明积累到当周超过抽查量，自动标记停用升级，只保留提醒，直到决定列重新变成执行前必填。停用期间用人工队列看新增标记。队列积压不是把自动执行打开的理由。

结论：人工智能标记回答看见了什么，决定要另有人写为什么这样处理

看对了，不能推出处理对了。自己的记录帮着证实观察。未申诉不是准确。去看的那一步空着，就先不要执行。

你下次见到一条自动标记，先写决定格里是谁看的、看了标记没写的哪件事、未申诉有没有被算进准确率。三格空着，先不要执行处理。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源