人工智能不能挨骂，不等于无法追责。挨骂是一种社会性惩罚，用在人身上已经很笨：很多人受了罚，下次仍照旧。追责要的是两件事：同样的损害不再发生，已经发生的能查清。对一套系统，查清靠全程记录，不再发生靠关停、换掉和改规则。这些手段比对人责骂更直接。手段没接上，才是无法追责。它不会愧疚，不是理由。

人工智能追责痛点在把惩罚当成目的

一句老话常被拿来挡住检查：计算机永远不能被追责，所以不该让它做决定。后半句有时成立，前半句偷换了词。不能被追责在这里实际是说，不能把它叫到台上道歉，也不能让它感到羞耻。羞耻不是目的。目的是行为改变和损害被挡住。拿做不到的那种惩罚，去证明所有手段都不存在，是把工具箱里没有的那一件，说成工具箱是空的。

对人，你很少能重放他当时每一秒为什么那样做，也不能把他换掉还声称这是同一个人在改进。对系统，记录可以留下，规则可以改，不行的版本可以停。能做的更侵入，不是更少。把对人的限制套到系统上，会放过实际上做得到的那几件，只留下一句无可奈何。

只惩罚按下按钮的人，也会漏。按下的人可能在执行一条没有关停权的流程。惩罚他，流程明天还在。追责若停在人的检讨，系统侧的记录、关停和改规则全部空着，损害的来源还在。人的责任可以有，不能代替系统侧的手段。

人工智能追责五步：目的写成两句、手段清单先于老话、记录必须能重放、关停权单独在场、只检讨人不算关闭

1. 每条流程先写追责目的：哪一种损害要能查清，哪一种行为要能停。不写目的，不许讨论该不该上。
2. 手段清单至少三项：记录能否重放，谁能关停，规则谁来改。老话不能代替清单。
3. 记录若只剩最后一句输出，不能叫能查清。要有输入和当时的规则版本。
4. 关停权写明在哪个岗位，不写在系统会自己反省。岗位空着，这项不算有追责。
5. 人的检讨可以记。系统侧三项没有变化，事件不得关闭。

上表把社会性惩罚从手段清单里拿掉。清单上要有的，是查得清和停得下。

人工智能现场怎么写这张手段卡

上线前每个不能收回的动作一张卡。卡上四行：损害是什么，记录留在哪，谁在几分钟内能关停，规则改完的版本号写在哪。四行空一行，动作不得打开。我们见过事故复盘只有操作者的检讨书，记录只有最终输出，关停要找三家供应商，规则没有版本。检讨书写得很完整，明天同一条仍会跑。

关停演练按月做，不是等事故。演练看的是岗位上的人能不能在规定时间内让动作停住，不是看声明里有没有写可关停。停不住，这张卡失效，动作回到关闭，直到演练通过。

记录保留期要盖过投诉和复查的窗口。短于窗口的记录，等于查不清。查不清的卡不能用我们有日志这句话通过。日志若在窗口中间被清掉，当月所有依赖它的动作暂停，先改保留，再谈恢复。

人工智能常见翻车是把老话写进制度

制度写计算机不能被追责，因此必须人工最终确认。确认若是赶工盖章，手段清单仍是空的。人工确认可以是手段之一，但要写这个人看的是记录的哪一段、能不能关停。写不出，这句话只是把老话换了个正式语气。

另一类翻车是手段很多，目的没有。记录、关停、改规则都有，但没写要挡住的是哪一种损害。手段会变成展示。展示型的日志谁也不查。目的行空着，手段再全也不算追责到位。

事件关闭单必须勾系统侧三项的变化，不能只勾人已检讨。没有勾的关闭单退回。连续两次退回，这条动作下线，直到卡上四行和一次通过的演练都在。下线期间不得用紧急业务把动作重新打开。紧急打开等于承认清单可以空着，清单就会一直空着。

结论：人工智能的追责看查不查得清、停不停得下，不看它会不会愧疚

不会挨骂是真的。真的，只说明那一种惩罚用不上。记录、关停和改规则用得上，就要写在动作打开之前。

你下次说计算机没法追责，先写记录在哪、谁能关停、规则改了没有。三格空着，先不要用这句老话挡住检查。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源