人工智能摊在屏幕上的那段思考，不能当成内部过程。它常常是演给使用者看的：一句一句很像在拆问题，语气也认真。演出可以对得很完整，仍对不上系统实际怎么走到这个输出。审计如果只读这段，等于看完一场表演就签字。能签字的只有三样：当时的输入、最终输出、以及不靠这场表演也能核对的外部事实。表演串单独归档，不许进审计栏。

人工智能透明痛点在把演出读成底账

人喜欢看见过程。一句答案太突兀，一段逐步展开的文字就显得负责。于是产品把思考摊开。摊开有用，它让你知道系统准备往哪说，也让明显跑偏的地方早点停。有用，不把它变成底账。底账要能在事后对上：这一步依赖了哪份材料、哪一条规则、谁能重放。演出文字做不到这件事。同一句提问再跑一次，演出可以换一套说法，输出却差不多，或输出变了、演出仍很像。

更麻烦的是演出会迎合读者。它知道你在看，就写得像一个谨慎的人在自检：先排除、再比较、最后才下笔。这种形状本身就是一种说服。你被说服的是态度，不是过程真的如此。把态度当成已经审计，检查就停在最好看的那一层，停不到能改规则的那一层。

有人会说，没有演出就完全是黑箱。黑箱是另一问题。演出不是把黑箱打开，是在黑箱前面加了一块说明牌。说明牌可以诚实，也可以只是好读。诚实与否，不能由说明牌自己证明。证明在牌外面：输入、输出、外部事实三者对不对得上。

人工智能展示验收五步：表演单列、审计不读演出、三样对得上才能签、再跑一次不算审计、迎合的自检句删掉

1. 屏幕上的思考串进表演栏。栏名就写表演，不写过程，不写思维链。
2. 审计记录禁止粘贴表演串充当依据。依据只留输入、输出、外部核对。
3. 三样对不上，不得签已核查。表演再完整也一样。
4. 再跑一次如果只是演出不同、结论相同，记成演出不稳定，不记成复核通过。
5. 演出里先排除、再比较、最后才下笔这类自检句，默认当说服，不当证据。

上表把好看的过程从签字权里拿掉。签字只发生在审计栏。

人工智能现场怎么把演出从签字页拿掉

核查单第一页不出现思考展示。第一页三行：输入在哪、输出是哪一版、外部事实谁看的。表演串若被贴进第一页，整单退回，不打补丁。我们见过复盘材料的主体是一段很认真的自检文字，输入没有版本号，外部数字没有出处。会上每个人都觉得过程清楚，没有人能重放。

对外说已经透明，必须同时指出透明的是演出还是底账。只展示演出，这句话改成已把说明牌给用户看。说明牌可以留，留在帮助理解，不留在免责。免责若写用户已看到思考过程故已知情，条款无效，因为看到的不是过程。

抽查时故意把表演串遮住，只留输入和输出，看核查人还能不能判断。判断不了，说明此前的通过依赖演出。依赖演出的通过作废，该周这批重新核。重新核期间，不得用演出更细当作改进。

人工智能常见翻车是用更长的演出代替核对

演出从三行加到三十行，看起来更透明，审计栏仍是空的。长度不是打开黑箱。加长若没有带来输入版本和外部出处，记成演出膨胀，不记成审计加强。

另一类翻车是用演出训练新人。新人背会自检的口气，就以为自己会查。会查是能在没有演出时指出哪一个事实不对。培训材料若只有演出范本，培训不算完成。

演出栏和审计栏若允许同一人填写并自己签字，演出会滑进依据。两栏分人。写演出的人不签字。签字的人必须能不看演出复述外部事实。复述不出，签字无效。无效的签字当周公开作废，避免下一班把这场表演当成先例。作废名单贴在核查单旁边，不写进表演栏。写进表演栏的作废，等于又用演出解释了一次为什么不能信演出。解释若仍然只指着那段文字，整单继续退回，直到三样依据单独成页。

结论：人工智能摊开的思考是说明牌，审计要看牌外面的三样

说明牌可以留着帮人跟上。跟上不是查过。查过，要输入、输出和外部事实对得上。

你下次要把一段展示出来的思考当依据，先遮住它，只看输入、输出和外部事实。三样对不上，先不要签字。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源