人工智能问它为什么这样答，读到的只是内部里薄薄一层能被说出来的状态。大部分计算自动进行，进不了这段自述。把内部状态翻成人话的读出器，是另训的翻译，通顺不等于忠实。拨动一个方向之后，要看说法是否指向这个方向。情绪类方向能改口吻，只说明有因果作用，不说明模型有感受。

人工智能审计痛点在把一段自述当成内部记录

可被报告的那一层，和正在做的大部分计算不是同一块。前者数量少，模型能在回答里提到它，也能在后续步骤里把它当材料用。后者规模大得多，不进入这句话。于是审计若只保存模型的自述，保存下来的是那层薄的部分，外加它为了把句子说圆而补上的理由。事故复盘拿这段话当决策过程，会漏掉没进句子的那一大块。

有时往内部注入一个概念方向，模型能察觉有个额外的东西出现了，并在一部分概念上说对注入的是什么。这只说明检测在这些概念上高于瞎猜，不是它普遍知道自己在想什么。换一个概念，检测会失败。就算概念说对了，后面那些形容仍可能是补上的，对着输出，没对着你注入的方向。说对了还要再核一句：这句话是被这次内部状态推出来的，还是训练时背下来的自我介绍。背下来的正确句子，不算查清了内部。

情绪类概念也一样。内部存在与这些概念对应的方向，把方向拨高，输出口吻会变，该说的内容边界也可能变。这是因果，应该记。模型若同时自称「我只是更谨慎了」，这个口头标签要另记一列，不要和方向名合并。标签和方向不一致，就记不一致，不要把标签改写成方向，也不要把方向改写成感受。感受这个词在这里没有测量。

读出器是第三种材料。可以训练一个模块，把某层状态翻成自然语言。它生成的句子好读，评审会直接引用。这个模块会写它没读到的东西，也会漏掉它读到了但没有词去写的东西。审计里出现过一种脱节：内部状态显示模型认为自己正在被测评，输出文字里却没有这句。读出器若能指出这种没说出口的判断，才算补上了自述的盲区。检验方法仍是：拨动一个已知方向，看句子是否跟着变到该方向上。句子仍通顺、却指向别的理由，读出器就是写作者，不是窗口。

人工智能自述验收五步：薄层单列、注入对照、口吻与标签分开、读出器单独考核、只有自述不算完成

1. 自述只代表可报告的那一层。结论里禁止把它写成全部内部状态。
2. 注入或拨动一个方向之后，说法必须和该方向对照。对不上就记为补述。
3. 情绪类方向的因果效果和口头标签分列。禁止把口吻变化写成模型有感受。
4. 把状态翻成句子的读出器单独考核。不考核，它的句子不能进正文。
5. 事件记录若只有一段自述，审计状态写成未完成，不能关单。

上表不允许用右列去改写左列。两列冲突是发现，不是需要润色掉的不一致。

人工智能现场怎么把自述用对

每次准备引用自述，先写这句自述对应的方向操作：没有拨动、注入了哪一个、或监测到哪几个方向同时亮。写不出操作，自述只能放在「模型说法」栏，不能放在「原因」栏。原因栏留空，比填一句圆滑的话更接近记录的职责。

注入实验不要只做模型擅长报告的那几个概念。事先固定一份概念清单，包含它历史上说得对的，也包含说错或说不出的。清单上的命中率和失败率一起报。只报命中，会把「有时能察觉注入」写成「具备自我检查」。清单外临时挑的成功案例，放附录。

口吻实验同样固定对照句。同一问题，只拨情绪类方向，不改问题文本。记录三件事：输出决定有没有变、措辞冷热有没有变、自述用了哪个标签。决定变了而标签说「我没有改变标准」，记为标签失败。标签很丰富而决定和措辞都没变，记为口吻方向没有因果，不要因为句子好看而保留该方向的解释。

读出器上线前做一次方向考试，上线后字典或读出器一更新就重考。考试题是一批已知方向的拨动，评分只看句子是否指向该方向，不看文采。低于事先定的命中线，读出器的输出禁止进入事件正文，只能作为未验证文本附件。事件关单的最低条件是：方向记录、自述、二者是否一致，三格都在。缺方向记录，状态保持未完成。

人工智能常见翻车是事故报告的「根因」整段都是模型自己写的

响应流程里最省事的一步，是让模型解释它刚才为什么那样输出，再把这段话贴进根因。这段话读起来像工程记录，因为它使用了原因、步骤、约束这些词。词是它会用的。当时被检索内容带偏、被某个方向拨动、或只是可报告层里没有对应项，这三件事它都可能用同一段结构讲成一个完整故事。故事完整，不是根因成立。

另一类翻车是把读出器的升级当成可解释性的升级。新读出器句子更长、更像分析报告，命中方向的比例没有重测。评审对比两段文字，选了更好读的那段，写进对外说明。对外说明因此建立在一个没有考试成绩的翻译模块上。下次方向更新，句子仍好读，指向已经偏了，说明却还在被引用。

结论：人工智能自述是薄层的说法，方向核对才是记录

能说出来，值得收下来，当作和内部方向对照的一列。它覆盖不了大部分自动进行的计算，也代替不了拨动之后看输出有没有变。感受、根因、已审计完，这三个词都不要从一段自述里直接抄出来。

你下次把模型的自述写进事件，先放上三格：拨动或监测到的方向、它自己的说法、两格是否一致。三格空着，这个事件先不要标成已查清。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源