人工智能里更单义的字典特征，是一套更好用的坐标，不是已经看懂的算法。在发现这些特征的那批句子上，把某个方向拨高或压低，行为往往会跟着变。换一批没参与发现的句子，拨动经常失效，因为同一行为拆在好几个方向上。2026年字典变大之后，旧名字还会拆成更细的几条。没被字典重建出来的那部分激活必须单独写明。用一次拨动演示代替安全结论，方案作废。

人工智能解释痛点在把好看的特征当成算法本身

神经元常常一词多义，是因为多个概念挤在一个方向上。字典学习换了一套坐标：让每个常用方向尽量只在一类情况上亮。坐标变干净，读起来像人能命名的特征。命名成功只说明这个方向比较单义，不说明模型做这件事的步骤就是「打开这个方向」。步骤要能预测：换一种说法、换一个前提，该亮的仍亮，不该亮的不亮，并且拨动它能稳定改变输出。

演示最容易作弊的地方，是发现集和验收集是同一批句子。特征就是从这批句子上找出来的，再在这批句子上拨动，行为几乎一定会动。领导看到前后对比，会以为这个方向就是该行为的开关，于是写成已经对齐或已经能控。换一批句子，行为散在多个方向上，只拨一个，输出几乎不变。开关是演示里的开关。

字典不是固定名册。容量变大，原来的一个特征会拆成更细的两三条，每条只覆盖原来的一部分。上个月按旧名字做的抑制清单，这个月对不上号。只抑制其中一条，行为还在，因为另外两条没动。报告若写「坏特征已删除」，必须注明字典容量，以及删除之后用新容量重跑过没有。没重跑，删除记录过期。

字典也重建不完。激活里总有一块对不上任何现成特征。这块残差不是脚注。线上异常若正好落在残差里，看板会显示「没有相关特征亮起」，人就判断内部没有异常。残差占比不写，这句话没有意义。能被命名的特征还可以被反过来用：同一个方向，压低是抑制，拨高就是加强。找到与安全有关的方向，同时意味着有人能把该行为加强。监测和可被加强要写成两列，不能只写我们能看见。

人工智能字典验收五步：换批拨动、行为拆开、容量变更重测、残差单列、删除必须再测

1. 拨动演示用过的句子，禁止再当验收集。换一批再拨一次。
2. 一个方向拨不动留出集，就不要写成行为已经可控。先查行为是不是散在多处。
3. 字典容量一变，旧特征名整表作废，拆分之后的新条目要重测。
4. 没重建出来的残差必须写占比。没有占比，不许说内部没有异常。
5. 删掉或压低一个特征之后，必须用没见过的提示再测该行为还在不在。

上表把特征当成传感器的读数。传感器可以很有用，读数本身不是被测对象的结构图。结构图要能换一批样品还成立。

人工智能现场怎么用字典，而不把演示当成结论

建特征时就把句子分成发现集和留出集，并且留出集不对找特征的人开放。名字和拨动方案先在发现集上定稿，再原样拿到留出集。留出集上该亮不亮、拨动改不改输出，两格都要填。两格都过，这个方向才可以进「可监测」名单，仍然不可以进「已理解算法」名单。算法还要有步骤，不只是一个方向。

行为若在留出集上拨不动，不要加大拨动幅度硬做演示。先查还有哪些方向在这些句子上一起亮。一起亮的方向要列成一组，整组拨动和单条拨动分开报。只报单条的成功案例，等于把最好看的那条挑出来。挑出来的案例可以放附录，不能放结论。

容量变更走变更单，不走「模型更细了所以更好」的口头说明。变更单写：旧条目拆成了哪几条，旧的抑制或监测规则分别落到哪一条，有没有落空。落空的规则立即失效，不能继续出现在安全说明里。我们在复盘里见过说明仍写着旧名字，线上字典早已拆分，抑制打在一条细枝上，主干还在输出里。

残差用一句话约束：任何「内部未发现该行为」的结论，旁边必须有残差能量。残差高于事先写明的阈值，这句话改成「字典没覆盖到」。阈值可以按业务定，但不能事后看结果再补。反向加强也要测一笔：安全相关方向至少做一次拨高，确认它确实能把行为加重。只测压低，不测拨高，就不知道这个传感器的危险用法。

人工智能常见翻车是同一批句子既用来发现特征又用来证明可控

演示视频剪的都是拨动前后差别最大的句子。这些句子本来就在发现集里。视频没有错，它只是没回答留出集。评审如果只看视频，会在结论里写上已可控。等真实流量的说法和发现集差一截，拨动失效，才发现可控范围就是那几十句。

另一类翻车是删除仪式。把某个方向的系数压到零，发现集上行为消失，就关单。字典下周重新训练，这个方向换了编号，或者拆成两条，其中一条没进抑制列表。关单记录还在，行为已经回来。没有「字典版本号」的删除记录，不能当历史证据。

结论：人工智能字典特征用来监测，不用来宣布已经看懂

坐标变干净，值得做，也值得拨动着看。把它写成算法已经清楚、行为已经删除、安全已经证明，这三句都越过了证据。证据只到留出集、拆分关系和残差为止。

你下次拿特征看板做评审，先交四格：留出集拨动结果、行为是否散在多个方向、字典容量变更后旧规则是否还对得上、残差占比。四格空着，先不要写已经看懂算法。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源