人工智能不能把一个神经元当成一个概念。多个稀有概念会挤进同一个方向，彼此干扰，再靠后面的非线性把干扰压下去。2026年验收要先拆这层叠加：关掉一个坐标，常常同时伤到几件不相干的事。只按点亮次数起名，同一个坐标下次会亮在完全另一类样本上。把最亮的神经元写成开关，方案作废。

人工智能验收痛点在把最亮的坐标写成概念开关

维度不够用的时候，模型不会给每个概念留一个专用坐标。概念如果很少同时出现，共用一个方向更省。重叠的代价是串扰：一个概念进来，另一个概念的方向也会被带上一截。后面的整流把这种小串扰切掉，于是单独看每个概念时，输出还像干净的。人就误以为这个坐标只属于眼前这个概念。

更要紧的概念会占到更干净的方向，稀有的概念被挤去共享。仪表盘按点亮次数排序，前面几乎都是常见概念，真正挤在一起的稀有概念翻不到。起名也是同一套错法：拿最亮的二十条样本起一个名字写进周报。这二十条只说明它在这批样本上亮，不说明它不干别的。下周换长尾样本，名字还挂着，亮的事情已经换了。

权重也不能按绝对值读。有用的连接和只带来串扰的连接，会散落在各个数值档上。数值大的，可能是真实数据上从来不起作用的干扰；数值小的，可能正是某条电路在干活。按绝对值裁剪，两样都会被误伤。数据少的时候，模型还会把单条训练样本当成特征挤进很少的维度，而不是学一个能迁移的概念。数据再多一些，测试表现可能先变差，才转到通用概念。损失的一次起伏，不能读成机制变干净了。要看方向里挤的是单条样本，还是能迁移的概念。

坐标轴本身也不可靠。残差流在理论上没有特权轴，转一个角度，能表示的东西不该变。实际训练里，优化器对每个坐标单独归一，轴就被区别对待。你画出来的轴，一部分是优化器留下的痕迹。不能因为理论说轴没意义就跳过检查，也不能因为某个轴亮了就把它当成概念边界。

人工智能叠加验收五步：先拆共享、再测串扰、再做关掉对照、再单列稀有、再把有用和有害分开

1. 一个神经元禁止当成一个概念。先写出这个方向还和谁共享。
2. 多概念挤在一个方向，禁止写成已经分开。串扰单独成列。
3. 关掉一个坐标，禁止写成已经删掉该概念。要数伤到几件不相干的事。
4. 按点亮次数起名，禁止写成已经看懂。稀有概念单独抽查。
5. 权重大小禁止当成有用或无用。先分两列：它怎么改输出，它让损失变好还是变坏。

上表要的是组合测试，不是再加一张激活热图。热图只能告诉你哪里亮，不能告诉你亮的是一个概念还是一捆概念。

人工智能现场怎么核共享方向，而不是再看一遍热图

第一刀切在起名用过的样本之外。名字如果只能解释起名时的那二十条，这个名字作废。拿一批没参与起名的样本，让负责人事先写下这个坐标该亮还是不该亮。对不上的比例写进同一张表，不许用大体相关带过。这一步专门对付「看着像那么回事」的命名。

第二刀是对打。挑两个平时很少一起出现的概念，让它们同时处于激活状态，看输出是各自结果的相加，还是糊成第三种东西。相加说明方向大体分开，糊掉说明还在叠加里。单测都绿、组合才爆，就是这一刀要抓的。

第三刀是关掉对照。把该坐标置零，不要只看总损失。按类列出哪些行为变了，这些行为在业务上相不相干。不相干的行为一起变，就是共享，不是一个开关。稀有类要单列抽查，因为它们最容易被平均分淹没。验收表把这一列写成「伤到几件事」，空着就不许写已看懂。

第四刀看权重，不看绝对值。每条准备留下或裁掉的连接记两列：它把输出往哪边推了多少，它让损失变好还是变坏。两列不一致，禁止按数值大小决定去留。只交总损失的裁剪方案退回。这一列在压缩评审里最容易被省掉，因为报告默认数值小就是噪声。

人工智能常见翻车是平均分很绿，稀有类已经撞车

周报最喜欢写主要神经元已标注。标注来自点亮次数最高的样本，评审顺着名字往下看，会觉得内部已经可读。名字一旦进了安全说明，后面的人会按这个名字做开关。开关打下去，动的是一整捆概念，说明却只写了其中一件。事故复盘时对不上号，就是从这里开始的。

另一类翻车出在压缩。压缩后平均损失几乎不变，就宣布没有行为变化。稀有类样本量小，进不了平均。等线上碰到两个稀有概念的组合，输出才异常。回去查，裁剪是按绝对值做的，有用连接和干扰连接一起被切了。这类事故在总损失曲线上没有尖峰，只在组合切片上有。没有组合切片、也不分有用和有害的压缩报告，不算做完。

结论：人工智能看内部要先问这个方向还和谁共享，不要给最亮的神经元起名交差

单独看很亮，不证明只干一件事。共享、串扰、关掉之后伤到谁、权重是有用还是有害，四格缺一，内部说明就还停在热图。

你下次把内部坐标写进评审，先交三列：这个方向还和谁共享、关掉它伤到几件不相干的事、两个稀有概念一起打开是相加还是撞车。三列空着，先不要写已经看懂。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源