先给结论：要在大模型里找「哪段激活承载了这次输入差异」，激活补丁仍然是金标准，但按组件穷举会贵到做不起。归因补丁用一次前向加一次反向，近似「如果把干净运行的激活接到损坏运行上，损失会怎么变」。它适合工业级粗扫，不适合单独当证明。候选名单出来后，再用少量激活补丁做因果验收。

激活补丁为什么既必要又做不完

痛点是规模。激活补丁的好处是构造仔细的反事实：把「埃菲尔铁塔在」的某头输出接到「斗兽场在」上，答案从罗马翻到巴黎，说明该头带着关键信息。干净接到损坏，问的是「这些激活是否足够恢复干净表现」；反过来问的是必要性。两种都要，但每补一处就要跑模型。头、层、位置一乘，周末实验会变成按周排队。

它也有概念边界。补丁分析的是这对提示的差异，不是组件在全分布上的单一含义。机制解释想要的是可迁移的分解：换分布还能预测。一对提示上的完整理解，可能仍是局部的。所以补丁成功是强线索，不是目录式的「此头永远表示地点」。

四步把归因补丁当筛子、把激活补丁当印章

1. 先写清反事实对。只改你关心的那个因素，其余尽量同结构。提示对越脏，补丁越像在补表面统计。
2. 对整网做归因补丁，按分数排序。一次前向反向换一张热图，比几百次激活补丁便宜。记下符号：正分表示接到干净激活会把表现拉回干净。
3. 只对头部候选做激活补丁。分数高却补不上，多半是近似在线性区外炸了，或组件有冗余，单点补丁看不出。
4. 要泛化证据，再加两条：权重是否真组成假设算法；把无关部分换成你的机制理解后，全数据上还剩多少损失。只在一两条提示上补丁成功，写进论文要降级成案例。

现场细节有三条。其一，损坏提示要坏在机制上，不要坏成语法崩溃。乱码对上通顺句，热图会亮在「这是不是句子」，不是你关心的事实。其二，归因补丁对小差异更老实；两个提示差到激活已经不在同一线性区，排序会翻。先用「同模板只换实体」的对。其三，验收时同时做干净→损坏和损坏→干净。只做一边，会把「充分」说成「必要」，或反过来。

机制分析还有一种更强但不免费的做法：按理解手写或消融掉无关权重，看全数据损失。这比单次补丁更接近「我们真读懂了算法」。它仍然可能被冗余骗过：关键件被旁路顶上，损失不涨。所以工业流程应是筛子、印章、全分布，三件事都做，而不是用最便宜的一张热图收工。

归因补丁的实现不要重新发明反传。把「干净激活减损坏激活」乘上「损坏运行处的梯度」，就是一阶项。符号约定必须在日志里写死：正分表示接到干净会变好，还是表示该位置对损坏更敏感。组里两个人符号相反，热图会看起来像打架，其实在说同一件事。验收名单锁定之后不要再改符号，否则论文和代码会对不上。

缓存也要算进成本。激活补丁若每次都从头跑到该层，十个候选就会把显存和时间打满。把干净和损坏两条前向的激活存下来，验收只在候选层做替换，比「每次整网」便宜一个数量级。归因补丁已经给了排序，就不要用穷举激活补丁去证明自己勤奋。

若只能固定一个实验规范：禁止只交热图。热图必须附带提示对原文、符号约定、十个候选名单、以及每个候选的激活补丁对错。缺任何一项，这次定位不算完成。规范看起来烦，却比事后解释「为什么换一对提示故事没了」便宜。

结论：热图用来排队，因果结论留给激活补丁和全分布

大模型上不缺可以讲的故事，缺的是付得起的因果实验预算。归因补丁把预算花在该花的组件上；激活补丁决定故事能不能留下。把近似当证明，下一次换一对提示，故事就会自己散掉。

预算表比热图更诚实：归因补丁一次、激活补丁十次、全分布复测一次。三次都留下日志，机制故事才允许写。缺日志的部分降级成猜想。日志里必须能回放提示对，否则三个月后没人能复核当时的热图到底在对什么。

你下次做定位实验，先规定：热图最多留十个候选，每个候选必须有一次激活补丁记录，没记录的不准写进机制结论。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源