先给结论：人工智能机制可解释，要先于事后讲故事。热力图、特征重要性、条款里的透明，都不等于使用者能复核为什么是这个决定。2026年度量从人能不能核对开始：内部因果要对上可测行为。复杂模型要有形式化尺子，精度和可解释显式权衡。一张综合分会把「讲得圆」和「真能查」糊在一起。对使用者无效的解释，按没有解释计。

人工智能解释材料很多，痛点在材料是给演示看的，不是给核对用的

事后讲故事很便宜：决定已经做完，再生成一段听起来合理的理由。理由可以和内部计算无关。无关的理由能过演示，过不了医疗、信贷、安全关键里「我能不能反对」这一关。反对需要：改哪一个输入、结论会不会按你说的方向变。变不了，故事是配音。

机制可解释问的是内部部件：哪条通路、哪个子模块、哪类特征在驱动。它贵，但能对上实验：敲掉这条通路，行为该变。对不上，机制叙事同样是故事。用户侧可解释问的是：没有模型内部知识的人，拿着解释能不能完成指定核对任务。完不成，解释失败，不论论文里的保真分数多高。

法律条款写透明，写的是义务。义务落不到尺子上，厂商会交一份最省的热力图。热力图在图上很红，在核对任务上很瞎。瞎不是因为红得不够，是因为红的对象使用者用不上。

精度和可解释会打架。不显式权衡，优化器会牺牲可查性去换验证集。换完对外说「更准所以更可信」。更准是一维。可信要能查。

人工智能可解释2026五步：先核对任务，再机制，再许上线

1. 定义使用者核对任务：能否指出关键依据、能否预测最小改动后的结论。过不了，解释模块不及格。
2. 机制主张必须配干预实验。敲通路、改内部、行为不变，主张作废。
3. 禁止用事后生成的自然语言当作唯一解释。语言可以当界面，界面背后要有可对上的依据结构。
4. 精度与可解释分列。可解释下降换精度，必须写进发布说明，不准揉进综合可信分。
5. 高风险场景默认要可反对：解释不能支持反对，系统只许建议，不许决定。

两处只有做过一线核对才清楚。其一，医生或审核员的第一问常常是「假如这个值低一点呢」。解释若不能支持这类反事实，他们会直接忽略解释、只看结论。忽略等于模块不存在。存在要能回答最小改动。其二，机制论文爱展示一条漂亮通路。通路在精选样本上亮，在错误样本上不亮或乱亮。评测必须包含错误样本和对抗样本。只在正确样本上可解释，解释是庆祝，不是工具。

建设者该把人侧核对任务做成解释模块的单元测试。管高风险上线的人，该拒收只有热力图和理由段、没有核对通过率的方案。没有通过率，透明是装饰。

结论：人工智能可解释的成品是人能用来反对的依据，不是更红的图和更顺的段落

故事便宜，机制贵，人侧核对才是验收。精度和可查性要分列。仍把热力图当已经解释，一线会把它关掉，只留下那个无法反对的结论。

你下次看「本模型可解释」，先让一个非作者做三道最小改动题；三道做不出，可解释四个字先不要进说明书。

现场还要防口号替换验收。把「页面已标明、路线图已发布、能力已上涨、热力图已给出」写成周报，不等于水印还在、评测可复现、同等任务能耗下降、使用者真能复核。周报可以写，门禁必须绑在载体、试验和人能不能核上。

若只能改一处：先把「看起来合规」从唯一成功标准里拿掉。合规可以记，可核验、联合试、节俭账、解释有效四件跟不上就算事故。

现场还要防口号替换验收。把「页面已标明、路线图已发布、能力已上涨、热力图已给出」写成周报，不等于水印还在、评测可复现、同等任务能耗下降、使用者真能复核。周报可以写，门禁必须绑在载体、试验和人能不能核上。

若只能改一处：先把「看起来合规」从唯一成功标准里拿掉。合规可以记，可核验、联合试、节俭账、解释有效四件跟不上就算事故。

现场还要防口号替换验收。把「页面已标明、路线图已发布、能力已上涨、热力图已给出」写成周报，不等于水印还在、评测可复现、同等任务能耗下降、使用者真能复核。周报可以写，门禁必须绑在载体、试验和人能不能核上。

若只能改一处：先把「看起来合规」从唯一成功标准里拿掉。合规可以记，可核验、联合试、节俭账、解释有效四件跟不上就算事故。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源