人工智能显得很懂，不能当成出了今天的范围还会。见过的材料太多，范围内的拼贴会看起来像外推。常见工程、已有研究里的题目，都还在范围内。为这些已知任务专门做练习，只是让它更熟，不是证明它会处理没见过的问法。安全测验若只覆盖这种熟练，出了范围就不算测过。

人工智能能力误判的痛点是材料太满，拼贴没有缝

材料少的时候，人还能看出它是在套模板。材料多到几乎什么都见过一点，套模板也会写得很完整。完整被当成懂。懂如果是指出了训练时的世界还能做对，这个判断并没有被测到。

已有论文里的研究、常见的软件写法，都是范围内。有人为了让它更会这些，花很多钱做专门的练习环境。练习越全，范围内越像样，就越难看见缝。缝不在了，不代表范围变大了。范围还是那些被练过的任务。

范围内确实能做出不少新组合。把两门旧学问拼在一起、把已有实验多跑几遍，都算数。这和发明一套旧材料里没有的做法不是同一件事。前一件可以很快。后一件仍可能卡在人还没给过的那一步。把前一件的速度说成整个研究都快了一千倍，是把瓶颈说没了。

人工智能区分拼贴和外推的步骤：先画范围、练习不算外推、安全另设一组、价值出范围单核、组合成功不升档

1. 每项成绩先写它落在哪类已见过的任务里。写不出类别，不得叫外推。
2. 为已知任务加的练习，记成范围内更熟。不得写成因此会处理新问法。
3. 安全测验若只有模仿和套模板，出范围那一列写未测。未测不是通过。
4. 人的价值要单独准备一组今天材料里没有的情形。这组空着，不得写价值会跟着走。
5. 旧学问的新组合可以记成有用。有用不等于新范式。问法本身没变的，这里不升档。

上表右列缺一项，对应的左列就不能进对外说明。

人工智能现场用一题没练过的问法，把显得很懂拆开

验收不看它会不会把见过的题答漂亮。挑一件练习清单、论文清单、常见工程清单都没覆盖的事，而且这件事的对错你们自己核对得了。做对，才允许写这一小块出了范围。做错或只会把旧段落换个说法，就写回范围内。我们见过用一道更难但仍然见过的题来充数。更难不是没见过。没见过要能指出它不在哪份清单里。

价值这组更窄。今天大家都同意的说法，它复述得很好，这只证明范围内的价值说法它会。要的是情形变了、旧说法对不上的时候，它还按哪一条。条写不出来，这组就是空的。空的时候继续说它很安全，是把复述当成了外推。

系统如果之后会边做边改自己，那是另一个系统。不能用今天这个显得很懂的成绩，保证改过之后仍是同一种懂。改自己之前，出范围那列要重测。没重测，旧成绩作废。

还有一种安慰是：人可以继续出新主意，它负责把已知部分做快。这可以是真的。真的前提是你写下哪一步仍必须人出主意。那一步没写，快就被说成全部都快。全部都快，是没画范围。

清单本身也要有日期。三个月前的练习清单拿来证明今天仍在范围内，中间若又加了新练习，旧清单作废。作废期间这题先按没画范围，不得对外说已经会外推。新清单补上并指出这题不在里面，才恢复那一列。

人工智能常见翻车是用材料的厚度代替范围的边界

材料越厚，演示越好看，边界越该写清楚，而不是越该省略。省略边界的报告，一律按范围内记，不论演示多完整。

另一类翻车是安全通过率很高，但题目全能在旧材料里找到近亲。近亲题的通过率单列，名叫范围内。出范围的通过率另列。只有一个数的通过率，退回。

还有一类是把组合研究的成绩拿去反驳没见过。组合本身就承认两边都是旧的。旧的加旧的，填不了新问法那一格。

结论：人工智能显得很懂，先问这题在不在见过的清单里

清单里的，叫拼贴或更熟。清单外且核对得了的，才叫出了范围。安全测验和价值都要有清单外的一列。组合成功不升档。系统改过自己，旧的出范围成绩作废。

你下次觉得它什么都会，先指出这题不在哪份清单里。指不出，先不要写成出了范围还会。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源