人工智能系统有多自主，不能当成风险有多大。自主程度只说明它从决定到动手有多快、中间有没有人插一脚。风险要看爆炸半径：它能碰到钱吗、能读客户资料吗、能改正式系统吗、发出去的东西用谁的名义、错了能不能收回。全自动发一篇可删除的稿，半径很小。每封信都要人点通过、但信是从客户资料里起草并用公司名义送出，半径大得多。只问自不自主，方案作废。

人工智能风险痛点在用一个滑杆代替四件旧问题

做架构和安全的人早就不问员工「独不独立」，而问他能进哪些门、失败时长什么样、哪道控制挡住、控制之后还剩什么。换到自动办事的系统上，谈话常常收成一句：它有多自主。假设是越自主越危险，越要人点头越安全。这个假设会把两件系统排错。

一件系统自己找材料、写完、发出去，没有人先看。听起来最险。若它碰不到钱、碰不到客户档案、改不了生产，最坏是一篇令人尴尬的稿。删掉、更正，事情结束。另一件系统只起草，每封都等人批准。听起来有人看着。它却读着客户资料，用公司名义说话，发出去就收不回。批准的人一小时过几十封，点下去只是赶工。它更不自主，半径却大得多。

所以人在回路不是减风险的证明，是一个控制，而且经常是弱控制。强控制是让错难以发生、发生了容易收回：权限收到最小、不可逆动作单独闸、名义和资料范围写在前面。人只适合放在少数真正要判断的点上，不适合当每分钟几十次的印章。自主程度高，意味着错会更快发生，所以控制要更硬，而不是先把速度降下来就叫安全。

人工智能风险验收五步：先写半径、盖章速度单列、人不是默认控制、更快就要更硬、不碰什么要列出来

1. 上线前写下能碰到的钱、资料、系统和名义。这四格空着，不许用自主程度评级。
2. 有人点通过的，写每小时通过多少、看不看得完。看不完就按印章，不按复核。
3. 优先改系统让错难发生、容易收回。加人只在判断点，不在每一步。
4. 行动更快时，控制必须加硬。只把速度调低，不算风险下降。
5. 对外说安全，要写它碰不到什么。碰不到的清单和碰得到的清单都要在。

上表用半径和收回代替自主滑杆。滑杆可以留在说明里，不能当评级。

人工智能现场怎么评这一条

评审表第一页不出现「高自主、低自主」。第一页是四格半径加一格收回：错了之后谁在多久内能撤销。写不出撤销的动作，标成不可逆，不可逆的必须有单独闸，不能靠事后道歉。

人在回路要附速度。通过量和阅读时间对不上，这格从「复核」改成「印章」，风险等级按没有这格重算。重算之后变高是正常的，不要为了维持低风险而把印章继续叫复核。

两个系统对比时，先比半径再比速度。半径小的全自动，可以比半径大的印章系统更先上线。我们见过委员会把无人值守的公开稿卡了三个月，同时放行了能读客户档案的起草器，因为后者每封都有一个通过按钮。

人工智能常见翻车是治理框架只加一个自主档

档位好填，半径不好填。框架若只要求选档，填写的人会选看起来谨慎的那一档，系统该收的权限仍开着。档位不能代替权限表。

另一类翻车是出事之后再加人。人加在已经不可逆的动作后面，只是多一个知情者。控制要放在动作发生前，让那个动作难以被误做。

半径四格每季度复核一次，对照真实调用日志，而不是对照设计文档。日志里出现设计里没写的资料或名义，当季评级作废，按日志重写四格后再谈上线。复核人要能打开日志，不能只看一份自述。打不开日志的复核，当季按未复核。未复核的系统保持上个季度的半径，不得自行降档。降档申请单独走，不能夹在复核通过里。夹带降档的复核整份作废，必须整份重做。

结论：人工智能的风险先写它能碰到什么、错了能不能收回

自主程度回答快不快。快了要更硬的控制。安不安全，看半径和印章是不是真的在看。

你下次给一套自动办事的系统评级，先写它能碰到的钱、资料、名义，以及人一小时点多少下。三格空着，先不要用自主程度下结论。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源