人工智能的安全产品如果只待在训练过程外面，不能说成解决了内部的风险。使用时的围栏、事后的评测、卖给别人的练习环境、外面的监控，都可以是真业务。它们碰不到训练里发生的那一步，就碰不到你说的那种内部风险。把使用做稳，有时只是让更多人更快用上，进度因此加快。买方听得懂、愿意付钱的那一件，要和你担心的那一件分开写。

人工智能安全创业的痛点是能卖的和你担心的不在同一个地方

能卖的通常在使用侧。客户要少出错、要有记录、要能向自己的审计解释。这些能写进合同。你若担心的是训练过程内部越来越会改自己、外面的检查跟不上，合同里的那几条就还在门外。

门外的产品不是没用。它能减少今天已经发生的误用、减少明显的钻空子、让使用更稳。更稳会让人更敢放开用。更敢放开用，若你的时间表因此变短，这是加速，不是把内部问题解决了。加速可以是你接受的代价，但必须写出来，不能藏在更安全三个字里。

另一条路是做一套开源的检查，希望做训练的人自己拿进去用。希望要写成假设。假设没被哪一次内部使用证实，产品仍在外面。被收购、把利润捐给基础研究，也各自只证明一件事：股权变了，或钱流向了别处。它们不自动把检查接进训练。

人工智能给安全公司定位的步骤：先写风险在哪一步、产品碰哪一步、加速单独记、合同和风险分开、碰不到就改口

1. 用一句话写你担心的风险发生在训练内部，还是使用外部。写不出位置，不得说公司在解决它。
2. 产品的每项功能标明碰的是同一步，还是另一步。另一步不能填同一步。
3. 若功能会让更多人更快用上，单列一句可能加快进度。没有这句，不得同时写因此更安全。
4. 合同里买方愿意付钱的交付，和你担心的风险，分成两行。两行相同才允许说卖的就是那件风险。
5. 收购、捐钱、开源，各写改变了哪一步。写不出那一步，对外改口为减轻外面的损失，或资助别人。

上表右列是对外最容易滑进去的句子。滑进去就改回中间一列。

人工智能现场用一步图结束我们在做安全

图上只有两格：训练里的那一步，使用时的那一步。功能贴到哪一格，句子就只能描述那一格。我们见过一张图把围栏画在训练格旁边，箭头却没有任何一次真实接入。没有接入记录的箭头删掉。删掉之后，公司介绍若还写解决内部风险，介绍退回。

加速那句要让投资和客户都看得见，不能只写在内部备忘。看得见的写法是：这件产品让使用更稳，因此使用可能变多、变快。变多变快若和你的风险时间表冲突，就在同一页写你接受还是不接受。不写接受与否，等于用更安全盖住变快。

合同行要举交付物。交付物是一份报告、一个开关、一组题、一条记录。你担心的若是训练中途行为悄悄变了，而这些交付物都发生在训练结束之后，两行就不同。不同的时候，销售材料用买方的词，研究材料用你的词，不许合成一句我们卖的就是那件最难的事。

若最大的风险你认定在训练内部，而没有任何功能碰得到，公司仍可以做。做的定位改成：减轻外面已经能看见的损失，或赚钱去支持碰得到内部的别人。这个定位不小。把它说成直接解决内部，才是说大了。

人工智能常见翻车是用客户愿不愿意付钱代替风险在不在那一步

客户愿付钱，证明外面有人疼。外面的疼和内部的风险可以同时存在，位置不同。位置不同就不能共用一个解决了。

另一类翻车是开源之后就写成行业都会接进去。接进去要有人、有日期、有用在哪一次训练上。三者缺一，仍是外面的代码。

还有一类是因为内部很难碰，就改口说内部风险不重要。难碰不是不重要。难碰就改定位，不改风险本身有没有。

结论：人工智能的安全公司先写产品碰到哪一步，碰不到就不要叫解决内部

围栏、评测、练习环境、监控，先贴到使用或训练的一格上。加快使用要单独承认。合同交付和你担心的风险分成两行。收购、捐钱、开源都要指出改变了哪一步。指不出，就写成减轻外面的损失。

你下次要说这家公司解决了训练里的风险，先指出哪一项功能碰到了那一步。指不出，先不要用解决了这句。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源