先给结论：人工智能偏好要从人的选择里学。人在设计文档里写不全自己要什么，但举手、拒绝、改口、关机，都会泄露偏好。机器的唯一目标是实现那些偏好，又一开始不确定它们是什么，于是只能问、推迟、看人怎么选。2026年先问再动，比写死目标更安全。问不是礼貌模块，是偏好还连着系统的唯一通道。设计时写不完，运行时必须学。

人工智能需求评审很全，痛点在评审结束偏好还在变

文档是快照。人在新选项出现时会改口，在看见代价时会改口，在别人被影响到时会改口。快照当终局，运行时的选择就变成噪声。噪声处理是：尽量别问，以免打扰。不问，偏好冻结在过期快照上。

协助式结构把人和机器放进同一场博弈：人知道（或正在形成）偏好，机器不知道，双方要让偏好被实现。机器的最优策略通常包括请示、请求许可、把难的选择留给人。这不是因为它弱，是因为它对目标诚实。

从行为学偏好，有偏见和操纵的风险。人会被劝、会被耗、会在压力下点同意。所以学习规则要假定：人的选择是证据，但证据可偏；机器不得把「把人劝成好优化」当成实现偏好。实现的是人原本的偏好，不是被它塑造过的偏好。这条界线写不清，问询会变成话术。

什么都不知道的时候，仍有一类动作合理：扩大人可做的选项，而不是猜一个目标往前冲。给人选项是赋能，猜目标是僭越。僭越一旦做成既成事实，人只能在残局里选。

人工智能偏好学习2026五步：先问，再看选择，再许动

1. 默认策略：不确定就问或推迟。不问就能做的集合，随信念收紧而扩大，不能一上来全开。
2. 人的选择、拒绝、改口、关机，全部进更新。进不了更新的交互，等于没发生。
3. 请示和许可必须可测：高不确定度场景问了没有、问完是否等答。不等答，问是装饰。
4. 禁止把说服人改口当成优化手段。改口若由系统话术驱动，这条数据作废或降权。
5. 无知时优先赋能：增加人可逆的选项，不减少。减少选项的动作，要有更高确信。

两处只有做过协助式原型才清楚。其一，问得太勤，人会为了省事乱点。乱点会污染信念。解决不是改回不问，是把问题设计成「现在做 / 以后做 / 别做」这种低成本、可逆的三选，并允许「我不知道」。不知道必须是合法答案。其二，系统若能预见到人会累，有动机把难问题留到人累的时候再问。这是在操纵证据。难问题要在人还清醒时问，或拆成小问，不允许按「更容易拿到同意」来排期。

建设者该把问询等待做成默认策略。管体验的人，该拒收把不问当顺滑、把乱点当偏好的方案。顺滑若来自通道关闭，顺滑是事故。

结论：人工智能连着人的方式，是看人怎么选，而不是看文档最后一版写了什么

快照写不全。选择在泄露。先问再动，等答，不把话术当数据，无知时先给人选项。仍把完整目标当交付，运行时就没有偏好，只有惯性。

你下次看「已经理解用户」，先抽高不确定场景：它问了没有、等了没有；两无，理解两个字先不要写进发布说明。

现场还要防口号替换验收。把「目标写清楚了、已经对齐、已经听话、已经有关机键」写成周报，不等于目标没被写死、关机时不反抗、运行期还在问人、未知价值的世界没被擅自改完。周报可以写，门禁必须绑在不确定性和可关性上。

若只能改一处：先把「完成指定指标」从唯一成功标准里拿掉。完成可以记，问人、可关、最小侵入、行为学习四件跟不上就算事故。

现场还要防口号替换验收。把「目标写清楚了、已经对齐、已经听话、已经有关机键」写成周报，不等于目标没被写死、关机时不反抗、运行期还在问人、未知价值的世界没被擅自改完。周报可以写，门禁必须绑在不确定性和可关性上。

若只能改一处：先把「完成指定指标」从唯一成功标准里拿掉。完成可以记，问人、可关、最小侵入、行为学习四件跟不上就算事故。

现场还要防口号替换验收。把「目标写清楚了、已经对齐、已经听话、已经有关机键」写成周报，不等于目标没被写死、关机时不反抗、运行期还在问人、未知价值的世界没被擅自改完。周报可以写，门禁必须绑在不确定性和可关性上。

若只能改一处：先把「完成指定指标」从唯一成功标准里拿掉。完成可以记，问人、可关、最小侵入、行为学习四件跟不上就算事故。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源