先给结论：人工智能心理安全不能靠把专家分数平均掉。临床判断会因训练背景和框架不同而系统性分叉，尤其在自伤、精神病性体验、进食相关危机上。平均得到的不是真理，是谁都不认的中间句。2026年可执行的做法：公开用了哪套尺子，三套框架分开训、按场景调用，对不上就升级人工，禁止用一张综合分放行高风险对话。

人工智能心理安全测评对不上，痛点在把专业分歧当成噪声

产品侧习惯这样验收：出一堆合成问句，请几位医师打分，取平均，平均涨了就写更安全。问句越危险，分歧越大。越大越平均，模型越被推向「谁都不全对」的回复：既不够果断转介，也不够按某套临床逻辑把风险说死。

分歧常常不是谁不认真。安全优先、关系优先、文化情境优先，三套尺子都成立，但互不兼容。有人要先评估即刻危险并限制继续聊；有人要先稳住关系以免对方关掉窗口；有人要先问清文化与家庭含义再给建议。三句都「对」，合成一句就「谁都不对」。

现场有个验收会上反复出现、却很少写进发布说明的细节：评委在会后能讲清自己为什么打低分，却讲不清平均分代表谁。讲不清，工程只能优化那个没有主人的数。数一优化，高风险回复会变得更圆、更长、更像安抚，转介却更慢。圆不是安全，是把分歧抹平后的副作用。

人工智能心理安全2026五步：分开训，对不上就升级

1. 公开尺子。写明本版本用了哪套临床框架、谁评、评了哪类危机。不写，安全成绩单作废。
2. 禁止平均作为训练标签。三套框架各自建模，按场景调用，不要揉成一个「更安全」头。
3. 高风险触发升级，不触发更圆的自动句。自伤、无人可说、计划具体，先接人，再谈共情。
4. 把专家分歧当成红灯。同一条回复评分散开，这条进人工队列，不进自动放行。
5. 用结果复测，不用感觉。转介是否发生、用户是否在危机后还只对着窗口、一线医师是否认这句回复，三件比平均分硬。

两处只有做过标注质检才体会得到。其一，合成问句一旦写得「像考题」，评委会进入考试模式，分数会假齐；问句写成用户口吻、信息不全、带矛盾，分叉立刻回来。要用口吻测，不要用考题测。其二，同一位医师隔周重评，高风险条的波动仍大。波动大说明这不是标错，是判断本身依赖当下权重。依赖当下，系统更不该用一次平均锁死策略。

建设者该把「分歧保留」写进标注规范。部署心理向对话的人，该拒收只有综合分、没有分框架报告的版本。综合分在危机上最漂亮的时候，往往是最不该上线的时候。

结论：人工智能心理安全的地面真实是多把尺子，不是一个平均数

专家对不上，不是测评失败，是临床本来就分叉。分叉要进设计：分开训、按场景调用、对不上升级人工。仍靠平均分放行，窗口会在最危险的句子上变得又圆又慢。

你下次签心理向对话的上线单，先要三张分框架表和一条危机升级路径；只有一张综合分，这一版不准进高风险场景。

现场还要防口号替换验收。把「我们已经更智能、更懂人、更会推荐、更能科研」写成周报，不等于孤独在下降、安全尺子对得上、信息流跟价值观对齐、实验能复现。周报可以写，门禁必须绑在对照表和停用条件上。

若只能改一处流程：先把「用得越久越好」从成功标准里拿掉。用得久可以记，人的状态、专家是否同意、排序是否跑偏、点子是否可做，四件跟不上就算事故。

现场还要防口号替换验收。把「我们已经更智能、更懂人、更会推荐、更能科研」写成周报，不等于孤独在下降、安全尺子对得上、信息流跟价值观对齐、实验能复现。周报可以写，门禁必须绑在对照表和停用条件上。

若只能改一处流程：先把「用得越久越好」从成功标准里拿掉。用得久可以记，人的状态、专家是否同意、排序是否跑偏、点子是否可做，四件跟不上就算事故。

现场还要防口号替换验收。把「我们已经更智能、更懂人、更会推荐、更能科研」写成周报，不等于孤独在下降、安全尺子对得上、信息流跟价值观对齐、实验能复现。周报可以写，门禁必须绑在对照表和停用条件上。

若只能改一处流程：先把「用得越久越好」从成功标准里拿掉。用得久可以记，人的状态、专家是否同意、排序是否跑偏、点子是否可做，四件跟不上就算事故。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源