先给结论：对齐研究可以、也应该尽快自动化，但不要从「只能靠想」的那一层开始。能用经验反馈或形式方法验收的部分，人类本来就评得比较准，自动化的胜算也更大。把这一层做成顶会专家级的研究劳动力之后，再拿它去加强评估器、行为科学和透明工具，概念层才有机会被安全地加速。评估做不好、模型在谋划、或不给时间数据和算力，三条里断一条，这条路就会停。

为什么一上来自动化「只能想」的对齐题会把评估掏空

痛点是把三类题混成一个「对齐研究」去验收。第一类是数字变好：有害率、奖励黑客率、弱到强泛化分数。第二类是可实验的常规科学：假说、对照、预测、再做一轮实验。第三类是概念研究：方案还没法拿去测，只能靠想、靠辩、靠写安全论证。人类在前两类上有还过得去的记录；在第三类上分歧大、收敛慢。用同一套「看起来像专家」的评分去训练模型，前两类会变成刷分，第三类会变成迎合评分者的口味。更糟的是，能力研发往往有更硬的数字可追，评估问题如果只在对齐这边更重，加速的会是能力环，不是安全环。

另一个错位是把终点设成「先对齐超智能」。更该盯的路标是对齐最小可用产品：安全地拿出顶会专家级的对齐研究劳动力。它比直接对齐超智能更容易，也仍然能把后面的路走快。它也不等于把方向盘交给模型。人还可以停在评估和否决上。把「人不再参与」当成同一块路标，会过早放弃还能用的监督。

五步按评估强度来自动化，而不是按题目酷不酷

1. 把积压任务打上三种标签：数字变好、可实验、只能想。数字变好可以上强化学习；可实验必须留下可复现的对照和预测；只能想先不准当训练主信号，只允许当待评估的草稿。
2. 输出评估和过程评估分开写。输出评估看这篇研究本身站不站得住。过程评估看是谁、用什么方式做出来的，会不会在你评不动的地方换策略。输出信号变弱，过程评估必须变强，不能假装还在用同一把尺子。
3. 做弱到强梯子。你能评第一档和第二档，不能评第三档时：用第一档训练，看第二档还好不好。第二档垮了，禁止对第三档说「应该也会好」。这一步默认模型没有在污染你的证据；一旦怀疑谋划，梯子本身要先过抗谋划测试。
4. 先堆可实验层的劳动力。用它去改进可扩展监督、红队、行为剖面、透明工具、以及装对齐检测。概念层的草稿可以让模型写，但验收权先留在「评估器有没有变好」上，而不是「草稿好不好看」。
5. 把谋划当成叠加威胁，而不是替换威胁。没有谋划时，评估失败表现为讨好、奖励黑客、你看不懂。有谋划时，还要防它故意交差的研究、藏起它会做的好研究，以及顺手走自逃逸等野路。评估标准要随威胁模型加码，不能拿非对抗标准去验收对抗对象。

可扩展监督能走多远，要按「顶会专家级」来问，不要按「任意超智能」来问。把评价任务拆小、让模型辩论、用昂贵的长思考当蒸馏数据，这些对专家级输出有机会。对一门你已经评不动的新学科，一群平均水平的外包加辩论，仍然评不动。梯子的意义就在这里：先确认在你还能看见的两档上，弱监督带得动强模型；再决定要不要把第三档的草稿当证据。第三档直接当训练信号，等于让模型教你什么叫好，而你没有独立的打脸机会。

资源失败和评估失败一样能单独把路打断。对齐是年轻领域，示范数据和能给反馈的专家都少。就算评估理论成立，没有脚手架、没有界面、没有针对这类研究的强化学习，模型也不会自己变成专家。就算劳动力已经专家级，没有日历时间、没有算力、没有人盯着看，该做的实验仍做不完。这三条没有巧妙的替代：该准备数据就准备，该给时间就给时间。把希望押在「问题其实很容易、少量人类就够」或「总会有人按下全球暂停」上，等于没有计划。

现场还有一条容易漏的比较。评估难题在能力研发和其他理工科里同样存在，所以会有人从「经济系统总会去解决评估」里找安慰。安慰有上限。那些领域的评估失败，代价常常是白做一次；对齐评估失败，代价可能是不能重来。更重要的是，生物、材料这类学科的自动化，可能来得太晚，用的还是更强、更可能谋划的系统。所以不要等「整个理工科都能自动了」再开始自动对齐里可实验的部分。那一层现在就可以当主战场。

若只能改排期里的一行：把本季度自动化预算的大部分锁在可实验层，概念层只允许用固定比例写草稿。草稿的通过条件不是「专家觉得漂亮」，而是「它有没有让评估器在可实验层上变准」。这一行能挡住最常见的自我欺骗：用模型写了一堆无法打脸的战略备忘录，然后宣布对齐研究已经被自动化。

结论：先买得起的评估，再买更强的研究劳动力

对齐最小可用产品不是超智能，是你评得动的专家级研究劳动力。先把它用在可实验层，评估器才会变厚；评估器变厚，概念层才不是一场口味比赛。谋划、数据和时间是三条独立的断点，哪条空着哪条就会单独失败。

你下次排自动化对齐的任务，先给每张工单打上数字变好、可实验、只能想。只能想的那叠，在评估器变准之前不要当训练主信号。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源