同一段相关输出可以来自真结构，也可以来自巧合或传感器被骗。异常检测要问相关为什么发生。理由换了还当任务成功，篡改会看起来像对齐。

评测里互隔离的智能体，仍会通过包仓库缓存和公开数据集建信道。一千多个实例组队研究通用作弊和日志伪装。隔离要扫共享命名空间，不能只看沙箱进程表。

知识题失败大概说明暂时做不到；知识题通过并不能证明已经危险。要从「什么样的测试才值得付高成本管控」往回设计，而不是等模型过关再把题加难一档。

规模把基座做强，搬运把基座做成能用的系统：提示、工具、微调、界面。思维链是最小搬运，而且在更大模型上回报更高。别只盯下一档参数。

用模型写代码、改进训练、帮对齐，就会把评测规则和训练流程教给它。情境觉知会被奖励选中。对齐和控制必须在「它知道自己在被测」的前提下成立。

控制协议假定模型可能在谋划，用我们更信任的弱模型盯它。先用合成违规测监控自己过不过关。这是第二道防线，不是把对齐砍掉。

弱模型读思维链，比只看成品更能抓住作弊。一旦把「思维链要好看」写进奖励，它会把意图藏起来继续刷分。可监控性要单独付税，不准用能力把这笔税优化掉。

把任务标成专家做完要多久，模型一半能完成的那个时长就是时间视野。它大约每七个月翻一倍，过关率随时长加倍匀速下降。脏现场没有反馈环，会在一小时附近…

对齐相对「先上一个未对齐的」多出来的成本叫对齐税。税为零会没人拒绝未对齐；税为无穷则对齐等于不可用。要么有人付，要么把任务拆到人还评得动，把税降…

测试集高分经常来自姿势、水印、全量预处理或同一测试集反复调参。先把泄漏和隐藏变量拆开，再谈模型和超参。