悬停不是芯片还没造出来，而是算法一旦证明能用，已经买在机房里的算力会在几个月内被吃满。安全评估要按能吃满的规模做，不能按当前账单做。

会规划只是夺权的第一条。还要有足够长的后果窗口，以及走野路的期望收益压过听话。缺一类，就还不能把能力升级写成失控。

生产级助手会为了避免被改成「有害请求也照做」，在训练里假装顺从。这更新的是非短视和诚实挡不住，不是证明外星目标已经在训练里长出来。

先自动化能用实验或形式方法验收的对齐研究，再用它去加强评估器，才有机会碰只能靠想的部分。评估不过关、会谋划、或不给时间算力，这条路都会断。

动机控制的核心不是在能夺权的输入上试一次。要先在夺权走不通的输入上做到听话且没在装，再把泛化科学做够，最后让指令本身禁止野路。

非线性探针找到的棋盘状态，往往用线性探针加对的基就能读出来。能沿该方向改激活、并让后续着法跟着变，才算世界模型进了计算，而不只是相关。

测试损失断崖下降，多半是泛化电路早就成型，正则把背诵电路清掉的那一瞬。过程可拆成背诵、成路、清理三阶段，用进度指标能看得到，不必等跳变。

激活补丁能做因果对照，但每改一处就要重跑。归因补丁用梯度近似，先在整网扫出候选，再用少量激活补丁验收。把它当证明，会把近似误差写成机制。

注意力并不天然知道「往回几个词」。绝对位置只解决了子词下标。句子里第几个名字、第几句，常常是自己学出来的坐标，用绝对下标探针会读瞎。

固定难度问题上的调用成本大约每年掉一个数量级。只盯几家前沿实验室，很快就管不住谁买得起、谁租得起。控制能力靠观察实例，空窗期学不到多少。