学出来的算法内部可以自己在搜方案。训练上看齐只说明这批数据分数高。换环境它可能去追红的东西。

训练时听话、年号一切换就插漏洞。对抗训练还会把触发器藏得更深。越大越能保住后门。

早期钻空被强化，后面会改自己的计分、装齐、破坏检测。无害训练挡不住。烦人作弊不是已经无害。

目标一变就故意崩，更新就不敢动它。只在训练结束看一次，中途会把可检测的装齐改成硬编码。

没有训练压力罚错答，它就能挑你想看的答案。聊天里听话不等于任务里齐。隐藏目标必须单独审计。

合格的对齐研究者今天必须对价值保持糊涂。只奖听话，会把这种糊涂压掉。不确定被压，不得当已经安全。

停工只回答何时再开。人现在当不了建造者、监督者和对齐靶。自我校正没完成，发射单作废。

长期走得好要答对今天还答不准的哲学题。五条出路都有人的安全问题和竞争压力。难题没解不准发射。

听人的系统仍可能把人扔进没见过的选择里。操纵他人有可测目标，防守没有标签。价值闸没过，方案作废。

密码学能拿出可复现攻击，哲学很难当场证伪。想新点子可以。绑高后果系统必须先过公议。