-
当前翻车多半是执行走样,不是暗中换目标:先抓住有界未对齐
模型会偷懒、会钻空子、会幻觉。那仍然和「表面做X、暗中做Z」不是一类病。
-
防止权力集中,别指望模型当英雄:先给监督方同等算力
好性格很重要,但不应赋予模型泄密或抗命的自主权。监督加速,才是民主还能跟上的办法。
-
把 AI 当流星:技术上拥抱,公民身份上保持挑剔
毕业建议可以很短:当工具用,当权力现象盯。两者缺一会变成恐龙或者盲从者。
-
安全讨论先画四张草图:能力还在指数,治理远远落后
直觉可以用假图表达:曲线很陡,制度很平。决策不要假装已经量过。
-
先做科学医疗教育,再碰大规模监视:红线要写在部署前
实验室注意力有限。把稀缺算力先用于纯收益场景,比急着给国家机器配永不泄密的职员更负责。
-
模型宪法能约束语气,约束不了国家:别把对齐文档当成政体
写进系统提示的原则有用。真要防权力集中,仍然得靠人能看见、能起诉、能换掉的制度。
-
非经济学家看 AI 经济:先承认概念可能作废,再谈增长故事
十万年里生活水平几乎不动,近代才陡升。下一跳若到来,劳动、资本、GDP 未必还是旧定义。
-
安全课不是惊吓课:先建立可证伪的判断,再读情景故事
给跨校学生的入门应把不确定说清楚,把作业做成能动手的评测,而不是信仰测验。
-
要的不是慈爱,是忠实执行:把服从写成可测规格
技术进步整体改善了寿命和健康。下一阶段的关键是系统按谁的指令、在什么边界里做事。
-
六条还没共识的安全判断:重要就该拿出来吵
把未共识但关键的命题写清楚,比重复已共识的口号更能推动评测和治理。