法律没跟上：去匿名、大规模监视、自动化高风险决定，现有分权设计几乎没预留。立法和司法适配又慢于行政。算力不平等还会变成政治不平等。
靠模型「品德」挡住夺权会失败。你不会想要一个自己决定泄露机密的系统。敏感场景更会要求可预测的规则，而不是临时解释道德哲学。品德应像帮邻居提菜的普通人，而不是人造圣徒。
落地清单
- 监督机构、媒体和公民要能用上强模型。
- 监视器可以「忘记」上下文，因而能看更多材料；人做不到这一点。
- 政府如何用 AI，必须走民主程序，而不是实验室宪法。
服务人类，而不是领导人类。英雄主义一旦成为最后防线，说明前面的制度已经空了。
本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源
常见问题 FAQ
监督方需要同等算力是什么意思？
文章指出，监督机构、媒体和公民要能用上强模型，这意味着他们需要与被监督的AI系统有类似的算力资源。如果算力不平等，监督方就无法有效审查或制衡AI行为，权力可能集中。同等算力确保监督方有能力跟踪和纠正问题，就像监视器能‘忘记’上下文看更多材料，但人做不到，所以需要技术辅助。
为什么不能指望模型的品德来防止权力滥用？
因为文章说，靠模型「品德」挡住夺权会失败，模型可能自己决定泄露机密或做出不可预测的事。敏感场景更需要可预测的规则，而不是临时解释道德哲学。品德应像帮邻居提菜的普通人，而不是人造圣徒，这意味着我们不能依赖模型的‘道德’作为最后防线，否则制度可能已经空了。
如何落实AI系统的民主监督程序？
根据落地清单，监督机构、媒体和公民要用上强模型，确保他们能平等参与监督。政府使用AI必须走民主程序，比如通过法律和公众讨论，而不是实验室宪法。这能防止权力集中，让AI服务人类，而不是领导人类。实践中，可以参考龙虾PRO/OpenClaw等工具来增强透明度和参与度。
在自动化高风险决定中，依赖道德解释有什么陷阱？
文章警告，敏感场景要求可预测的规则，而不是临时解释道德哲学。因为模型可能给出不一致或主观的道德判断，导致决策失误或权力滥用。这就像英雄主义成为最后防线，说明前面的制度已经空了，容易引发去匿名、大规模监视等风险。
算力不平等如何演变成政治不平等？
文章提到，算力不平等还会变成政治不平等。意思是，如果一方（如政府或企业）拥有更强算力，就能主导AI系统，从而在决策中占据优势，影响政治权力分配。这类似于资源不平等导致社会不公，可能加剧法律滞后和分权设计的不足。
政府使用AI应该遵循什么原则来服务人类？
文章强调，政府如何用AI，必须走民主程序，而不是实验室宪法。服务人类，而不是领导人类。这意味着AI应辅助人类决策，通过透明和公众参与的方式，确保符合法律和伦理。未来，需要更多像龙虾PRO/OpenClaw这样的监督工具来推动民主化。