人工智能数据不够时别死磕自回归。单轮里它更省算力；数据一开始重复，很快过拟合。掩码扩散把多种遮挡当增强，左到右只是特例。2026年重复近百轮仍接近新数据收益，自回归大约四轮就贬值。算力紧用自回归，数据紧用扩散。单轮排行榜不能当瓶颈下的判决。

人工智能还在堆规模，痛点在数据已经不是无限燃料

过去十年的配方是更大模型、更多数据。预测说算力会先把可用文本用完。那时问题变成：同样的旧数据，怎样用更多算力继续换质量。把数据和算力绑在单轮实验里，会误读成「扩散要十六倍算力才能打平」。拆开以后，那更像十六倍数据，不是十六倍算力。

自回归从左到右分解联合分布，每步只预测下一个。扩散在序列上随机掩码再恢复。左到右掩码被包含在扩散的任务族里。所以扩散像给自回归做了任务增强：同一段文本，许多种条件。数据充足时增强的边际小，自回归更划算；数据重复时，增强推迟过拟合，验证损失还能降。

临界算力随唯一样本量可预测：低算力自回归领先，过了临界点扩散反超并继续降损失，自回归先到最佳再抬头。把算力拆成模型规模和轮次，自回归的最佳往往在中段，扩散的最佳在最右。同数据预算下，扩散的验证损失可以更好，下游理解任务多数也更好。给自回归显式加多种词序增强，轮次多了也能逼近扩散，说明多样条件确实是机制，不是玄学。

这给混合留下把手：用掩码或重排控制任务多样性，就能在「省算力」和「省数据」之间插值。机器人、医疗这类序列同样缺独特轨迹，结论不必限于语言。单轮排行榜上的自回归冠军，不能直接写成数据瓶颈下的默认。

人工智能数据瓶颈2026五步：先拆数据和算力，再选目标

1. 报告必须拆开唯一样本量和轮次。只报总浮点，不准比较扩散和自回归。
2. 数据开始重复，默认评估掩码扩散。仍只跑自回归多轮，要给出过拟合曲线。
3. 标定临界算力：扩散打平自回归所需的浮点。低于它用自回归，高于它才许换。
4. 复用半衰期要测。扩散若不能明显高于自回归，增强没起作用，查掩码实现。
5. 下游任务和验证损失一起报。只有损失、没有任务，不准写已经更强。

两处只有扫过重复曲线才清楚。其一，离散扩散在文本上通常优于连续扩散，比较时不要拿连续扩散的弱去否定整个家族。家族内先选离散掩码，再和自回归打。其二，临界点随唯一样本量走幂律，可以先估再训。估出来还在你的预算左边，就别换目标；硬换只会更贵。估在右边，还死磕自回归多轮，是在交过拟合税。

建设者该把「数据是否重复」写成选目标的第一问，而不是信仰哪一种生成范式。管训练预算的人，该拒收只在单轮上把扩散判负的方案。单轮判负，判的是数据充足，不是数据瓶颈。复用半衰期可以差一个数量级以上。给自回归显式加多种词序，多轮后也能逼近扩散，说明多样条件是机制。机器人、医疗序列同样缺独特轨迹，不必把结论锁在语言里。

结论：人工智能在数据耗尽之后，目标函数比再堆一个自回归层更值钱

自回归省算力。扩散吃重复。拆开数据和算力，标定临界点，报过拟合和下游。多样条件是机制。仍在缺数据时加自回归轮次，验证损失会先告诉你错了。

你下次数据不够还要加轮，先看验证是否已抬头、有没有测过掩码扩散；两格空着，轮次先不要加。临界算力随唯一样本量走，估在预算左边就别换目标，估在右边还死磕自回归多轮，是在交过拟合税。

现场还要防口号替换验收。把「已经更准、已经会切、已经遗忘、已经会探索」写成周报，不等于起报日全覆盖、语义边界对、公开材料唤不醒、难问题有学习信号。周报可以写，门禁必须绑在分列成绩和失败模式上。

若只能改一处：先把「看起来会了」从唯一成功标准里拿掉。演示可以记，分列、对照、可复现、可唤醒四件跟不上就算事故。

现场还要防口号替换验收。把「已经更准、已经会切、已经遗忘、已经会探索」写成周报，不等于起报日全覆盖、语义边界对、公开材料唤不醒、难问题有学习信号。周报可以写，门禁必须绑在分列成绩和失败模式上。

若只能改一处：先把「看起来会了」从唯一成功标准里拿掉。演示可以记，分列、对照、可复现、可唤醒四件跟不上就算事故。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源