人工智能中间训练不是预训练的后半段,也不是对齐。它停在两段之间,把数据配比从又宽又杂,逐渐收向更高质量、更偏某个领域、更像指令或推理的材料。继续预训练是从已有检查点接着练,目标往往是把模型收进一个领域。拉长上下文又是另一段:先在短序列上练完,再专门把序列拉长。三段共用一条损失曲线,停点一定会写错。

人工智能训练痛点在用一条下降曲线盖住三次改配比

预训练看的是大而杂的材料上,预测是否还在变好。中间这段看的是配比正在被改:高质量材料的比例升了多少、领域材料何时进入、指令式材料占到多少才停。继续预训练看的是另一件事:拿别人或自己已经练完的检查点,往一个应用上再灌数据。目标变了,曲线还在下降,只能说明新数据上更熟,不能说明旧的通用能力还在,更不能说明已经对齐。

拉长上下文如果和主训练揉在一起,短序列还没稳住就上长序列,算力和不稳都会被记成「模型变强」。正确的顺序是短序列阶段先有完成标准,长序列阶段单独记能稳住的长度、以及短题有没有变差。长度数字上升、短题掉分,这一段失败。

配比改动最容易被写成「加了点好数据」。加是瞬间,收是一条时间表。哪一周把哪一类比例从多少调到多少,必须留行。没有时间表的退火,事后无法判断是数据救了模型,还是模型只是在新分布上过拟合。原分布上的保留题要在每次改配比之后重跑。掉分超过事先的线,继续收配比必须停。

人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报

  1. 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。
  2. 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。
  3. 原分布保留题在改配比之后重跑。掉分超线,停止继续收。
  4. 拉长上下文之前,短序列阶段必须已完成。短题变差则长序列阶段失败。
  5. 领域分上升而通用分下降,禁止写成全面变强。
实际在做 周报容易写成 还缺的记录 2026停点
配比往高质量收 预训练还在正常下降 哪一周改了哪一类比例 没有时间表就停
从检查点往领域灌数据 已经更对齐 原分布保留题 通用分掉了就不能叫对齐
序列越拉越长 主训练的自然结果 短序列是否先完成 短题变差则本段失败
领域测验变好 模型全面变强 通用题是升是降 两列都在才可报
损失还在降 可以继续 降的是哪一个分布 分布不写明就停

上表把「还在降」从「降在哪」里拆出来。不拆,停点只是感觉。

人工智能现场怎么记这一段

训练单首页只有四格:阶段名、本阶段数据配比、停点标准、对上一阶段保留题的差。阶段名写成「继续训练」这种含混词的,整单退回。停点必须是一句可核对的话,例如原分布掉分不超过事先的线,而不是「看情况」。看情况的单子不能开跑。

配比时间表贴在日志里,不贴在事后回顾里。事后补的比例,按未记录。评审只认当时写下的行。领域测验若要对外说,同一页必须有通用测验。只有领域页的材料,标题改成「领域更熟」,禁止出现「更强」。

拉长上下文的评审先看短序列完成记录,再看长度。没有前一份记录,长度数字不作数。我们见过周报用最终长度代替全部阶段,短题其实在加长的那一周掉了一截,掉分没有单独的行,发布说明仍写能力提升。

人工智能常见翻车是检查点名字没变、数据已经换了

检查点沿用预训练的名字,数据已经换成领域和指令的混合。曲线连续,阶段并不连续。后来的人会用这条曲线去估还要多少通用数据,估出来的是错的账。

另一类翻车是把对齐分数的上升算进中间这段。对齐是后面的阶段。中间这段只允许报告配比和保留题。对齐分数写进来,两段的功劳就分不清,停错阶段时也找不到是哪一次改配比造成的。

检查点编号也要随阶段变。编号不变,后来的人会把中间这段的权重当成预训练成品去继续对齐,原分布已经偏了也不知道。编号规则写在阶段单上:阶段名变一次,编号至少升一截。升了编号却没写配比的,按假阶段,不能进入模型库。

结论:人工智能中间这段要单独记账,不能挂在预训练的尾巴上

配比在收、领域在灌、序列在拉长,是三件不同的事。每一件都要自己的停点,以及原分布还在不在。

你下次报训练还在变好,先写阶段名、配比时间表、原分布保留题的差。三格空着,这条曲线先不要并进主结论。

效率龙虾 会带着下面这段开聊

按文章《人工智能中间训练禁止并进预训练曲线:2026配比和停点必须单独列核》把卡点收成可执行步骤:先做什么、别踩哪条、怎么验证。

用效率龙虾试这篇

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证,不要把示例阈值直接当生产策略。 相关:风控体检 · 方案资源

常见问题 FAQ

什么是学习人工智能?

「学习人工智能」可概括为:中间训练把配比收向更高质量或更偏领域,不是预训练的尾巴,也不是对齐。继续预训练和拉长上下文要另开阶段。通用分布掉分不写上,特化分不能单独报。 本文从定义、方法与实践要点展开说明。

为什么要关注学习人工智能?

关注学习人工智能,是因为它直接影响效率、风险与可复制性。文中指出:预训练看的是大而杂的材料上,预测是否还在变好。中间这段看的是配比正在被改:高质量材料的比例升了多少、领域材料何时进入、指令式材料占到多少才停。继续预训练看的是另一件事:拿别人或自己已经练完的检查点,往一个应用上再灌数据。目标变了,曲线还在下降,只能说明新数据上更熟,不能说明旧的通用能力还在,更不能说明已经对齐。

如何落地学习人工智能?有哪些关键步骤?

建议按以下路径推进学习人工智能:1) 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。;2) 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。;3) 原分布保留题在改配比之后重跑。掉分超线,停止继续收。;4) 拉长上下文之前,短序列阶段必须已完成。短题变差则长序列阶段失败。;5) 领域分上升而通用分下降,禁止写成全面变强。。细节见正文对应章节。

学习人工智能适合哪些人或团队?

学习人工智能更适合:产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「学习人工智能」方向的读者。若你只需要单次聊天式问答,可先读概念;若要上生产,请重点看步骤、权限与风控相关段落。

关于「人工智能训练痛点在用一条下降曲线盖住三次改配比」,本文给出了什么结论?

在「人工智能训练痛点在用一条下降曲线盖住三次改配比」部分,要点是:哪一周把哪一类比例从多少调到多少,必须留行。没有时间表的退火,事后无法判断是数据救了模型,还是模型只是在新分布上过拟合。原分布上的保留题要在每次改配比之后重跑。掉分超过事先的线,继续收配比必须停。 人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。 原

关于「人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报」,本文给出了什么结论?

围绕「人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报」,正文强调:人工智能中间训练不是预训练的后半段,也不是对齐。它停在两段之间,把数据配比从又宽又杂,逐渐收向更高质量、更偏某个领域、更像指令或推理的材料。继续预训练是从已有检查点接着练,目标往往是把模型收进一个领域。拉长上下文又是另一段:先在短序列上练完,再专门把序列拉长。三段共用一条损失曲线,停点一定会写错。