人工智能中间训练不是预训练的后半段,也不是对齐。它停在两段之间,把数据配比从又宽又杂,逐渐收向更高质量、更偏某个领域、更像指令或推理的材料。继续预训练是从已有检查点接着练,目标往往是把模型收进一个领域。拉长上下文又是另一段:先在短序列上练完,再专门把序列拉长。三段共用一条损失曲线,停点一定会写错。
人工智能训练痛点在用一条下降曲线盖住三次改配比
预训练看的是大而杂的材料上,预测是否还在变好。中间这段看的是配比正在被改:高质量材料的比例升了多少、领域材料何时进入、指令式材料占到多少才停。继续预训练看的是另一件事:拿别人或自己已经练完的检查点,往一个应用上再灌数据。目标变了,曲线还在下降,只能说明新数据上更熟,不能说明旧的通用能力还在,更不能说明已经对齐。
拉长上下文如果和主训练揉在一起,短序列还没稳住就上长序列,算力和不稳都会被记成「模型变强」。正确的顺序是短序列阶段先有完成标准,长序列阶段单独记能稳住的长度、以及短题有没有变差。长度数字上升、短题掉分,这一段失败。
配比改动最容易被写成「加了点好数据」。加是瞬间,收是一条时间表。哪一周把哪一类比例从多少调到多少,必须留行。没有时间表的退火,事后无法判断是数据救了模型,还是模型只是在新分布上过拟合。原分布上的保留题要在每次改配比之后重跑。掉分超过事先的线,继续收配比必须停。
人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报
- 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。
- 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。
- 原分布保留题在改配比之后重跑。掉分超线,停止继续收。
- 拉长上下文之前,短序列阶段必须已完成。短题变差则长序列阶段失败。
- 领域分上升而通用分下降,禁止写成全面变强。
| 实际在做 | 周报容易写成 | 还缺的记录 | 2026停点 |
|---|---|---|---|
| 配比往高质量收 | 预训练还在正常下降 | 哪一周改了哪一类比例 | 没有时间表就停 |
| 从检查点往领域灌数据 | 已经更对齐 | 原分布保留题 | 通用分掉了就不能叫对齐 |
| 序列越拉越长 | 主训练的自然结果 | 短序列是否先完成 | 短题变差则本段失败 |
| 领域测验变好 | 模型全面变强 | 通用题是升是降 | 两列都在才可报 |
| 损失还在降 | 可以继续 | 降的是哪一个分布 | 分布不写明就停 |
上表把「还在降」从「降在哪」里拆出来。不拆,停点只是感觉。
人工智能现场怎么记这一段
训练单首页只有四格:阶段名、本阶段数据配比、停点标准、对上一阶段保留题的差。阶段名写成「继续训练」这种含混词的,整单退回。停点必须是一句可核对的话,例如原分布掉分不超过事先的线,而不是「看情况」。看情况的单子不能开跑。
配比时间表贴在日志里,不贴在事后回顾里。事后补的比例,按未记录。评审只认当时写下的行。领域测验若要对外说,同一页必须有通用测验。只有领域页的材料,标题改成「领域更熟」,禁止出现「更强」。
拉长上下文的评审先看短序列完成记录,再看长度。没有前一份记录,长度数字不作数。我们见过周报用最终长度代替全部阶段,短题其实在加长的那一周掉了一截,掉分没有单独的行,发布说明仍写能力提升。
人工智能常见翻车是检查点名字没变、数据已经换了
检查点沿用预训练的名字,数据已经换成领域和指令的混合。曲线连续,阶段并不连续。后来的人会用这条曲线去估还要多少通用数据,估出来的是错的账。
另一类翻车是把对齐分数的上升算进中间这段。对齐是后面的阶段。中间这段只允许报告配比和保留题。对齐分数写进来,两段的功劳就分不清,停错阶段时也找不到是哪一次改配比造成的。
检查点编号也要随阶段变。编号不变,后来的人会把中间这段的权重当成预训练成品去继续对齐,原分布已经偏了也不知道。编号规则写在阶段单上:阶段名变一次,编号至少升一截。升了编号却没写配比的,按假阶段,不能进入模型库。
结论:人工智能中间这段要单独记账,不能挂在预训练的尾巴上
配比在收、领域在灌、序列在拉长,是三件不同的事。每一件都要自己的停点,以及原分布还在不在。
你下次报训练还在变好,先写阶段名、配比时间表、原分布保留题的差。三格空着,这条曲线先不要并进主结论。
本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证,不要把示例阈值直接当生产策略。 相关:风控体检 · 方案资源
常见问题 FAQ
什么是学习人工智能?
「学习人工智能」可概括为:中间训练把配比收向更高质量或更偏领域,不是预训练的尾巴,也不是对齐。继续预训练和拉长上下文要另开阶段。通用分布掉分不写上,特化分不能单独报。 本文从定义、方法与实践要点展开说明。
为什么要关注学习人工智能?
关注学习人工智能,是因为它直接影响效率、风险与可复制性。文中指出:预训练看的是大而杂的材料上,预测是否还在变好。中间这段看的是配比正在被改:高质量材料的比例升了多少、领域材料何时进入、指令式材料占到多少才停。继续预训练看的是另一件事:拿别人或自己已经练完的检查点,往一个应用上再灌数据。目标变了,曲线还在下降,只能说明新数据上更熟,不能说明旧的通用能力还在,更不能说明已经对齐。
如何落地学习人工智能?有哪些关键步骤?
建议按以下路径推进学习人工智能:1) 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。;2) 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。;3) 原分布保留题在改配比之后重跑。掉分超线,停止继续收。;4) 拉长上下文之前,短序列阶段必须已完成。短题变差则长序列阶段失败。;5) 领域分上升而通用分下降,禁止写成全面变强。。细节见正文对应章节。
学习人工智能适合哪些人或团队?
学习人工智能更适合:产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「学习人工智能」方向的读者。若你只需要单次聊天式问答,可先读概念;若要上生产,请重点看步骤、权限与风控相关段落。
关于「人工智能训练痛点在用一条下降曲线盖住三次改配比」,本文给出了什么结论?
在「人工智能训练痛点在用一条下降曲线盖住三次改配比」部分,要点是:哪一周把哪一类比例从多少调到多少,必须留行。没有时间表的退火,事后无法判断是数据救了模型,还是模型只是在新分布上过拟合。原分布上的保留题要在每次改配比之后重跑。掉分超过事先的线,继续收配比必须停。 人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报 预训练、中间训练、继续预训练、拉长上下文,禁止共用一个阶段名和一个停点。 每次改配比写下日期、哪一类比例、从多少到多少。没有这行,不算做过中间训练。 原
关于「人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报」,本文给出了什么结论?
围绕「人工智能阶段验收五步:三段分开、配比留时间表、通用题回测、短序列先完成、特化分不得单独报」,正文强调:人工智能中间训练不是预训练的后半段,也不是对齐。它停在两段之间,把数据配比从又宽又杂,逐渐收向更高质量、更偏某个领域、更像指令或推理的材料。继续预训练是从已有检查点接着练,目标往往是把模型收进一个领域。拉长上下文又是另一段:先在短序列上练完,再专门把序列拉长。三段共用一条损失曲线,停点一定会写错。