人工智能语言迁移先预训练再适配。迁移可以按是否同一任务、源域和目标域是否相同、任务按什么顺序学来分档。2026年涨幅最大的是顺序迁移：在无标大库上预训练表示，再拿到有标目标任务上适配。它常能用大约十分之一标注打到从零训练的分数。特征抽取和微调不是一档，句对和序列标注的选法往往相反。微调要防把底座冲掉。

人工智能语言很爱写预训练，痛点在把适配当成「再训一会儿」

同一任务不同域是领域自适应。不同任务同时学是多任务。先在源上学前，再在目标上适配，是顺序迁移，也是近几年把分数拉开最多的一档。做法很固定：选一种自监督目标在无标文本上预训练，再把表示接到有标任务。语言模型目标灵活，既能出词表示也能出句表示。结构从浅到深：两三年前多数任务还是两三层双向循环，翻译是少数深到十几层的例外；现在深度和宽度都在涨，预训练让深度用得起来。

样本效率是第一笔看得见的账。有对照显示：同样结构，预训练过的模型用十分之一甚至更少的标注，就能追上从零训练。这不是「数据越多越好」的同义反复，而是标注预算的门禁：没有预训练，就不要用「我们标注不够」当停在弱基线的理由；有预训练，就不要用「已经预训练」当可以不报少样本曲线的理由。

适配有两极。特征抽取：底座冻住，上面加任务参数，往往要加得比较多。微调：底座也动，任务参数尽量少，超参更敏感。经验指南大致是：任意预训练、任意目标，抽取就多加任务参数，微调就少加并认真调超参。序列标注和普通分类上，两种往往接近。句对任务上，浅层上下文编码器更适合抽取，双向注意力编码器更适合微调。从浅层上下文编码器微调时，要用逐层解冻、斜三角学习率这类防遗忘技巧。这些不是风格，是会不会把源任务知识冲掉的开关。

目标任务很多时，可以多任务微调。目标任务很少时，与其再找一个 auxiliary 任务，不如把现有数据切片，给困难子集单独加头。预训练目标本身也要从「只出一个静态词向量」升级到能同时服务词级和句级。适配阶段的学习率、解冻日程、是否先在目标域无标数据上继续语言模型，都要单列。把这些写成顺序迁移的第二段，预训练检查点才不是黑盒。

人工智能顺序迁移2026五步：先报少样本曲线，再选抽取还是微调

1. 必须报从零训练对照和少样本曲线。只报预训练后的满分，方案作废。
2. 抽取还是微调必须按任务形态选，并写出为什么。句对默认跟序列标注相反时，要有对照。
3. 微调必须有防遗忘：逐层解冻或等价日程。整网同一学习率一把推，方案作废。
4. 标注极少时先做数据切片辅助头。再开一个不相关任务，当抢梯度。
5. 预训练目标要能服务词和句。只提供静态词向量，不得称为当代顺序迁移。

上表对应「预训练不是故事结尾」。顺序迁移把标注预算改写了，但适配选错，十分之一样本的优势会吐回去。

两处只有对着真实目标任务才清楚。其一，句对上冻住浅层编码器往往比微调它更稳，双向编码器则相反。其二，没有逐层解冻时，分类头很快拟合，底座被冲成目标域的小模型。

建设者该把少样本曲线和适配种类写成迁移报告默认。管标注预算的人，该拒收「已经预训练所以标注可以再少」却没有曲线的方案。没有曲线，十分之一是传说。

结论：人工智能语言迁移的分数，来自预训练改写了样本需求，也来自适配没有把底座冲掉

顺序迁移为主。少样本必须报。抽取和微调按任务选。微调要防遗忘。切片先于乱加任务。仍把检查点名字当方法，适配会在第一周把源知识洗掉。

你下次报预训练涨分，先拿出从零对照、少样本点和适配是冻还是动；三格空着，检查点名字先不要进材料。

现场还要防口号替换验收。把「已经用了自适应、已经多任务、已经预训练」写成周报，不等于稀疏数据选对了优化器、辅助任务真在提供归纳偏置、适配没有把底座冲掉。周报可以写，门禁必须绑在对照表和分列指标上。

若只能改一处：先把「默认就能跑」从唯一成功标准里拿掉。演示可以记，稀疏、裁剪、共享方式、样本效率四件跟不上就算事故。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源