把几十亿参数的底座拿去适配医学或法律文本，传统做法是整网继续训。账单有四笔：算力、每个任务存一份完整模型、猛训会忘掉通用能力、任务一多就管不过来。参数高效微调的共同动作是冻住原权重，只加或只动很小一撮参数，常常不到原来的百分之一，效果却能接近全量。
加模块是最常见的一类。瓶颈适配器插在 Transformer 块里：先把隐状态从 d 压到更小的 b，非线性，再扩回 d，加残差。关键超参是压缩比，b 等于 d 除以压缩因子。并行适配器不串在主路上，而是和前馈输出相加，任务通路不直接改预训练轨迹。低秩适配不插层，而是把权重更新写成两个瘦矩阵的乘积，通常打在注意力的查询和值投影上。前缀调优在每一层注意力的键值前拼接一段可学习向量；提示调优更省，只在输入嵌入前加软提示。选择类更狠：只训偏置（BitFit），或只给激活乘一组可学习标量（IA³）。重参数类用克罗内克积、共享因子把适配器再压小。混合方法把适配器、低秩和提示拼在同一套框架里，按部署约束选组合。
实现上原层全部冻住，只让新模块的梯度流动。瓶颈适配器常放在注意力后和前馈后两处。低秩的缩放系数除以秩，避免换秩时学习率失稳；一个因子随机初始化，另一个从零开始，训练起步时更新为零，行为先等于原模型。量化低秩把底座压到四比特、适配器保持高精度，七十亿以上也可以在一张消费卡上做适配。多任务时每个任务一份低秩因子，推理按任务子集相加，存的是「任务数乘以秩」，不是「任务数乘以整模」。
落地清单
- 先选要动的矩阵。注意力的查询和值通常比全层都加适配器更划算。
- 秩从 8 左右起。近域任务 1 到 4 就够，跨域或数据很少再加到 32 以上，收益是对数级的。
- 适配器单独存、单独加载。不要为每个客户克隆一份底座。
- 只训偏置或只乘标量，适合存储和带宽极紧的场景，表达力也最窄。
目标不是再发明一种微调，是让专用能力变成可插拔的小文件，底座保持一份。
本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源
常见问题 FAQ
什么是AI智能系统？
「AI智能系统」可概括为：全量微调贵、占存储、还容易忘掉原能力。适配器、低秩更新、前缀和只训偏置，通常动不到百分之一的参数。 本文从定义、方法与实践要点展开说明。
为什么要关注AI智能系统？
关注AI智能系统，是因为它直接影响效率、风险与可复制性。文中指出：加模块是最常见的一类。瓶颈适配器插在 Transformer 块里：先把隐状态从 d 压到更小的 b，非线性，再扩回 d，加残差。关键超参是压缩比，b 等于 d 除以压缩因子。并行适配器不串在主路上，而是和前馈输出相加，任务通路不直接改预训练轨迹。低秩适配不插层，而是把权重更新写成两个瘦矩阵的乘积，通常打在注意力的查询和值投影上。前缀调优在每一层注意力的键值前拼接一段可学习向量；提示调优更省，只在输入嵌入前加软提示。选择类更狠：只训偏置（BitFit），或只给激活乘一组可学习标量（IA³…
如何落地AI智能系统？有哪些关键步骤？
建议按以下路径推进AI智能系统：1) 先选要动的矩阵。注意力的查询和值通常比全层都加适配器更划算。；2) 秩从 8 左右起。近域任务 1 到 4 就够，跨域或数据很少再加到 32 以上，收益是对数级的。；3) 适配器单独存、单独加载。不要为每个客户克隆一份底座。；4) 只训偏置或只乘标量，适合存储和带宽极紧的场景，表达力也最窄。。细节见正文对应章节。
AI智能系统适合哪些人或团队？
AI智能系统更适合：产品/技术负责人、运营与增长团队、需要落地智能体或自动化的中小团队、关注「AI智能系统」方向的读者。若你只需要单次聊天式问答，可先读概念；若要上生产，请重点看步骤、权限与风控相关段落。
关于「落地清单」，本文给出了什么结论？
「落地清单」是理解全文的关键切片：建议先读该节的结论句与列表项，再对照前后章节形成闭环。
实践AI智能系统时常见误区有哪些？
常见误区包括：① 只追工具不建流程；② 没有权限/审计边界就上生产；③ 缺少指标与回滚方案；④ 把演示效果当成稳定 SLA。针对AI智能系统，请以正文中的检查清单与约束条件为准，小范围验证后再扩面。