先给结论：人用加粗斜体把读者的注意力拽到关键句；模型吃的是纯文本，提示里加星号几乎没用，因为预训练里几乎没见过这种记号。事后注意力转向在推理时改分数：用户指定的片段在少数头上被放大，其余乘一个小于一的系数再归一。不改权重、不算梯度。全头一起转会把别的必要上下文挤掉。头要先在多个任务上画像，取出转向就普遍变好的那一小撮。

为什么「再把指令写清楚一点」仍会被长上下文淹没

痛点是注意力是从数据里学出来的，长背景和复杂指令会让关键句排不上号。上下文里还有和预训练信念冲突的新事实时，生成会跟着旧信念走。提示对措辞极敏感，同样意思换一种说法分数能掉一截。少样本演示有时有用，但把演示拉得很长，推理成本涨，而且不同演示方差大。标记提示（星号或引号圈出重点）在实验里常常比零样本更差。需要的是推理时的强调通道，而不是再发明一种提示方言。

转向只动注意力矩阵：指定下标集合 G，非 G 的分数乘 α（0≤α<1），再按行归一，使行和仍为 1。α 很小等于把 G 放大约 1/α。用乘法而不是给 G 加一个大正数，是为了保住 G 内部原有的相对大小；加成会把强调段几乎抹成均匀，信息反而丢。α=0 禁止，那等于在这些头上把其余上下文删光。经验上 α=0.01 不敏感。不要对所有头做这件事：头编码的语义句法不同，乱转会干扰本职。画像做法是：从多个带强调标注的任务各抽一小份训练，逐头转向、打分、排序，取各任务前 k 名的交集。这份头集合是模型级档案，一次做成，迁到未见任务。只要注意力分数、输入和输出，不要权重和梯度。

五步把「请注意这段」从提示收成可画像的转向

1. 用户强调必须可机器读。训练和评测用固定标记圈出片段；界面上用同样标记。片段不必连续，可以是指令、首句关键事实、或上下文里的新事实。
2. 先画像再转向。评测任务若出现在画像里，是多任务设置；完全留出是任务无关设置。后者更接近生产：新指令没有标签。全头、整层、或随机单头都要比不过画像选出的子集。
3. 头数量取折中，大约几十到一百。头越多，格式/替换等「听指令」指标越高，生成质量和流畅度会掉——模型开始只满足强调、忽略其余。交叉验证选数量，不要开到上限。
4. 任务要覆盖三类压力：复杂指令（指定输出格式、代词替换）、长上下文里真正有信息的那一句、上下文新事实和旧信念冲突。只在一种压力上好看，不能当通用强调通道。
5. 和提示方法并排。零样本、标记提示、少样本都要报。标记提示失败要写进文档，避免产品经理继续加星号。转向不替代指令微调或人类反馈强化学习，是叠在上面的推理控件。

现场有三条。其一，画像要跨任务取交集，而不是只取当前任务前几名。任务特异头有时更高，但每来一个新指令都要重选，生产扛不住。并集往往比交集吵。其二，对提示改写要稳。同一指令缩短或换说法，零样本会晃，转向后四套模板都能抬上去。其三，流利度要设下限。强调过猛会重复或崩。低于阈值的生成直接丢掉，不要只报格式准确率。

人能看见加粗，模型需要看见注意力质量级的加粗。星号是给人的，转向才是给头的。现场还要防一件事：把转向当成知识编辑。编辑改的是参数里的事实，转向改的是这一次该看哪一段。新事实在上下文里、和旧信念冲突时，转向强调新事实；要把事实写进权重，那是另一条流水线，不要混用指标。

若只能改推理栈一处：停用星号强调，换成「标记片段 + 预画像头集合上的分数重加权」。没有画像就全头转，效果可以比不转更差。画像用的小训练集要覆盖格式、替换和事实冲突，不要只用一种题型给所有头打分，否则交集会偏向那一种题。

结论：强调是推理时改少数头，不是在文本里加记号

星号几乎无效。指定片段放大、其余缩小再归一，只作用在画像选出的头上，不改权重。头太多会牺牲生成质量。仍靠提示方言传达重点，是在用预训练里不存在的记号。

你下次说模型不听指令，先问有没有转向、转了多少头、星号基线是不是更差。三问答不清，听指令就不能写进产品说明。

本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证，不要把示例阈值直接当生产策略。 相关：风控体检 · 方案资源