小模型只接一件事：公开对照比的是谁

一百亿参数以下、权重公开、只干一件事的模型，值得单独看。值得的原因不是它们全面胜过对话大模型，而是公开材料里，它们在一件窄任务上对过一个更大的同类。下面的分数、时延和名次，都来自模型卡、论文和 2026 年的公开对照，不是你机器上的成绩。选定任务之后运行时怎么摆，见按流量选推理运行时。开放式推理仍然留给大模型，不要用一个小模型去包圆。

先定三条，再看榜

第一，权重要能拿到，并且你读过这一枚检查点的许可证，而不是只看仓库根上的声明。第二，任务要能用一句话说完，例如转写、抽片段、路由、合成，而不是“帮我处理所有文档”。第三，论文或模型卡里要有和更大系统的对照，并且你看得懂对照的是语音模型、版面模型还是对话模型。单机放得下是加分，不是唯一条件。榜上的第一名过几个月会换，你的验收集不会跟着榜自动更新。

转写、版面和抽片段，各有一张边界

Parakeet TDT 0.6B v3 大约 6 亿参数，模型卡写的是 CC-BY-4.0，覆盖 25 种欧洲语言，并能自动判别语言。一篇被引用的开放语音识别榜论文（arXiv 2510.06961）给出平均词错误率 6.32，对照 Whisper large-v3 的 7.44；吞吐 RTFx 是 3330 对 146，大约 23 倍。它赢的是更大的语音模型，不是聊天模型。Whisper 仍覆盖 99 种语言，这边是 25 种。2026 年 10 月一份榜单快照里，它在英语上是 5.66% 对 6.5%，但在其余六种被跟踪的欧洲语言里，有五种落在 Whisper 后面。模型卡写至少留 2 GB 内存。语言对不上你的用户，分数再好看也不该上。

PaddleOCR-VL-1.6 大约 9 亿参数，模型卡写发布日是 2026 年 5 月 28 日。一份 2026 年 9 月的光学字符识别综述把它标为 Apache 2.0。被引用的论文（arXiv 2606.03264）在 OmniDocBench v1.6 上给出总分 96.33，对照 Gemini 3 Pro 的 92.91 和 GPT-5.2 的 86.59。同一份综述里，TeleOCR 是 96.91，OvisOCR2 是 96.47，都略高。所以它是前三，不是第一名。模型卡对 Windows 的建议是用子系统或容器。版面任务和“让模型读懂合同并做判断”不是同一件事，后者仍然要大模型或规则。

GLiNER 的 NAACL 2024 论文从大约 5 千万参数写起。仓库是 Apache-2.0，检查点不一定一样，有些旧的是 CC BY-NC 4.0，上生产前要打开你将要下载的那一个。论文的域外表里，GLiNER-S 5 千万参数平均 52.7，对照当时零样本实体识别里的 ChatGPT 47.5。文中已经说明，那个 ChatGPT 是 2023 年的模型。它抽的是文本里已经出现的片段，标签是运行时给你的字符串。它不推理，也不替你填没有写出来的字段。文中举的中等检查点 urchade/gliner_medium-v2.1 是 Apache 2.0，说明书写 CPU 就够。字段要靠常识补全时，换大模型，不要把空字段硬交给它。

向量、路由和编排，许可证比分数先看

EmbeddingGemma 308M 在公开介绍里大约是模型 1 亿、嵌入 2 亿。使用的是 Gemma 条款，需要过门控。公开说法是：在 5 亿参数以下的开放多语文本嵌入里，MTEB 排名最高，覆盖 100 种以上语言，量化后内存不到 200 MB。这是体量档里的说法，不是对巨型模型的全面获胜。上下文大约 2048 个词元，长文档必须切块。若你扛得住更大的体积，文中提到约 6.77 亿的 jina-embeddings-v5-text-small 在 MTEB 上更高。先定内存上限，再决定追不追那一档。

Arch-Router 1.5B 由 Qwen2.5-1.5B-Instruct 微调而来，一份报道写训练集大约 43000 条。许可证是 Katanemo 的研究许可，不是 Apache，发出去之前要读完。论文（arXiv 2506.16655）给出整体路由分 93.17%，比所测闭源模型平均高 7.71 分，其中包含 GPT-4o 和 Claude-Sonnet-3.7。另一份公开计时大约是每次决定 50 毫秒，对照 Gemini-2.0-flash-lite 约 510 毫秒、Claude-Sonnet-3.7 约 1450 毫秒。它只负责选路。路的描述是你写的，质量也由这些描述决定，要拿你的请求去试。每条路后面的模型还是得自己准备。

Nemotron-Orchestrator-8B 建在 Qwen3-8B 上。模型卡的 NVIDIA 许可限于研究与开发，不能当成可以随意商用的条款。卡和论文（arXiv 2511.21689）写 HLE 37.1% 对 GPT-5 的 35.1%，成本大约是三成，速度大约 2.5 倍；FRAMES 76.3% 对 74.0%；τ²-Bench 80.2% 对 77.7%。它赢在选择调用哪个工具或模型。同一份报道写，在 τ²-Bench 上大约四成步骤仍会去叫 GPT-5 这一类大模型。GPT-5 本身也不再是前沿。有作者估计要备一块 24 GB 显存的卡，那是估计，不是规格书。研究许可没读完，不要推进生产。

合成模型的对手也是合成模型

Kokoro-82M 是 Apache 2.0，权重大约 327 MB。发布时在 TTS Spaces Arena 上排在 XTTS v2（约 4.67 亿）前面，这是当时的名次。2026 年一份综述在 Artificial Analysis Speech Arena 的开放模型里把它放在第六，Elo 1060。对照的全是语音合成，不是聊天模型。同一份综述里，约 3.57 亿的 NVIDIA Magpie 已经排到它前面。它不做音色克隆，输出 24 kHz，还需要 espeak-ng。要克隆特定的人声，这不是那一件事。

落地时把小模型和大模型分成两套环境。小模型的输入输出要能单独回归：同一批音频、同一批版面、同一批标签。许可证按检查点记录，研究许可和非商业检查点不要混进生产镜像。公开榜换成你的数据之后，名次可以反过来，英语转写领先、其余语言落后，就是这种例子。一件事一个模型，做不到的部分明确交回大模型，而不是把小模型的分数写成整体能力。

先写清这一件任务、许可证和你自己的对照集， 用效率龙虾改这一稿。