UserRepGen-4B 对比 Qwen 3.8：一个七个月大的 4B 微调模型对阵阿里巴巴当前的旗舰模型

先从让这个组合显得有些奇怪的那个事实说起。microsoft/UserRepGen-4B于 2026 年 10 月 14 日上传，没有任何公告，它是对 Qwen3.5-4B 的微调——也就是 2026 年 2 月的那版检查点，比这里拿来对比的模型整整落后一代。Qwen 3.8是阿里巴巴 2026 年 8 月的代次，其已提供服务的成员包括 Qwen3.8-Max，这是旗舰款，在百万 token 上下文下每百万输入 token 收 2.00 美元、每百万输出收 6.00 美元，Qwen3.8-27B在 262,144 个位置下收 0.33 美元和 2.40 美元，以及 Qwen3.8-Flash收 0.15 美元和 0.47 美元。微软看了这一整个家族，却往回退了一代，选了一个 4B 底座。然后它发布了一张表格，显示由此得到的模型在它唯一擅长的那件事上击败了 GPT-5.5。这个组合就是整篇文章的全部：一个有针对性微调能带给你、而更新的旗舰给不了的东西，以及你为得到它所要付出的代价。

首先，“Qwen 3.8”是什么的名称

在任何比较之前，这一点都值得先弄清楚，因为同一个系列名称之下涵盖了若干差异极大的产物，价格跨度超过十三倍。真正对决策有意义的，是其中三个在售成员：

• Qwen3.8-Max — 旗舰型号，原生支持文本、图像与视频多模态，具备 1M token 上下文，提供三种传输格式，其中包括一种与 Anthropic 兼容的格式。属于高级层级，适用于当解决难题时的正确性比成本更重要的情况。

• Qwen3.8-27B —— 采用 Apache 2.0 许可的开放权重稠密模型，262,144 token 上下文，支持文本、图像和视频输入。阿里自家的模型卡报告其在 LiveCodeBench v6 上得分 90.3，GPQA Diamond 上 89.2，OSWorld-Verified 上 84.3，QwenSWEBench 上 79.0——这些均为厂商自报数据，未经独立复现。

• Qwen3.8-Flash——大批量车道，100 万 token 上下文，为那些要运行上百万次的短任务而定价。目录中还提供一份带日期的 Qwen3.8-Max (0902)快照，费率相同；当你需要可复现的行为，而非不断演进的前沿版本时，就可以固定使用它。

这些都不是新闻，本页也不是在报道 Qwen 的发布。这一代已经问世五个月了。它之所以出现在这里，是因为它是这项比较中更新、更大、基准测试成绩更好的一方，也因为那个有趣的主张只有对照如此强大的对象才说得通。

该命题，精确表述如下

Microsoft 的模型卡报告了一项对 700 多个留出对话进行的保真度评估，由 LLM 评判者按 1 到 10 分打分，其中每个表征生成器都接入同一个模拟循环：

• Qwen3.5-4B，未经任何改动的骨干模型 —— best-of-1 为 3.41，best-of-3 为 4.42。

• GPT-5.5，以现成的提示词要求其描述该用户——3.90 和 4.90。

• UserRepGen-4B，经过通过事后蒸馏进行的在线监督微调后——4.95 和 6.02。

每个数字都是微软自己的，由 GPT-5.4 mini 评判，其中没有任何一项在实验室之外得到复现。应将其解读为一种方向性主张，而不是一个已确定的结论。但方向是明确无误的，而且与参数量无关：该训练方法让骨干模型在 best-of-1 上提升了 1.54 个点，并在途中超越了一个前沿通用模型。其本意并非“小模型击败大模型”——而是说，一个来自二月的 4B 基础模型，仅针对某一种狭窄行为进行高强度微调后，就能击败一个规模大得多的模型，而这个模型仅仅被要求执行该行为。

Qwen3.8-Max 不在那张表里。据推测，它的表现会比 GPT-5.5 更好，因为它是一个更强的通用模型。它仍然只能靠猜测行为，因为它的训练中没有任何内容针对这一点进行了优化。

为什么一个七个月大的基础版本是正确的选择

代际差距看起来像是个错误，直到你弄清楚微调实际上需要它的骨干网络提供什么。它需要的是一个大致流畅、运行成本低、且足够稳定的模型，以至于 rank-64 LoRA 能够推动它而不摧毁它。它并不需要前沿推理能力，因为这项任务不是推理——而是描述交给它的一段对话。

卡片中的两个细节印证了这一解读。第一个是输出上限：表征为 1,024 个 token，而对话为 8,192 个。第二个是训练预算——2026年7月至8月，两个月——以及两种更重的方法都落败这一事实。OPSD 得分 4.46/5.60，GRPO 为 3.57/4.59，均低于普通监督微调的 4.64/5.68。当一种廉价方法击败两种昂贵方法时，瓶颈从来就不是骨干模型的能力。改用 2026 年的旗舰基座，只会换来一个每次前向传递成本更高、却要以同样上限完成同样工作的模型。

那个选择是有代价的，而这张卡片对此坦诚相告，而非隐瞒。由于视觉塔随父检查点一同而来，模型通过 AutoModelForImageTextToText 加载，并带有它从不使用的图像和视频代码路径——此版本明确不支持图像和视频输入。你在获得该架构流畅性的同时，也继承了它的包袱。

成本算术，并不像人们预期的那样发展

本能反应是本地推理更便宜。但对于这个模型所针对的规模而言，通常并非如此，而老老实实算一算账就会改变这个决定。以 700 段对话为一个批次——与 Microsoft 自己的评估规模相同——每次调用大约 2,000 个提示 token 和 400 个输出 token。

• 通过 Qwen3.8-27B，价格为每百万 $0.33 和 $2.40：整批的 token 总花费约为 $1.13。

• 通过 Qwen3.8-Max按 $2.00 和 $6.00 计算：约 $4.48。

相比之下，UserRepGen-4B 需要下载 9.1 GB 的数据、一块显存足以以 bfloat16 格式容纳它的 GPU，以及把 Python 类接入起来所需的工程工作。Microsoft 报告称，它已在 H100、A100、RTX A6000 和 B200 硬件上通过 vLLM 提供服务，并指出 CPU 推理需要 float32，且“所需内存远多于约 9.1 GB 的权重文件”。如果唯一的考量是每 token 的美元成本，那么在这个用量下，通过 API 使用更强的模型胜出，而且优势明显。

这意味着，真正需要自己运行 UserRepGen-4B 的理由，是那些不会出现在价目表上的东西：你正在喂给它的对话。它自己的模型卡说，只能处理你有权处理的对话，先尽量减少可识别信息，并且其表征并不是匿名化数据——模型的行为描述在四名候选者中识别出某人的概率为 51.02%，高于它所总结的原始对话的 44.22%。一个能把对话转化为可移植、人类可读画像的组件，无论调用 API 要花多少钱，你可能都希望把它留在自己的网络内部。

在这样的流水线中，路由层适合放在哪里

这更常是一种双模型形态，而不是单模型形态：表征生成器运行在你自己的硬件上，而通用模型负责助手侧、评判，或围绕它的评估循环。后半部分就是通过 API 运行的那一部分。

全部三个已上线的 Qwen 3.8 成员都在 OrcaRouter 上按提供商标价提供，没有任何加价——Max 为 $2.00 和 $6.00，27B 为 $0.33 和 $2.40，Flash 为 $0.15 和 $0.47——共用一个密钥，并具备跨提供商自动故障转移，因此评估循环中的评判调用不会因单一上游而中断。如果你正在通过多个模拟器和评判器批量跑数百段对话，那么这种故障转移比每 token 费率更重要，因为一次在第 400 段对话时死掉的运行会浪费它之前的 399 段。路由 DSL 让你把助手和评判器组合成一次调用，而不是串联两次调用。我们不提供 UserRepGen-4B：我们的目录中没有它的条目，这里的内容也不应被解读为对 Microsoft 检查点的可用性声明。

这个决定，毫不含糊

如果你想要一个能推理、能编码、能读取图像并容纳一百万个 token 的通用模型，本文没有任何内容反对 Qwen3.8-Max——UserRepGen-4B 这些全都做不到，而它也没有参与同旗舰模型的比较。如果你想要一个以真实对话行为为条件的用户模拟器，Qwen 3.8 系列中也没有任何成员为此训练过，选择就介于一个小型本地微调模型和一个大型 API 模型之间：前者有可衡量的优势，后者则没有。

悬而未决的问题与整个发布所面临的问题完全相同：没有论文。模型卡上写着引用“待确认”，在仓库转为公开后，使用部分里仍留着一句关于该仓库为私有的说明，而保真度表中的每一个数字都可追溯到一个实验室自己的评判器。微软构建了一个模型，它击败了其测试过的最强基线。至于它是否能击败你的基线，只有你自己运行的评估才能回答。

把一个七个月前的微调模型与当前旗舰模型进行对比评测，也是追问过去出过哪些问题的好时机：围绕这一类模型有据可查的 AI 事故与智能体故障，都汇集在the OrcaRouter AI Incident Archive中，其中每条记录都附有各自的来源、严重程度、置信度评级和争议标记。