一张生成的双卡片对比,标题为"UserRepGen-4B vs LFM2.5 2.6B Base——原材料 vs 成品零件",主标题为"一个是你要微调的对象。另一个是产出的成果。"左侧卡片 LFM2.5 2.6B Base 列出:角色为用于微调的基础检查点,参数量 2.69B,采用混合卷积与 GQA,上下文 131,072 tokens,格式为原生 GGUF、ONNX 和 MLX,指令微调:刻意未做,下载量约 6,282。右侧卡片 UserRepGen-4B 列出:角色为成品单用途模型,参数量为 4B 级外加 rank-64 LoRA,上下文为 8,192 输入和 1,024 输出,格式为单个 bf16 safetensors 文件,指令微调:是,但仅针对单一任务,撰写时下载量为零。页脚写着"Liquid 的数据依据其模型卡;Microsoft 的数据由厂商提供。"OrcaRouter 标志合成于右下角。
Guides & Insights

UserRepGen-4B 与 LFM2.5 2.6B Base:原材料与成品

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

要看出区别,最快的方式是看microsoft/UserRepGen-4B与LFM2.5-2.6B-Base各有多少种发布格式。Liquid AI 的 26.9 亿参数检查点以四种方式发布——原生 Transformers 权重、用于 llama.cpp 的 GGUF、用于跨平台运行时的 ONNX,以及用于 Apple Silicon 的 MLX——因为它的存在就是为了供他人适配和部署。Microsoft 的UserRepGen-4B只以一种方式发布:单个未量化的 bfloat16 safetensors 文件,大小为 9,078,620,536 字节,其模型卡直言“目前没有可用的优化格式或特定设备格式”。一个是原材料。另一个是成品件。它们不是竞争对手;它们是同一项工作的两个连续阶段,而把它们并排放在一起,是看清从开始微调到交付微调模型之间究竟发生了什么变化的最清楚方式。

栈中的两个位置

LFM2.5-2.6B-Base是 Liquid AI 的 LFM2.5 系列底层的预训练检查点——所有后训练变体都基于它构建。它有意从未经过指令微调。它自己的模型卡仅建议将其用于“需要大量微调的任务,例如特定语言(如日语)或特定领域(如医疗)的助手、在专有数据上进行训练,或试验新颖的后训练方法”。向它提问,它会续写你的文本而不是回答,因为回答从来就不是其训练的一部分。

UserRepGen-4B就是下一步的样子。Microsoft 拿来了 Qwen3.5-4B,给它加了一个 rank-64 的 LoRA,在 2026 年 7 月至 8 月期间通过事后蒸馏进行在线监督微调,并于 10 月 14 日发布了结果——没有公告,也没有论文。它只做一件事——读取一段多轮对话,并写出其中关于用户的两字段 JSON 描述——除此之外什么也不做。

所以,诚实的表述不是“哪个更好”。而是:其中一个是你要微调的东西,另一个则是实验室通过微调别的东西所产出的结果。

A generated two-column scoreboard headed "UserRepGen-4B vs LFM2.5 2.6B Base - the scoreboard", titled "What changes between starting a fine-tune and shipping one". The UserRepGen-4B column reads: stage shipped artifact; parameters 4B-class; context 8,192 prompt tokens; ships as one bf16 file; licence MIT plus Apache 2.0; languages English only. The LFM2.5 2.6B Base column reads: stage raw material; parameters 2.69B; context 131,072 tokens; ships as native, GGUF, ONNX and MLX; licence LFM Open License lfm1.0; languages 16 named. A footer reads "Both sets of figures are the vendors' own; neither independently reproduced." The OrcaRouter logo is composited bottom-right.

下载究竟给了你什么

• 参数量与占用空间 — LFM2.5-2.6B-Base 采用混合架构,参数量为 26.9 亿;UserRepGen-4B 属于 4B 级模型,其公开的权重文件为 bfloat16 格式,大小约 9.1 GB,且没有更小的版本可供使用。

• 上下文 — Liquid 检查点支持 131,072 个 token,而 Microsoft 检查点的训练序列为 9,216 个 token(提示 8,192 个、补全 1,024 个),且明确不支持扩展使用。

• 格式 — GGUF、ONNX 和 MLX 与原生权重并存,而不仅仅是一个 safetensors 文件。

• 许可证——一边是 LFM 开放许可证(lfm1.0),另一边是 MIT 加上继承而来的 Apache 2.0。两者都足够宽松,可供在其之上构建;但它们并非同一份文件。

• 语言——Liquid 卡上有十六种具名语言,微软的仅有英语。

• 采用情况——LFM2.5-2.6B-Base 自 2026 年 8 月 1 日起公开,目前下载量约为 6,282 次、点赞数为 51。UserRepGen-4B 于 10 月 14 日上传,本文撰写时这两项数据均为零。

那些行中只有一行与质量有关,其余的则关乎这个东西能否通过你现有的那扇门。

A headless-browser capture of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, showing the Liquid AI organisation, 51 likes, Text Generation and Safetensors tags, a 16-language marker, and the family table listing LFM2.5-2.6B-Base as the pre-trained base model for fine-tuning beside LFM2.5-2.6B as post-trained for agentic workloads, followed by the feature list giving 2.69B total parameters, 30 layers made of 22 double-gated short convolution blocks plus 8 GQA, and a 131,072-token context length.

为截然对立的房间打造的两种架构

Liquid 将 LFM2.5 描述为“一个专为端侧部署而设计的新混合模型系列”,基础检查点的形态也正源于此。三十层,其中二十二层是双门控短卷积块,八层是分组查询注意力,外加 128,000 个词元的词表和 34 万亿 token 的训练预算。卷积块内存开销低、延迟可预测;整个设计面向手机、笔记本电脑和边缘设备。

UserRepGen-4B 继承了相反的假设。其骨干是一个标准的 Qwen3.5 条件生成堆栈——32 层、2,560 隐藏维度、16 个注意力头(含 4 个键值头)、248,320 词元的词表,以及一个从父模型原封不动沿用的视觉塔,尽管该模型是纯文本的且明确不支持图像。微软报告称在 H100、A100、RTX A6000 和 B200 GPU 上使用 vLLM 托管它。那是一份服务器部件清单,而非边缘设备的。

一个团队在两者之间做选择,实际上就是在选择接受哪种约束:设备端内存,以及一个你必须通过微调才能调校到位的运行时;还是数据中心硬件,以及一个已经能胜任其本职工作的模型。

微调究竟在哪里改变了数字

这正是对比中基座模型按定义无法回答的部分。LFM2.5-2.6B-Base 不发布任何任务基准,因为基座检查点没有任务——该系列的质量数据属于经过后训练的兄弟模型。

UserRepGen-4B 发布了一项,而这是整个发布中最有力的证据。在一项包含 700 段对话的保真度评估中,按 1 到 10 分制评分:

• Qwen3.5-4B base,未经适配的骨干模型——best-of-1 为 3.41,best-of-3 为 4.42。

• GPT-5.5在开箱即用状态下被要求完成同样的任务——3.90 和 4.90。

• UserRepGen-4B — 4.95 和 6.02。

每一个数字都来自微软自己,产生于一个由 GPT-5.4 mini 同时充当模拟器、助手和评判者的循环中。没有任何一项被独立复现。但结果的整体形态才是重点:把一个 4B 基础模型在狭窄任务上微调到超过前沿通用模型,是一个真实、可衡量的结果,而这正是 LFM2.5-2.6B-Base 存在的意义——让别人的任务也能实现这一点。微软的模型卡还显示,两种显而易见的强化学习替代方案——OPSD 的 4.46/5.60 和 GRPO 的 3.57/4.59——都输给了普通的监督微调,这是对“更重的方法会赢”这一假设的警告。

其中一个有隐私页面,而且它不是基础版。

预训练基础模型没有隐私部分,因为它不对人作出任何声称。UserRepGen-4B 则有,因为它会。其模型卡报告称,在超过 147 名用户中,一个负责判断四段对话中哪一段来自同一个人的选择器,使用模型的行为描述得分为 51.02%,而基于原始对话为 44.22%,随机为 25%——摘要比原始材料更能识别出本人。微软将其标记为可链接性风险,并指出这些表征并非匿名化数据。

这种不对称是结构性的,而非任一发布版本中的缺陷。一旦模型的输出是对某个人的描述,伦理界面就会改变,而模型卡必须承载这一点。任何为了类似目标微调 LFM2.5-2.6B-Base 的人,都应料到需要为自己撰写同样的章节。

基础的选择日后会决定什么

A headless-browser capture of OrcaRouter's own model page for qwen/qwen3.5-27b, showing the Qwen3.5-27B heading, Vision, Tools, JSON and Reasoning badges, the description of it as an open-weight dense multimodal model with text, image and video input, prices of $0.09 and $0.69 per million tokens, a p50 TTFT of 4.45 seconds, and the OpenAI-compatible code sample whose base_url points at api.orcarouter.ai/v1.

借用基础模型存在一个二阶后果,它在微调阶段很少被考虑:它决定了你六个月后能调用什么。微软基于 Qwen3.5-4B 构建,而该系列是有商业服务的——Qwen3.5-Flash以每百万输入 token 0.10 美元、每百万输出 token 0.40 美元的价格提供超过百万 token 的上下文,Qwen3.5-27B为 0.086 美元和 0.688 美元,Qwen3.5-35B-A3B为 0.057 美元和 0.459 美元,全部可通过一个 OrcaRouter 密钥按供应商标价访问,不额外加价,并且全都可以置于自动故障转移之后,这样只存在于你自己磁盘上的研究检查点就不会成为流水线中的单点故障。我们不提供 UserRepGen-4B,也不提供 LFM2.5-2.6B-Base——两者都需要自行下载,而你从 Liquid 检查点微调出的小模型将由你自己托管。但循环中的助手一侧、评判者或回退路径,都可以是你已有密钥上的一次 API 调用。这是你在开始时就做出的设计决策,就在你选择要适配哪个基础模型的时候。

你到底想要哪一个?

如果你有一个任务却没有对应的模型,LFM2.5-2.6B-Base 就是合适的起点:它足够小,能在普通硬件上微调;混合架构也足够强,能跑在设备端;而且训练完成后,你需要的各种格式它都已提供。如果你有一套用户模拟流水线,并且需要一个能把已完成的对话转化为可移植的行为描述的组件,那么 UserRepGen-4B 已经存在,而它是单一格式的单一文件,这一点是一种局限,而不是重做这项工作的理由。值得关注的是,微软是否会为它补上一篇其模型卡仍承诺的论文。对 Liquid 来说,悬而未决的问题不同,也更早:哪些团队会接手这个基座,以及他们会用它做出什么。

基础模型生来就是为了被适配,而适配正是出问题的地方:这一类模型相关的已记录 AI 事故与智能体失效案例,都汇总在the OrcaRouter AI Incident Archive中,每一条记录都带有各自的来源、严重程度、置信度评级和争议标记。