
Aion-1.0-Instruct-2.3B 对比 Gemma 4 12B:五倍的权重,十倍的证据
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 188 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 205 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 124 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 210 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 110 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
把Aion-1.0-Instruct-2.3B与Gemma 4 12B放在一起看,参数差距是它们最不有趣的地方。微软的这个检查点有 22.9 亿参数,于 2026 年 11 月 18 日悄无声息地上传到 Hugging Face;Google DeepMind 的则有 119.5 亿参数,采用 Apache 2.0 许可,自 2026 年 5 月起即可下载,其模型卡列出了完整评估表,社区下载权重的次数已超过一百万次。真正有趣的差距在于:其中一个模型已被陌生人审视过,而另一个则从未被任何人审视过。
这是一次对两个开放发布版本的比较,而不是对两个 API 的比较,因此下文中的每项说法都可以通过下载某些东西来核验。Aion-1.0-Instruct-2.3B 的数据来自模型卡及其仓库中的 config.json,二者都是今天直接读取的。Gemma 4 12B 的数据来自 Google 的模型卡,其基准测试数字是厂商自己的——由厂商报告,而非独立复现,这一区别对这里的两个模型都很重要。
没人能填得均衡的那张对比表
六个维度、两个方面,以及在某一方于该单元格中确实无内容可填之处加注说明。
• 参数 — Aion-1.0-Instruct-2.3B 是约 2.29B 的稠密模型,采用绑定嵌入;Gemma 4 12B 是跨 48 层的 11.95B 稠密模型。
• 许可证 — Aion 采用 MIT,Gemma 采用 Apache 2.0。在商业用途上,两者实际上都不受限制;MIT 在合规方面略为简单,因为它不附带需要斟酌的专利授权。
• 上下文 — 32,768 个 token 对比 256K,八倍差距,决定整个代码库能否装入单个提示词中。
• 输入 —— 仅文本,对比文本、图像与音频,而 Gemma 4 12B 的关键绝招在于它没有独立的编码器:图像块和音频波形直接投影到解码器的嵌入空间中。
语言——Aion 支持八种(英语、德语、西班牙语、葡萄牙语、意大利语、法语、中文、日语,多语言数据约占训练数据的 6%);Gemma 声称支持 140 多种。
• 已发布评估 — Aion:在具名测试框架上运行 11 项基准测试,全部由厂商执行。Gemma:15 项以上基准测试,外加视觉、音频和长上下文项目,全部由厂商执行。
微软的11个数字说明了什么
Aion 的模型卡比大多数低调发布的模型更为坦诚。它说明:在存在任务实现的情况下,基准测试运行在 EleutherAI 的 lm-evaluation-harness 上,否则运行在各基准自己的代码仓库上;依赖评判者的基准由 GPT-4o 评判;随后它列出了分数:MMLU 55.15、MMLU-Pro 33.35、MMMLU 45.51、GPQA 28.18、GSM8K 74.91、GSMPlus 49.56、MATH-500 48.00、IFEval 83.90、IFBench 32.00、Multi-IF 64.70、chrF++ 43.18。
其中两项在备注栏里带有修饰说明——GSM8K 是“宽松匹配”,IFBench 是“提示级宽松”——而模型卡并没有隐藏它们。这种披露正是营销团队会删掉、评估团队会保留的那类内容。这也意味着这些数字应被理解为下限,而不是宣传卖点:MMLU-Pro 上的 33.35 和 GPQA 上的 28.18 并不是任何人会主动拿来打头阵的数字。
这张模型卡对模型不能做什么也同样直言不讳。其局限性部分称,这种规模的小模型“可能遗漏细节、作出错误陈述,或表现出无法遵循复杂多步推理”,而建议部分称该模型“并未被训练成擅长世界知识”。这些是厂商的话,不是我们的,而且它们与得分相符,而不是相互矛盾。
Gemma 多出来的九十亿参数究竟去了哪里
Gemma 4 12B 的卡片列出了 MMLU Pro 77.2、GPQA Diamond 78.8、AIME 2026 无工具 77.5、LiveCodeBench v6 72.0、Codeforces ELO 1659、Tau2 三次运行平均 69.0、BigBench Extra Hard 53.0 和 MMMLU 83.4。它还给出了视觉方面的 MMMU Pro 69.1 和 MATH-Vision 79.7、音频方面的 CoVoST 38.5 和 FLEURS 0.069,以及在 128K 下 RULER 的 55.3。
直接把这些与 Aion 的表格相比会是不诚实的,因为几乎没有共享的基准测试,测试框架也不同,而且一个是纯文本模型,却要在奖励不同训练的任务上与一个多模态模型进行评分对比。能说的是方向性的,也很直白:在基准名称重合的那两行——MMLU-Pro 和 MMMLU——Gemma 分别报告高出 43.8 分和 37.9 分。这不是评分上的怪癖。这就是多出 97 亿参数和多七个月后训练所带来的东西。
更有用的观察是 Gemma 如何利用其规模。它的混合注意力将 1,024 个 token 的局部滑动窗口层与完整的全局注意力交错排列,而全局层共享键和值,并应用比例式 RoPE——这项工程设计的直接目标就是让长上下文内存保持平稳。Aion 则以更小的规模做同样的事:在其 28 层中的 21 层上采用 2,048 个 token 的滑动窗口。两个模型解决的是同一个问题;只是其中一个拥有五倍的预算来解决它。
Footprint 是 Aion 唯一完胜的一列。
在 bfloat16 下,Aion-1.0-Instruct-2.3B 约为 4.6 GB。Gemma 4 12B 在未使用量化器前大约为 24 GB,这使它只能跑在工作站 GPU 或经过大幅量化的笔记本电脑上,完全无法用于手机。这并不是对 Gemma 的批评——它从未面向手机——但这正是 Microsoft 的模型存在的全部理由。这张卡的定位是设备端 Windows:文本和操作系统任务在机器上完成,数据始终不离开设备。
诚实的提醒是,32K 窗口是通过扩展而非长序列训练达到的。配置中记录 original_max_position_embeddings 为 2,048,仅在完全注意力层上使用 YaRN 因子 16,并且尚未发布该模型的长上下文评估。因此,“32K”是配置上的上限,而非经证实的能力。Gemma 的 256K 至少有一行 RULER 结果作为支撑,由厂商运行,得分为 55.3——不算高,但确实存在。
因式分解决策,而非模型决策
这两者属于同一产品的不同层,团队最终通常也是这样使用它们的。Aion-1.0-Instruct-2.3B 负责设备端处理:脱敏、摘要、改写、分类,让文档留在本地。Gemma 4 12B 负责处理需要读取截图、转录音频片段、将 100K token 的代码库保留在上下文中,或涉及 Aion 支持的八种语言之外的语言的场景。两者并不互相替代,要避免的错误是:因为小模型可以免费下载,就用它去做需要大模型的任务。
当两者都从同一代码库调用时,运营成本不在于 token,而在于第二个 SDK、第二套重试策略和第二组凭据。这正是路由器体现价值之处:OrcaRouter 将200+ 个模型放在一个密钥之后,加价 0%(相对提供商标价),并提供自动故障转移和一种路由 DSL,可将请求沿模型链依次发送,而不是只发给单个模型。准确说明我们当前目录中包含和不包含什么:Gemma 4 系列部分存在——列出了 26B A4B 和 31B 变体——而 Gemma 4 12B 和 Aion-1.0-Instruct-2.3B 未列出,因为前者是自托管权重发布,后者在任何地方都没有托管端点。路由方面的论点适用于你最终与这些模型混用的任何同系列模型,而不适用于这两个检查点本身。
一种可安全失败的发布顺序
从你已有的工作负载上开始用 Gemma 4 12B,因为你可以对它进行测量。它的模型卡给了你一个分母,它的权重是稳定的,而你看到的任何性能回退都是你自己的回退,而不是三天前上传的版本造成的人为假象。
然后拿 Aion-1.0-Instruct-2.3B,针对你打算放到端侧运行的那个狭窄场景——比如邮件线程摘要或文档脱敏——用你自己的数据和自己的准确率门槛跑一遍。不要用它的 MMLU 作为你任务的代理指标;模型自己的模型卡就警告过,它并非为世界知识而训练,而 MMLU 上的 55.15 更多说明的是冷知识水平,而不是你的摘要能否经得起审阅。
只有到那时,才决定本地这一遍处理是替代托管调用,还是排在托管调用前面。行之有效的模式是那种很无聊的模式:小模型在本地完成第一遍处理,以置信度为门槛,把困难案例升级给更大的模型。这样就能在大多数流量上获得隐私属性,并把质量上限保持在需要的位置。

Google 的卡片上印着 Aion 的卡片目前还无法公平比较的数字:MMLU Pro 77.2、GPQA Diamond 78.8、MMMU Pro 69.1 以及 256K 窗口,均为厂商报告数据。
怎样才能让它成为一篇不同的文章?
对 Aion-1.0-Instruct-2.3B 进行一次独立的 harness 运行就能说明问题。撰写本文时,该仓库只有三个点赞、零次记录的下载,因此完全没有任何社区证据——没有论坛帖子,没有量化版本,也没有第三方评测。模型卡承诺后续会推出量化版本;一旦有 GGUF 发布,本地部署这件事就不再只是理论,下载量也开始有实际意义。
在那之前,这一比较仍维持原样:Gemma 4 12B 是一个已知量,有实实在在的成本,而 Aion-1.0-Instruct-2.3B 是一个非常小、非常新、文档坦诚的模型,其最有价值的特性是能在网络无法覆盖的地方运行。

微软的模型卡是 2.29B 参数量、八种支持语言以及 2025-12 知识截止日期的来源;其时间戳是唯一存在的发布信号。

并排对比:Aion 胜出的维度(占用空间),以及它不占优的维度(上下文、模态、语言,以及这些数字背后证据的深度)。
