Solar Open 2 250B：前沿智能体拿下高分，却无处可运行

Hugging Face 模型卡为Solar Open 2 250B 250B提供了一条服务命令，但这条命令根本跑不起来。它要求 vLLM 提供名为 solar_open2 的推理解析器、名为 solar_open2 的工具调用解析器，以及名为 SolarOpen2TemplateLogitsProcessor 的 logits 处理器——这三样东西在任何已发布的 vLLM 版本中都不存在。对该架构的支持直到 8 月 5 日才以一条未合并的 pull request 的形式进入主线，而 Upstage 于 7 月 22 日发布权重，中间隔了两周。这段空白至今仍是 Solar Open 2 最值得玩味的事实，也是每篇发布报道都跳过、只顾着贴基准表格的部分。所以这里给出另一个版本：Upstage 实际交付了什么；它自己的数据能证明什么、又不能证明什么；目前记录在案的那一项外部评分改变了什么；以及要从这东西里榨出哪怕一个 token 都需要付出什么——对照的基准是DeepSeek V4 Flash，也就是 Upstage 选作主要标尺的那个模型。

Upstage 实际上交付了什么

以下所有内容均来自该仓库自身的 config.json 以及 Solar Open 2 技术报告（arXiv 2607.20062）——这些是原始来源，但属于供应商自己的原始来源。目前还没有任何独立实验室发布过该模型自身的测量结果。如今出现了一个外部数据：政府第二轮评估中经媒体报道的 Artificial Analysis Intelligence Index 得分为 37。该数据将在下文的基准测试部分单独成段，因为它是被报道的，而非被复现的。

• 规模 — 总计 250,287,794,944 个参数，每个 token 约 15B 个活跃参数

• 稀疏性 — 320个路由专家加上1个共享专家，每个token路由到前8个专家，且first_k_dense_replace设置为0，这意味着混合从第0层开始，没有同类MoE设计通常保留的密集预热层。

• 形状 — 48层，隐藏层大小4096，头维度128，64个查询头对应8个键/值头

• 注意力机制 — 12个softmax（GQA）层，位于索引0、4、8直至44；其余36层为线性注意力。整个堆栈中四分之三的层不含softmax

• 位置 — use_rope 为 false。完全没有位置编码。

• 上下文 — max_position_embeddings 为 1,048,576

• 词汇表 — 196,608 个词元，涵盖英语、韩语和日语

• 权重 — bfloat16，即 500.6 GB。这正好是 2502.9 亿参数乘以两个字节，并且与 Nota AI 报告的非量化模型的占用空间相符。

• 训练——据报告约11.9T tokens：10T用于通用预训练，1T用于精选高质量子集，0.9T用于长度扩展，所述真实与合成数据比例为4:6，其中英语占比超过80%，数学和代码各至少15%。

• 许可证 — Upstage Solar 许可证，附带相关条款（见下文）

前代产品 Solar Open 1 是 1 月发布的 100B 模型。Solar Open 2 与其说是它的更新版本，不如说是一个截然不同的新事物。

架构才是真正的故事。

层结构是一个softmax层后接三个线性注意力层，重复十二次。这一部分已有报道。尚未报道的是选用哪种线性注意力，以及它为何重要。

线性层采用 KDA —— 即 Kimi Delta Attention，这是 Moonshot AI 为 Kimi Linear 引入的机制。Upstage 并没有发明新的线性注意力机制；它采用了别人的方案，然后改动了一处。这一改动在配置中体现为 kda_allow_neg_eigval 设为 true，报告解释了它的收益：标准 KDA 将状态转移特征值限制在 [0,1] 范围内，因此每一步只能向循环状态累加或使其衰减。设置该标志后，写入强度放宽为 beta = 2·sigmoid(·)，取值范围为 (0,2)，从而将特征值扩展到 [-1,1]。现在，一步操作可以翻转已存储内容的符号。通俗地说：状态可以自我修正，而不仅仅是累积——这正是 Upstage 声称的、在多次工具调用中维持长智能体轨迹连贯性的机制。

这十二个softmax层是采用逐元素sigmoid输出门的GQA——配置中use_gqa_gate为true——报告认为该设计增加了非线性并抑制了注意力汇聚点。

而没有RoPE的原因源于线性层。因为循环状态本身就对token顺序进行了编码，报告认为你可以完全删除位置编码，不再受限于训练时的长度分布。在这种框架下，RoPE是限制外推的因素；去掉它，上限就不再取决于你的训练数据。

1M这个数字是设计指标，而非实测值。

这个论点很优雅，也是 100 万 token 标题的全部依据。技术报告没有发布 RULER，没有大海捞针（needle-in-a-haystack），也没有任何类型的长上下文评测套件。这个窗口是从架构上论证的，而不是在基准测试上证明的。与此同时，我们能找到的唯一一份公开部署说明——Backend.AI，在两套 DGX Spark 系统上提供量化模型服务——将 max-model-len 设置为 200,000，而不是 1,048,576。架构上限可能是真实存在的。但在 500K 或 1M token 下还能保留多少质量，论文中根本没有提及。

这一效率声明也带有同样的星号：报告称，混合架构在100万上下文下所需的内存和计算量约为全softmax架构的四分之一；另外，混合设计在MMLU上达到目标损失所用的训练token比全softmax少约3.2倍。两者都是Upstage自己的数据。完全没有公布任何吞吐量或延迟数据。

基准卡，如实解读

在英语基准套件上，与DeepSeek V4 Flash相比，Solar Open 2 250B在MMLU-Pro上取得86.2分对85.9分，在LiveCodeBench v6上取得92.4分对92.3分——差异小到只能算作评分噪声。随后它在APEX-Agents上以16.6分对13.2分领先，这是唯一真正的差距，而且不出所料，这正是Upstage主打的领先数字。

这些失利也出现在同一份报告中，但获得的曝光较少。SWE-Bench Verified：70.4 对 73.8。GDPval-AA v2 在 ELO 上：1128 对 1187。Terminal Bench Hard：28.3，而 MiMo-V2.5 为 41.7。ArtifactsBench：55.9，落后于两个前沿基线。值得肯定的是，Upstage 在报告中指出了这些差距及其指向——仓库级和终端级软件工程，以及办公交付物中的数值精度——而不是掩盖它们。

真正令人印象深刻的比较是内部对比。与 Solar Open 1 相比：LiveCodeBench v6 从 56.5 升至 92.4，SWE-Bench Verified 从 15.4 升至 70.4，APEX-Agents 从 2.4 升至 16.6。无论你如何看待这些正面交锋，这都是在六个月内实现的真正的代际飞跃。

在韩语方面，整个套件的平均分为85.4，而DeepSeek V4 Flash为84.9——但起作用的是平均分。Solar Open 2 250B在KMMLU-Pro（78.4对78.9）和Ko-AIME'25（97.7对98.0）上失利，但赢下了Ko-GDPval（86.8对85.0）。这一领先来自交付基准，而非知识或数学。

这便引出了流传最广的那条说法：Solar Open 2 250B 能与一个规模大它六倍以上的模型相匹敌。其依据是 Ko-GDPval 基准，在该基准上它得到 86.8 分，而 DeepSeek-V4-Pro 为 86.9 分。那只是一个韩语基准，而且只是打平，并非正面获胜——而在英语套件中，V4-Pro 的较小姊妹模型已经在 SWE-Bench Verified 上击败了 Solar Open 2 250B。单个基准无法泛化为一条规模效率定律。还有一个相关的提醒：APEX-Agents 的基线数值在论文与二手报道之间略有差异（同一模型分别为 13.2 和 13.4），因此应将排序视为方向性的，而非精确的。

在偏好性测试中，一项针对835段韩语对话的盲测配对比较显示，Solar Open 2 250B以44.1%对26.6%的优势领先。报告将其在对齐与诚实方面的胜出归因于文化根基，而非额外的安全训练。值得注意的是缺失的部分：报告未包含任何形式的量化危害、拒答或越狱评估。

Hugging Face 卡片此后在其评估结果部分又增加了一些数字——GPQA Diamond 86.3、HLE 28.8 和 MathArena AIME 2026 95.7——但这些数字是从模型卡片本身提取的，而非来自独立运行的结果，因此它们与上述所有内容一样带有相同的标签：Upstage 的数据，未经复现。

现在已经出现了一个并非来自Upstage实验室的外部数字。8月13日，韩国财经媒体——Edaily、《首尔经济日报》、ITDaily和iNews24——均发布了相同的数字，报道了政府主权AI项目第二轮评估得分，该评估基于Artificial Analysis的智能指数（AAII v4.1.1）进行衡量：Motif 3为47分，Solar Open 2 250B为37分，SK Telecom的A.X-K2为35分，LG AI Research的K-EXAONE 2.0 0803为31分。37分使Solar Open 2 250B在四名韩国入围者中位列第二，落后Motif 3达十分。需要精确地界定：这是媒体报道——该分数并未出现在Artificial Analysis自己的排行榜上，该排行榜对此模型仍无显示——同时相关报道指出，AAII不包含韩语基准测试，对于一个其国内表现是其宣传核心的模型来说，这确实是一个盲点。然而，这是对Solar Open 2 250B首次不源自Upstage的评测，与本文其余部分一致：智能体与交付能力得分强劲，而其他许多方面仍未得到供应商外部的验证。

为什么没有人能在原生软件上提供它？

模型卡本身比任何评论都更能说明问题。上个月的下载量已突破26,000次，同时还有743个赞、十六个社区量化版本和三个微调版本——而在Inference Providers（推理提供商）一栏中，"This model isn't deployed by any Inference Provider"（此模型未由任何推理提供商部署）这句话依然保留着，现在有十几个人被列为在卡片上请求提供商支持。真实的兴趣，零托管端点。

顺着实际部署走，最终都会通向一个 fork。Nota AI 的 NVFP4 构建将安装固定在 git+https://github.com/UpstageAI/vllm.git 的 v0.22.0-solar-open2 标签上——也就是 Upstage 自家的 vLLM。Backend.AI 关于 DGX Spark 的文章需要那个 fork 外加打过补丁的 FlashInfer，因为上游 FlashInfer 不支持专家并行，也接受不了 compressed-tensors 格式。

主线支持是指针对 vllm-project/vllm 的拉取请求 51129，由一位名为 oesni 的贡献者于 8 月 5 日发起。该 PR 目前仍处于开启状态：8 月 10 日，mergify 标记了合并冲突，因此该 PR 现在带有 needs-rebase 标签，并且仍在等待审查。那个 PR 所必须构建的内容，是公开资料中对这个模型难度最坦诚的描述：

• 在新的 solar_open2.py 中，一个 Solar 专属的 KimiGatedDeltaAttention 层，携带来自负特征值变化的 2·sigmoid(b) beta

• vllm::solar_open2_kda_attention 操作已注册为 CUDA 图分割算子

• 在profile阶段执行的KDA预填充预热，token上限为2048；专门添加这一机制，是因为如果没有它，实际预填充的运行速度会慢约23%。

• 适用于流式和非流式模式的推理输出与工具调用解析器

• 在 8×B200 上进行服务验证，报告每个 rank 的 KV 缓存为 107.02 GiB，另有 463 个单元测试通过

那些是PR作者的数据，尚未被其他人复现，代码在合并之前仍可能更改。但把那份列表与架构部分对照来看，问题的轮廓就很明显了：让Solar Open 2 250B在长上下文下运行成本低廉的两个选择——四分之三层使用KDA，以及不用RoPE——恰恰是通用推理栈没有现成代码路径的选择。权重的开放与运行路径的开放是两回事，而7月22日发布的只是其中之一。

挺身而出的代价

先从内存下限说起。500.6 GB 的 bfloat16 权重，对比 H200 的 141 GB 显存，意味着四张 GPU 提供 564 GB——在单个请求落地之前，整个节点上只剩约 63 GB 用于 KV 缓存和激活值。这就是为什么规格表将四张 H200 列为最低配置并推荐八张，也是为什么 FlexAI 将其作为专用 8×H100 端点提供，采用询价制而非共享的按 token 计费 API。

量化大幅拉低了这一下限。Nota AI 的 NVFP4 构建（4 位权重和激活，组大小 16，采用 compressed-tensors 格式）将模型从 500.6 GB 降至 153.3 GB，而他们自己的评估显示，四个基准测试的平均准确率损失为 0.22 分——从 81.57 降至 81.35，其中 Tau2-Bench 为 75.20 降至 75.08，GPQA-Diamond 为 86.26 降至 85.45，MMLU-Pro 为 86.19 降至 86.15，而 LiveCodeBench 则反向变动，从 87.03 升至 88.55，这属于量化噪声，而非改进。问题在于硬件：NVFP4 需要 Blackwell 引入的 FP4 张量核心，因此仅支持 B200 或 GB200，Hopper 上完全无法运行。如果你使用的是 H100，那么你需要的变体是他们的 INT4 全局剪枝构建——剪枝后为 117.8 GB，大小正好适合装进两张 H100。

现在，决定这一切的是算术。DeepSeek V4 Flash——再说一次，这是Upstage选择用作对比基准的模型——在OrcaRouter上的定价为每百万输入token 0.15美元、每百万输出token 0.29美元，这是DeepSeek的标价以0%加成直接转售。按3:1的输入输出比混合，综合价格约为每百万token 0.185美元。以一个八GPU节点为例，假设每GPU小时2美元，那么在任何人发出请求之前，你每月就要支出约11,700美元——相当于约630亿混合token的API流量，也就是每天21亿token，而且每天如此，才能勉强达到收支平衡。缩减到双GPU节点，收支平衡点降至每月约160亿token。你可以代入自己的GPU价格，整体形态不会改变。自托管250B模型，关乎的是利用率和控制权，而不是折扣。

准确说明一下哪些可用、哪些不可用：Solar Open 2 250B 不在 OrcaRouter 上，而且按照它自己的模型卡说明，它也不在任何推理提供商那里。OrcaRouter 上提供的是它被拿来衡量的参照对象——DeepSeek V4 Flash、Qwen3.8-Max，以及另外数百个模型，全都整合在一个密钥后面，按提供商的列表价格计费，并且如果某个提供商宕机，会在各提供商之间进行故障转移。这一点在此之所以重要，是出于一个具体而实际的原因：如果你真正想回答的问题是"经过智能体调优的模型能否胜过我们已在生产环境中使用的模型"，你可以在今天下午就通过修改一个模型字符串来完成那一半对比，而另一半所需的 GPU 报价还在采购流程中。

许可证上的两个字符串

Upstage Solar 许可证允许商业使用、微调和蒸馏，Upstage 将其描述为基于 Apache-2.0 并添加了品牌条款。需要仔细阅读的是新增的两项义务：衍生模型必须在名称中使用“Solar”前缀，并且你必须显示“Built with Solar”署名。

就内部部署而言，这不算什么事。如果你打算将其提炼成以自有产品品牌发布的东西，那么命名条款就是披着许可条款外衣的品牌决策，在开始训练之前，值得花律师二十分钟时间过目。请阅读仓库中的条款本身，而不要轻信相关报道——关于这个许可证的报道一直很随意，至少有一篇文章直接把它描述为 Apache 2.0。

谁现在应该行动，谁应该等待

如果韩语或日语的交付质量就是你的产品，而且你能把权重部署到已有的硬件上——这种组合正是“开放权重、无端点”所擅长的；Upstage 自己的表述也很明确：主权意味着能够自行部署和验证模型，而不仅仅是在本国训练。如果你有闲置的 GPU，并且有足够量的 agent 工作负载来填满它们，那就迁移吧，因为在真实利用率下，每个 token 的账算下来就会反转。如果审计或数据驻留要求意味着 API 从来就不在考虑之列，那就迁移吧。

等等，如果你想要一个按 token 计费的端点。Upstage 已表示打算在第三方平台上架 Solar Open 2 250B；截至撰写本文时，这还没有发生——Playground 试用只运行到 7 月 31 日，模型卡上仍然没有显示任何提供商。另外，如果你使用的是 Hopper，并且指望 4-bit 版本，那就要再等等了，因为 NVFP4 版本需要 Blackwell。还有，在围绕 1M 上下文数字设计任何东西之前也请等等，这个数字目前只是架构的一个属性，而不是实测结果。

值得关注的是拉取请求51129——8月10日，在Mergify标记出合并冲突后，它被加上了"needs-rebase"标签。当Solar Open 2 250B出现在带标签的vLLM发布版本中时，它就不再是一个基础设施项目，而变成了任何人都能直接试用的模型。媒体报道的AAII 37分只是一个开始——这是第一次外部评测，尽管是初步结果，但它仍未出现在Artificial Analysis自己的排行榜上。真正的考验是在标准软件上运行的那个，而它还没有确定日期。