Pokee-Isaac 28B：1000万Token的上下文，以及一个Pokee不愿描述的架构

在Pokee-Isaac 28B的发布对比表中，有一列里六个模型中有五个得分为 0.0，而它下方的脚注比上方的数字更有意思。在 1000 万 token 的上下文长度下，Pokee AI 的新 28B 模型在 RULER 上得分 93.3，而所有被拿来与之对比的基线模型——GPT-5.6 Luna、Gemini 3.5 Flash Lite、Claude Haiku 4.5、Nemotron 3 Super 120B、Qwen 3.5 122B——都返回不了任何可用的结果。脚注解释说，这五个中有三个根本无法在 262K 以上的任何上下文长度下购买。所以这个分数是真的，而场上空无一人。这是两个不同的说法，而自 2026 年 8 月 5 日该模型问世以来发表的大多数报道都把二者混为一谈了。

这并不是否定 Pokee 所交付成果的理由。它恰恰是要求我们精确区分其中哪些部分已得到展示、哪些部分仅仅是没有受到质疑、哪些部分则根本没有被描述的理由。以下所有内容均来自四个一手来源：Pokee 自有控制台上的 Pokee-Isaac 模型页面、Pokee 开发者文档、该模型在 NanoGPT 上的转售商列表，以及 Pokee AI 和创始人 Zheqing（Bill）Zhu 的发布声明。本文中的每一个基准测试数字都由 Pokee AI 生成。Pokee 也明确这么说了——控制台指出，每个数字“均由 Pokee AI 在单一受控环境中测量，Isaac 和每一个基线都是如此，除非另有标注”——值得肯定的是，这意味着这些基线是重新运行的，而不是从其他厂商的公告中照搬的。这也意味着没有任何独立实验室复现过其中任何内容，而且截至今天，也没有任何一家公布过复现尝试。

Pokee实际交付了什么

这个模型的公开界面对于如此年轻的发布来说，文档记录得异常完善，因此在进入有争议的部分之前，值得先加以梳理。

• 模型 — Pokee-Isaac 28B，版本 v0，以 pokee-isaac 的形式从 api.pokee.ai 通过兼容端点提供服务。

• 规模与上下文——280 亿参数，对比 10,000,000 token 的输入窗口；Pokee 将其描述为“可端到端使用，而不仅仅是可寻址”。

• 输出 — 60,000 个词元，这既是默认值，也是硬性上限。

• 模态——文本输入，文本输出。不支持图像、音频和视频输入；考虑到该模型的构建基础，这一点值得注意。

• 价格 — 每百万输入 token 0.15 美元，每百万输出 1.00 美元，依据 Pokee 自家的价目表。

• 智能体功能 —— 在标准 chat-completions 架构中支持函数调用与结构化输出；该模型被定位为一个负责规划、执行与审查的智能体，而非聊天模型。

• 请求限制 — 请求体上限为 45 MiB，超过 16 MiB 的内容必须使用 SSE 流式传输（stream: true 外加 Accept: text/event-stream 请求头）。

• 速率限制 — 每分钟 500 次请求和 2000 万个 token，免费账户支持 10 个并发请求，付费账户支持 25 个。

• 部署 — 数据中心 B200、RTX 4090/5090 工作站、Intel Arc Pro 客户端显卡、边缘 NPU（Qualcomm 与 Intel Panther Lake，AMD 标注为待定），以及端侧设备，并提供 VPC 与本地部署授权，用 Pokee 的话说，“没有任何请求会离开你的边界。”

• 推理服务栈 — 在 vLLM 和 SGLang 中提供首日支持。

• 公司—— Pokee AI，由 Zheqing（Bill）Zhu 于 2024 年创立，他此前担任 Meta 应用强化学习负责人；种子轮融资 1200 万美元，由 Point72 Ventures 领投，Qualcomm Ventures 和 Samsung NEXT 参投。

权重未公开。媒体报道将该模型描述为“目前”闭源，这是 Pokee 自己的模糊表态，而非一项承诺，且并未公布发布日期或发布许可。

没人会描述的架构

Pokee 将 10M 窗口归因于“专有的非纯解码器架构”。这句话便是其全部技术披露。该控制台链接了一份技术报告，标题为 Pokee-Isaac 28B v0：一种 10M Token 上下文的高效智能体模型，日期为 2026 年 8 月 3 日；我们无法获取其公开副本，而能够获取到的发布材料均未说明其注意力机制、记忆方案或训练配方。

关于谱系，Pokee 的说法更为具体，而且这话说出来略显别扭：Isaac 的一部分权重是在 Qwen3.6-27B 的 Apache-2.0 许可下从其微调而来，另一些权重则由 Pokee 从零训练，结果“并非常规的微调”。这是一句措辞谨慎的话。它同时承认了基础，却否认了这种定性。

这也足以限制猜测，而这正是 AI 研究界立刻开始做的事情。以 @teortaxesTex 为名发帖的研究者在发布当天列出了约束集——部分基于 Qwen3.6-27B 微调、非仅解码器、10M 上下文、总计 28B——并提出了两个候选：“某种强化版 Memory Sparse Attention”或“不过是一个 1B 文档编码器”。这两个猜测都值得理解，因为它们并非无的放矢。

先从算术开始。Qwen3.6-27B 是一个稠密的 27B 模型，具有 262K 原生窗口、gated-delta 混合注意力，以及一个可以跳过的视觉编码器，以便以纯文本方式运行模型。Isaac 是 28B，且为纯文本模型。如果你去掉基础模型的视觉塔，再加上大约十亿参数的其他东西，你正好会得到 28B。把一个约 1B 的文档或记忆编码器加装到 27B 解码器上，是对 Pokee 公布的参数数量最简约的解读，而且这会让“非纯解码器”这一标签在字面上成立，同时又不构成一个新奇的主张。

Memory Sparse Attention 猜想指向一条真实且近期的工作脉络：MSA 论文（arXiv:2603.23516）将可扩展稀疏注意力与逐文档 RoPE 结合起来，从而在训练和推理中获得线性复杂度，还加入了 KV-cache 压缩以及一套“Memory Parallel”方案，并报告从 16K 一直到 100M token 性能下降不到 9%，其中 100M token 的推理在两块 A800 上运行。这与 Pokee 所宣称的结果形态相同，但规模再向外一个数量级，且来自另一个团队。除了形态相似之外，两者之间没有任何关联——MSA 不是 Pokee 的工作，Pokee 也没有引用它——但它表明，一种能在普通硬件上达到这些长度的解耦记忆设计，是已发表且可信的事情，而不是营销上的不可能。

Pokee 自己的材料中有一个数字，悄然支持“分离编码器”的解读。在单块 B200 上，100 万 token 上下文时的预填充吞吐量为 42,400 tokens/秒，1000 万时为 137,200 tokens/秒。吞吐量 上升超过三倍——当上下文长度增至十倍时。一个付出二次注意力代价的解码器则恰恰相反。无论是什么在消耗这些 token，随着你加入更多 token，它每个 token 的效率都会变得更高，这正是对文档进行批量编码而非普通预填充的特征。

为什么这些对决定是否使用该模型的人很重要：如果 10M 窗口是文档编码器加上压缩记忆，而不是 10M 条目的 KV 缓存，那么这里的“上下文”就不是你那套直觉所围绕的对象。当你向对话追加内容、在语料库中间编辑某篇文档，或指望前缀缓存能起作用时，它会如何表现，都是未明确的，而 Pokee 的文档压根没列出任何缓存机制。你无法根据规格表来推断这些行为，而眼下你也无法根据架构来推断它们。

在空房间里，10M 上的 RULER 只是一个实数

Pokee 的长上下文证据来自 RULER，在 256K、512K、1M、2M、4M 和 10M 上运行，每种配置各十个样本。Isaac 在这六个长度上的得分分别为 96.9、96.7、95.0、95.8、96.7 和 93.3 —— 它是评测组中唯一一个在每个长度上都返回分数的模型。

1M 以下的面板才是真实读数所在：

• 在 256K 时——Isaac 96.9，Nemotron 3 Super 120B 96.3，GPT-5.6 Luna 95.0，Gemini 3.5 Flash Lite 94.5，而 Claude Haiku 4.5 和 Qwen 3.5 122B 均为 0.0，两者的上下文窗口上限低于该长度。

• 在 512K 时 — Isaac 96.7，Nemotron 95.7，Gemini 3.5 Flash Lite 94.6，GPT-5.6 Luna 91.4。

在 1M 时——Isaac 95.0、Nemotron 91.8、Gemini 3.5 Flash Lite 29.4，以及 GPT-5.6 Luna 0.0，后两者均被标记为上下文溢出错误。

• 2M 及以上 — 仅 Isaac，其余均为 0.0。

接下来有三点。第一，在最高 1M 的范围内，Isaac 相对其他模型的领先只有一两个点，而不是代际差距——而唯一保持接近的基线 Nemotron 3 Super 120B，是一个 120B 模型，其 256K 到 1M 的数据来自 NVIDIA 自行上报的数字，Pokee 对此加以标注，并将其排除在逐行对比之外，而不是把它当作实测数据来蒙混过关。因此，在这些长度上最接近的竞争对手实际上并非同口径的测量，无论从哪个方向看都是如此。

其次，至少有一个空白看起来像是部署产物，而非模型限制。Pokee 通过 Azure 运行了 GPT-5.6 Luna，并将其窗口标注为“>272K 上下文”，记录了在 1M 时出现的上下文溢出错误。该模型供应商自己记录的窗口约为 1.05M token，这也是我们自己的模型页面所报告的。如果读者只看 1M 这一列的表面值，就会得出结论 Luna 无法处理 1M；更站得住脚的结论是，Pokee 测试的那个 Azure 部署无法处理。

第三，RULER 是一个合成的检索与聚合测试套件，而非推理基准。Pokee 在这里也坦承了一个方法上的小问题：256K 和 512K 两列对所有 13 种任务配置取平均，但从 1M 开始 common-words extraction 不可用，因此较长的列对剩下的 12 种取平均。所以，10M 时的 93.3 和 256K 时的 96.9 并非在完全相同的任务组合上评分。

更困难的长上下文测试止步于 1M

Pokee 页面上更具揭示性的基准测试不是 RULER，而是 MRCR v2。这是一项 8 针多轮共指任务：多个目标分散在一段长对话中，模型必须检索并消歧指定的某一个，因此部分召回和跨针干扰都会让你付出代价。在 0–1 的尺度上，当上下文达到 100 万 token 时：

• Pokee-Isaac 28B — 0.500

• Gemini 3.5 Flash Lite — 0.205

• Nemotron 3 Super 120B — 0.067

• GPT-5.6 Luna — 0.050

• Claude Haiku 4.5和Qwen 3.5 122B — 0.000，在该长度下没有可用内容

这是一个比 RULER 所产生的差距宽得多、也可信得多的差距，而模型的卖点正是在这里真正兑现。Luna 在 256K 的 RULER 上得分为 95.0，在 1M 的 MRCR 上得分为 0.050；单目标召回和多针消歧不是同一种能力，而后者会先崩溃。Isaac 的退化要平缓得多。

这也是此次发布中最大的单一证据缺口。MRCR v2 在 256K、512K 和 1M 上运行过——然后就停了。Isaac 自己在那里的得分是 0.607、0.743 和 0.500：非单调，而且在 1M 时只能检索出一半的针。没有任何人发布过 2M、4M 或 10M 上的多针结果，包括 Pokee 在内。10M 的说法完全依赖于两项测试中较容易的那一项，而且恰恰是在未尝试较难测试的那些长度上。如果你考虑这个模型，是因为你想把 25,000 页的语料放进一个提示里，并问一个答案需要从其中四个地方拼合而成的问题，那么这项具体能力在那个具体长度上并未得到测量。

在智能体任务上，Isaac 与 Luna 旗鼓相当，而非更胜一筹

Pokee 跑了四项智能体基准测试，而正是在这里，这家公司的坦诚显得格外不寻常：它自己的页面将结果概括为 Isaac 领先两项、在一项中排名第二、在一项中排名第三。这是准确的描述，却不是发布报道中的描述。

• BFCL v4，函数调用（由 AST 与状态转换匹配评分，而非 LLM 评判器）—— Isaac 70.94 对比 GPT-5.6 Luna 70.61，Claude Haiku 4.5 为 67.52，Qwen 3.5 122B 为 64.88，Gemini 3.5 Flash Lite 为 64.85，Nemotron 3 Super 为 33.13。

• τ³-bench，四领域平均（针对模拟用户的多轮客服任务，该用户的需求会在对话中途发生变化）——Isaac 0.662，对比 Gemini 3.5 Flash Lite 0.631、Qwen 3.5 122B 0.611、GPT-5.6 Luna 0.527、Nemotron 0.426、Claude Haiku 4.5 0.408。

• Terminal-Bench 2.1，纯文本子集 —— GPT-5.6 Luna 69.8% 对 Isaac 65.1%，之后 Gemini 3.5 Flash Lite 和 Qwen 3.5 122B 以 46.5% 并列，Claude Haiku 4.5 为 34.9%，Nemotron 为 24.4%。

• MCP-Atlas，跨实时工具服务器的声明覆盖率 —— GPT-5.6 Luna 77.90%、Gemini 3.5 Flash Lite 76.67%、Isaac 74.59%、Qwen 3.5 122B 70.24%、Claude Haiku 4.5 56.45%、Nemotron 48.95%。

BFCL v4 上 0.33 分的差距就是持平，Pokee 的页面也是这么说的，而不是称之为一场胜利。横向看全部四项，一个 28B 模型在智能体任务上与前沿厂商的快速档位互有胜负。对 28B 模型来说，这已是强劲的结果。但它并不是“前沿级智能体模型”对大多数读者所暗示的那种结果，这意味着选择 Isaac 的理由在于其窗口和部署边界，而不是其自主行动能力。

安全号码是这个面板能达到的最好水平，但仍然不够好

在 DTAP 这一提示注入测试套件中，Isaac 以 35.6 的综合得分在参评模型中取得了最低的攻击成功率，优于 Claude Haiku 4.5 的 37.9、GPT-5.6 Luna 的 50.1、Qwen 3.5 122B 的 54.0、Nemotron 的 60.4 以及 Gemini 3.5 Flash Lite 的 66.3。其直接与间接攻击的成功率相差不到一个百分点，因此至少在两种攻击途径上，其稳健性都保持在同一水平。

三点注意事项，全部来自 Pokee 自己的报告，而非批评者。间接测量是在防护未启用的情况下进行的。明确拒绝仅在 1.5% 的恶意任务上触发，Pokee 将此描述为当前大部分防御“是附带性的，而非主动拒绝的”——与其说模型能识别并拒绝攻击，不如说这些攻击未能有效地操控它。而在更广泛的 16 系统排行榜上，而非这六个模型的评测组中，Isaac 在直接攻击中排名第五，在间接攻击中排名第六，在能力方面排名第九：处于中游，而非领先。

安全也是有代价的。Isaac 的良性成功率为 82.5，低于 GPT-5.6 Luna 的 85.1——相比它在攻击上胜过的那个模型，它拒绝或搞砸的合法工作略多一些。而 35.6 意味着大约每三次注入尝试中仍有一次得手。对于一个其全部前提就是阅读一千万个并非由你撰写的文档 token 的模型来说，这才是应当围绕其设计护栏的数字，而不是让人感到安心的数字。DTAP 本身也值得敲响警钟：与 RULER、BFCL 和 τ³-bench 不同，它并非一个公认的公开排行榜，我们也找不到该测试套件的独立文档。

一次千万 token 的调用要花多少钱，以及你需要等待多久

一千万个 token 大约相当于 750 万个单词，或约 25,000 页。按 Pokee's 每百万 $0.15 计算，填满一次上下文窗口需要 $1.50。再加上一个按每百万 $1.00 计费、长度上限为 60,000 token 的回答，一次最大调用约为 $1.56。就所涉及的文本量而言，这确实很便宜，而且这是支持该模型最有力的简单论据。

时间才是真正的代价。在单张 B200 上，Pokee 报告在 10M 时首个 token 用时 72.9 秒——这正好等于 10,000,000 除以每秒 137,200 token 的预填充数值所得的结果，因此它是基准硬件上的数字，而不是实测的 API 延迟。Pokee 自己的开发者文档对开发者给出了不同的说法：对于数百万 token 的提示，至少要留出十分钟的客户端超时时间，因为大型提示在 1000 万 token 时可能需要“大约七分钟”。这在大约是吞吐量幻灯片与集成指南之间六倍的差距。两者都是 Pokee 的数字；文档里的那个才是你的超时配置必须采信的。

解码稳定在约 335 token/秒，无论常驻上下文有多少，这在架构上是个好消息，在实践上却是个尴尬的消息：完整的 60,000 token 输出在预填充之外还要花约三分钟。在消费级硬件上，情况又变了——在 Intel Arc Pro B70 上，Pokee 报告预填充为 1,087–1,500 token/秒（是原生 llama.cpp 的 3.6–5 倍），解码为 58.8 token/秒。对于客户端 GPU 来说，这些数字相当体面，但它们不是 1000 万 token 级别的数字。

输入本身的规模带来了两个实际限制。一千万个英文 token 大约是 38 MiB 文本，低于 45 MiB 的请求体上限，但远高于 16 MiB 的阈值，因此每一次真正装满窗口的调用都必须采用流式传输——这个主打功能没有非流式路径。而且，由于 Pokee 的 API 没有文档记载的提示缓存，每次重新查询同一语料库都要再花 1.50 美元，并再进行一次长达数分钟的预填充。NanoGPT 上的经销商条目确实公布了每百万 0.079 美元的缓存读取费率；如果这适用于 Isaac，那么一次缓存重读约为 0.79 美元——大约半价，而不是提示缓存在其他地方所意味着的那种数量级折扣。

对定价比较作一处更正，因为它会改变标题。Pokee 将 GPT-5.6 Luna 定价为每百万 $0.40/$1.80，来源为 Azure。供应商自己在 2026 年 7 月 31 日降价后对 Luna 的标价是 $0.20/$1.20，这正是我们为它设置的模型页面所显示的，因为 OrcaRouter 以 0% 加价将供应商标价直接传递，而不是加价转售赚取利润。对照正确的数字，Isaac 的输入价格比快速前沿层级便宜 25%，输出价格便宜 17%——仍然更便宜，但优势比面板所显示的要窄得多，而面板中总体上最便宜的输出价格属于 Nemotron 3 Super，为 $0.65。Isaac 的价格优势是真实存在的；只是它并不是这次发布中值得注意的部分。

真正新的那部分

剥掉基准测试的包装后，留下的东西非同寻常。一个拥有超长上下文的 28B 模型，能运行在 VPC 内、工作站 RTX 4090 上、Intel Arc Pro 显卡上，以及 NPU 级移动芯片上，并具备首日 vLLM 和 SGLang 支持以及本地部署许可证——这种组合在其他地方几乎无处可寻。Pokee 还声称，与标准实现相比，其 KV 缓存效率约为 5 倍，这是一个没有复现结果的厂商数据，但要让这套部署叙事成立，这类数字就必须是真的。

这类客户并不是在货比三家、想找更好智能体的人。他们是拥有庞大、敏感、基本静态的语料库的人——合同集、案卷、单体代码库、数月日志——这些语料在法律或政治上不能越出边界，否则他们就得构建一套检索管道来绕开 200K 窗口。面对这种替代方案，卖点并不是“比 RAG 更便宜”。对 25,000 页做嵌入和检索，每次查询也就几美分，而且永远如此。卖点在于：不需要调什么分块策略，不会损失检索召回率，也没有第二个系统需要与第一个保持同步。这笔取舍是否值得每次查询花 $1.50 和好几分钟，完全取决于你查询的频率。

谁应该现在就尝试，谁应该再等等？

如果你正在针对 100 万至 400 万规模的语料库做原型验证——这恰恰是 Isaac 数据表现最强的区间，而其他替代方案确实捉襟见肘——或者，如果 28B 的本地部署正是那个一直卡着你的硬性要求，那现在就来试试吧。免费档提供的十个并发请求，足以让你弄清楚这个模型阅读你文档的方式是否合乎所需。

如果你特别需要 10M 这个数字，而且你问的问题是跨多跳的，那就先等等，因为这种组合恰恰是没人测量过的。如果你需要多模态输入，那就先等等，因为该模型不接受这种输入。如果延迟很重要，那就先等等，因为一次全窗口调用要几分钟，而不是几秒。还要掂量一下显而易见的依赖风险：这是一个 v0 模型，权重闭源，来自一家拿了 1200 万美元种子轮的公司，而且它是世界上唯一提供它所宣传能力的模型。如果它消失了，没有第二家提供商可以故障转移。

最后一点是保持比较诚实的实际理由。Pokee-Isaac 28B 目前不在 OrcaRouter 上——如果你想要它，它存在于 Pokee 自己的 API 或经销商那里。但它用来衡量自身的五个基线中的三个，GPT-5.6 Luna、Gemini 3.5 Flash Lite 和 Claude Haiku 4.5，都在一个 OrcaRouter 密钥上，按提供商标价提供，这使得这个有用的实验搭建起来很便宜：用你实际的长上下文任务，在它们支持的上下文长度下对这三个模型运行，看看你的语料库是否真的需要一千万个 token，还是只需要 40 万个 token 再加上一个更好的提示词。如果它需要一千万，你就学到了每次调用价值 1.50 美元的东西。如果不需要，你就避免在单来源的 v0 上构建生产路径。

三个值得回答的问题

Pokee-Isaac 28B 只是一个微调版本吗？

按该说法的任何通常用法来衡量都不算，不过它也并非独立于那个基础模型。Pokee 的立场是：部分权重是在 Apache-2.0 下从 Qwen3.6-27B 微调而来，另一些则是从零开始训练的，而且其架构并非仅解码器（decoder-only）结构。这两半说法都与参数量相符：Qwen3.6-27B 是 27B 的稠密模型，带一个可跳过的视觉编码器；Isaac 是 28B 且仅处理文本，因此约十亿参数的新机制取代了视觉塔。这套机制究竟是什么尚未披露，而在披露之前，"并非常规微调"这一说法只是建立在 Pokee 的一面之词上，而非任何可核实的东西。基础模型上的 Apache-2.0 许可使这一衍生行为合法；但它并不能让结果的闭源发布显得不寻常——这一点值得指出，主要是因为如此具体的血统很少会被主动透露。

它真的能在 RTX 4090 上运行 10M token 吗？

单 GPU 的说法和 10M 的说法来自同一次发布，但并非来自同一项测量。Pokee 在 10M 上下文下发布的每一项吞吐量数据——预填充 137,200 tokens/秒、首 token 时间 72.9 秒——都是在单块 B200 上测得的。RTX 4090 和 Arc Pro 的数据是真实的，但引用的规模要小得多；Arc Pro B70 的预填充数据为 1,087–1,500 tokens/秒，这意味着 10M token 的预填充需要数小时。“可从 RTX 4090 起步，在单块 GPU 上部署”最好理解为：这是在说权重放得下、模型能有效提供服务，而不是说那个被当作宣传卖点的上下文长度在这张卡上具有实用性。

我应该用它替换 RAG 流水线吗？

仅凭这些证据还不能下结论，只有一个例外。当你的查询是多跳时，用替换检索的理由最充分——而这恰恰是分块检索处理得很糟的失败模式——并且超过 1M token 后的多跳性能正是 Pokee 没有测量的东西。MRCR v2 止步于 1M，而在那里 Isaac 只能检索到一半的针。例外是语料能轻松放进 1M–2M token 的情况：此时 Isaac 的实测数字很强，等待时间是几十秒而不是几分钟，而且去掉一个检索层能消除实实在在的运维复杂度。超过这个范围，就把窗口当作一种为原型避免搭建检索的手段，而不是删除一个已经能用的检索层的理由。

什么能了结它

四件事，没有一件需要信任任何人。一次独立的 RULER 或 MRCR 运行，在公共 API 上、由任何人进行，长度达到 2M 或以上。Pokee 在其已经宣传的长度上给出的 MRCR v2 结果。一份可获取的技术报告，其中明确指出机制，到那时编码器问题就不再是算术题，而成为事实。以及一次权重发布，而“暂时闭源”只是对此有所暗示，并未作出承诺。

在那之前，公允的总结比发布时的宣传更窄，也比怀疑论更有意思。Pokee AI 已推出一个 28B 模型：在长上下文检索上，它可量化地比你现在能买到的任何产品维持得更远；在智能体任务上，它与前沿快速档位打成平手；在自家评测组中最安全，在更广的评测组里处于中游；还能在同类能力模型都运行不了的地方运行。它还选择公布关于这项无人提供的能力的唯一现存数据，却不说明它是如何运作的。这两者都是一家年轻公司可以做出的选择。但两者都不能替代由公司外部的人来跑这项测试。