Tiny Aya Base 32K vs Tiny Aya En-Thinker：親子であって、競合ではない

2つのHugging Faceリポジトリ、それぞれ4つのsafetensorsシャード、そしてシャードサイズはバイト単位で一致している — 1,998,698,496 / 1,996,494,056 / 1,996,494,088 / 708,852,792。Tiny Aya Base 32KとTiny Aya En-Thinkerは、同じ問いに対する2つの研究所の答えではありません。それらは同じ3.35B Cohere2アーキテクチャの異なる2つの段階にあり、Cohere Labs自身のモデルカードもそう明言しています。ベースチェックポイントは「Tiny Aya L2-ThinkerおよびTiny Aya En-Thinkerのベースモデルとして使用される」と。

それでは、よくある一騎打ちの構図は成り立たない。あなたは競合する2つの3B多言語モデルのどちらかを選んでいるのではない。出発点と完成品のどちらかを選んでいるのだ——そして興味深いのは、両者の間にあるポストトレーニングの工程が実際に何をもたらし、何を犠牲にしたのか、さらには、両方とも同じ非商用ライセンスの下にあり、どちらも公表されたベンチマークを一つも持たないことを踏まえると、どちらかがあなたの考えている用途に使えるのかどうかだ。

関係に決着をつけるたった一言

通常、「vs」の記事では、2つのチェックポイント間の関係をアーキテクチャとパラメータ数から推測しなければなりません。ここではその必要はありません。

Tiny Aya Base 32K のカードはそれを明快に述べている。そして、その一文が置かれている場所ゆえに、注意深く読む価値がある——脚注ではなく、モデルの概要の中、チェックポイントの説明と開発者クレジットの間に：

"これはベースの事前学習済みモデルであり、インストラクション・チューニングや選好アラインメントは行われていません。 このチェックポイントは、Tiny Aya L2-Thinker および Tiny Aya En-Thinker のベースモデルとして使用されています。"

それが一段落に値するのは、それが露呈させる不整合のためだ。En-Thinker自身のカードにはBase 32Kの名前がない。その結びの一文は読者を「tiny-aya-global, tiny-aya-base, tiny-aya-l2-thinker」へと導く——そしてtiny-aya-baseは2月のチェックポイントで、8Kコンテキストとして文書化されており、En-Thinkerの親だと称する32K版ではない。En-Thinkerは自身のカードで32Kを主張している。モデルを、事前学習時のウィンドウより4倍広いウィンドウへと事後学習させることはできない。だから8Kベースが答えになるはずはなく、32Kベースの主張は計算に合うが、En-Thinker自身のポインタは合わない。

おそらく平凡な説明だ。Base 32K がアップロードされたのは 2026年9月8日、その6日前に Thinkers が登場した。したがって、En-Thinker のカードは親が存在する前に書かれ、その後更新されていない。それはタイムスタンプからの推測であり、ベンダーの声明ではない — しかし最も少ない仮定で済む読み方であり、ファミリー内で最新の文書が最も情報量が多いことを意味する。

次元ごとに

以下はすべて、2つのカードが述べている内容から重複を除いたものです — どちらも3.35B、BF16、テキスト専用、Cohere2ForCausalLM、CC-BY-NC-4.0、ゲート付き、ベンチマーク未実施です。

• ステージ — Tiny Aya Base 32Kは事前学習済みのベースモデルであり、「指示チューニングや選好アラインメントは施されていない」。Tiny Aya En-Thinkerは、英語の推論トレースを用いた多言語推論データで事後学習されている。

• チャットテンプレート — Base 32K は chat_template.jinja を一切同梱していません。En-Thinker は同梱しており、そのカードはターンをどのようにレンダリングするかにセクション全体を割いています。

• プロンプトのスタイル — Base 32K 自身の例は補完です（prompt = "The capital of Spain is"）。En-Thinker はapply_chat_template() をメッセージリストとともに期待します。

• 推論モード — Base 32K には推論モードがありません。En-Thinker はデュアルモードで、付加するのは /think をデフォルトで、そして英語で思考トレースを出力します。または /no_think を enable_thinking=False とともに指定すると直接回答が得られます。

• 言語スコープ — Base 32Kのカードは70以上の言語での訓練を主張し、67言語を明示している；En-Thinkerは「44言語＋英語」をカバーし、英語の推論トレースを備え、追加の非推論命令データを通じてさらに20以上の言語へ拡張している。

• アーキテクチャのフットプリント — 同一。同じ4つのシャードサイズ、同じパラメータ数、同じ設定ファイルの長さ。

• コンテキスト — 両方のカードで32K入力＋出力。どちらも検証不可：どちらの構成もライセンスゲートの内側にある。

• ベンチマーク — どちらのカードにも記載なし。どちらのモデルについても第三者による評価は存在しない。

• Traction — Base 32K はダウンロード数ゼロ、いいね1件。En-Thinker はダウンロード数7件、いいね2件。どちらも推論プロバイダーのカタログには掲載されていない。

ポストトレーニングのステップがもたらしたもの

3つのこと、いずれも構造的というより行動的なものだ。

最初のものは、使えるインターフェースです。チャットテンプレートのないチェックポイントは、プロンプトを与えるモデルではなく、続きを書かせるモデルです。Base 32K との会話はすべて、自分でテキストにシリアライズしなければなりません。モデルカードにもそう書かれています。「プロンプトにはチャットテンプレートではなくテキスト補完を使うべきです。会話アシスタントとしてデプロイする前に、追加のポストトレーニングが推奨されます。」En-Thinker はその判断を、トークンの配置に至るまで、すでにあなたに代わって下しています。

二つ目は、スイッチとしての推論です。En-Thinkerの/thinkと/no_thinkモードでは、同じ重みが思考タグの間に可視の思考連鎖を生成するか、直接回答するかを選べます。また、カードには、以前の思考ブロックをアシスタントのターンとして会話に戻す方法が記載されています。これはポストトレーニングによる産物であり、ベースチェックポイントにはそれに反応するものは何もありません。

三つ目は、En-Thinker の中心にある設計上の賭けです。つまり、質問と答えが別の言語であっても、推論は英語で行われるというものです。このカードは、これが Tiny Aya L2-Thinker、すなわち「プロンプトと同じ言語で考える」ものとの違いであると明示しています。高リソース言語で計画し、低リソース言語で答えることが実際に役立つかどうかは、未解決の研究課題であり、En-Thinker はそれを決着させるためではなく、人々が試せるようにするために存在します。Base 32K は、推論モードをまったく持たないため、この問いについては何も語りません。だからこそ、この問いに答えようとする人にとって、適切な対照なのです。

ポストトレーニング段階のコストはいくらだったのか

正直な答えは、誰にもそれを定量化できないということだ。なぜなら、どちらのモデルも何に対しても評価されていないからだ。しかし、2枚のカードを合わせると、トレードオフがどこに潜んでいるのかがほのめかされる。そしてそれは、あなたが予想する場所ではない。

それは言語カバレッジではない。En-Thinkerの狭い44以上の英語推論範囲は、その性質が推論トレーニングデータにある。また、カードには、カバレッジは「追加の非推論インストラクションデータ」を通じてさらに20以上の言語に及ぶと書かれている——つまり、モデルは依然としてそれらを扱うが、思考パスなしで扱うだけだ。コンテキストウィンドウでもない。どちらも32Kを主張している。

それは振る舞いの幅だ。Base 32Kのカードには、想定用途として「継続的な事前学習、指示チューニング、多言語および長文脈の言語モデリングに関する研究」が挙げられており、下流アプリケーションとして多言語テキスト生成、要約、翻訳、言語間適応がすべて明記されている。En-Thinkerのカードはより狭い：「数学、科学、一般的な推論タスク、および指示追従と多言語オープンエンド生成」。事後学習済みチェックポイントは、ベースチェックポイントにはない形で強い指向性を持っており、Base 32Kのカードが指摘する制限——「多言語数学のような思考連鎖推論タスクは比較的弱い」——は、まさに事後学習が修正しようとした弱点である。

つまり、このファミリーは競争ではなく分業として読める。ベースは広く未完成であり、En-Thinkerは狭く完成している。そしてベースカード自体のテキストが、それをまさにその通り——両方のThinkerが形作られた基盤——と呼んでいる。

ライセンスこそが実際に拘束する制約である。

どちらのモデルもCC-BY-NC-4.0で、その上にCohere LabsのAcceptable Use Policyが重ねて適用され、どちらもファイルをダウンロードする前に規約に同意して登録するよう求める同じゲートの背後にあり、商用に関する問い合わせはどちらもCohere Salesに回されます。

これは技術比較の前に述べておく価値がある。なぜなら、多くの読者にとってこの点が問いの答えを決めるからだ。計画が商用製品なのであれば、Cohereとの話し合いなしには、どちらのチェックポイントも候補にはならない。そして、どれほど長いコンテキストでの挙動や推論モードの柔軟性があっても、その事実は変わらない。非商用でまったく問題ない場合——学術研究、社内研究、ベンチマークハーネス、自前のモデルとの比較——には、ライセンスは無関係であり、技術的な選択がすべての判断となる。

どちらもベンチマークされていません。それでも選ぶ方法をご紹介します

数値がないというのは事実であり、もっと注意深く読んでも解決するものではない。両方のカードは性能に関する主張を一切しておらず、どちらのモデルもリーダーボードに載っておらず、どちらの背後にも推論プロバイダーがいない——つまり、通常ならベンチマークの代わりになるスループットや価格を公表したプロバイダーが存在しない。できるのは構造を突くことだ。そこでは証拠が確かなのだ。

• 学習を行うなら Tiny Aya Base 32K を選びましょう。継続的事前学習、インストラクションチューニング、または多言語 3.35B モデル上でのドメイン適応が、このカードに記載されている用途であり、ベースチェックポイントから始めれば、自分が選んでいないポストトレーニングと格闘せずに済みます。32K ウィンドウは、8K の 2 月ベースではできなかった長文コンテキストの研究も支えます。

• 今日何かプロンプトを送りたいなら、Tiny Aya En-Thinker を選んでください。2つのうち、会話が成り立つのはこれだけで、そもそも推論モードを備えているのもこれだけです。

• 問いが実用的というより科学的であるなら、両方を選んでください。そのペアは制御された比較です — 同じアーキテクチャ、同じサイズ、同じウィンドウで、主に事後学習が行われたかどうかが異なります — 英語の推論トレースが多言語の回答を改善するかどうかを問うためのものです。それがEn-Thinkerが人々に探求させるためにリリースされた問いであり、それ自身の親モデルが最もクリーンなベースラインです。

どちらを評価する場合でも、1つ実用的な注意点があります。これらはデプロイ実績のない、実証されていない研究用チェックポイントであり、6.7 GB の BF16 ダウンロードと GPU 時間は、一度も独立して実行されたことのないモデルに費やすには実際のコストになります。各候補の重みを立ち上げるのではなく、単一のエンドポイント経由でその比較を実行する方が安く済みます — OrcaRouter は1つの API の背後に195のモデルをプロバイダー定価に対する0%のマークアップで提供し、プロバイダー間の自動フェイルオーバーも備えているため、単にテストしているだけの研究用チェックポイントが本番経路に載ることはありません。Tiny Aya はそこに含まれておらず、当社もホストしていません。要点はただ、あなたがそれと比較することになるモデルの大半はそうしたものである、ということだけです。

これを解決してくれるものは何だろうか

2つのことだ。どちらも、Cohere Labs が公開するのは安上がりで、他の誰かが作るのは高くつく。

最初のものはベンチマークです — どんなベンチマークでも構いません。両方のチェックポイントで単一の多言語推論評価を実行すれば、ファミリー全体を「カードに記載された」状態から「測定済み」へと変え、英語で考える設計がポストトレーニングなしの同じモデルを上回るかどうかを即座に明らかにします。それは、このリリースが中心に据えている研究上の問いです。

2つ目は設定ファイルだ。リポジトリがゲートされている間は、両方のカードにおける32Kという主張は検証できない。そして、真に長文脈で事前学習した実行と、8Kチェックポイントに適用した位置エンコーディング拡張との間の違いは、どちらも32Kトークンを受け付けるモデルを生み出すとはいえ、実用上は大きい。2つの設定ファイルを開けば、どんなマーケティング文言にも真似できない形でその隔たりを埋められるだろう。

それまでは、「Tiny Aya Base 32K か Tiny Aya En-Thinker」に対する正確な答えは、比較は実在するが、対決は成立しない、というものだ。重みも同じ、ウィンドウも同じ、ライセンスも同じ、そしてそれらをダウンロードしていない全員からの沈黙も同じ——片方はチャットテンプレートと thinking タグを備えているだけで、もう片方はそれが作られた元そのものだ。