Eine generierte Titelkarte mit der Überschrift „Nanbeige4.3-33B“ und dem Untertitel „33B dense, Apache 2.0, kein Launch-Post“, ein Bereich mit dem Titel „Repository, 24. Oktober 2026“, der „Erstellt 02:49 UTC“, „14 BF16-Shards, 66,3 GB“ und „304 Likes“ auflistet, sowie ein zweiter Bereich mit dem Titel „Hersteller-Benchmark-Tabelle“, der „20 Benchmarks“, „Spitzenreiter bei 17 davon“, „schlägt Qwen3.8-27B bei 18“ und „Unabhängige Läufe 0“ auflistet. Eine Fußzeile lautet: „Die Zahlen stammen aus der Hugging Face Model Card und config.json.“ Das OrcaRouter-Logo ist in den weißen Streifen unter der Grafik eingefügt.
Engineering & Research

Nanbeige4.3-33B: 17 von 20 Siegen, ein 512K-Kontext und nichts unabhängig getestet

Autor

Alistair Wren

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Am 24. Oktober 2026 um 02:49 UTC wurde ein Hugging-Face-Repository namens Nanbeige/Nanbeige4.3-33B öffentlich zugänglich, vier Minuten nach dem Basis-Checkpoint, der denselben Namen trägt. Es erschien kein Launch-Post. Kein Blogeintrag, keine Herstellerankündigung, keine Pressemitteilung – die Model Card ist die vollständige Aufzeichnung aus erster Hand für eine Open-Weights-Veröffentlichung mit 33,1 Milliarden Parametern, deren zentrale Behauptung lautet, dass sie Qwen3.8-27B bei 18 von 20 Benchmarks übertrifft. Diese Behauptung ist nicht falsch. Sie ist aber auch noch nicht überprüfbar, und die Berichterstattung seither hat meist die Tabelle wiederholt, ohne die Fußnoten darunter zu lesen.

Die Zahlen sagen also zwei Dinge gleichzeitig. Nanbeige4.3-33B liegt in 17 der 20 Zeilen seiner eigenen Tabelle vorn und schlägt Qwen3.8-27B bei 18 davon. Das sind unterschiedliche Anzahlen, und beide sind korrekt: Die drei Zeilen, in denen es nicht vorn liegt, sind SWE-Bench Pro, wo Qwen3.8-27B mit 61,7 zu 60,3 gewinnt, GDPval, wo Qwen3.8-27B mit 86,4 zu 84,8 gewinnt, und GPQA Diamond, wo Gemma4-31B mit 91,3 beide schlägt. Zwei Zeilen an Qwen3.8-27B und eine an Gemma4-31B zu verlieren, ergibt 18 von 20 gegen das Qwen-Modell und 17 von 20 gegen das Feld. Die meisten Artikel greifen sich eine Zahl heraus und lassen die andere weg – eine Kleinigkeit, die verrät, wie aufmerksam der Rest gelesen wurde.

Was das Repository belegt – und was nicht.

Beginne mit dem, was sich durch das Öffnen von Dateien überprüfen lässt, statt Prosa zu zitieren, denn die Kluft zwischen beidem ist hier die eigentliche Geschichte.

• Bestätigt: Die Gewichte existieren. Vierzehn Safetensors-Shards mit insgesamt 66.259.989.086 Bytes, bfloat16, in einem Repository, das am 24. Oktober 2026 um 02:49:18Z erstellt und zuletzt am 25. Oktober um 11:11Z geändert wurde. Ein separater Basis-Checkpoint, Nanbeige4.3-33B-Base, wurde drei Minuten früher um 02:46:52Z erstellt.

• Bestätigt: Die Lizenz ist Apache 2.0, angegeben in den Repository-Metadaten und im Front Matter der Karte. Es gibt keine LICENSE Datei unter den acht Dateien, die keine Gewichte enthalten, was eher ein Formalitätsmangel als ein rechtliches Problem ist – das Metadatenfeld ist das, was der Hub und die meisten Scanner lesen.

• Bestätigt: Die Architektur ist ein einfacher Llama-Stack, kein Mixture-of-Experts und nicht das Looped-Transformer-Design, das die kleinen Modelle der Familie verwendeten. Mehr zur Konfiguration unten.

• Bestätigt: Es gibt keinen vom Anbieter gehosteten Endpunkt. Die Inferenz-Provider-Zuordnung des Hubs für dieses Repository ist leer, und die Karte bietet vLLM, SGLang und Transformers – in diesem Sinne: eigene GPUs mitbringen.

• Nicht bestätigt: jegliche Angaben dazu, wie es trainiert wurde. Keine Pretraining-Token-Anzahl, keine Datenzusammensetzung, keine Compute-Zahl, kein Post-Training-Rezept und kein Abschnitt zu Einschränkungen oder Sicherheit. Der Zitationsblock der Karte ist vier Zeilen lang.

• Nicht bestätigt: dass auch nur eine veröffentlichte Zahl reproduzierbar ist. Im Repository gibt es keine Evaluationsumgebung – keine Skripte, keine Task-Konfigurationen, keine Logs – und Stand 26. Oktober hat kein Drittanbieter eine Punktzahl, eine Arena-Bewertung oder eine Index-Platzierung für dieses Modell veröffentlicht.

• Nicht bestätigt: dass die Veröffentlichung heimlich erfolgte. Das war nicht der Fall. Sie wurde vom Labor nicht angekündigt, was eine engere und genauere Beschreibung ist: Die Karte ist ein vollständiges Launch-Dokument mit einer Benchmark-Tabelle mit zwanzig Zeilen, und Aggregatoren griffen sie innerhalb eines Tages auf. Was fehlt, ist ein First-Party-Beitrag, der erklärt, was Nanbeige glaubt, gebaut zu haben.

A screenshot of the Hugging Face model page for Nanbeige/Nanbeige4.3-33B showing 304 likes, tags for Text Generation, Transformers, Safetensors, English, Chinese, llama and Apache 2.0 licensing, a model size of 33B params in BF16, a panel reading "This model isn't deployed by any Inference Provider", a model tree listing Nanbeige4.3-33B-Base with 3 finetunes and 37 quantizations, and benchmark bar charts for Terminal-Bench 2.1, Terminal-Bench 4.0, DeepSWE, SWE-Atlas-QnA, NL2Repo, Automation, JobBench and Toolathlon-Verified.

Diese Unterscheidung ist wichtig für alle, die entscheiden müssen, was mit der Veröffentlichung anzufangen ist. Ein Labor, das nichts sagt, hat Ihnen nichts über Absicht, Support oder den nächsten Checkpoint verraten. Ein Labor, das eine Model Card, aber keinen Beitrag veröffentlicht, hat Ihnen sehr viel über das Modell verraten und die Strategie implizit gelassen – und in diesem Fall steht die Strategie klar im zweiten Absatz der Model Card, wenn man es einmal bemerkt.

Die Karte bezeichnet es als Lehrer, und das ordnet das gesamte Release neu ein.

Nanbeige4.3-33B wird als das „Flaggschiff-Lehrermodell“ für die Nanbeige4.3-Serie beschrieben, das zuerst gebaut wurde, damit das Labor agentisches Verhalten in kleinere Modelle destillieren kann, „z. B. für Nanbeige4.3-3B“. Die Karte nennt „State-of-the-Art agentische Leistung unter offenen Modellen in der Parameterklasse um 30B“ als Ziel und beschreibt das 33B dann unmittelbar als Grundlage für eine Destillationspipeline statt als Endprodukt.

Wörtlich gelesen ist die Veröffentlichung ein Trainingsartefakt, das zufällig auslieferbar ist. Es ist das Modell, mit dem man Trajektorien für einen 3B-Studenten generiert, und der Grund, warum seine Benchmark-Suite stark auf langhorizontigen Agentenaufgaben setzt – Terminal-Bench, DeepSWE, JobBench, Toolathlon –, ist, dass es genau die Verhaltensweisen sind, die jemand übertragen möchte. Nanbeige4.3-3B ist noch nicht veröffentlicht. Wenn es erscheint, wird es das Modell sein, das die meisten Leute tatsächlich ausführen, und dieses 33B wird das sein, was seine Scores erklärt.

Es gibt einen Nebeneffekt, der es wert ist, benannt zu werden: Ein Teacher-Modell ist darauf optimiert, unter einem großzügigen Token-Budget gute Trajektorien zu erzeugen, nicht darauf, bei der Inferenz günstig zu sein. Die empfohlenen Einstellungen der Karte bestätigen das – 65.536 max. neue Token für agentische Arbeit und 262.144 für Reasoning und Chat, wobei Thinking standardmäßig aktiviert ist. Ein Modell, das angewiesen wird, eine Viertelmillion Token auszugeben, ist kein Modell, das man ohne Budget hinter eine Chat-Box setzt.

Das 33B, das die Konfigurationsdatei beschreibt

Lies config.json und die Formgebung ist auf eine Weise konventionell, wie es das Marketing nicht ist. Zweiundfünfzig Schichten, Hidden Size 7.168, 56 Query-Heads gegenüber 8 Key-Value-Heads – ein Grouped-Query-Verhältnis von 7:1 – Head-Dimension 128, eine FFN-Breite von 22.016 und ein Vokabular von 166.912 Tokens. Die RoPE-Basis ist 120.000.000, wobei keine Skalierung angewendet wird, und max_position_embeddings ist auf 524.288 gesetzt. Die in der Datei vermerkte transformers-Version ist 4.51.1.

Die Parameterzahl ergibt sich aus diesen Zahlen. Die Attention-Projektionen kommen auf 117,4 Millionen Parameter pro Schicht, das dreischichtige MLP auf 473,4 Millionen, was 590,9 Millionen pro Block über 52 Blöcke ergibt: 30,7 Milliarden. Zwei ungebundene Embedding-Matrizen mit 166.912 mal 7.168 tragen 2,4 Milliarden bei. Die Summe beträgt 33,1 Milliarden, was der Name verspricht und was 66,3 GB in bfloat16 wiegt.

Gegenüber dem Modell, das anzugreifen es seine Tabelle einsetzt, sind die Unterschiede schärfer, als die Punktzahlen vermuten lassen.

• Größe — 33,1B dense für Nanbeige4.3-33B gegenüber 27,78B dense für Qwen3.8-27B. Beide sind dense; keines ist ein Mixture-of-Experts-Modell.

• Modalität — nur Text, Englisch und Chinesisch, für Nanbeige4.3-33B vs. native Text-, Bild- und Videoeingabe für Qwen3.8-27B. Wenn Ihre Pipeline Screenshots liest, ist der Vergleich vorbei, bevor die Benchmarks überhaupt beginnen.

• Attention – durchgängige Full Attention über 52 Schichten bei Nanbeige4.3-33B im Vergleich zu einem Hybrid-Stack bei Qwen3.8-27B, der 48 gated DeltaNet-Linearschichten gegenüber 16 Full-Attention-Schichten in einem 3:1-Muster ausführt. Deshalb ist das Qwen-Modell bei langem Kontext günstig und dieses nicht.

• Kontext — 524,288 Token nativ für Nanbeige4.3-33B vs. 262,144 nativ, mit YaRN auf etwa 1M erweiterbar, für Qwen3.8-27B.

• Lizenz — Apache 2.0 bei beiden, was den üblichen Grund beseitigt, eines vorzuziehen.

Der Unterschied bei der Aufmerksamkeit ist keine Fußnote. Er ist der einzige Grund, warum es den nächsten Abschnitt überhaupt gibt.

512K ist ein Wert in einer Konfigurationsdatei, kein Arbeitskontext.

Jede Zusammenfassung dieses Releases beginnt mit dem Fenster von einer halben Million Token. Fast keine davon rechnet nach, und die Rechnung ist wenig schmeichelhaft.

Mit 52 Schichten, 8 Key-Value-Köpfen à 128 Dimensionen und bfloat16-Speicherung kostet jedes Token im Cache 2 × 52 × 8 × 128 × 2 Byte – 212.992 Byte bzw. 208 KiB. Daraus folgen unmittelbar drei Konsequenzen.

• Bei den vollen 524.288 Tokens beträgt allein der KV-Cache 111,7 GB, etwa 104 GiB. Das ist mehr als die 66,3 GB der Gewichte, und er passt auf keinen einzigen heute verkauften Beschleuniger.

• Bei 131.072 Tokens – einem Viertel des beworbenen Fensters – beträgt der Cache 27,9 GB, ungefähr 26 GiB. Addiert man die Gewichte, liegt man vor den Aktivierungen bei 92 GB, weshalb die eigenen Beispiele der Karte vierfache Tensor-Parallelität verwenden.

Bei 32.768 Tokens ist der Cache 6,98 GB groß, ungefähr 6,5 GiB. Das ist die Zahl, die in der Praxis zählt, und es ist die Kontextlänge, die das llama.cpp-Beispiel des Community-GGUF-Repositories tatsächlich festlegt.

Nichts davon macht die 512K-Angabe unehrlich. Das Fenster ist nativ – kein YaRN, kein Skalierungsfaktor, eine Rope-Basis von 120 Millionen –, und auf einem Vier-GPU-Knoten mit genügend Speicher lässt es sich betreiben. Es bedeutet jedoch, dass die Zahl in der Schlagzeile eine Obergrenze ist, die Sie auf Ihrer eigenen Hardware nicht erreichen werden, und dass jeder, der „512K-Kontext“ als Kaufargument anführt, die Cache-Kosten nicht einkalkuliert hat. Vergleichen Sie das mit dem Qwen3.8-27B-Design, bei dem drei Viertel der Schichten einen rekurrenten Zustand konstanter Größe statt eines wachsenden Caches führen: Die Kluft bei den Kosten pro Long-Context-Token ist strukturell bedingt und keine Frage des Tunings.

Noch eine Sache aus der Konfiguration, und zwar die Art von Detail, die einen ganzen Nachmittag kostet: use_cache ist auf false gesetzt, sowohl in config.json als auch in generation_config.json. Wenn du das Modell über das Transformers-Snippet der Modellkarte lädst und generate aufrufst, ohne diese Einstellung zu überschreiben, wird das Präfix bei jedem Schritt neu berechnet. Die vLLM- und SGLang-Pfade verwalten ihren eigenen Cache und sind davon nicht betroffen. Wenn dein erster Benchmark-Lauf unerklärlich langsam erscheint, prüfe dies, bevor du die Gewichte dafür verantwortlich machst.

Die Benchmark-Tabelle so lesen, wie ihre Fußnoten es verlangen

Die Tabelle ist besser dokumentiert als die meisten Anbietertabellen, und in der Dokumentation stecken die Vorbehalte. Zwölf Fußnoten stehen unter zwanzig Zeilen, und sie sagen mehr über die Vergleichbarkeit aus als die Bewertungen.

• Terminal-Bench 2.1 wurde mit Terminus 2 ausgeführt. Terminal-Bench 4.0 und DeepSWE wurden mit mini-swe-agent v2.4.6 ausgeführt.

• NL2Repo wurde mit dem Claude-Code-Harness ausgeführt; JobBench mit Claude Code plus einem Suchtool.

• Die Antworten von SWE-Atlas-QnA wurden anhand von 1.304 aufgabenspezifischen Rubriken bewertet, wobei GPT-6 Sol als Bewerter mit mittlerem Reasoning-Aufwand diente. Ein Rubrik-Bewerter ist ein zweites Modell im Prozess – und nicht das Modell, das getestet wird.

• {{1}}Toolathlon-Verified{{/1}} setzt kein max_tokens-Limit für einzelne Anfragen. Claw-Eval wird nur auf dem General-Subset bewertet, 157 Single-Turn-Aufgaben. YC-bench behält vor jedem Aufruf nur die letzten zehn Dialogturns als Verlauf bei. GDPval verwendet überarbeitete Rubriken.

• Nanbeige4.3-33B selbst wurde mit preserve_thinking=true evaluiert, wodurch frühere Überlegungen des Assistenten über mehrere Turns hinweg beibehalten werden. Die Karte empfiehlt genau das für Multi-Turn-Tool-Nutzung und genau das Gegenteil für gewöhnlichen Chat.

Zusammengenommen beschreiben diese Notizen eine Suite, die dafür gebaut wurde, das Verhalten von Agenten über lange Horizonte mit großzügigen Budgets zu messen. Das ist eine vertretbare Messgröße – dafür ist das Modell schließlich da –, aber es ist auch das Regime, in dem die Wahl des Harness die Scores am stärksten verschiebt. Die größte Lücke in der Tabelle, DeepSWE bei 65,5 gegenüber 42,5 für Qwen3.8-27B, ist eine Spanne von 23 Punkten in einem Benchmark, der von einem Agenten-Scaffold getrieben wird. Die kleinsten Lücken finden sich in den Zeilen, in denen das Scaffold am wenigsten zählt: AIME 2026 bei 95,2 gegenüber 94,5, Tau3-Bench bei 48,8 gegenüber 48,5, EnterpriseOps-Gym bei 41,0 gegenüber 40,2.

A generated single-model scoreboard titled 'Nanbeige4.3-33B — the scoreboard' listing six rows: Parameters 33.1B dense, Context 524,288 tokens, Benchmarks led 17 of 20, vs Qwen3.8-27B 18 of 20, Independent evaluations 0, Hosted API none. A footer reads 'All figures vendor-reported from the Hugging Face model card; no independent scores exist.' The OrcaRouter logo is composited in the white strip below the artwork.

Dieses Muster passt zu zwei Erklärungen. Entweder ist das Modell beim agentischen Programmieren wirklich deutlich besser als seine Konkurrenten, oder die agentischen Zeilen sind diejenigen, bei denen ein Labor, das sein eigenes Scaffold auf sein eigenes Modell abstimmt, am meisten gewinnt. Nichts im Repository unterscheidet zwischen beiden, und die ehrliche Haltung ist bis auf Weiteres, dass beide plausibel sind, bis jemand die Suite erneut ausführt. Die Zeilen, in denen das Modell mit einem Punkt oder weniger gewinnt – Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval mit 78,3 gegen 75,2 –, sind diejenigen, die einen unabhängigen Harness am wahrscheinlichsten nicht überstehen.

Bis zum 26. Oktober existiert überhaupt keine externe Zahl. Kein Eintrag im Artificial-Analysis-Index, keine Arena-Bewertung, keine Reproduktion durch irgendjemanden. Die AA-LCR-Zahl von 84,0 auf der Karte selbst bedeutet, dass Nanbeige einen Artificial-Analysis-Benchmark ausgeführt hat – nicht, dass Artificial Analysis Nanbeige ausgeführt hat.

Der bisher einzige Praxistest – und was er zeigt.

Nur eine Person hat überhaupt etwas veröffentlicht, das aus dem tatsächlichen Ausführen der Gewichte stammt, und das Ergebnis ist gerade deshalb berichtenswert, weil es dürftig ist. Ein japanischer Entwickler lud den vollständigen bfloat16-Checkpoint auf einer Colab-A100 mit 80 GB, verwendete einfaches Transformers mit automatischem dtype und Device-Mapping und maß etwa 63 GB belegten VRAM. Die erste Antwort, begrenzt auf 1.024 neue Token, dauerte rund elf Sekunden. Eine Tokens-pro-Sekunde-Zahl wurde nicht genannt; der Eindruck war, dass ein dichtes 33B-Modell in bfloat16 langsam ist, was auch die Rechnung vorhersagt.

Es folgten drei Prompts. Der Vergleich 9.11 gegen 9.8 fiel korrekt aus, mit einer klaren Erklärung zur Dezimalnotation. Eine Frage zu Anime-Figuren ergab subjektiv passable, aber verstümmelte Namen. Eine Frage zum japanischen Premierminister ergab eine falsche Antwort, einen behaupteten Wissensstand von Juni 2024 und einen halluzinierten Namen. Englische Chain-of-Thought sickerte vor dem schließenden think-Tag durch.

Drei lockere Prompts sind keine Evaluation und sollten nicht als eine solche verstanden werden. Sie sind ein Datenpunkt, der zum Zuschnitt der Anbietertabelle passt: ein Modell, das stark auf englische agentische Arbeit ausgerichtet ist, dessen Weltwissen zwei Jahre veraltet ist und das in einer zweiten Sprache unauffällig bleibt. Die Modellkarte nennt Englisch und Chinesisch; auch einen chinesischsprachigen Test hat niemand veröffentlicht.

Wo die quantisierte Version nicht mehr dasselbe Modell ist

Die meisten, die das laufen lassen, werden keine 66 GB bfloat16 laufen lassen. Sie werden eine 4-Bit-Quantisierung auf einer einzigen Karte laufen lassen, und die Quantisierungsberichte, die innerhalb eines Tages nach der Veröffentlichung erschienen sind, deuten darauf hin, dass das ein größerer Rückschritt als üblich ist.

Das Community-GGUF-Repository veröffentlicht KL-Divergenz und Top-1-Übereinstimmung gegenüber dem bfloat16-Modell, gemessen an einem Standard-Textbenchmark, und die eigene README warnt davor, dass das Modell „ungewöhnlich empfindlich gegenüber Quantisierung“ sei.

• Q8_0, 35,2 GB — KL 0,0032, 98,0 % Top-1-Übereinstimmung.

• Wichtigkeitsmatrix Q5_K_M, 24,7 GB — KL 0,0213, 94,7 % Top-1.

• Wichtigkeitsmatrix Q4_K_M, 21,2 GB — KL 0,0380, 92,6 % Top-1.

• Unverändertes llama.cpp Q4_K_M, 20,1 GB — KL 0,0693, 89,9 % Top-1. Gleiche Bitbreite wie in der Zeile darüber, fast doppelte Abweichung.

• Wichtigkeitsmatrix IQ3_S, 17,1 GB — KL 0,1019, 87,5 % Top-1. Die README merkt an, dass Dateien unter 4 Bit deutlich mehr Genauigkeit verlieren.

Eine 8-Bit-MLX-Konvertierung meldet 98,6 % Top-1 bei KL 0,015 und vergleicht einen 4-Bit-AWQ-Pfad bei 92,1 % Top-1 mit KL 0,181 – ein deutlich steilerer Abfall als beim Importance-Matrix-GGUF mit derselben nominalen Breite.

Die praktische Lesart: Wenn Sie dieses Modell mit 4 Bit auf einer einzelnen 40- oder 48-GB-Karte evaluieren und es bei Ihren Agentenaufgaben versagt, haben Sie ein Modell evaluiert, das bei etwa neun von zehn Tokens mit der veröffentlichten Version übereinstimmt. Bei Prosa ist das unsichtbar. Bei Tool-Aufrufen, wo ein einziges fehlerhaftes Argument den Turn beendet, ist eine Abweichungsrate von 7 % ein anderes Produkt. Wenn die Agenten-Behauptungen der Grund für Ihr Interesse sind, ist das ehrliche Minimum Q5 mit einer Wichtigkeitsmatrix oder bfloat16 auf gemieteter Hardware für den Evaluationslauf.

Was es kostet, es auszuprobieren, und wie man es ausprobiert, ohne darauf zu wetten

Nanbeige hat keinen Preis veröffentlicht, denn es gibt nichts, wofür ein Preis anzusetzen wäre: Das Modell besteht aus Gewichten, nicht aus einem Dienst, und der Hub führt keinen Inferenzanbieter dafür. Damit bleiben drei Wege — vier 80-GB-GPUs für bfloat16, eine 48-GB-Karte bei Q5 oder darauf warten, dass ein Anbieter es listet.

Zum Vergleich: Das Modell, das es angeblich schlagen soll, ist auf Abruf verfügbar. Qwen3.8-27B läuft auf OrcaRouter für $0,33 pro Million Eingabe-Tokens und $2,40 pro Million Ausgabe-Tokens, mit einem 262K-Fenster und einer p50-Zeit bis zum ersten Token von rund 2,95 Sekunden. Ein agentischer Prompt mit 65.536 Tokens plus 8.000 Tokens Ausgabe kostet etwa vier Cent. Das ist die Zahl, die ein selbst gehostetes 33B-Modell schlagen muss, und es muss sie schlagen, während es GPU-Leerlaufzeit, Quantisierungsrisiko und das Fehlen eines Fallback-Pfads mit sich trägt.

Wir hosten Nanbeige4.3-33B nicht, und nichts hier sollte als Behauptung gelesen werden, dass wir es tun. Was wir tun können, ist, den Vergleich in die andere Richtung kostengünstig zu machen: Orca Connect stellt Ihre eigene GPU hinter denselben Schlüssel wie den gehosteten Katalog, sodass ein selbst gehosteter Nanbeige-Endpunkt und Qwen3.8-27B hinter einem einzigen Endpunkt und einer einzigen Routing-Regel liegen können, während Sie sich entscheiden. Leiten Sie einen Teil des Traffics an den neuen Checkpoint, behalten Sie das gehostete Modell als Fallback, und lassen Sie die Request-Logs – Qualitätsbewertung, Latenz, Kosten pro Aufruf – einen Streit entscheiden, den Anbietertabellen nicht entscheiden können. Der Aufschlag von 0 % ist hier in einer bestimmten Hinsicht wichtig: Die Listenpreise der Anbieter werden unverändert weitergegeben, sodass der Vergleich, den Sie letzte Woche eingerichtet haben, ehrlich bleibt, wenn ein Anbieter einen Preis senkt.

A screenshot of the OrcaRouter model page for Qwen3.8-27B showing a FEATURED badge, modality tags for Vision, Tools, JSON and Reasoning, a 262K token context, text plus image and video input with text output, p50 time-to-first-token of 2.95 seconds, an input price of $0.33 per 1M tokens, an output price of $2.40 per 1M tokens, p95 TTFT of 10.00 seconds and traffic of 158.3M tokens over 7 days.

Wer sollte diesbezüglich handeln, und wer sollte abwarten?

Wenn du eine Destillations-Pipeline baust, ist dies der interessanteste offene Checkpoint des Monats. Ein dichtes 33B-Lehrer-Modell mit permissiver Lizenz, dokumentierten Sampling-Einstellungen und einer Benchmark-Suite, die gezielt genau das Verhalten misst, das du übertragen möchtest, ist ein wertvoller Baustein – und die Tatsache, dass das Labor sagt, es baue zuerst ein Lehrer-Modell, ist ein Signal dafür, wohin die Serie geht. Lade es herunter, führe deine eigene Evaluierung aus und bewahre die Harness-Notizen der Modellkarte neben deinen Ergebnissen auf.

Wenn Sie diese Woche ein Modell in Produktion brauchen, warten Sie. Es gibt keine unabhängige Bewertung, keinen gehosteten Endpunkt, einen Praxisbericht mit drei Prompts darin und ein Quantisierungsprofil, das bei den Bitbreiten, die sich die meisten leisten können, schneller als üblich an Qualität verliert. Nichts davon ist ein Ausschlusskriterium – es ist einfach noch kein Beleg.

Wenn Sie visuelle Fähigkeiten benötigen, ist der Vergleich bereits entschieden: Qwen3.8-27B liest Bilder und Videos, und dieses Modell liest Text in zwei Sprachen.

Die Punkte, auf die man achten sollte, sind konkret. Nanbeige4.3-3B, das Destillationsziel, wird Ihnen sagen, ob es sich gelohnt hat, das Teacher-Modell zu bauen. Der erste unabhängige Lauf von Terminal-Bench 4.0, die Zeile mit der größten Lücke und der höchsten Scaffold-Empfindlichkeit. Und ob ein Anbieter das 33B überhaupt auflistet — denn in dem Moment, in dem jemand es tut, hört der 512K-Kontext auf, ein Konfigurationswert zu sein, und wird zu einer Rechnungsposition, und die Kalkulation in diesem Beitrag wird zu jemandes Rechnung.