ZwZ2-9B stil uitgebracht: wat 9,4 miljard gewichten je vertellen wanneer het lab niets zegt

Op 16 oktober 2026 om 03:42 UTC verscheen een Hugging Face-repository onder de naam inclusionAI/ZwZ2-9B. Vier minuten later ontving deze zijn enige commit — "Add ZwZ2-9B model weights" — en daarna niets. Er is geen README, geen licentieveld, geen link naar een paper, geen benchmarktabel en geen vermelding in een van de tien openbare collecties die de inclusionAI-organisatie onderhoudt. De gewichten zelf zijn 9.409.813.744 parameters in bfloat16, en ze beschrijven een vision-language model met hybride attention waarvan de configuratie regel voor regel de configuratie is van Qwen3.5-9B met één voorspellingshoofd verwijderd. Dat is alles wat bevestigd is. Al het overige in dit stuk is als inferentie gelabeld, want een repository zonder modelkaart geeft niemand recht op meer.

Dit is overigens normaal, en de moeite waard om te zeggen voordat de kanttekeningen zich opstapelen. inclusionAI is het open-weights-lab achter de families Ling, Ring, LLaDA en Ming, en het heeft de gewoonte om checkpoints dagen of weken te pushen voordat er ook maar enig proza opduikt. Op 13 oktober — drie dagen hiervoor — plaatste het Ling-3.1-flash met een korte kaart en ook geen aankondiging. Een stille repository is geen rode vlag. Het is een reden om de bestanden te lezen in plaats van de marketing.

Wat zit er eigenlijk in de repository?

Acht bestanden, en de lijst vertelt het verhaal. Er is een .gitattributes, een chat_template.jinja, een config.json, een generation_config.json, een enkele 18,8 GB model.safetensors, een processor_config.json, een tokenizer.json en een tokenizer_config.json. Er is geen README.md. Er is geen LICENSE. De repository heeft precies drie tags — safetensors, qwen3_5 en region:us — wat betekent dat de Hub er helemaal geen pipeline-tag voor heeft: het is niet geclassificeerd als image-text-to-text, text-generation of iets anders. Op het moment van schrijven toont het nul downloads en twee likes.

• Totaal aantal parameters — 9.409.813.744 verdeeld over 760 tensors, bfloat16.

• Architectuur — Qwen3_5ForConditionalGeneration, modeltype qwen3_5.

• Tekststack — 32 lagen, verborgen grootte 4.096, 16 query-heads tegenover 4 KV-heads, kopdimensie 256, tussenliggende grootte 12.288, vocabulaire 248.320.

• Aandachtspatroon — drie lineaire aandachtslagen, dan één volledige aandachtslaag, herhalend: 24 lineaire lagen en 8 volledige aandachtslagen.

• Context — 262.144 posities, rotatiebasis 10.000.000, interleaved M-RoPE met sectie [11, 11, 10].

• Vision-toren — diepte 27, verborgen grootte 1.152, patchgrootte 16, ruimtelijke samenvoeging 2, temporele patch 2, projecterend naar 4.096.

• Licentie — geen opgegeven. Niet apache-2.0, geen aangepaste licentie, niets.

De configuratie is een Qwen3.5-9B-configuratie.

Vergelijk de twee config.json-bestanden en bijna elke architectuurwaarde komt overeen. Verborgen grootte, aantal lagen, aantal heads, head-dimensie, tussenliggende grootte, vocabulaire, het 3:1 lineair-naar-full attention-schema, de M-RoPE-sectie, de rotary base, het plafond van 262.144 posities, en de volledige vision tower tot aan de 2.304 positie-embeddings zijn identiek aan Qwen3.5-9B. Het wezenlijke verschil is één regel: mtp_num_hidden_layers is 1 in Qwen3.5-9B en 0 hier, dus ZwZ2-9B heeft geen multi-token-prediction-head. De rest van de diff is serialisatie — een nieuwere transformers-versie die velden uitschrijft die het oudere bestand impliciet liet, en het modeltype van de vision config is hernoemd van qwen3_5 naar qwen3_5_vision.

Wat dat je vertelt, is beperkt maar reëel: dit is geen nieuwe architectuur. Het is een checkpoint op de Qwen3.5-9B-stack, post-getraind door iemand, met de speculative-decoding-head verwijderd. Wat het je niet vertelt, is wat die post-training was. De parameters zijn verschoven; de vorm niet.

De enige plek waar het model wél iets over zichzelf zegt

Het chatsjabloon is het enige bestand hier met een standpunt, en het wijkt op drie manieren af van Qwen3.5-9B die een lezer binnen ongeveer een minuut kan nagaan.

De eerste is een standaard systeemprompt. Wanneer een verzoek binnenkomt zonder systeembericht, injecteert de template van ZwZ2-9B er een: "Een gesprek tussen Gebruiker en Assistent. De gebruiker stelt een vraag en de Assistent lost deze op… Het antwoord staat tussen <answer> </answer>-tags." De template van Qwen3.5-9B heeft zo'n vertakking niet — hij produceert eenvoudigweg niets. Een ingebakken systeemprompt die een uitvoerformaat benoemt, is het kenmerk van een specifieke trainingsrun, niet van een basismodel.

The second is the thinking default, and it is inverted. In Qwen3.5-9B the template emits an empty <think></think> block only when the caller explicitly passes enable_thinking: false, which means reasoning is on unless you turn it off. In ZwZ2-9B the condition is not defined or false — the empty block appears by default and the open <think> tag only when a caller explicitly asks for thinking. Same tags, opposite default. Qwen3.8-27B, for the record, kept the Qwen3.5 behaviour, so this is not simply inherited from a newer generation.

Het derde is administratie voor redeneren met meerdere beurten: de template begrijpt een preserve_thinking-flag, en hij weet hoe hij een <think>-blok uit een assistant-turn die er al een bevat moet verwijderen. Geen van beide bestaat in de Qwen3.5-9B-template. De tokenizer reserveert overigens nog steeds de speciale audiotokens — <|audio_start|>, <|audio_end|>, <|audio_pad|> — maar er is nergens in de configuratie een audiotoren, dus beschouw dat als gedeelde tokenizer-vocabulaire in plaats van een mogelijkheid.

Wat de naam impliceert, en wat niet

"ZwZ2" klinkt als een tweede generatie van iets, en er is een eerste generatie om naar te verwijzen. ZwZ-2B, geplaatst op 4 maart 2026, is een fine-tune van Qwen3-VL-2B-Instruct die is getraind met Region-to-Image Distillation plus reinforcement learning, gepubliceerd met het paper Zooming without Zooming (arXiv 2602.11858) en de ZoomBench-evaluatieset. Het is Apache-2.0, het heeft een volledige modelkaart, en het heeft 159 downloads in zeven maanden.

De afstammingsaanwijzing is echter dunner dan de naam doet vermoeden. ZwZ-2B is gebouwd op de qwen3_vl architectuur. ZwZ2-9B is gebouwd op qwen3_5. De enige tag die inclusionAI heeft toegepast is qwen3_5, en het model staat niet in de ZwZ-collectie of in welke andere dan ook. Of het regio-naar-afbeelding-recept is overgedragen, is precies het soort vraag dat een modelkaart zou beantwoorden en deze repository niet.

Eén valkuil die het vermelden waard is, want zoekmachines zullen mensen erin laten trappen: er bestaat een oudere, ongerelateerde ZwZ_32B familie van GGUF-conversies uit maart 2025, van een derde partij. Die deelt drie letters en verder niets. Vat die niet op als een eerdere ZwZ2-9B.

Hoe om te gaan met een ongedocumenteerd checkpoint

De praktische houding is dezelfde als bij elk stel gewichten dat zonder modelkaart binnenkomt. Haal eerst de config en de safetensors-header op — dat is goedkoop en controleerbaar. Controleer of het aantal parameters en de tensornamen overeenkomen met wat de config belooft. Serveer het daarna op een framework dat de architectuur ondersteunt, en voer de evaluaties uit die je al op je eigen verkeer draait in plaats van cijfers te lenen die niet bestaan.

De licentie is het onderdeel dat van belang is voor alles wat meer is dan een weekend. Een checkpoint zonder licentieveld is niet hetzelfde als een open checkpoint; bij gebrek aan een verklaring is de standaard dat de uitgever rechten heeft voorbehouden, en dat is een gesprek dat je moet voeren voordat dit in de buurt van productie komt, niet erna. Merk ook op dat je het zelf zult draaien — de Hub meldt dat het model door geen enkele provider wordt aangeboden, en de leverancier heeft geen endpoint gepubliceerd.

Dat is precies de situatie waarvoor automatische failover bestaat. Als je een onbewezen checkpoint wilt afmeten tegen de incumbent zonder daar een productiepad op te verwedden, zet je de kandidaat achter dezelfde interface als de modellen die je al vertrouwt en laat je het verkeer terugschakelen wanneer het nieuwe model zich misdraagt — één API-sleutel en één OpenAI-compatibel endpoint, in plaats van een tweede integratie die je moet terugdraaien. OrcaRouter routeert op die manier meer dan 200 modellen, geeft de lijstprijzen van providers door met 0% marge, en host geen ZwZ2-9B — we gaan niet doen alsof er een catalogusvermelding voor bestaat. Wat we vandaag kunnen bieden is de familie waarop het is gebouwd en de familie die het vervangt: de Qwen3.5-lijn is hier routeerbaar, waaronder qwen/qwen3.5-35b-a3b en qwen/qwen3.5-flash, en qwen/qwen3-vl-8b-instruct vult de 8B-visionplek in met een gedocumenteerd, gehost model voor $0,18 per miljoen inputtokens en $0,70 per miljoen output.

Wat zou hier een release van maken?

Drie dingen, en elk ervan zou een herschrijving van dit stuk rechtvaardigen. Een licentieveld dat in de repository verschijnt, waardoor het verandert van een curiositeit in iets wat een bedrijf kan gebruiken. Een modelkaart met evaluatiecijfers, waardoor het verandert van een architectuur in een claim. Of een paper — de meest waarschijnlijke vorm daarvan is het region-to-image-werk dat de eerste ZwZ interessant maakte, toegepast op een visiontoren die drie keer zo groot is.

Totdat een van die dingen er komt, moet je ZwZ2-9B behandelen als wat de bestandsvermelding zegt dat het is: een derivaat van Qwen3.5-9B met 9,4 miljard parameters en een aangepaste chat-template, gepubliceerd door een lab dat nog niemand heeft verteld waarom. De gewichten zijn echt. Het verhaal is nog niet geschreven, en de eerlijke positie is dat niemand buiten inclusionAI het kan schrijven.

Niets daarvan is hypothetisch: de gedocumenteerde AI-fouten en agent-incidenten achter releases zoals deze zijn verzameld in the OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en markering voor betwisting bevat.