Moondream 3.1 9B A2B vs North Micro Vision Instruct: Który dostawca faktycznie pozwala sprawdzić numer

Dwa otwarte modele wizyjne, cztery miesiące różnicy i niemal zupełnie nic wspólnego w sposobie, w jaki proszą o ocenę. M​oondream 3.1 9B A2B ukazał się 7 lipca 2026 r. z tabelą benchmarków, stopką metodologiczną wskazującą pojedynczy H100 SXM5 i rozmiar partii 16 oraz przewijającym się przez cały wpis argumentem, że benchmarki nie mierzą tego, czego naprawdę potrzebują jego klienci. North Micro Vision Instruct pojawił się 12 sierpnia 2026 r. od C​ohere Labs z 2,4 mld parametrów na licencji Apache 2.0, a jego wpis premierowy poświęca całą swoją długość na program nauczania i konfigurację ewaluacji — użyte narzędzie testowe i dokładne parametry próbkowania, z którymi uzyskano wyniki.

To prawdziwa różnica w rodzaju i jest bardziej przydatna dla nabywcy niż liczba parametrów któregokolwiek z modeli. Jeden dostawca mówi ci, jak odtworzyć jego tabelę. Drugi mówi, żeby nie ufać tabelom, a potem sam drukuje tabelę. O ile udało nam się ustalić, żaden z nich nie został niezależnie oceniony, więc pytanie, które naprawdę rozstrzyga, na którym zestawie liczb się oprzeć, brzmi: jak wiele każdy z dostawców dał ci do sprawdzenia.

Czym jest każdy z nich

M​oondream 3.1 9B A2B to rzadki model wizyjno-językowy z mieszaniną ekspertów: 9 mld parametrów łącznie, 2 mld aktywnych na token, 64 ekspertów, z których 8 jest aktywnych, enkoder wizyjny SigLIP z konkatenacją kanałów z wielu przycięć, kontekst 32 tys. tokenów i tokenizator SuperBPE. Jego cztery umiejętności — zapytanie, wykrywanie, wskazywanie i opisywanie — są wytrenowane, a nie wywoływane promptem, a ścieżki wykrywania i wskazywania zwracają ustrukturyzowaną geometrię, a nie opis. Działa na Photon, silniku inferencji producenta, obsługując GPU N​VIDIA od Ampere wzwyż oraz Apple Silicon.

North Micro Vision Instruct to gęsty model o 2,4 mld parametrów zbudowany z trzech części: enkodera wizyjnego o 400 mln parametrów natywnej rozdzielczości, dodatkowo wstępnie wytrenowanego na podstawie punktu kontrolnego SigLIP 2 SO400M firmy Google, projektora zgodnego ze wzorcem DeepStack polegającym na wstrzykiwaniu osadzeń patchy z kilku warstw enkodera do wczesnych warstw modelu językowego oraz modelu językowego o 2 mld parametrów o nazwie North Micro LLM, zgodnego z architekturą Command A+ firmy Cohere. Przyjmuje przeplatane teksty i obrazy — jeden lub kilka — i zwraca tekst. Słownik tokenizatora liczy 262 144 pozycje, a wymienione języki to jedenaście plus „i więcej”.

Różnica w typie danych wyjściowych zasługuje na wyraźne zaznaczenie, ponieważ kształtuje to, co następuje: M​oondream to model percepcji, który odpowiada za pomocą ramek i współrzędnych, a North Micro Vision to model rozumienia, który odpowiada językiem. Wszystko, co publikuje którykolwiek z dostawców, jest pomiarem jednego z tych dwóch zadań, a nie są to te same zadania.

Liczba 8K, która nie jest oknem kontekstowym modelu

Zacznij od pułapki, bo tkwi w środku karty modelu North Micro Vision i jest to coś, co przypadkiem trafia do decyzji architektonicznej.

• North Micro Vision Instruct — okno kontekstowe szkieletu językowego 128 000 tokenów; zwalidowany multimodalny zakres działania do 8 000 tokenów. Karta stwierdza wprost, że dłuższe konteksty multimodalne mogą opierać się na ekstrapolacji i nie zostały poddane benchmarkom.

• M​oondream 3.1 9B A2B — 32 000 tokenów, jedna liczba, nie opublikowano żadnego wyodrębnienia modalności.

Zatem nagłówkowa liczba daje North Micro Vision czterokrotną przewagę, a liczba, która faktycznie będzie miała zastosowanie do Twojego obciążenia zadaniami obrazowymi, daje M​oondream czterokrotną przewagę. Jeśli szacujesz, ile stron zeskanowanego dokumentu mieści się w jednym wywołaniu, 128K to niewłaściwa liczba, a 8K to właściwa, przy czym 8K przeplatanych tokenów obrazu i tekstu to niewiele stron, gdy enkoder o natywnej rozdzielczości zaczyna generować tokeny proporcjonalnie do obszaru pikseli. Dostawca zasługuje na uznanie za opublikowanie tego zastrzeżenia — większość kart produktowych by tego nie zrobiła — ale zastrzeżenie jest ukryte pod tabelą specyfikacji, a kopiowana jest właśnie tabela.

Jak raportują obaj dostawcy, obok siebie

To jest ta część porównania, która nie ma nic wspólnego z modelami, a wszystko z tym, który z nich możesz audytować.

Wpis M​oondream 3.1 podaje jego modele odniesienia (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), metrykę (F1@0.5 dla detekcji), sprzęt (jeden H100 SXM5), rozmiar partii (16) oraz fakt, że każdy model był obsługiwany przez własny silnik — vLLM dla LocateAnything, Qwen3.5 i Gemma 4; Photon dla M​oondream; Hugging Face Transformers dla SAM 3. Mówi też, że dla każdego modelu wybrano ustawienia najwyższej dokładności i rozumowania oraz że LocateAnything działał w trybie powolnym, aby zmaksymalizować dokładność. Publikowane wyniki to 81.46 F1@0.5 na COCO val, 93.94 na ODinW-13, 67.4 na LVIS, 74.61 na Dense200, 52.77 na SKU-110K, 74.5 na CrowdHuman, 87.1 na RefCOCO-M, 70.39 na HumanRef, 59.63 na DOTA-v2, 90.35 na CountBench, 74.86 na TallyQA, 88.68 na PixMo-Count, 86.01 na ChartQA i 88.6 na DocVQA, wraz z twierdzeniami o stanie sztuki dotyczącymi pięciu rodzin benchmarków.

To, czego nie ma w tej stopce, to rzecz, która sprawia, że wynik jest odtwarzalny: prompty. Detekcja to zadanie z otwartym słownictwem, a fraza, za pomocą której prosisz o daną rzecz, zmienia to, co zostanie zwrócone. Osoba powtarzająca uruchomienie ma metrykę, sprzęt i rozmiar partii, a mimo to nie potrafi odtworzyć liczby, nie wiedząc, jaki tekst utworzył każdą ramkę.

Wpis Cohere Labs przyjmuje inne podejście. Wskazuje harness (VLMEvalKit), mówi, że model ewaluowano z wewnętrzną implementacją vLLM, wymienia skład benchmarku dla każdej grupy zdolności — General VQA to średnia z MMBench, MMStar, RealWorldQA i GQA; grupa wykresów, dokumentów i OCR obejmuje ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 i AI2D; grounding i zliczanie to średnia RefCOCO oraz CountBench — i publikuje parametry próbkowania, przy których powstały te liczby: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Zaznacza również, że publiczne wsparcie vLLM jest „wkrótce dostępne”, co jest uczciwym ujawnieniem, które ma największe znaczenie dla każdego, kto planuje reprodukcję: model testowano na forku.

To, czego ten wpis nie publikuje, to tabela wyników dla poszczególnych benchmarków. Jego wyniki to średnie dla grup umiejętności oraz twierdzenie porównawcze — w trybie Instruct 35B-A3B osiąga wyższy wynik w krótszym czasie wnioskowania niż Qwen3.6 35B-A3B, a wariant 1B przewyższa Qwen3.5 0.8B zarówno pod względem wyniku, jak i wydajności — co jest mniej bezpośrednio cytowalne i bardziej odporne na cherry-picking. Żaden z dokumentów nie pozwala przeliczyć wyniku drugiego dostawcy. Oba pozwalają zobaczyć, jak wiele ukrywają.

Gdzie różnica architektoniczna ujawnia się w praktyce

Rozdzielczość natywna to jedna z decyzji projektowych w North Micro Vision, która zmienia codzienną pracę, i warto ją zrozumieć przed tabelami benchmarków. Większość enkoderów wizyjnych zmienia rozmiar wszystkiego, co im się poda, do stałego kwadratu, dlatego szeroki zrzut ekranu arkusza trafia do modelu językowego ze ściśniętymi kolumnami. Enkoder North Micro Vision jest trenowany tak, aby przyjmować obraz w jego własnej rozdzielczości i proporcjach, zachowując drobne szczegóły dokumentów, tabel, wykresów i formularzy. Opublikowany program treningowy przeszedł od etapu ze stałym rozmiarem 384×384 na 10 milionach przykładów do etapu 1024×1024 na 13 milionach i więcej.

Encoder Moondream opiera się natomiast na podejściu multi-crop: obraz jest traktowany jako zestaw wycinków, których cechy są konkatenowane, co jest również sposobem zachowania szczegółów przy dużych danych wejściowych i jest powiązane z tym, jak jego głowica detekcji tworzy ramki. Oba podejścia są uzasadnionymi odpowiedziami na ten sam problem i żaden dostawca nie publikuje bezpośredniego porównania przy dopasowanej rozdzielczości, więc użyteczny wniosek z dyskusji o architekturze jest węższy niż werdykt: jeśli Twoja praca dotyczy gęstych dokumentów i szerokich zrzutów ekranu interfejsu użytkownika, rozdzielczość natywna jest właściwością, którą warto testować, a testem jest zrzut ekranu własnego autorstwa, a nie wiersz benchmarku.

Inną różnicą strukturalną jest obsługa wielu obrazów i wideo. North Micro Vision Instruct obsługuje przeplatane dane wejściowe z wieloma obrazami i wymienia benchmarki wieloobrazowe wśród grup, które ocenił. M​oondream 3.1 9B A2B jest ograniczony do jednego obrazu na wywołanie — brak ścieżki wideo, brak ścieżki wielu obrazów. Jest to spójne z jego projektem: własne materiały inżynierskie M​oondream na temat wideo na żywo dowodzą, że problemem jest infrastruktura wnioskowania, a nie możliwości modelu, a odpowiedzią firmy na obciążenia czasowe jest silnik, który nadąża za strumieniem, a nie checkpoint, który przyjmuje pojedynczy strumień. Czy jest to lepsza odpowiedź niż model, który przyjmuje 128 klatek naraz, pozostaje uczciwie otwartym pytaniem, a obaj dostawcy nie mierzą tego samego.

Wdrożenie i licencja, szybko

• Rozmiar — łącznie 9B / 2B aktywnych w porównaniu z gęstym modelem 2,4B. Pod względem przechowywania różnica jest większa, niż sugeruje stosunek parametrów aktywnych, ponieważ ślad pamięciowy modelu rzadkiego zależy od jego całkowitej liczby parametrów.

• Skala dostrajania — gęsty model o 2,4 mld parametrów jest wystarczająco mały, by dostroić go na jednym urządzeniu; rzadki model o 9 mld parametrów wymaga prawdziwego środowiska treningowego do czegokolwiek poza LoRA, dlatego własna ścieżka dostrajania Moondream prowadziła przez produkt hostowany.

• Środowiska uruchomieniowe — North Micro Vision Instruct wymaga Transformers 5.16.0 z accelerate i Pillow; istnieją społecznościowe kwantyzacje w formatach MLX, LiteRT i zbliżonych do ONNX. M​oondream 3.1 9B A2B działa na Photon, a pierwsze zewnętrzne pakowanie GGUF tego checkpointu pojawi się 15 października 2026 r.

• Licencja — Apache 2.0 dla North Micro Vision Instruct, bez progu i bez ograniczeń w hostowaniu go dla innych. M​oondream Model License 1.0 dla M​oondream 3.1 9B A2B: dozwolone są wykorzystanie komercyjne, samodzielne hostowanie, dostrajanie, kwantyzacja i redystrybucja, z jednym zakazem — nie możesz oferować wnioskowania M​oondream ogólnego przeznaczenia ani dostrajania jako usługi hostowanej.

• Odpływ — North Micro Vision Instruct pozostaje bez zmian od wydania; godne uwagi niedawne dodatki to kwantyzacje firm trzecich. Warunki M​oondream zmieniły się w jego ramach w ciągu ostatnich dwóch tygodni: Prime Intellect przejął firmę 13 października 2026 r., a M​oondream Cloud, w tym produkt do dostrajania Lens, zostanie zamknięty 13 listopada 2026 r. Wagi i Photon pozostają bez zmian; ścieżka hostowana już nie.

Drugi model w potoku i kto nim kieruje

Żaden z tych checkpointów nie jest udostępniany w OrcaRouter, więc czytaj to jako notatkę integracyjną. Oba są komponentami jednotapowymi: jeden zwraca ramki, drugi zwraca tekst, a system produkcyjny potrzebuje za nimi modelu, który zdecyduje, co oznacza dana obserwacja, i zapisze to. Ten etap to etap tekstowy, zwykle kosztuje więcej za wywołanie niż etap wizyjny i to właśnie ten etap będziesz chciał wymienić w pierwszej kolejności, gdy pojawi się tańszy lub lepszy model rozumujący. Wykonanie tej wymiany poprzez jeden endpoint zgodny z OpenAI obejmujący ponad 200 modeli — z cennikowymi cenami dostawców przekazywanymi przy 0% marży i automatycznym przełączaniem awaryjnym między dostawcami, gdy u dostawcy nadrzędnego trafi się gorsza godzina — oznacza zmianę identyfikatora modelu, a nie ponowne przepinanie kamery. Tam, gdzie jedna opinia nie wystarcza, fuzja modeli uruchamia panel modeli na tym samym wejściu, a DSL routingu komponuje kilka z nich w jedno wywołanie.

Jest jedno miejsce, w którym możemy być bardziej konkretni, i warto uczciwie przyznać, w którą stronę to działa. North Micro Vision Instruct jest objęty licencją Apache 2.0 i jest wystarczająco mały, by działać na sprzęcie, który posiadasz, co oznacza, że zwykły argument za kierowaniem modelu wizyjnego przez hostowany punkt końcowy — że nie możesz go hostować samodzielnie — nie ma zastosowania. Pozostaje zwykły argument: drugi model w pętli, na tym samym kluczu, z jednym rachunkiem i jednym zestawem poświadczeń.

Co wybrać i co zmieniłoby odpowiedź

Wybierz North Micro Vision Instruct, jeśli czytasz dokumenty, tabele, wykresy lub ekrany, jeśli potrzebujesz kilku obrazów w jednym wywołaniu, jeśli Apache 2.0 ma znaczenie, ponieważ zamierzasz hostować model dla innych osób, lub jeśli chcesz checkpoint 2.4B, który możesz dostroić na własnych danych. Karta modelu C​ohere wskazuje dostrajanie jako zamierzone zastosowanie, a licencja nie stawia temu żadnych przeszkód.

Wybierz M​oondream 3.1 9B A2B, jeśli Twoim wynikiem jest geometria — ramki, współrzędne, liczby z przypisanymi instancjami — a Twoje wdrożenie to maszyna CUDA z Photonem. Model jest wyspecjalizowany, a jego deklarowana szybkość jest ukierunkowana dokładnie na takie obciążenie.

Tym, co zmieniłoby odpowiedź w obu przypadkach, jest niezależna ewaluacja, i to jest rzecz, na którą warto dalej patrzeć. Liczby żadnego z dostawców nie zostały odtworzone poza samym dostawcą, a każdy opublikował je w warunkach, które utrudniają odtworzenie bardziej, niż to konieczne: jeden nie udostępnia swoich promptów, drugi działał na wewnętrznej implementacji serwowania frameworku, którego publiczne wsparcie wciąż jest w toku. Kiedy strona trzecia uruchomi którykolwiek z checkpointów na tym samym zestawie dokumentów, ten model, którego tabela przetrwa ten kontakt w nienaruszonym stanie, będzie tym, któremu warto wierzyć — a do tego czasu z dostawcą, który powiedział ci, jak mierzył, łatwiej jest się spierać.

Taki wynik jest również przypomnieniem, że błędy modeli są już udokumentowane: incydenty AI i awarie agentów dotyczące modeli z tej klasy są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom istotności, stopień pewności i znacznik sporu.