
ERNIE 5.5 Flash: ścieżka FP4 wyłącznie dla Blackwell pojawia się, zanim pojawi się model czatu
- OrcaNOWOŚĆOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 za 1 mln tokenów · 185 tok/s
- tencentNOWOŚĆTencent: Hy4 Flash2026-11-16$0.02 / $0.07 za 1 mln tokenów · 228 tok/s
- GoogleNOWOŚĆGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 za 1 mln tokenów · 89 tok/s
- AnthropicNOWOŚĆAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 za 1 mln tokenów · 98 tok/s
- orcaNOWOŚĆOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 za 1 mln tokenów · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 za 1 mln tokenów · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 za 1 mln tokenów · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 za 1 mln tokenów · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 za 1 mln tokenów · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 za 1 mln tokenów · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligencja
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 za 1 mln tokenów · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligencja
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 za 1 mln tokenów · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligencja
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 za 1 mln tokenów · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligencja
Najbardziej konkretną rzeczą opublikowaną w tym tygodniu na temat ERNIE 5.5 Flash jest komunikat błędu. Wewnątrz 525-liniowego pull requesta otwartego w repozytorium SGLang 18 listopada 2026 r. znajduje się twarda odmowa: --moe-a2a-backend megamoe jest odrzucany na każdym urządzeniu, które nie jest GPU SM100, ponieważ jądra, które w przeciwnym razie realizowałyby obliczenia SwiGLU, a eksperci tego modelu korzystają z SiTU. Ta linia i reszta PR #51236 to pierwszy publiczny opis tego, jak wersja czatowa ERNIE 5.5 Flash — w przeciwieństwie do ERNIE 5.5 Flash Base checkpointu opublikowanego przez Baidu 5 listopada i endpointu ERNIE 5.5 Flash Preview uruchomionego 11 listopada — ma być serwowana. Sam model nie jest jeszcze dostępny. Jego kontrakt serwowania już jednak jest.
To jest tekst podsumowujący to, co wiemy do tej pory, a nie relacja z premiery. Wszystko poniżej pochodzi z jednego otwartego, niezmergowanego i niezrecenzowanego pull requesta, z dokumentacji SGLang napisanej przy okazji wcześniejszego wsparcia Base oraz z opublikowanych przez Baidu stron. Niczego stąd nie uruchamiano na dostępnym do pobrania checkpointcie czatu, ponieważ żaden taki checkpoint nie jest dostępny do pobrania. Gdzie liczba pochodzi od Baidu, jest oznaczona jako liczba Baidu.
Co tak naprawdę dodaje pull request
PR #51236 nosi tytuł „[Feat] ERNIE-5.5-Flash: dodanie kodowania szablonu czatu w Pythonie i serwowania FP4 MegaMoE” i został otwarty przez chang-wenbin, kontrybutora, 18 listopada o 12:12 UTC. Dotyczy 14 plików, dodaje 525 linii i usuwa 24. Nie ma żadnych zatwierdzeń, wszystkie jego przebiegi CI są wstrzymane do czasu nadania etykiety, a obie sekcje opisu — accuracy-test i speed-test — to nieuzupełnione komentarze szablonu. Czytane jako dowód, ma to znaczenie: to kod, który jego autor uważa za potrzebny, a nie kod zweryfikowany przez kogokolwiek.
To czwarty pull request do ERNIE 5.5 w ciągu dwóch tygodni. #48546 dodał przepisy wdrożeniowe do cookbooka SGLang i został scalony 5 listopada, w dniu opublikowania wag Base. #48547 dodał sam model — Ernie5_5_MoeForCausalLM, backend attention, pulę KV-cache, moduł draft DSpark — i został scalony 6 listopada. #49807 rozszerzył prefill NVIDIA LiteTopK na „LongCat, ERNIE 5.5, HY-4-family, Kimi K3.1” 11 listopada i nadal jest otwarty. PR z 18 listopada jest pierwszym z tych czterech, który w ogóle nie dotyczy checkpointu Base.
Szablon czatu jest w Pythonie, a to zmienia to, kto może go uruchomić.
Checkpointy ERNIE 5.5 Flash mogą przechowywać swój szablon czatu jako kod Python, a nie jako ciąg Jinja, w klasie tokenizera, którą PR nazywa ErnieChatTokenizer. Standardowa ścieżka SGLang renderuje prompty, wywołując apply_chat_template względem szablonu Jinja w konfiguracji tokenizera; nowe kodowanie czatu ernie5_5 wywołuje natomiast własny tokenizer checkpointu i automatycznie się rozwiązuje na podstawie ciągu architektury lub typu modelu ernie5_5_moe. Praktyczna konsekwencja — cytując sam PR — jest następująca: tokenizer trzeba załadować z --trust-remote-code, a obsługa czatu z --skip-tokenizer-init jest kategorycznie odrzucana z błędem objaśniającym.
To ograniczenie wdrożeniowe, na które czytelnik może zareagować. Model renderujący prompty w Pythonie wykonuje kod z repozytorium checkpointu w momencie obsługi żądania, więc każdy, kto uruchamia go w środowisku odizolowanym od sieci, wewnątrz utwardzonego obrazu lub za polityką zabraniającą zdalnego kodu, musi albo dostarczyć tokenizer we własnym zakresie, albo zaakceptować tę flagę. Checkpoint Base nie ma tego problemu: jego opublikowany plik tokenizer_config.json nie zawiera żadnego szablonu czatu i deklaruje zwykły PreTrainedTokenizerFast, czego właśnie można by oczekiwać po checkpoincie udostępnianym przez endpoint completions.
Trzy mniejsze szczegóły w tym samym pliku są warte więcej, niż się wydaje. Adapter obsługuje wbudowane komunikaty systemowe — tury systemowe w środku rozmowy renderowane na miejscu, a nie scalane z pierwszą wiadomością — co robią tylko dwa inne kodowania w drzewie SGLang. Wykorzystuje natywne kontynuowanie renderera dla continue_final_message, ponieważ ogólna ścieżka dołączania prefiksu porzuciłaby prefiks wewnątrz otwartego bloku think. I celowo pomija chat_template_kwargs, które renderer by odrzucił, ponieważ ErnieChatTokenizer zgłasza błąd przy nieznanym słowie kluczowym, podczas gdy szablon Jinja po cichu je ignoruje — PR wskazuje frontend wysyłający myślenie w stylu DeepSeek jako przypadek, który się psuje.
Poprawka błędu, która z tego wynika, to najbardziej wymowna pojedyncza linia w diffie. Handler żądań SGLang odczytuje klucz thinking i domyślnie ustawia go na wyłączony; parser rozumowania ernie55 odczytuje enable_thinking i domyślnie ustawia go na włączony. Wstrzyknięcie domyślnej wartości handlera sprawiło zatem, że prompt z wyłączonym myśleniem trafił pod parser rozumowania oczekujący rozumowania, a cała odpowiedź modelu została sparsowana do reasoning_content, podczas gdy content pozostał pusty. To dokładnie ten tryb awarii, który użytkownicy endpointu Preview zgłaszają od 11 listopada — zwykłe odpowiedzi przychodzą jako pusty content — a poprawka sugeruje, że checkpoint czatu domyślnie myśli.
Rozumowanie i wywołania narzędzi również mają automatycznie wybierane parsery: ernie55 do rozumowania, odczytujący znaczniki <ernie:think>, oraz ernie55 do wywołań narzędzi, odczytujący <ernie:tool_call>. Docstring adaptera stwierdza, że obsługiwane są tekst, wywoływanie narzędzi i przełącznik myślenia, a gałęzie multimodalne szablonu są „pozostawione do późniejszej aktualizacji” — zatem w tym PR model czatu jest udostępniany jako to, czym Baidu opisuje go wszędzie indziej: model tekstowy.
Dlaczego czterobitowi eksperci blokują szybką ścieżkę do Blackwella
Druga połowa PR dotyczy ekspertów routowanych przechowywanych w MXFP4, uruchamianych jako w4a8 — czterobitowe wagi, ośmiobitowe aktywacje — przez all-to-all MegaMoE z DeepGEMM między GPU. Dwie decyzje implementacyjne niosą informację o samym modelu.
• Kwantyzacja jest wykrywana automatycznie na podstawie nagłówka safetensors, ponieważ punkt kontrolny nie zawiera klucza routed_experts_quant_method. To zgadza się z opublikowaną konfiguracją Base, która nie ma takiego pola; loader odczytuje typ danych eksperta z nagłówków pliku i na tej podstawie ustawia is_fp4_experts.
• Ścieżka MegaMoE jest odrzucana na SM90 i na ROCm, a nie degradowana, ponieważ jądra MegaMoE dla SM90 FP8 i ROCm na sztywno zakodowują SwiGLU, podczas gdy ci eksperci są aktywowani przez SiTU. Komentarz w PR wskazuje dokładne stałe, które DeepGEMM zaszywa: SiTU beta 4.0 i linear beta 25.0. Własny config.json checkpointu Base deklaruje activation_situ_beta: 4.0 oraz activation_situ_linear_beta: 25.0, więc stałe jąder i wagi są zgodne — a to właśnie tego rodzaju kontrola krzyżowa sprawia, że wyciek czyta się jako inżynieria, a nie spekulacja.
Tryb awarii, któremu zapobiegamy, jest tym cichym. Jądro SM90, które obliczałoby SwiGLU na wagach SiTU, nie uległoby awarii; zwróciłoby płynny, nieco błędny tekst. Odmowa uruchomienia jest lepszym wynikiem i to dlatego historia FP4 jest ograniczona sprzętowo, a nie uniwersalna.
W sensie komercyjnym oznacza to coś węższego niż „ERNIE 5.5 Flash wymaga Blackwella”. To nieprawda. Cookbook SGLang, napisany dla checkpointu Base, publikuje przepisy jednomaszynowe dla B300, GB300, B200, GB200 i H100, a przepis FP8 dla H100 wymaga ośmiu GPU, ponieważ wagi FP8 mają około 280 GB. Ścieżka ekspertów FP4 to ta, która istnieje tylko na układach SM100, a SGLang nie opublikował tabeli pamięci dla checkpointu FP4, ponieważ takiego nie widział. Wszelkie widziane obliczenia typu „mieści się na jednym B200” — w tym oczywisty szacunek, że zmniejszenie o połowę bajtów ekspertów sprowadza model 280 GB do czegoś około 150 GB — traktuj jako szacunek, a nie przepis.
Co tak naprawdę można dziś pobrać?
• ERNIE 5.5 Flash Base — otwarte wagi od 5 listopada 2026 r., w FP8 i BF16, na Hugging Face i ModelScope. 280 mld parametrów łącznie, 14 mld aktywnych, 43 warstwy (jedna gęsta FFN, 42 MoE), 512 ekspertów routowanych z top-10 plus jeden wspólny ekspert w 2048-wymiarowej przestrzeni ukrytej. Uwaga hybrydowa: 37 warstw silnie skompresowanej uwagi, 6 warstw MLA z rzadką uwagą DSA. Licencja to ERNIE 5.5 Flash Base Model License Agreement v1.0 — nie Apache 2.0.
• ERNIE 5.5 Flash Preview — tylko przez API od 11 listopada, w Baidu Qianfan, oferowany z kontekstem 1 mln tokenów i limitami 300 żądań oraz 3 mln tokenów na minutę. W poście Baidu informującym o wydaniu napisano, że wagi „wkrótce zostaną udostępnione na licencji Apache 2.0”. Na dzień dzisiejszy nie zostały udostępnione. Bezpłatny wariant wersji Preview można wywoływać za pośrednictwem katalogu podmiotu trzeciego od 10 listopada.
• ERNIE 5.5 Flash — model, którego dotyczy ten pull request. Nie został wydany. Cookbook SGLang wymienia go jako „ERNIE-5.5-Flash (FP8 / FP4 / BF16, wkrótce), z rozumowaniem, wywoływaniem narzędzi i dołączonym szkicem DSpark”, a lista modeli Qianfan zawiera dokładnie jeden wpis ERNIE 5.5: ernie-5.5-flash-preview. Nie istnieje strona Artificial Analysis dla żadnego modelu ERNIE 5.5, a najnowszy wiersz ERNIE w tabeli liderów areny to ERNIE 5.1 z wynikiem 1467 — więc każda liczba dotycząca możliwości przypisana temu modelowi nadal pochodzi wyłącznie od Baidu.

Jaka jest uczciwa interpretacja całego PR-a: został napisany pod checkpoint, którego nikt nie może pobrać. Kod wykrywania FP4, loader draftu DSpark, który buduje main_proj z konfiguracją kwantyzacji FP8 i kwantyzuje feature_projection BF16 podczas ładowania, oraz rozgrzewanie tabeli kodowania, które ponosi zmierzony koszt 0,8 sekundy przy starcie, a nie przy pierwszym żądaniu — wszystko to dotyczy artefaktu określanego w komentarzu w kodzie jedynie jako „checkpoint 1110”. Baidu ogłosiło ten artefakt, ale go nie opublikowało.

Ile to jest warte dla kogoś, kto dziś wybiera model
Bardzo niewiele jako decyzja zakupowa i całkiem sporo jako decyzja o harmonogramie. Wydanie, które uczyniłoby ERNIE 5.5 Flash kandydatem, to nie ten pull request; to checkpoint czatu plus cena, jaką Baidu za niego ustali, plus jedna niezależna ewaluacja. To, co PR rozstrzyga, to kształt wdrożenia, na jakie się decydujesz, jeśli planujesz self-hosting: tokenizer w Pythonie wymagający zdalnego kodu, szybka ścieżka FP4 wymagająca sprzętu SM100, szkic spekulatywny DSpark dołączony do tej samej rodziny checkpointów oraz parser rozumowania, który zakłada, że myślenie jest włączone. Zespoły, które zakładały: „mamy H100s, uruchomimy tanią wersję skwantyzowaną”, wiedzą już, że tania wersja skwantyzowana jest tą, której ich sprzęt nie udźwignie.
Jeśli wolisz nie opierać produkcyjnej ścieżki ani na endpointcie, ani na niezmergowanym kodzie serwowania, rozsądnym rozwiązaniem jest trzymanie modelu za warstwą routingu, dopóki nie udowodni swojej wartości. Katalog OrcaRouter nie zawiera żadnego modelu ERNIE — lista modeli zwraca 218 pozycji i żadnego wiersza Baidu — więc nie jest to twierdzenie, że można go tu dziś wywołać. To, co platforma daje dla modelu w takim stanie, to projekt eksperymentu: jeden endpoint zgodny z OpenAI przed ponad 200 innymi modelami, automatyczne przełączanie awaryjne między dostawcami za tym pojedynczym endpointem, oraz 0% narzutu z przekazywaniem ceny z cennika dostawcy, więc przy zmianie ceny przez dostawcę płacisz ją w dniu, w którym następuje, a nie po doliczeniu marży. Jeśli ERNIE 5.5 Flash później pojawi się u dostawcy, do którego już kierujesz ruch, wypróbowanie go będzie zmianą ciągu znaków modelu, a nie drugą integracją.

Co sprawiłoby, że stałoby się to historią wydania?
Cztery rzeczy, z grubsza w kolejności od tego, jak bardzo zmieniłyby obraz sytuacji. Scalenie pull requesta z CI i zweryfikowany przebieg testu dokładności zamieniłyby „ktoś to napisał” w „SGLang potrafi to obsłużyć” — to różnica, jaką 6 listopada wprowadziło wcześniejsze wsparcie Base. Pojawienie się checkpointu MXFP4 na Hugging Face umożliwiłoby każdemu, kto ma B200, przetestowanie części FP4 tego PR. Wagi Apache 2.0, które Baidu obiecało dla Preview, rozstrzygnęłyby kwestię licencji pozostawioną otwartą przez wydanie Base. A pierwszy niezależny wynik — strona Artificial Analysis, pozycja w rankingu areny, powtarzalny benchmark agentowy od kogoś, kto nie jest Baidu — zastąpiłby tabelę dostawcy dowodami.
Do tego czasu interesującym pytaniem nie jest to, czy ERNIE 5.5 Flash jest dobry. Jest nim to, czy model może pojawić się z w pełni określonym kontraktem serwowania i wciąż nieopublikowanymi wagami oraz co to robi z ludźmi, którzy planują sprzęt na podstawie zapowiedzi. W tym tygodniu odpowiedź brzmi: tak, a kontrakt to szablon czatu w Pythonie, czterobitowi eksperci na jednej generacji GPU i odmowa uruchomienia gdziekolwiek indziej. Następnym ruchem Baidu są wagi; SGLang — przegląd.
