
ERNIE 5.5 Flash: Ein ausschließlich auf Blackwell beschränkter FP4-Pfad erscheint, bevor das Chat-Modell da ist
- OrcaNEUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 pro 1 Mio. Tokens · 185 tok/s
- tencentNEUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 pro 1 Mio. Tokens · 228 tok/s
- GoogleNEUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 pro 1 Mio. Tokens · 89 tok/s
- AnthropicNEUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 pro 1 Mio. Tokens · 98 tok/s
- orcaNEUOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 pro 1 Mio. Tokens · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 pro 1 Mio. Tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 pro 1 Mio. Tokens · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 pro 1 Mio. Tokens · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 pro 1 Mio. Tokens · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 pro 1 Mio. Tokens · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenz
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 pro 1 Mio. Tokens · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenz
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 pro 1 Mio. Tokens · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenz
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 pro 1 Mio. Tokens · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenz
Das Konkreteste, was diese Woche über ERNIE 5.5 Flash veröffentlicht wurde, ist eine Fehlermeldung. In einem 525-zeiligen Pull Request, der am 18. November 2026 im SGLang-Repository geöffnet wurde, steckt eine harte Ablehnung: --moe-a2a-backend megamoe wird auf allem abgelehnt, was keine SM100-GPU ist, weil die Kernel, die andernfalls SwiGLU berechnen würden, und die Experten dieses Modells auf SiTU setzen. Diese Zeile und der Rest von PR #51236 sind die erste öffentliche Beschreibung davon, wie die Chat-Version von ERNIE 5.5 Flash — im Gegensatz zum ERNIE 5.5 Flash Base-Checkpoint, den Baidu am 5. November veröffentlichte, und dem ERNIE 5.5 Flash Preview-Endpoint, den es am 11. November öffnete — bereitgestellt werden soll. Das Modell selbst ist noch nicht draußen. Sein Serving-Vertrag ist es jetzt.
Dies ist ein Artikel zum bisherigen Wissensstand, keine Launch-Berichterstattung. Alles Folgende stammt aus einem einzigen offenen, nicht zusammengeführten, nicht geprüften Pull Request, aus der SGLang-Dokumentation, die parallel zur früheren Base-Unterstützung verfasst wurde, und aus den von Baidu selbst veröffentlichten Seiten. Nichts hier wurde gegen einen herunterladbaren Chat-Checkpoint ausgeführt, weil kein solcher Checkpoint herunterladbar ist. Wo eine Zahl von Baidu stammt, ist sie als von Baidu stammend gekennzeichnet.
Was der Pull Request tatsächlich hinzufügt
PR #51236 trägt den Titel „[Feat] ERNIE-5.5-Flash: Python-Chat-Template-Encoding und FP4-MegaMoE-Serving hinzufügen“ und wurde von chang-wenbin, einem Contributor, am 18. November um 12:12 UTC geöffnet. Er berührt 14 Dateien, fügt 525 Zeilen hinzu und löscht 24. Es gibt keine Genehmigungen, alle CI-Läufe sind wegen eines noch ausstehenden Labels übersprungen, und sowohl der Abschnitt „Accuracy-Test“ als auch der Abschnitt „Speed-Test“ der Beschreibung bestehen aus den unausgefüllten Template-Kommentaren. Als Beweismittel gelesen ist das von Bedeutung: Das hier ist Code, von dem sein Autor glaubt, dass er gebraucht wird – nicht Code, den irgendjemand verifiziert hat.
Es ist der vierte Pull Request zu ERNIE 5.5 binnen zwei Wochen. #48546 fügte dem SGLang-Cookbook Deployment-Rezepte hinzu und wurde am 5. November gemergt, an dem Tag, an dem die Base-Gewichte veröffentlicht wurden. #48547 fügte das Modell selbst hinzu – Ernie5_5_MoeForCausalLM, das Attention-Backend, den KV-Cache-Pool, ein DSpark-Draft-Modul – und wurde am 6. November gemergt. #49807 erweiterte den NVIDIA-LiteTopK-Prefill am 11. November auf „LongCat, ERNIE 5.5, HY-4-family, Kimi K3.1“ und ist noch offen. Der PR vom 18. November ist der erste der vier, bei dem es überhaupt nicht um den Base-Checkpoint geht.
Die Chat-Vorlage ist Python, und das ändert, wer sie ausführen kann.
ERNIE 5.5 Flash Checkpoints können ihr Chat-Template als Python statt als Jinja-String mitführen, und zwar in einer Tokenizer-Klasse, die der PR als ErnieChatTokenizer bezeichnet. SGLangs normaler Pfad rendert Prompts durch Aufruf von apply_chat_template gegen ein Jinja-Template in der Tokenizer-Konfiguration; die neue ernie5_5-Chat-Codierung ruft stattdessen den eigenen Tokenizer des Checkpoints auf und löst sich automatisch anhand des Architektur-Strings oder des Modelltyps ernie5_5_moe auf. Die praktische Konsequenz lautet mit den Worten des PR selbst: Der Tokenizer muss mit --trust-remote-code geladen werden, und das Bereitstellen von Chat mit --skip-tokenizer-init wird rundheraus mit einem erklärenden Fehler abgelehnt.
Das ist eine Deployment-Einschränkung, auf die ein Leser reagieren kann. Ein Modell, das Prompts in Python rendert, führt zur Anfragezeit Code aus dem Checkpoint-Repository aus, daher muss jeder, der es air-gapped, in einem gehärteten Image oder hinter einer Richtlinie betreibt, die Remote-Code verbietet, entweder den Tokenizer mitliefern oder das Flag akzeptieren. Der Base-Checkpoint hat dieses Problem nicht: Seine veröffentlichte tokenizer_config.json enthält überhaupt kein Chat-Template und deklariert einen einfachen PreTrainedTokenizerFast, was man von einem Checkpoint erwarten würde, der über einen Completions-Endpunkt bereitgestellt wird.
Drei kleinere Details in derselben Datei sind mehr wert, als sie scheinen. Der Adapter unterstützt Inline-Systemnachrichten – System-Turns mitten in der Konversation, die an Ort und Stelle gerendert und nicht in die erste Nachricht eingefügt werden –, was nur zwei andere Encodings im SGLang-Baum tun. Er nutzt die native Fortsetzung des Renderers für continue_final_message, weil der generische Prefix-Append-Pfad das Präfix im geöffneten Think-Block verlieren würde. Und er verwirft absichtlich chat_template_kwargs, die der Renderer ablehnen würde, da ErnieChatTokenizer bei einem unbekannten Keyword einen Fehler auslöst, während eine Jinja-Vorlage eines stillschweigend ignoriert – die PR nennt ein Frontend, das Denken im DeepSeek-Stil sendet, als den Fall, der bricht.
Der Bugfix, der sich daraus ergibt, ist die aufschlussreichste einzelne Zeile im Diff. Der Request-Handler von SGLang liest einen Thinking-Schlüssel und setzt ihn standardmäßig auf off; der Reasoning-Parser von ernie55 liest enable_thinking und setzt es standardmäßig auf on. Das Injizieren des Standardwerts des Handlers erzeugte daher einen Thinking-Off-Prompt unter einem Reasoning-Parser, der Reasoning erwartete, und die gesamte Antwort des Modells wurde in reasoning_content geparst, während content leer blieb. Genau das ist der Fehlermodus, den Nutzer des Preview-Endpoints seit dem 11. November melden — einfache Antworten, die als leerer content ankommen — und der Fix impliziert, dass der Chat-Checkpoint standardmäßig denkt.
Auch für Reasoning und Tool-Aufrufe werden die Parser automatisch ausgewählt: ernie55 für Reasoning, das <ernie:think>-Tags liest, und ernie55 für Tool-Aufrufe, das <ernie:tool_call> liest. Im Docstring des Adapters heißt es, dass Text, Tool-Aufrufe und der Thinking-Schalter unterstützt werden und dass die multimodalen Zweige der Vorlage „für ein späteres Upgrade aufgehoben“ werden – daher wird das Chat-Modell mit diesem PR als das bereitgestellt, was Baidu es überall sonst beschrieben hat: ein Textmodell.
Warum 4-Bit-Experten den schnellen Pfad zu Blackwell blockieren
Die zweite Hälfte des PR dreht sich um geroutete Experten, die in MXFP4 gespeichert und als w4a8 ausgeführt werden – Vier-Bit-Gewichte, Acht-Bit-Aktivierungen – über DeepGEMMs MegaMoE-All-to-All zwischen GPUs hinweg. Zwei Implementierungsentscheidungen liefern Informationen über das Modell selbst.
• Die Quantisierung wird automatisch aus dem safetensors-Header erkannt, da der Checkpoint keinen Schlüssel routed_experts_quant_method enthält. Das stimmt mit der veröffentlichten Base-Konfiguration überein, die kein solches Feld hat; der Loader liest den Experten-dtype aus den Datei-Headern und setzt is_fp4_experts daraus.
• Der MegaMoE-Pfad wird auf SM90 und unter ROCm abgelehnt, nicht degradiert, weil die SM90-FP8- und ROCm-MegaMoE-Kernel SwiGLU fest einbauen, während diese Experten SiTU-aktiviert sind. Der Kommentar im PR fixiert die exakten Konstanten, die DeepGEMM festschreibt: SiTU beta 4.0 und linear beta 25.0. Die eigene config.json des Base-Checkpoints deklariert activation_situ_beta: 4.0 und activation_situ_linear_beta: 25.0, sodass die Kernel-Konstanten und die Gewichte übereinstimmen — genau die Art von Gegenprobe, die ein Leak als Engineering statt als Spekulation lesbar macht.
Der Fehlermodus, der verhindert wird, ist der leise. Ein SM90-Kernel, der SwiGLU auf SiTU-Gewichten berechnen würde, würde nicht abstürzen; er würde flüssigen, leicht falschen Text zurückgeben. Die Verweigerung des Starts ist das bessere Ergebnis, und das ist der Grund, warum die FP4-Story an Hardware gebunden statt universell ist.
Was das kommerziell bedeutet, ist enger gefasst als „ERNIE 5.5 Flash braucht Blackwell“. Das stimmt nicht. Das SGLang-Cookbook, das für den Base-Checkpoint geschrieben wurde, veröffentlicht Single-Node-Rezepte für B300, GB300, B200, GB200 und H100, und das H100-FP8-Rezept umfasst acht GPUs, weil FP8-Gewichte ungefähr 280 GB groß sind. Der FP4-Expertenpfad ist derjenige, der nur auf SM100-Komponenten existiert, und SGLang hat keine Speichertabelle für einen FP4-Checkpoint veröffentlicht, weil es noch keinen gesehen hat. Betrachten Sie jede „passt auf eine B200“-Rechnung, die Sie sehen — einschließlich der naheliegenden Schätzung, dass die Halbierung der Experten-Bytes ein 280-GB-Modell auf etwas nahe 150 GB bringt — als Schätzung, nicht als Rezept.
Was ist heute tatsächlich herunterladbar?
• ERNIE 5.5 Flash Base — offene Gewichte seit dem 5. November 2026, in FP8 und BF16, auf Hugging Face und ModelScope. 280B Gesamtparameter, 14B aktiv, 43 Schichten (eine dichte FFN-Schicht, 42 MoE), 512 geroutete Experten mit Top-10 plus einem geteilten Experten in einem 2.048-dimensionalen latenten Raum. Hybride Attention: 37 Schichten stark komprimierter Attention, 6 mit MLA und DSA-Sparse-Attention. Die Lizenz ist die ERNIE 5.5 Flash Base Model License Agreement v1.0 — nicht Apache 2.0.
• ERNIE 5.5 Flash Preview — seit dem 11. November nur per API verfügbar, auf Baidu Qianfan gelistet mit einem Kontext von 1 Mio. Tokens und Ratenlimits von 300 Anfragen und 3 Millionen Tokens pro Minute. In Baidus Release-Beitrag heißt es, die Gewichte „würden bald unter Apache 2.0 als Open Source veröffentlicht“. Stand heute ist dies nicht geschehen. Eine kostenlose Variante der Preview ist seit dem 10. November über einen Drittanbieterkatalog aufrufbar.
• ERNIE 5.5 Flash — das Modell, um das es in diesem Pull Request geht. Nicht veröffentlicht. SGLangs Cookbook führt es als „ERNIE-5.5-Flash (FP8 / FP4 / BF16, demnächst verfügbar), mit Reasoning, Tool Calling und einem mitgelieferten DSpark-Draft“ auf, und Qianfans Modellliste enthält genau einen ERNIE-5.5-Eintrag, ernie-5.5-flash-preview. Es gibt keine Artificial-Analysis-Seite für irgendein ERNIE-5.5-Modell, und die neueste ERNIE-Zeile im Arena-Leaderboard ist ERNIE 5.1 mit 1467 – daher bleiben alle mit diesem Modell verbundenen Fähigkeitswerte Baidus eigene.

Die ehrliche Lesart des gesamten PR lautet: Er ist für einen Checkpoint geschrieben, den niemand herunterladen kann. Der FP4-Erkennungscode, der DSpark-Draft-Loader, der main_proj mit der FP8-Quant-Konfiguration aufbaut und beim Laden ein BF16-feature_projection quantisiert, sowie das Encode-Table-Warm-up, das beim Start statt bei der ersten Anfrage gemessene 0,8 Sekunden kostet — all das zielt auf ein Artefakt, auf das in einem Codekommentar nur als „the 1110 checkpoint“ verwiesen wird. Baidu hat dieses Artefakt angekündigt und es nicht veröffentlicht.

Was das für jemanden wert ist, der heute ein Modell auswählt
Als Kaufentscheidung sehr wenig, als Planungsentscheidung eine ganze Menge. Das Release, das ERNIE 5.5 Flash zu einem Kandidaten machen würde, ist nicht dieser Pull Request; es ist der Chat-Checkpoint plus der Preis, den Baidu dafür ansetzt, plus eine unabhängige Evaluierung. Was der PR aber klärt, ist die Ausgestaltung des Deployments, auf das man sich einlässt, wenn man Self-Hosting plant: ein Python-Tokenizer, der Remote-Code benötigt, ein FP4-Schnellpfad, der SM100-Hardware erfordert, ein DSpark-Speculative-Draft, der in dieselbe Checkpoint-Familie eingebunden ist, und ein Reasoning-Parser, der davon ausgeht, dass Thinking eingeschaltet ist. Teams, die davon ausgingen: „Wir haben H100s, wir werden die günstige quantisierte Version laufen lassen“, wissen jetzt, dass ausgerechnet die günstige quantisierte Version diejenige ist, die ihre Hardware nicht verkraftet.
Wenn Sie Ihren Produktionspfad lieber weder auf den Endpoint noch auf den noch nicht gemergten Serving-Code setzen möchten, ist die vernünftige Variante, das Modell hinter einer Routing-Schicht zu belassen, während es sich bewährt. OrcaRouters Katalog enthält kein ERNIE-Modell — die Modellliste liefert 218 Einträge und keine Baidu-Zeile — es ist also nicht die Behauptung, dass Sie es hier heute aufrufen können. Was Ihnen die Plattform für ein Modell in diesem Zustand bietet, ist das Experimentdesign: ein OpenAI-kompatibler Endpoint vor über 200 anderen Modellen, automatisches Failover über Anbieter hinweg hinter diesem einen Endpoint, und 0 % Aufschlag, wobei der Listenpreis des Anbieters durchgereicht wird, sodass eine Preisänderung des Anbieters Sie genau an dem Tag trifft, an dem sie erfolgt, und nicht erst, nachdem eine Marge aufgeschlagen wurde. Wenn ERNIE 5.5 Flash später bei einem Anbieter verfügbar wird, an den Sie bereits routen, wird das Ausprobieren zu einer Änderung am Modell-String statt zu einer zweiten Integration.

Was würde daraus eine Release-Story machen?
Vier Punkte, ungefähr danach geordnet, wie stark sie das Bild verändern würden. Würde der Pull Request mit CI und einem überprüften Accuracy-Lauf gemergt, würde das aus „jemand hat das geschrieben“ ein „SGLang kann es ausliefern“ machen – genau der Unterschied, den die frühere Base-Unterstützung am 6. November ausgemacht hat. Ein MXFP4-Checkpoint, der auf Hugging Face erscheint, würde die FP4-Hälfte des PR für jeden mit einer B200 testbar machen. Die Apache-2.0-Gewichte, die Baidu für die Preview versprochen hat, würden die Lizenzfrage klären, die das Base-Release offen gelassen hat. Und ein erster unabhängiger Score – eine Seite bei Artificial Analysis, ein Eintrag in einer Arena-Rangliste, ein reproduzierbarer agentischer Benchmark von jemandem, der nicht Baidu ist – würde die Anbietertabelle durch Belege ersetzen.
Bis dahin ist die interessante Frage nicht, ob ERNIE 5.5 Flash gut ist. Sie lautet, ob ein Modell mit vollständig spezifiziertem Serving-Vertrag und noch unveröffentlichten Gewichten erscheinen kann und was das mit den Leuten macht, die Hardware anhand von Ankündigungen planen. Diese Woche lautet die Antwort ja, und der Vertrag ist eine Chat-Vorlage in Python, 4-Bit-Experten auf einer GPU-Generation und die Weigerung, irgendwo sonst zu starten. Baidus nächster Schritt sind die Gewichte; SGLangs ist eine Überprüfung.
