Eine generierte Titelkarte mit der Aufschrift „FLUX 3 Image Klein vs. FLUX 3 Image Klein Pup“ und dem Untertitel „das eine erzeugt das Bild, das andere schreibt den Prompt“. Eine Karte links zeigt „Klein: 5.6B-Generator, 5.6 GB FP8, INT8 ab 8 GB“, eine Karte rechts zeigt „Pup: 9B-Qwen3.5-Fine-Tune, 18.8 GB BF16, Apache 2.0“, und eine Fußzeile zeigt „Beide Angaben gemäß den Hugging-Face-Modellkarten.“ Das OrcaRouter-Logo befindet sich unten rechts.
Guides & Insights

FLUX 3 Image Klein vs. FLUX 3 Image Klein Pup: Ein Modell gegen seinen eigenen Prompt-Schreiber

Autor

Magnus Corvin

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Der Name des Repositorys verleitet zu einem Vergleich, den es nicht gibt. FLUX 3 Image Klein und FLUX 3 Image Klein Pup wirken wie zwei Modelle einer Familie – so wie jede andere „vs“-Seite in diesem Blog zwei Generatoren mit unterschiedlichen Stärken gegenüberstellt. Das sind sie nicht. FLUX 3 Image Klein ist das Bildmodell mit 5,6 Milliarden Parametern, das am 15. Oktober 2026 erschienen ist. FLUX 3 Image Klein Pup – auf seiner Modellkarte „Prompt Upsampler“ betitelt – ist ein Sprachmodell mit 9 Milliarden Parametern, dessen einzige Aufgabe darin besteht, deinen kurzen Prompt in die lange, detaillierte Bildbeschreibung umzuschreiben, für die das Bildmodell trainiert wurde.

Die eigentliche Frage ist also nicht, welches der beiden besser ist. Sie lautet, ob das zweite optional ist. Black Forest Labs sagt, dass es das nicht ist: In der Modellkarte steht unmissverständlich, dass Klein „nicht dafür gedacht ist, ohne einen vorgeschalteten Prompt-Upsampler zu laufen“, und dass ein kurzer Prompt, so wie eingegeben, generische Ausgaben liefert. Diese Behauptung ist es wert, untersucht zu werden, denn akzeptiert man sie, verändert das Ihr Speicherbudget, Ihre Latenz, Ihre Lizenzverpflichtungen und – in einem bestimmten Fall – die Präzision Ihrer Bearbeitungen.

Was jedes der beiden tatsächlich ist

Die Trennung ist sauberer, als die Benennung vermuten lässt. Ein Modell hat Bildverständnis, das andere nicht, und nur eines von beiden kommt je mit einem Pixel in Berührung.

• Rolle — Klein generiert und bearbeitet Bilder; Pup gibt Text aus und rendert niemals etwas

• Parameter — 5,6 Mrd. für den Generator, 9 Mrd. für den Upsampler, sodass das Hilfsmodell das größere Modell ist

• Abstammung — Klein ist ein Bildmodell aus der FLUX-3-Linie; Pup ist ein vollständiges Fine-Tuning von Qwen/Qwen3.5-9B, das selbst von Qwen3.5-9B-Base abstammt

Gewichte auf der Festplatte — 11,2 GB bei BF16 und 5,6 GB bei FP8 für Klein; 18,8 GB für Pups Safetensors bei BF16

• Lizenz — FLUX Kommunity License für Klein, mit seiner Umsatzgrenze von 5 Mio. US-Dollar; Apache 2.0 für Pup

• Eingaben — Klein nimmt Text, Referenzbilder und Bounding-Boxen entgegen; Pup nimmt dieselbe Anfrage plus bis zu 10 Referenzbilder entgegen und gibt einen Prompt zurück

• Ausgabe — Pixel versus englischer Text

Diese letzte Zeile ist die, die Leute übersehen. Die Ausgabesprache von Pup ist immer Englisch, selbst wenn die Eingabeanfrage in einer anderen Sprache verfasst ist. Wenn Ihre Pipeline Prompts zur Überprüfung protokolliert, ist der Prompt, den Ihr Prüfer sieht, nicht der Prompt, den Ihr Nutzer eingegeben hat.

Die 8-GB-Angabe übersteht die Standard-Pipeline nicht.

Die zentrale Hardware-Behauptung für Klein ist, dass der INT8-Build auf einer RTX-Karte mit nur 8 GB VRAM läuft. Diese Behauptung bezieht sich auf den Generator, und für sich genommen scheint sie zu stimmen — der quantisierte Checkpoint ist dafür ausgelegt, und die dazu veröffentlichten Zeitmessungen wurden von NVIDIA gemessen.

Fügen Sie nun die Standard-Pipeline hinzu. Die Gewichte von Pup sind in BF16 18,8 GB groß, noch ohne jeglichen Laufzeit-Overhead. Man kann 18,8 GB Gewichte nicht in 8 GB VRAM unterbringen. Die beiden Zahlen beschreiben zwei verschiedene Dinge, und das Release-Material rückt sie so eng zusammen, dass ein Leser vernünftigerweise zu dem Schluss kommen kann, dass das Ganze auf einer alten Karte läuft. Das tut es nicht – jedenfalls nicht in der Konfiguration, die laut BFL vom Modell erwartet wird.

Es gibt drei ehrliche Auswege, und sie kosten unterschiedlich viel:

• Den Upsampler quantisieren — für Pup gibt es Community-GGUF-Builds in den Varianten Q8_0, Q5_K_M, IQ4_XS und IQ3_S mit einem separaten Vision-Projektor, was den Helfer deutlich verkleinert, allerdings zu Lasten der Prompt-Qualität.

• Führen Sie den Upsampler woanders aus – er ist ein Textmodell, daher muss er keine GPU mit dem Generator teilen, sondern nur einen Netzwerksprung überbrücken

• Überspringen Sie es mit --no-pup – kostenlos, sofort und die Option, von der BFL abrät

Die Speicherarithmetik ist das Einzige, was bei dieser Kombination am nützlichsten zu verstehen ist. Sie erklärt auch eine ganze Kategorie von Beschwerden: Jemand berichtet, Klein sei langsam oder passe nicht, und berichtet damit eigentlich, dass er die dokumentierte Pipeline auf Hardware ausgeführt hat, die für die abgespeckte Variante dimensioniert ist.

Was Pup mit einem Prompt macht

Es erweitert. Eine Anfrage wie „ein Mann, der mit seinem Hund spazieren geht, Nachmittagssonne“ wird zu einer Bildbeschreibung der gesamten Szene, die Motiv, Umgebung, Beleuchtung, Kamera und Komposition abdeckt — laut Modellkarte ist die Ausgabe bei mittlerer Einstellung eine lange Beschreibung von ungefähr ein paar hundert Wörtern. Das Bildmodell wird dann auf diese Beschreibung statt auf Ihren Satz konditioniert.

Das ist eine echte Fähigkeit und kein Gag. Bildmodelle im Diffusion-Stil reagieren empfindlich auf die Spezifität des Prompts, und ein Prompt aus fünf Wörtern überlässt nahezu jede kompositorische Entscheidung den Prior-Wahrscheinlichkeiten des Modells. Ein Upsampler trifft diese Entscheidungen explizit und konsistent, weshalb die Ausgabe der Standard-Pipeline bewusster wirkt als die Ausgabe desselben Checkpoints, dem der rohe Satz übergeben wurde.

Es ist auch ein Kontrollverlust, und er geschieht still. Dein Satz wird nicht annotiert – er wird ersetzt. Wenn der Upsampler entscheidet, das Nachmittagslicht sei die Goldene Stunde und der Hund ein Border Collie, kann der Generator nicht wissen, dass du das nicht so gemeint hast. Für explorative Arbeit ist das ein Feature. Für eine Shotliste ist es eine Variable, um die du nicht gebeten hast.

Vier Modi – und warum der Modus wichtiger ist als der Prompt

Pup ist kein einzelnes Modell mit einem einzigen Verhalten. Es wählt je nach Aufgabe einen System-Prompt aus, und es gibt vier: Text-zu-Bild, Bild-zu-Bild, Text-zu-Bild mit Begrenzungsrahmen und Bild-zu-Bild mit Begrenzungsrahmen. Der falsche Modus erzeugt einen gut formulierten Prompt für die falsche Aufgabe – ein Fehler, der wie ein Qualitätsproblem des Modells aussieht, aber keines ist.

Die Sampling-Einstellungen unterscheiden sich ebenfalls je nach Modus, und der Unterschied ist nicht kosmetisch. Die Dekodierung erfolgt bei Temperatur null greedy, mit maximal 3.584 neuen Tokens und deaktiviertem Denken. Die Presence-Penalty beträgt 1,5 für Text-to-Image und 0 für Bearbeitungen. Diese Null ist beabsichtigt: Eine Wiederholungsstrafe ermutigt das Modell, neues Material einzuführen, was genau das ist, was man nicht will, wenn die Aufgabe darin besteht, eine Bearbeitungsanweisung getreu wiederzugeben. Referenzbilder werden außerdem je nach Anzahl unterschiedlich skaliert – etwa 1 Megapixel für eines, 724² für zwei, 512² für drei oder mehr – sodass ein Auftrag mit zehn Referenzen auf viel kleinere Bilder konditioniert wird als ein Auftrag mit einer Referenz.

A generated two-card memory diagram titled 'The default pipeline does not fit in 8 GB'. The left card, headed 'FLUX 3 Image Klein', lists 'Parameters 5.6B', 'FP8 weights 5.6 GB', 'BF16 weights 11.2 GB' and 'INT8 build from 8 GB VRAM'. The right card, headed 'FLUX 3 Image Klein Pup', lists 'Parameters 9B', 'BF16 weights 18.8 GB' and 'Licence Apache 2.0'. A bar across the bottom reads 'Default pipeline: generator plus 18.8 GB of upsampler weights'. A footer reads 'Weights per the Hugging Face model cards; the 8 GB claim covers the INT8 generator alone.' The OrcaRouter logo sits bottom-right.

Die Lizenz ist genau hälftig aufgeteilt.

Das ist der Teil, dem fast keine Aufmerksamkeit geschenkt wird und der sie wahrscheinlich verdient. Die beiden Hälften der Pipeline stehen unter unterschiedlichen Lizenzen. Klein steht unter der FLUX Kommunity License: kostenlos für die kommerzielle Nutzung bei einem Jahresumsatz unter 5 Mio. USD, darüber ist eine kostenpflichtige Lizenz erforderlich. Pup steht unter Apache 2.0, ganz ohne Umsatzbedingung.

Ein Unternehmen oberhalb der Schwelle kann den Prompt-Upsampler also frei nutzen und benötigt dennoch eine Lizenz für den Generator, den er speist. Und ein Unternehmen unterhalb der Schwelle, das die Prompt-Seite feinabstimmen möchte, hat deutlich mehr Spielraum als eines, das die Bildseite feinabstimmen möchte. Wenn Sie planen, auszuliefern, lesen Sie die beiden Lizenzen getrennt, statt „den Klein stack“ als eine einzige Sache zu behandeln. Die permissive Hälfte ist die Hälfte, die leicht übersehen wird.

Was ändert sich eigentlich, wenn man es ausschaltet?

Pup lässt sich mit einem einzigen Flag deaktivieren, und die Auswirkungen sind je nach Aufgabe asymmetrisch.

• Text-to-image — die größte Regression. Kurze Prompts werden generisch, und genau davor warnt BFL; je kürzer der Prompt, desto größer wird die Lücke

• Multi-Referenz — der Upsampler ist das, was aus „diese drei Personen in einen Raum setzen“ eine Beschreibung macht, die alle drei Referenzen berücksichtigt; ohne ihn wird die Referenztreue spürbar lockerer

• Bounding-Box-Layout — dieser Modus dient dazu, räumliche Absicht in eine Bildunterschrift zu übertragen, die sie bewahrt; entfernt man ihn, liegt die Last wieder bei Ihrer Formulierung

• Präzises Bearbeiten – der am wenigsten eindeutige Fall und der, bei dem das Abschalten helfen kann

Der letzte Aufzählungspunkt ist der kontraintuitive, und er hat dieselbe Ursache wie die Null-Präsenz-Strafe. Eine Bearbeitungsanweisung ist normalerweise eng gefasst: Ändere dieses Objekt, verschiebe dieses Element, entferne dieses Ding. Die Aufgabe des Upsamplers besteht darin, zu erweitern, also erweitert er sowohl die Szene um deine Anweisung herum als auch die Anweisung selbst. Wenn die Bearbeitung wirklich lokal ist, ist diese umgebende Erweiterung bestenfalls Rauschen. Wenn sie etwas im Bild widerspricht, ist sie schlimmer als Rauschen.

Unsere eigene Erfahrung mit Klein bei lokalisierten Bearbeitungen – ein Objekt ändern, ein Element in einen begrenzten Bereich verschieben, den Rest des Bildes unverändert lassen – ist, dass das Modell genau in diesem engen Modus am überzeugendsten ist. Was die Frage nach dem Upsampler eher verschärft als abschwächt: Die Aufgabe, bei der der Generator am stärksten ist, ist auch die Aufgabe, bei der die Erweiterung durch den Helfer am wenigsten willkommen ist. Testen Sie beide Einstellungen an Ihren eigenen Bearbeitungs-Prompts, bevor Sie sich entscheiden. Dies ist ein Fall, in dem die pauschale Empfehlung des Anbieters und Ihre spezifische Arbeitslast durchaus zu Recht unterschiedlich ausfallen können.

A screenshot of the Hugging Face model card for black-forest-labs/flux-3-image-klein-pup, showing the title FLUX 3 Image Klein Prompt Upsampler, a description of a 9B vision-language model that expands a short image request into a detailed prompt for FLUX 3 Image, the statement that Klein is not meant to run without a prompt upsampler in front of it, the worked example turning 'A man walking with his dog, afternoon sun' into a 220-word caption, an Apache 2.0 licence, 9B parameters in BF16, and a model tree showing a fine-tune of Qwen3.5-9B.A screenshot of the Hugging Face model card for black-forest-labs/flux-3-image-klein, showing a gated-model notice asking the visitor to agree to share contact information, a sample image grid, a model size of 6B parameters in BF16, the tag 'License: flux-kommunity-license', 3,241 downloads in the last month, and model-tree counts of 1 adapter, 4 fine-tunes and 5 quantizations.

Die Entscheidung in der Praxis

Wenn Sie die Vendor-API aufrufen, statt etwas herunterzuladen, ist das meiste davon irrelevant. Der gehostete Endpoint wendet serverseitig sein eigenes Prompt-Upsampling und seine eigene Pixel-Restaurierung an, sodass Sie das Verhalten mit erweitertem Prompt bereits erhalten, ob Sie darüber nachdenken oder nicht. Die Wahl wird erst dann wirklich relevant, wenn Sie die Gewichte selbst übernehmen.

Wenn du das tust, sieht die Aufteilung ungefähr so aus. Behalte Pup, wenn deine Prompts kurz sind, deine Arbeit explorativ ist oder du generierst statt zu bearbeiten. Lass es weg oder führe einen quantisierten Build aus, wenn deine Grafikkarte klein ist, deine Änderungen eng und wörtlich sind oder deine Prompts bereits lang und spezifisch genug sind, dass die Erweiterung überwiegend Erfindung hinzufügt. Quantisiere es, wenn du beides willst und einen gewissen Verlust an Prompt-Qualität dafür akzeptieren kannst, die gesamte Pipeline auf einem Gerät unterzubringen.

Ein praktischer Hinweis, wie man das kostengünstig ausprobieren kann: Die beiden Hälften scheitern unabhängig voneinander, und eine Routing-Schicht ist der übliche Weg, um zu vermeiden, einen Produktionspfad von einem einzelnen Endpunkt abhängig zu machen. OrcaRouter betreibt eine OpenAI-kompatible API über 200+ Modelle mit 0 % Aufschlag – der Listenpreis des Anbieters wird unverändert weitergegeben – und automatischem Failover zwischen Anbietern, sodass ein beeinträchtigter Endpunkt nicht zu einem fehlgeschlagenen Job wird. Das hilft Ihnen bei Klein selbst nicht, das nicht in unserem Katalog mit 210 Modellen enthalten ist und nicht zu unserem Angebot gehört. Für diese Pipeline sind die Gewichte und die Anbieter-API die Routen; das Routing-Argument ist für die Modelle relevant, die Sie darum herum einsetzen.

Was würde die Antwort ändern

Eine veröffentlichte Ablation. Niemand hat eine Gegenüberstellung von Klein mit und ohne Pup bei denselben Prompts veröffentlicht, die von jemand anderem als dem Labor bewertet wurde, und genau diese eine fehlende Tabelle ist der Grund, warum dies eine Ermessensentscheidung bleibt. Bis es sie gibt, ist die vertretbare Position die wenig glamouröse: Der Upsampler ist Teil des Systems, wie es entworfen wurde, die 8-GB-Behauptung deckt ihn nicht ab, und der eine Workload, bei dem man vernünftigerweise vom Standard abweichen könnte, ist der, bei dem dieses Modell am stärksten ist.