So verwenden Sie Gemini 4 Carbon: API-Einrichtung, Parameter und Kosten

Gemini 4 Carbon ist Googles multimodales Modell in der Gemini-4-Familie, und auf OrcaRouter ist es über einen einzigen Schlüssel erreichbar: Die Modell-ID lautet google/gemini-4-carbon, der Listenpreis beträgt 2,00 US-Dollar pro Million Eingabe-Tokens und 10,00 US-Dollar pro Million Ausgabe-Tokens, und die Seite Gemini 4 Carbon API enthält die aktuellen Werte. Im Folgenden finden Sie das Setup, das tatsächlich funktioniert, in der Reihenfolge, in der Sie darauf stoßen: Endpunkt, Anfrageformat, Parametersatz, Kosten und dann die Latenzwerte, mit denen Sie rechnen sollten, bevor Sie es vor Nutzer schalten.

Was das Modell akzeptiert

Das Kontextfenster umfasst 1.048.576 Tokens, und die Obergrenze für die Ausgabe liegt bei 65K Tokens pro Antwort – das ist das Erste, was man verinnerlichen sollte: Ein sehr großes Dokument passt in den Prompt, aber die Antwort ist deutlich unterhalb der Eingabemenge begrenzt. Die Eingabemodalitäten sind Text, Bilder, Audio, Video und Dokumente; die Ausgabe ist Text. Native Tool-Nutzung und Function Calling werden unterstützt, ebenso strukturierte JSON-Ausgaben, was das Ganze innerhalb eines Agenten-Loops nutzbar macht und nicht nur als Chatbox.

Zero Data Retention ist für dieses Modell verfügbar. Bei aktiviertem ZDR werden Anfragen nur an Upstream-Anbieter weitergeleitet, die eine Zero-Retention-Vereinbarung haben. Wenn Ihr Beschaffungsteam das also schriftlich benötigt, handelt es sich um eine Routing-Einstellung und nicht um einen separaten Vertrag.

Endpunkt eins: der OpenAI-kompatible Pfad

Dies ist der Weg, den Sie einschlagen sollten, wenn Sie bereits Code haben, der mit einem beliebigen OpenAI-Client läuft. Richten Sie das SDK auf OrcaRouter aus, behalten Sie die Modell-ID bei, und sonst ändert sich nichts an Ihrer Anfrage. Das folgende Beispiel ist das gesamte Programm:

Setzen Sie die Basis-URL auf https://api.orcarouter.ai/v1, lesen Sie den Schlüssel aus einer Umgebungsvariable statt aus einem Literal und übergeben Sie google/gemini-4-carbon als Modell. Dieselben drei Zeilen funktionieren mit den SDKs für Python, TypeScript und Go, weil das Wire-Format Chat Completions ist.

Endpunkt zwei: natives generateContent

Wenn Ihr Stack auf dem Gemini SDK statt auf einem OpenAI-Client aufbaut, antwortet Carbon weiterhin nativ unter /v1beta/models/{model}:generateContent auf demselben Host. Die interessante Konsequenz ist, dass Sie eine Workload jeweils eine Anfrage auf einmal migrieren können: Verwenden Sie den OpenAI-kompatiblen Pfad für die Dienste, die Code mit anderen Anbietern teilen, und den nativen Pfad dort, wo Sie bereits von Gemini-spezifischen Feldern abhängen. Beide werden über denselben Schlüssel und dasselbe Guthaben abgerechnet, was das Argument für ein Gateway gegenüber einer Sammlung von Anbieterkonten ist.

Die Parameter, die berücksichtigt werden

Die Modellseite listet explizit auf, welche Parameter unterstützt werden: include_reasoning, max_tokens, reasoning, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools und top_p. Diese Liste ist der Vertrag. Wenn Sie eine Anfrage von einem anderen Anbieter übernehmen, prüfen Sie sie, bevor Sie sie ausliefern, denn die Parameter, zu denen Sie aus Gewohnheit greifen – Penalty-Terme, Logit-Biases, ein Dutzend Sampling-Stellschrauben – stehen nicht darauf.

Zwei davon sind wichtiger als die übrigen. structured_outputs plus response_format ist das, was ein Dokument mit 200.000 Tokens in einen Datensatz verwandelt, den dein nachgelagerter Code ohne einen Parser lesen kann, den du selbst geschrieben hast. Und include_reasoning ist der Weg herauszufinden, was das Modell getan hat, bevor es geantwortet hat; wenn du es in der Produktion weglässt, vertraust du einem undurchsichtigen Schritt dein Schema an.

Was eine Anfrage kostet

Der Input kostet 2,00 $ pro Million Tokens, der Output 10,00 $ pro Million, und Cache-Lesevorgänge kosten 0,100 $ pro Million. Ein durchgerechnetes Beispiel: Ein Vertrag mit 40.000 Tokens plus eine strukturierte Extraktion mit 2.000 Tokens werden mit 0,08 $ Input und 0,02 $ Output berechnet, also zehn Cent pro Dokument. Dieselben 40.000 Tokens, aus dem Cache gelesen, kosten dagegen nur 0,004 $ – weshalb die Cache-Position für jeden Workflow wichtig ist, der dasselbe Korpus wiederholt liest.

Zum Vergleich: Dasselbe Dokument mit 40.000 Tokens kostet bei Gemini 3.1 Pro bei der Eingabe gleich viel, bei der Ausgabe jedoch 20 Prozent mehr, und bei Gemini 3 Flash ein Viertel davon bei beidem – die Wahl zwischen ihnen hängt von Modalität und Kontext ab, nicht vom Eingabepreis, der bei Carbon und 3.1 Pro identisch ist. Die Aufschlüsselung der kostenlosen LLM-APIs ist der richtige Ort, um das mit dem übrigen Katalog zu vergleichen.

Zwei Latenzwerte, die unterschiedliche Dinge bedeuten

Die eigene Modellseite von OrcaRouter meldet für die letzten sieben Tage Live-Traffic: p50-Zeit bis zum ersten Token von 6,89 Sekunden, p95 von 10,00 Sekunden und eine Ausgabegeschwindigkeit von 226 Token pro Sekunde bei über 9,6 Millionen bereitgestellten Tokens. Das ist, was ein interaktiver Aufrufer über das Gateway erlebt.

Artificial Analysis berichtet für dasselbe Modell von 64,7 Sekunden bis zum ersten Token und 28,4 Minuten Wall-Clock-Zeit pro Aufgabe. Das ist kein Widerspruch; es sind unterschiedliche Messungen. AA verwendet einen festen Evaluierungs-Harness, bei dem das Modell auf neun schwierigen Benchmarks so lange denken darf, wie es möchte; die Uhr schließt daher das Reasoning ein, nicht nur Netzwerk und Prefill. Wenn Sie eine Zahl ohne die andere zitieren, versprechen Sie entweder zu viel Interaktivität oder schrecken einen Käufer ab, der eigentlich zufrieden gewesen wäre.

Der ehrliche betriebliche Vorbehalt ist die Fehlerquote: 39,7 Prozent der Anfragen lieferten in diesem Sieben-Tage-Zeitraum bei allen Upstream-Anbietern einen Nicht-2xx-Status zurück, gegenüber 10,8 Prozent bei Claude Fable 5.2 im selben Zeitraum. Bauen Sie den Retry- und Fallback-Pfad vor dem Launch ein, nicht erst nach dem ersten Vorfall, und lesen Sie die Versionshinweise zu Gemini 4 Carbon, um zu erfahren, was sich bei seiner Einführung geändert hat.

Wo Carbon hineinpasst, sobald es läuft

Die Workloads, die ihn rechtfertigen, sind diejenigen, die das 1M-Fenster und mehr als eine Modalität benötigen: ganze Codebasen, lange Transkripte mit Sprecherzuordnung, gescannte PDFs samt ihres extrahierten Textes. Wenn Sie zwischen Google-Modellen wählen, ist Gemini 4 Carbon vs Gemini 3.1 Pro der direkte Vergleich; wenn die Alternative von einem ganz anderen Anbieter stammt, GPT-6.1 Sol vs Gemini 4 Carbon deckt dieselbe Entscheidung von der anderen Seite ab.

Wenn Sie noch einen Stack zusammenstellen, statt eine einzelne Workload zu migrieren, dann bietet die Liste der LLM-Modelle den aktuellen Katalog mit IDs und Preisen, und die oben verlinkte Modellseite ist diejenige, die Sie prüfen sollten, bevor Sie etwas hartcodieren – Preise und Endpunkte ändern sich.

Die Checkliste

Speichere den Schlüssel in einer Umgebungsvariable, nicht im Repository. Wähle den Endpunkt, der zum SDK passt, das du bereits auslieferst. Sende nur Parameter aus der unterstützten Liste und verwende response_format plus structured_outputs, wenn die Ausgabe von Code weiterverarbeitet wird. Setze das Ausgabebudget auf 65K Token und cache alles über 20K, das du mehr als zweimal liest. Rechne mit einem p50 nahe sieben Sekunden und plane die Minderheit der Aufrufe ein, die einen Fehler zurückgeben. Dann miss es mit deinem eigenen Traffic, denn ein Benchmark-Diagramm ist ein Ausgangspunkt, und deine Anfrageverteilung ist das Einzige, was entscheidet, ob es die richtige Wahl war.