Google: Gemini 3.1 Pro Preview Custom Tools vs Google: Gemma 4 31B

Beim Preis ist Google: Gemma 4 31B die günstigere Option — etwa 97% unter Google: Gemini 3.1 Pro Preview Custom Tools bei Eingabe-Tokens. Für latenzsensible Arbeitslasten liefert Google: Gemma 4 31B das erste Token schneller. Wählen Sie Google: Gemma 4 31B, um Kosten zu minimieren, oder Google: Gemma 4 31B, wenn die Antwortgeschwindigkeit am wichtigsten ist.

Google: Gemini 3.1 Pro Preview Custom Tools und Google: Gemma 4 31B sind beide über denselben OrcaRouter-Endpoint zum Anbieterpreis ohne jeglichen Token-Aufschlag verfügbar; der Wechsel zwischen beiden ist eine einzeilige Änderung, und die Zahlen unten sind das, was Sie tatsächlich zahlen. Dieser Vergleich zieht Live-Preise, die veröffentlichte Context Window sowie OrcaRouters eigene Latency- und Throughput-Messungen heran, damit Sie Kosten gegen Leistung für Ihre konkrete Arbeitslast abwägen können, statt sich auf den Schaufenster-Benchmark eines Anbieters zu verlassen. Die richtige Wahl hängt fast immer von der Form Ihres Traffics ab — Promptlänge, wie viel Text Sie erzeugen, wie latenzempfindlich Ihre Nutzer sind und wie schwer das Reasoning ist —, weshalb die folgenden Abschnitte die Entscheidung Dimension für Dimension aufschlüsseln und mit einer konkreten Empfehlung enden. Wo eine Metrik für eines der beiden Modelle fehlt, wird die Zeile ausgelassen statt geraten, sodass jede Aussage hier durch eine echte Zahl gestützt ist.

Bei Eingabe-Tokens kostet Google: Gemini 3.1 Pro Preview Custom Tools $4.00 pro 1 Mio. gegenüber $0.13 bei Google: Gemma 4 31B, und bei der Ausgabe $18.00 gegenüber $0.38 pro 1 Mio. Die Rechnung entscheidet sich meist bei den Ausgabe-Tokens: Eine Chat- oder Agent-Arbeitslast, die lange Completions erzeugt, wird vom Ausgabetarif dominiert, sodass ein bei der Eingabe günstiger wirkendes Modell Ende zu Ende dennoch die teurere Wahl sein kann. Schätzen Sie Ihr tatsächliches Eingabe-zu-Ausgabe-Verhältnis, bevor Sie allein nach Preis wählen — ein abrufintensiver Prompt mit kurzer Antwort und ein kurzer Prompt mit langer Generierung liegen an entgegengesetzten Enden dieser Tabelle. Praktisch dimensionieren Sie das, indem Sie eine repräsentative Stichprobe Ihrer Prompts nehmen, die durchschnittlichen Eingabe- und Ausgabe-Tokens zählen und jeweils mit den entsprechenden Tarifen der beiden Modelle multiplizieren; das Modell mit den niedrigeren Mischkosten (blended) auf Ihrem tatsächlichen Mix ist das zu schlagende. Denken Sie daran, dass beide Preise hier der reine Anbietertarif sind — OrcaRouter schlägt nichts auf —, sodass der Vergleich gleichwertig ist und die berechnete Ersparnis die Ersparnis ist, die Sie behalten.

Latency und Throughput entscheiden, wie sich das Modell in der Produktion anfühlt. Die mediane (p50) Antwort-Latency ist die Wartezeit einer typischen Anfrage bis zum ersten Token; der Throughput (Tokens pro Sekunde) legt fest, wie schnell die Antwort streamt, sobald sie beginnt. Für interaktiven Chat und Agent-Schleifen zählt eine niedrige p50-Latency am meisten, weil der Nutzer auf das erste Token wartet; für Batch-Generierung und Langformausgaben dominiert der Throughput die Gesamtzeit, weil die Antwort lang ist. Die 7-Tage-Trendcharts oben zeigen, ob die Latency jedes Modells stabil ist oder driftet — etwas, das eine einzelne Schlagzeilen-Zahl verbirgt: Ein Modell mit hervorragendem Durchschnitt, aber verrauschtem Tail kann ein striktes p95-SLA dennoch verfehlen. Hat Ihr Produkt ein Latency-Budget, lesen Sie sowohl den Median als auch die Form der Kurve, und denken Sie daran, dass die Ende-zu-Ende-Latency auch Ihren Netzwerk-Hop sowie alle Abrufe oder Tool-Aufrufe rund um das Modell umfasst.

Benchmark-Werte nähern die Fähigkeit an, ersetzen aber nicht das Testen mit Ihren eigenen Prompts. Die hier gezeigten zusammengesetzten Indizes aggregieren mehrere öffentliche Evaluierungen, und das Perzentil markiert, wo jedes Modell gegenüber allen vergleichbaren Modellen im Katalog liegt — ein nützliches Vorauswahl-Signal, keine Garantie für Ihre Aufgabe. Ein bei einem Index für allgemeine Intelligenz führendes Modell kann in Ihrer Domäne (Coding, Extraktion, mehrsprachig, Long-Context-Reasoning) dennoch zurückliegen; nutzen Sie die Benchmarks also zum Eingrenzen des Feldes und lassen Sie dann beide Modelle auf einem repräsentativen Ausschnitt Ihres Traffics laufen. Achten Sie auf den spezifischen Index, der zu Ihrem Anwendungsfall passt, statt auf die Kopfzahl: Ein codelastiges Produkt sollte den Coding-Index gewichten, ein Rechercheassistent den Reasoning-Index. Benchmarks veralten außerdem, während Modelle aktualisiert werden, behandeln Sie sie daher als Ausgangshypothese, die Sie mit Ihrem eigenen Evaluierungssatz bestätigen.

Ist Kosten die bindende Einschränkung, beginnen Sie mit dem günstigeren Modell auf Ihrem tatsächlichen Eingabe-zu-Ausgabe-Mix und steigen Sie nur auf, wenn die Qualität nicht reicht. Hat Reaktionsfähigkeit Priorität — nutzerseitiger Chat, Agents, alles, wo jemand wartet — gewichten Sie p50-Latency und Throughput höher als eine kleine Preisdifferenz. Treiben Sie das anspruchsvollste Reasoning, Coding oder Long-Context-Arbeit voran, lassen Sie den Sieger bei Benchmark und Context Window führen und akzeptieren Sie den höheren Tarif dort, wo er sich rechnet. Da beide Modelle hinter derselben API sitzen, ist der risikoarme Schritt, einen Bruchteil des echten Traffics an jedes zu routen und Kosten, Latency und Antwortqualität auf Ihren eigenen Prompts zu vergleichen, bevor Sie sich festlegen. Ein gängiges Muster ist die Staffelung (Tier): Schicken Sie den Großteil einfacher, hochvolumiger Anfragen an das günstigere oder schnellere Modell und reservieren Sie das stärkere Modell für die Anfragen, die es wirklich brauchen — das holt den größten Teil des Qualitätsvorteils zu einem Bruchteil der Kosten. Was Sie auch wählen, halten Sie den Wechsel reversibel — mit einer einzeiligen Änderung des Modellnamens verschieben Sie den Traffic zurück, sobald sich die Zahlen oder Ihre Anforderungen ändern.

In den letzten 7 Tagen hält Google: Gemma 4 31B die niedrigere mediane Antwortlatenz.