OpenAI GPT-4o-mini Vorschau mit erweitertem Kontext für suchorientierte Textgenerierung zu geringen Kosten.
Dieses Modell ist eine Vorschauvariante von GPT-4o-mini von OpenAI, optimiert für suchorientierte Textgenerierung. Es akzeptiert nur Texteingaben und bietet ein Kontextfenster von 128.000 Token,…
Das Modell zeichnet sich durch das Verstehen und Generieren von Texten auf Basis großer Kontexte (bis zu 128k Token) und die Erzeugung von Ausgaben von bis zu 16.384 Token aus. Es behält die Kernstärken von GPT-4o-mini bei: schnelle Inferenz, gute Befolgungsfähigkeit von Anweisungen und Kosteneffizienz. Das Search-Preview-Tuning verbessert wahrscheinlich seine Fähigkeit, relevante Ausschnitte zu extrahieren, Informationen zu vergleichen und Fragen zu beantworten, die das Scannen langer Passagen erfordern. Es kann für Zusammenfassung, Beantwortung von Fragen, Informationsextraktion und Mehrfachgespräche verwendet werden, solange die Eingabe Text bleibt. Es unterstützt standardmäßig keine Funktionsaufrufe oder Tool-Nutzung, obwohl Sie externe Suchergebnisse in Ihre Eingabeaufforderung einbinden können.
Aufgrund seines Designs eignet sich das Modell am besten für Aufgaben, bei denen ein Benutzer einen langen Textblock bereitstellt, der die Informationen zur Generierung einer Antwort enthält. Dazu gehören Szenarien wie: Analyse eines Satzes von Suchergebnissen (als Text bereitgestellt), Vergleich von Produktbeschreibungen, Extrahieren wichtiger Fakten aus Forschungspapieren oder Zusammenfassen von Meeting-Transkripten. Der 128k-Kontext ermöglicht die Verarbeitung ganzer Bücher oder mehrerer Dokumentensammlungen in einer einzigen Anfrage. Es ist jedoch möglicherweise nicht optimal für kreatives Schreiben, Codegenerierung oder Aufgaben, die multimodales Verständnis erfordern. Für diese sollten die Standardmodelle GPT-4o-mini oder GPT-4o in Betracht gezogen werden.
Wenn Ihre Aufgabe sehr einfach ist – wie eine kurze Frage-Antwort oder Klassifikation – und kein großes Kontextfenster oder suchspezifische Optimierung erfordert, könnte ein günstigeres Modell wie GPT-4o-mini (ohne Vorschau) oder sogar GPT-3.5 Turbo ausreichen. Die Preisgestaltung des Vorschau-Modells ist identisch mit der von GPT-4o-mini, daher sind die Kosten kein Unterscheidungsmerkmal. Wenn jedoch die Latenz Priorität hat, ist GPT-4o-mini bereits eines der schnellsten Modelle; die Vorschauversion sollte eine ähnliche Geschwindigkeit aufweisen. Wenn Sie den Suchfokus nicht benötigen, ist das Standard-GPT-4o-mini möglicherweise umfassender getestet und stabiler.
Die maximale Anzahl von Ausgabetokens pro Anfrage beträgt 16.384. Der Eingabekontext kann bis zu 128.000 Tokens umfassen. Dies sind großzügige Grenzen, die lange Antworten und sehr lange Kontexte ermöglichen. Da das Modell jedoch nur Text verarbeitet, müssen alle Tokens Text sein. Es gibt keine native Unterstützung für strukturierte Daten wie die Durchsetzung von JSON-Schemata, obwohl Sie das Modell anweisen können, JSON auszugeben. Die Vorschauversion kann Ratenbegrenzungen aufweisen; bei Verwendung von OrcaRouter hängen diese Grenzen von Ihrem Kontotarif und der Verfügbarkeit des Backend-Anbieters ab.
OpenAI hat für dieses spezifische Vorschaumodell keine separaten Benchmark-Ergebnisse veröffentlicht. Allerdings ist bekannt, dass das Basis-GPT-4o-mini in vielen NLP-Benchmarks starke Ergebnisse erzielt, während es deutlich schneller und günstiger ist als GPT-4o. Nutzer sollten eine ähnliche allgemeine Leistung erwarten, mit potenziell besseren Ergebnissen bei Aufgaben, die Informationsabruf oder langes Kontextverständnis erfordern, aufgrund der Suchoptimierung. Ohne offizielle Benchmarks wird empfohlen, das Modell anhand Ihres eigenen Testsets zu evaluieren, um seine Wirksamkeit für Ihre Domäne zu beurteilen.
GPT-4o-mini ist eines der schnellsten Modelle der GPT-4-Familie, und diese Vorschauversion sollte eine vergleichbare Latenz aufweisen. Die typische Zeit bis zum ersten Token ist niedrig, was es für interaktive Anwendungen geeignet macht. Die genaue Latenz hängt von der Anfragegröße, der Ausgabelänge und der aktuellen Auslastung des Anbieters ab. Der 128k-Kontext kann die Zeit bis zum ersten Token im Vergleich zu kürzeren Kontexten erhöhen, sobald jedoch das Streaming beginnt, werden Token schnell erzeugt. OrcaRouter fügt keinen signifikanten Overhead hinzu; die API-Aufrufe sind für minimale Latenz optimiert.
Die Hauptstärke ist die Kombination aus hoher Geschwindigkeit, niedrigen Kosten und der Fähigkeit, sehr lange Kontexte zu verarbeiten. Bei Aufgaben, bei denen die Antwort im bereitgestellten Text enthalten ist, kann dieses Modell sie effizient extrahieren, ohne die höheren Kosten von GPT-4o. Es erbt auch die starke Instruktionsbefolgung von GPT-4o-mini. Allerdings könnte es bei nuancierten Überlegungen, Kreativität oder faktischer Genauigkeit nicht mit größeren Modellen wie GPT-4o oder GPT-4 Turbo mithalten. Bei komplexen Denkaufgaben schneiden die größeren Modelle oft besser ab, jedoch mit höherer Latenz und höheren Kosten.
Als Vorschau kann das Modell unentdeckte Fehler oder inkonsistentes Verhalten aufweisen. Es wurde nicht so umfassend getestet wie stabile Versionen. Die Suchoptimierung könnte zu unerwarteten Ausgaben führen, wenn die Eingabe nicht genügend Informationen enthält, was möglicherweise zu Halluzinationen führt. Das Modell kann keine externen Werkzeuge verwenden oder im Internet surfen, es sei denn, Sie stellen die relevanten Inhalte bereit. Wenn Ihre Aufgabe aktuelle Webergebnisse erfordert, müssten Sie diese manuell in die Eingabeaufforderung einfügen. Darüber hinaus unterstützt es keine Bilder oder Audio, was seine Verwendung in multimodalen Szenarien einschränkt.
OrcaRouter gibt die Preise des Anbieters ohne Aufschlag weiter. Für openai/gpt-4o-mini-search-preview-2025-03-11 betragen die Kosten $0,15 pro 1 Million Eingabe-Token und $0,60 pro 1 Million Ausgabe-Token. Zu den Eingabe-Token gehören der gesamte Prompt (Systemnachricht, Benutzernachrichten und etwaiger Verlauf). Ausgabe-Token sind der generierte Text. Es fallen keine zusätzlichen Gebühren von OrcaRouter an. Dies macht das Modell sehr erschwinglich für große Nutzungsmengen, insbesondere bei der Verarbeitung langer Kontexte.
Auf OrcaRouter werden keine spezifischen Caching-Rabatte für dieses Modell erwähnt. Die Preisgestaltung erfolgt pro Token (Pay-as-you-go). Einige Anbieter bieten Prompt-Caching an, das die Kosten für wiederholte Präfixe senkt, jedoch ist dies für diese Vorschau nicht bestätigt. In der Regel bietet OpenAI möglicherweise Caching für bestimmte Modelle in ihrer API an, aber diese Vorschau ist möglicherweise nicht berechtigt. Überprüfen Sie die OpenAI-Dokumentation auf die neuesten Caching-Richtlinien. Auf OrcaRouter wird Ihnen unabhängig vom Nutzungsverhalten derselbe Satz berechnet.
Bei $0,15 Input / $0,60 Output pro Million Tokens ist es identisch mit dem standardmäßigen GPT-4o-mini. Damit ist es deutlich günstiger als GPT-4o ($2,50 Input / $10 Output) und GPT-4 Turbo ($10 Input / $30 Output). Es ist teurer als ältere Modelle wie GPT-3.5 Turbo ($0,50/$1,50 pro Million?). Der Wert liegt jedoch im großen Kontext und im Such-Tuning. Wenn Sie den vollen Kontext benötigen, ist der Kostenvorteil gegenüber größeren Modellen erheblich.
Um das Modell zu verwenden, setzen Sie Ihre API-Basis-URL auf https://api.orcarouter.ai/v1, Ihren API-Schlüssel (von OrcaRouter) und die Modell-ID exakt auf "openai/gpt-4o-mini-search-preview-2025-03-11". Standard-OpenAI-Python-Client-Beispiel: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) Alle standardmäßigen Chat-Completion-Parameter werden unterstützt, einschließlich temperature, max_tokens, top_p, frequency_penalty, presence_penalty und stop-Sequenzen. Streaming ist mit stream=True verfügbar.
Das Modell unterstützt dieselben Parameter wie die OpenAI Chat Completions API. Wichtige Parameter: temperature (Standardwert 1.0, Bereich 0-2), top_p (Standardwert 1.0), max_tokens (Standardwert variiert, bis zu 16384 möglich), stop (Liste von Zeichenfolgen), frequency_penalty (Standardwert 0), presence_penalty (Standardwert 0) und logit_bias. Sie können auch user_id zur Überwachung übergeben. Eine native Unterstützung für das response_format-Schema gibt es noch nicht; falls Sie strukturierte Ausgaben benötigen, verwenden Sie Anweisungen im Prompt. Das Modell beachtet Systemnachrichten zur Festlegung des Kontexts.
Migration erfordert keine Codeänderungen an der Request-Struktur, abgesehen von der Aktualisierung der Modell-ID. Ersetzen Sie in Ihrem API-Aufruf die Modellzeichenfolge durch "openai/gpt-4o-mini-search-preview-2025-03-11". Stellen Sie sicher, dass Ihre Basis-URL auf OrcaRouter (https://api.orcarouter.ai/v1) zeigt, falls Sie diese nicht bereits verwenden. Da es sich um eine Vorschau handelt, testen Sie gründlich: Die Antworten können in Stil oder Genauigkeit variieren. Sie können in Ihrer Anwendung bedingt zwischen Modellen umschalten, indem Sie die Modell-ID in der Konfiguration speichern. Überwachen Sie Leistung und Kosten, um sicherzustellen, dass die Vorschau Ihren Anforderungen entspricht, bevor Sie sie vollständig ausrollen.
Beide Modelle teilen sich die gleiche Basisarchitektur und Preisgestaltung. Das standardmäßige GPT-4o-mini ist ein allgemeines Modell ohne spezifische Suchoptimierung. Die Vorschauversion wurde entwickelt, um die Leistung bei Aufgaben zu verbessern, die das Extrahieren und Synthetisieren von Informationen aus großen Textkontexten, wie z. B. der Analyse von Suchergebnissen, umfassen. In der Praxis kann die Vorschauversion lange Prompts mit vielen Fakten genauer verarbeiten, während die Standardversion möglicherweise besser für offene Unterhaltungen, kreatives Schreiben oder Aufgaben geeignet ist, bei denen kein Suchverhalten erforderlich ist. Wenn Ihre Anwendung bereits mit dem standardmäßigen GPT-4o-mini funktioniert, ist das Testen der Vorschauversion aufgrund der identischen API mit geringem Risiko verbunden.
GPT-4o ist das Flaggschiff-Multimodalmodell von OpenAI mit höherer Denkfähigkeit, Bildverständnis und einem größeren Kontextfenster (ebenfalls 128k Tokens). Allerdings ist es deutlich teurer (2,50 $/10 $ pro Million Tokens) und langsamer. Die Suchvorschau von GPT-4o-mini tauscht etwas Denktiefe gegen Geschwindigkeit und Kosten aus. Für rein textbasierte Aufgaben, die keine komplexe mehrstufige Argumentation erfordern, kann die Vorschau zu einem Bruchteil der Kosten ausreichen. Für Aufgaben, die multimodale Eingaben oder höhere Genauigkeit erfordern, bleibt GPT-4o überlegen.
Claude 3 Haiku (Anthropic) und Gemini 1.5 Flash (Google) sind ebenfalls schnelle, günstige Modelle mit großen Kontextfenstern. Haiku hat einen Kontext von 200k Token, Flash bis zu 1M. Die Preise variieren. Die Suchvorschau von GPT-4o-mini ist einzigartig, da es sich um eine Vorschau einer suchoptimierten Variante von OpenAI handelt. Ohne direkte Benchmark-Vergleiche ist schwer zu sagen, welches am besten ist. Alle drei eignen sich hervorragend für Aufgaben der Informationsabfrage. Die Wahl kann von der Ökosystem-Kompatibilität, dem Prompt-Stil und der spezifischen Leistung auf Ihren Daten abhängen. OrcaRouter bietet einen einheitlichen Zugriff auf alle und ermöglicht einfaches A/B-Testing.
Wählen Sie dieses Modell, wenn Ihr Hauptanliegen Kosteneffizienz, schnelle Antwortzeiten sind und Sie mit reinen Texteingaben arbeiten, die kein fortgeschrittenes Denken erfordern. Es ist ideal für Anwendungen mit hohem Volumen, bei denen der Kontext jeder Anfrage groß ist (z. B. bei der Verarbeitung langer Dokumente), die Ausgabe jedoch relativ kurz ist. Wenn Sie die bestmögliche Genauigkeit benötigen, insbesondere bei mehrdeutigen oder komplexen Abfragen, oder wenn Sie Bilder verarbeiten müssen, dann ist GPT-4o die bessere Wahl. Das Vorschaumodell eignet sich auch für Prototyping und Tests, bevor Sie sich für ein teureres Modell entscheiden.
OpenAI-kompatibel — behalte dein bisheriges SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| Eingabe / 1M Tokens | $0.150 |
| Ausgabe / 1M Tokens | $0.600 |
| Währung | USD |
Schätzung auf Basis des Listenpreises
Nur eine Schätzung — die tatsächliche Token-Anzahl hängt vom Tokenizer des Anbieters ab.
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11Öffnen @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11