GPT-4o („o“ für „omni“) ist OpenAIs neuestes KI-Modell, das sowohl Text- als auch Bildeingaben mit Textausgaben unterstützt. Es behält das Intelligenzniveau von [GPT-4 Turbo](/models/openai/gpt-4-turbo) bei und ist dabei doppelt so...
GPT-4o (2024-05-13) ist ein multimodales Sprachmodell von OpenAI, das über die OrcaRouter-API zugänglich ist. Es verarbeitet Text, Bilder und Dateien, wodurch es sich für Aufgaben eignet, die…
GPT-4o kann Bilder analysieren, die als Teil der Eingabe bereitgestellt werden. Es kann visuelle Inhalte beschreiben, Fragen zu Objekten, Text in Bildern und räumlichen Beziehungen beantworten. Es kann auch Text aus gescannten Dokumenten oder Fotos extrahieren und transkribieren. Da es Bilder direkt verarbeitet, benötigen Sie kein separates OCR- oder Vision-Modell. Das Bild wird tokenisiert, um in das Kontextfenster zu passen. Ein Benutzer könnte beispielsweise einen Screenshot eines Diagramms hochladen und das Modell bitten, die Trends zu interpretieren. Das Verständnis des Modells ist nicht auf einfache Bildunterschriften beschränkt; es kann über den Inhalt nachdenken, mehrere Bilder vergleichen und visuelle Hinweise zusammen mit textuellen Anweisungen nutzen. Diese Fähigkeit ist in denselben API-Aufruf integriert, der dasselbe Nachrichtenformat wie textbasierte Anfragen verwendet. Bei OrcaRouter senden Sie Bilder als base64-kodierte Daten oder URLs im content-Array. Die Modell-ID bleibt "openai/gpt-4o-2024-05-13".
GPT-4o akzeptiert Dateien als Eingabe. Unterstützte Formate umfassen PDF, Microsoft Office-Dokumente (Word, Excel, PowerPoint), Textdateien und Bildformate. Bei PDFs und Office-Dateien extrahiert das Modell Textinhalte und analysiert das Layout. Es rendert keine komplexe Formatierung direkt, sondern liest den Textinhalt. Dies ist nützlich für die Verarbeitung von Berichten, Verträgen, Tabellenkalkulationen oder Präsentationen ohne manuelle Extraktion. Der Dateiinhalt wird tokenisiert und zählt zum gesamten Eingabe-Tokenvolumen. Das Modell kann Fragen zu den Dateiinhalten beantworten, sie zusammenfassen oder Berechnungen mit Tabellendaten durchführen. Bei der Verwendung von Dateien fügen Sie diese als Teil des Nachrichteninhalts unter Verwendung der entsprechenden OpenAI API-Felder hinzu. OrcaRouter übernimmt die Übertragung ohne Änderungen. Beachten Sie, dass die Fähigkeiten des Modells von der Qualität des extrahierten Textes abhängen; stark gescannte Bilder in PDFs sind möglicherweise nicht vollständig lesbar, es sei denn, sie enthalten eingebettete Textebenen.
GPT-4o ist ein Premium-Modell mit höheren Kosten als Alternativen wie GPT-4o-mini oder frühere GPT-3.5-Varianten. Wenn Ihre Aufgabe nicht die multimodalen Fähigkeiten (z. B. reine Textaufgaben), den großen Kontext (bis zu 128K) oder das mathematische Denkniveau, gemessen durch MATH-500 (79.1), erfordert, kann ein günstigeres Modell wirtschaftlicher sein. Beispielsweise können einfache Klassifizierungen, Kurztextgenerierung oder grundlegende Chats von kostengünstigeren Modellen übernommen werden, die dennoch akzeptable Qualität liefern. Auch wenn Ihre Anwendung latenzempfindlich ist und das kleinere Modell schneller ist, kann der Kompromiss zugunsten der Geschwindigkeit gegenüber der absoluten Genauigkeit ausfallen. Schließlich ist die zusätzliche multimodale Fähigkeit unnötig, wenn Sie selten Bilder oder Dateien verarbeiten müssen. OrcaRouter bietet eine Reihe von Modellen, sodass Sie das beste Preis-Leistungs-Verhältnis auswählen können. Bewerten Sie die Anforderungen Ihres Anwendungsfalls anhand der Benchmark-Ergebnisse und Preise, um zu entscheiden, ob die Vorteile von GPT-4o die zusätzlichen Kosten rechtfertigen.
GPT-4o kann bis zu 16,384 Token pro Anfrage generieren. Dies ist eine großzügige Grenze, die lange Antworten, detaillierten Code oder mehrteilige Analysen ermöglicht. Allerdings werden Ausgabetoken mit $15.00 pro Million abgerechnet, was längere Ausgaben teurer macht. Sie können die Ausgabelänge über den Parameter max_tokens im API-Aufruf steuern. Wenn Sie sehr lange Generierungen erwarten, sollten Sie die Anfrage bündeln oder aufteilen. Das Limit von 16,384 Token gilt für die gesamte Vervollständigung, einschließlich etwaiger Überlegungsschritte oder chain-of-thought, falls angefordert. Für sehr komplexe Aufgaben, die umfangreiches Denken erfordern, müssen Sie möglicherweise mehrere Aufrufe tätigen. Auf OrcaRouter wird die Anzahl der Ausgabetoken im usage-Feld der API-Antwort gemeldet, sodass Sie die Kosten genau verfolgen können. Es gibt keine zusätzliche Einschränkung durch OrcaRouter; die native Obergrenze des Modells gilt.
GPT-4o erzielte 79,1 Punkte im MATH-500-Benchmark. MATH-500 besteht aus 500 anspruchsvollen Mathematikaufgaben aus verschiedenen Themengebieten wie Algebra, Geometrie, Zahlentheorie und Wahrscheinlichkeitsrechnung. Ein Ergebnis von 79,1 bedeutet, dass das Modell 79,1 % der Aufgaben richtig beantwortet hat. Dies ist ein starkes Ergebnis, das eine robuste mathematische Denkfähigkeit anzeigt, insbesondere für ein multimodales Modell. Der Benchmark testet sowohl Problemlösung als auch schrittweises Denken. Dieses Ergebnis kann als Leitfaden für Erwartungen an Anwendungen dienen, die Mathematikunterricht, wissenschaftliche Berechnungen oder Logikrätsel umfassen. Beachten Sie, dass die Benchmark-Leistung keine identischen Ergebnisse in realen Aufgaben garantiert; domänenspezifisches Tuning oder Prompt Engineering können erforderlich sein. Wenn Sie dieses Modell in Betracht ziehen, vergleichen Sie seinen MATH-500-Score mit anderen Modellen, die Sie bewerten. OrcaRouter stellt keine zusätzlichen Benchmark-Daten zur Verfügung, daher ist dies der einzige Referenzpunkt für dieses Modell.
Die Latenz hängt von mehreren Faktoren ab: der Länge der Eingabe, der Länge der erwarteten Ausgabe, der aktuellen Auslastung der Server von OpenAI und dem Netzwerkpfad zwischen Ihrer Anwendung und OrcaRouter. OrcaRouter fügt keinen signifikanten Overhead über die Antwortzeit des zugrunde liegenden Anbieters hinaus hinzu. Bei typischen Anfragen mit moderater Eingabe (einige tausend Tokens) und kurzen Ausgaben (unter 1.000 Tokens) treffen Antworten oft innerhalb weniger Sekunden ein. Längere Ausgaben (nahe 16.384 Tokens) benötigen naturgemäß mehr Zeit, da das Modell Tokens sequenziell generiert. Bildeingaben erhöhen ebenfalls die Latenz aufgrund von Tokenisierung und Verarbeitung. Sie können die Latenz optimieren, indem Sie die Ausgabelänge reduzieren, kürzere Prompts verwenden oder Anfragen bündeln. OrcaRouter bietet standardmäßige API-Endpunkte, die Ergebnisse bei Bedarf asynchron per Streaming zurückgeben. Für Echtzeit-Interaktivanwendungen sollten Sie den Streaming-Modus (stream: true) in Betracht ziehen, um die Verarbeitung zu beginnen, sobald Tokens eintreffen. In den Modellfakten werden keine spezifischen Latenzzahlen angegeben, daher handelt es sich um qualitative Schätzungen.
Stärken: Multimodale Eingabe (Text, Bild, Datei), großer 128K-Kontextfenster, starkes mathematisches Denken (MATH-500: 79,1) und hohes Ausgabetoken-Limit (16.384). Es verarbeitet lange Dokumente und Multi-Turn-Gespräche effektiv. Die API ist standardmäßig OpenAI-kompatibel, was die Integration erleichtert. Einschränkungen: Höhere Kosten im Vergleich zu kleineren Modellen. Nicht optimiert für Aufgaben, die nicht von Multimodalität oder großem Kontext profitieren. Es liegen keine Informationen zur Leistung in nicht-englischen Sprachen oder zu spezifischen Sicherheitsbenchmarks vor. Das Bildverständnis kann bei sehr komplexen Szenen oder Bildern mit niedriger Auflösung eingeschränkt sein. Zudem kann das Modell bei Problemen außerhalb seiner Trainingsverteilung falsche Antworten liefern. Es gibt keine offengelegte Latenzgarantie. Für Benutzer, die extrem niedrige Latenz oder extrem niedrige Kosten benötigen, ist möglicherweise ein anderes Modell besser geeignet. Der Benchmark-Wert von 79,1 bei MATH-500 deutet auf Verbesserungspotenzial bei den schwierigsten Mathematikaufgaben hin. Bewerten Sie, ob diese Abwägungen mit den Anforderungen Ihrer Anwendung übereinstimmen.
GPT-4o wird pro Token abgerechnet, mit getrennten Tarifen für Eingabe- und Ausgabetoken. Eingabetoken kosten $5.00 pro 1 Million Token. Ausgabetoken kosten $15.00 pro 1 Million Token. Dies sind die Anbieterpreise, die von OrcaRouter ohne Aufschlag weitergegeben werden. Die Kosten pro Anfrage = (input tokens/1e6 * 5) + (output tokens/1e6 * 15). Zum Beispiel würde eine Konversation mit 4,000 Eingabetoken und 200 Ausgabetoken Kosten von (0.004*$5) + (0.0002*$15) = $0.02 + $0.003 = $0.023 verursachen. Es fallen keine zusätzlichen Gebühren für API-Aufrufe selbst an; Sie bezahlen nur für verbrauchte Token. Die Preisgestaltung wird dynamisch basierend auf Änderungen des Anbieters aktualisiert; OrcaRouter gibt alle zukünftigen Anpassungen weiter. Da es keinen Aufschlag gibt, profitieren die Nutzer von denselben Preisen wie direkte OpenAI-Kunden, jedoch mit dem Komfort der einheitlichen Verwaltung und Abrechnung von OrcaRouter. Beachten Sie, dass Bilder und Dateien tokenisiert werden und zur Anzahl der Eingabetoken beitragen, was die Kosten im Vergleich zu reinen Texteingaben oft erhöht.
Nein. OrcaRouter bietet keine Rabatte, zwischengespeicherte Token oder reduzierte Preise für wiederholte Eingaben. Jeder Token wird zum Standard-Provider-Tarif abgerechnet. Es gibt keine separaten Caching-Kosten oder Aufschläge für hohe Volumina. Die $5/$15 pro Million Token sind Festpreise. Benutzer, die einen sehr hohen Durchsatz benötigen, können nach individuellen Vereinbarungen fragen, aber der Standarddienst enthält keine Mengenrabatte. Darüber hinaus gibt es keine versteckten Gebühren wie Anschlussgebühren oder monatliche Mindestbeträge. Die Preisgestaltung ist transparent und direkt an die Token-Nutzung gekoppelt. Zur Kostenoptimierung sollten Sie die Eingabegröße reduzieren (z.B. Historie kürzen, kürzere Prompts verwenden) und die Ausgabelänge (z.B. einen niedrigeren max_tokens-Wert setzen). Auch die Verwendung des Modells nur dann, wenn seine Fähigkeiten erforderlich sind (multimodal, großer Kontext), hilft, die Kosten zu kontrollieren. Wenn Ihre Anwendung wiederholte Prompts hat, die jedes Mal identisch sind, kann das Caching auf Anwendungsebene die Token-Nutzung reduzieren, aber OrcaRouter selbst bietet keine solche Funktion.
GPT-4o ist zu einem Premiumpreis erhältlich. Für viele Aufgaben kann ein günstigeres Modell (z. B. GPT-4o-mini oder GPT-3.5-turbo) ausreichend sein. Wägen Sie ab, indem Sie die Komplexität und die erforderliche Genauigkeit bewerten. Wenn Ihre Aufgabe eine einfache Extraktion oder Klassifikation mit begrenztem Kontext umfasst, kann ein günstigeres Modell ähnliche Leistung zu einem Bruchteil der Kosten erbringen. Umgekehrt, wenn die Aufgabe ein nuanciertes Verständnis von Bildern, lange Dokumente oder hohe mathematische Präzision erfordert (MATH-500-Bewertung von 79.1 gegenüber niedrigeren Bewertungen bei günstigeren Modellen), kann GPT-4o den Premiumpreis wert sein. Verwenden Sie A/B-Tests an einer repräsentativen Stichprobe, um Qualität und Kosten zu vergleichen. Beachten Sie auch, dass derselbe Preis pro Million Tokens unabhängig von der Textlänge gilt; kürzere Anfragen sind günstiger. Wenn Ihr Workflow häufig den vollen 128K-Kontext verwendet, können die Kosten für die Eingabe-Tokens dieser Anfrage hoch sein; stellen Sie sicher, dass der Kontext tatsächlich benötigt wird. OrcaRouter bietet Nutzungsmetriken, mit denen Sie überwachen und optimieren können.
Um GPT-4o auf OrcaRouter aufzurufen, verwenden Sie den OpenAI-kompatiblen API-Endpunkt: base_url = "https://api.orcarouter.ai/v1". Setzen Sie den Modellparameter auf "openai/gpt-4o-2024-05-13". Sie benötigen einen API-Schlüssel von OrcaRouter. Das Anfrageformat folgt der standardmäßigen OpenAI Chat Completions API: ein messages-Array mit Rollen (system, user, assistant), optionaler Inhalt für Bilder und Dateien sowie Parameter wie temperature, max_tokens, top_p, frequency_penalty, presence_penalty und stop. Zum Beispiel wird eine einfache Textanfrage als POST an /chat/completions gesendet. Für Bilder fügen Sie den Inhalt als Teil der user-Nachricht mit dem Typ "image_url" hinzu. Für Dateien fügen Sie sie ebenfalls als Teil des Inhalts hinzu (das genaue Format folgt der OpenAI-Spezifikation). Die Antwort enthält die Nachricht des Assistenten, Nutzungsstatistiken (prompt_tokens, completion_tokens, total_tokens) und andere Metadaten. Es sind keine speziellen Header außer den standardmäßigen Content-Type und Authorization erforderlich. Die Integration ist identisch mit der direkten Nutzung von OpenAI.
Alle Standardparameter für OpenAI Chat Completions werden unterstützt: messages (erforderlich), model (erforderlich, auf „openai/gpt-4o-2024-05-13“ gesetzt), temperature (0–2, Standardwert 1), top_p (0–1, Standardwert 1), n (Anzahl der Vervollständigungen, Standardwert 1), stop (Strings oder Liste von Strings), max_tokens (Standardwert 16.384, Obergrenze 16.384), presence_penalty (−2 bis 2, Standardwert 0), frequency_penalty (−2 bis 2, Standardwert 0), logit_bias (Abbildung von Token-IDs auf Bias-Werte), user (String zur Missbrauchsüberwachung), stream (boolesch, Standardwert false) und functions/tools (für Funktionsaufrufe). Für multimodale Eingaben kann der Inhalt der Nachrichten ein Array von Inhaltsteilen mit dem Typ „text“ oder „image_url“ sein. Zusätzlich können Sie „file“-Typ-Inhalte gemäß der OpenAI-Dokumentation einschließen (z. B. für PDF-Anhänge). OrcaRouter übergibt diese Parameter direkt an den Anbieter ohne Änderungen. Stellen Sie sicher, dass Sie das Kontextfenster von 128K Token nicht überschreiten. Die API gibt standardmäßige Fehlercodes für ungültige Anforderungen, Ratenbegrenzung oder Authentifizierungsfehler zurück.
Die Migration ist unkompliziert, da die API von OrcaRouter vollständig OpenAI-kompatibel ist. Sie müssen nur zwei Dinge ändern: die Basis-URL von https://api.openai.com/v1 zu https://api.orcarouter.ai/v1 und die Modell-ID von "gpt-4o-2024-05-13" zu "openai/gpt-4o-2024-05-13". Ihr API-Schlüssel von OrcaRouter ersetzt Ihren OpenAI-Schlüssel. Der gesamte vorhandene Code, der die OpenAI Python/Node-Bibliothek oder rohe HTTP-Anfragen verwendet, funktioniert ohne weitere Änderungen. Das Nachrichtenformat, die Parameternamen und die Antwortstruktur sind identisch. Bei Bibliotheken, die einen Parameter für die Basis-URL akzeptieren, setzen Sie diesen einfach auf den OrcaRouter-Endpunkt. Wenn Sie den OpenAI-Client verwendet haben, können Sie ihn mit base_url auf den OrcaRouter-Endpunkt instanziieren. Es sind keine Änderungen am Prompt-Engineering oder an der Caching-Logik erforderlich. OrcaRouter unterstützt außerdem Streaming (stream: true) und Funktionsaufrufe genau wie zuvor. Tests können mit einer kleinen Anzahl von Anfragen durchgeführt werden, um zu überprüfen, ob das Verhalten übereinstimmt.
OrcaRouter verändert das Verhalten des Modells nicht. Es fungiert ausschließlich als Gateway, leitet Ihre Anfragen an die Server von OpenAI weiter und gibt die Antwort unverändert zurück. Von OrcaRouter werden keine zusätzlichen Vorverarbeitungs-, Nachverarbeitungs- oder Inhaltsfilterungen vorgenommen. Bezüglich der Datenverarbeitung: OrcaRouter speichert oder protokolliert keine Prompt- oder Vervollständigungsdaten, die über das für die Abrechnung und Betriebsüberwachung Notwendige hinausgehen. Die eigenen Datenrichtlinien von OpenAI gelten für die Nutzung des Modells über OrcaRouter. Gemäß den bereitgestellten Fakten wird nicht erwähnt, dass OrcaRouter Daten über die Standard-API-Protokollierung hinaus aufbewahrt. Nutzer sollten sowohl die Datenschutzrichtlinie von OrcaRouter als auch die von OpenAI prüfen, um die Datenverarbeitung zu verstehen. Falls Sie strenge Anforderungen an den Datenaufbewahrungsort haben, konsultieren Sie OrcaRouter zu verfügbaren Optionen. Es gibt keinen Hinweis darauf, dass OrcaRouter Daten mit anderen Kunden teilt. Die Modell-ID ist die einzige erforderliche Änderung; es werden keine benutzerdefinierten Anweisungen eingefügt.
Die wesentlichen Unterschiede zwischen GPT-4o und GPT-4o-mini liegen in der Kontextfenstergröße, den multimodalen Fähigkeiten, der Benchmark-Leistung und den Kosten. GPT-4o bietet ein 128K-Kontextfenster und unterstützt Bild- und Dateieingaben. GPT-4o-mini (basierend auf OpenAIs Angeboten) hat typischerweise einen kleineren Kontext (z. B. 128K oder 16K in einigen Versionen) und unterstützt möglicherweise nicht alle Modalitäten. In MATH-500 erreicht GPT-4o 79,1; GPT-4o-mini würde niedriger abschneiden. Preise: GPT-4o kostet $5/$15 pro Million Token, während GPT-4o-mini deutlich günstiger ist (z. B. $0,15/$0,60 pro Million Token in einigen Versionen). Somit eignet sich GPT-4o-mini für einfachere Aufgaben, bei denen niedrige Kosten im Vordergrund stehen, während GPT-4o besser für komplexe Schlussfolgerungen, lange Kontexte und multimodale Aufgaben geeignet ist. Bei der Wahl zwischen ihnen sollten Sie die Genauigkeitsanforderungen und den Bedarf an Bild- oder Dateiverarbeitung berücksichtigen. OrcaRouter bietet beide Modelle unter unterschiedlichen IDs an. Wenn Ihr Workload selten Bilder oder große Kontexte nutzt, könnte GPT-4o-mini die wirtschaftlich überlegene Wahl sein.
GPT-4o (2024-05-13) ist ein multimodales Modell mit einem 128K-Kontextfenster, während ältere GPT-4-Versionen (wie gpt-4-0613) typischerweise einen 8K- oder 32K-Kontext haben und nur Text unterstützen (einige spätere Versionen unterstützen Bilder über separate Vision-Endpunkte). Die Preisgestaltung für GPT-4o ($5/$15 pro Million Token) ist im Allgemeinen niedriger als die Spitzenpreise von GPT-4 Turbo (z. B. $10/$30 pro Million Token). Benchmark-Leistung: Der angegebene MATH-500-Score von 79,1 bezieht sich auf GPT-4o; GPT-4 hatte in den bereitgestellten Fakten keinen offiziellen MATH-500-Score, war aber dafür bekannt, bei ähnlichen Mathe-Benchmarks niedriger abzuschneiden. GPT-4o bietet zudem ein höheres Ausgabelimit (16K Token) im Vergleich zu älteren GPT-4-Modellen (4K oder 8K je nach Version). Insgesamt bietet GPT-4o einen besseren Wert für multimodale Langkontext-Anwendungen. Ältere GPT-4-Modelle könnten jedoch für bestimmte Aufgaben feinabgestimmt sein; evaluieren Sie anhand Ihrer eigenen Daten. Über OrcaRouter sind beide Modellfamilien zugänglich.
Ein direkter Vergleich erfordert modellspezifische Fakten, die hier nicht bereitgestellt werden. Im Allgemeinen sind beide Modelle in Bezug auf Reasoning und multimodale Fähigkeiten konkurrenzfähig. GPT-4o hat ein 128K-Kontextfenster, ähnlich wie Claudes 200K-Kontext (für Sonnet). Beide unterstützen Bilder. Benchmark-Ergebnisse variieren: GPT-4o bietet einen MATH-500-Score von 79,1; Claudes 3.5 Sonnet-Scores für diesen Benchmark werden nicht angegeben. Preise: GPT-4o kostet 5 $/15 $ pro Million Tokens; Claude Sonnet liegt typischerweise bei etwa 3 $/15 $ pro Million Tokens (Änderungen vorbehalten). Daher sind die Eingabekosten für GPT-4o höher. Leistungsunterschiede hängen von der Aufgabe ab: Einige Nutzer empfinden Claude als überlegen bei längeren Texten, während GPT-4o bei Mathematik und Codierung brilliert. Ohne eine kontrollierte Evaluierung wird empfohlen, beide Modelle an repräsentativen Stichproben zu testen. OrcaRouter bietet beide Modelle an, sodass Sie sie durch Ändern der Modell-ID einfach vergleichen können. Letztendlich hängt das beste Modell von Ihren spezifischen Anforderungen an Genauigkeit, Latenz und Kosten ab. Die bereitgestellten Fakten enthalten keine Claudes Scores, daher bleibt dieser Vergleich qualitativ.
Llama 3 (z. B. Llama 3 70B) ist ein Open-Source-Modell, das selbst gehostet werden kann, während GPT-4o proprietär ist und über eine API zugegriffen wird. GPT-4o unterstützt multimodale Eingaben (Text, Bild, Datei) mit einem 128K-Kontext, während Llama 3 typischerweise nur Text verarbeitet (es sei denn, es wurde für Bildverarbeitung feinabgestimmt) und einen kleineren Kontext hat (z. B. 8K oder 32K). Benchmark-Werte: GPT-4o erreicht einen MATH-500-Wert von 79,1; Llama 3 70B erzielt bei ähnlichen Mathe-Benchmarks etwa 70–75 (in den Fakten nicht angegeben, aber allgemeines Wissen). Kosten: Die API-Kosten pro Token für GPT-4o sind fest; das Selbsthosten von Llama 3 verursacht Infrastrukturkosten (GPU, Strom), die bei hohem Volumen niedriger sein können. Latenz: Das API-basierte GPT-4o kann bei Stoßbelastungen schneller sein; selbst gehostete Modelle können eine gleichbleibende Latenz bieten, wenn Kapazität reserviert ist. Flexibilität: Llama 3 kann feinabgestimmt werden; GPT-4o nicht. Für Nutzer, die eine Abhängigkeit von einem Anbieter vermeiden oder sensible Daten vollständig vor Ort verarbeiten möchten, sind Open-Source-Modelle attraktiv. OrcaRouter bietet Zugang zu beiden Typen: Sie können GPT-4o über die API nutzen und auch über OrcaRouter auf Open-Source-Modelle zugreifen, sofern verfügbar.
OpenAI-kompatibel — behalte dein bisheriges SDK
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-05-13",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamtemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Eingabe / 1M Tokens | $5.00 |
|---|---|
| Ausgabe / 1M Tokens | $15.00 |
| Währung | USD |
Schätzung auf Basis des Listenpreises
Nur eine Schätzung — die tatsächliche Token-Anzahl hängt vom Tokenizer des Anbieters ab.
Worüber Entwickler diese Woche sprechen
GET /api/public/models/openai/gpt-4o-2024-05-13Öffnen @misc{orcarouter_gpt_4o_2024_05_13,
title = {GPT-4o (2024-05-13) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13}
}OpenAI. (2024). GPT-4o (2024-05-13) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13