Het nieuwste GPT-4 Turbo-model met visuele mogelijkheden. Visuele aanvragen kunnen nu gebruikmaken van JSON-modus en functie-aanroeping. Trainingsgegevens: tot december 2023.
GPT-4 Turbo is een groot taalmodel uitgebracht door OpenAI dat zowel tekst- als afbeeldingsinvoer verwerkt. Het bouwt voort op de architectuur van GPT-4, maar vergroot de contextvenster naar 128.000…
GPT-4 Turbo toont sterke redeneervaardigheden, met name in wiskunde (MATH-500-score van 73,7), codegeneratie en meerstaps probleemoplossing. Het kan complexe instructies volgen over lange gesprekken, consistentie behouden over duizenden tokens, en samenhangende technische uitleg genereren. Het model is ook in staat om afbeeldingen te analyseren — zoals schermafbeeldingen, diagrammen en gedrukte tekst — wanneer de invoer beeldgegevens bevat. Het is echter niet gespecialiseerd voor elk domein; voor eenvoudige classificatie- of extractietaken kan een kleiner model zoals GPT-3.5 Turbo voldoende en economischer zijn.
Een contextvenster van 128,000 tokens stelt u in staat om grote documenten in te voeren — hele boeken, lange juridische contracten, volledige coderepository's of lange gesprekken — zonder dat u de inhoud in stukken hoeft te splitsen. U kunt bijvoorbeeld een volledig onderzoekspaper plakken en vragen stellen over elk onderdeel zonder dat eerdere delen verloren gaan. Dit is bijzonder waardevol voor taken zoals documentsamenvatting, wetgevingsanalyse of het debuggen van een grote codebase, waarbij het model de hele structuur moet kunnen zien. Op OrcaRouter worden deze contexttokens gefactureerd als invoertokens, dus het aanbieden van een 100K-token document kost ongeveer $1.00 per query (100K * $10/1M).
GPT-4 Turbo accepteert afbeeldingen als onderdeel van de invoer, waardoor het visuele inhoud zoals foto's, diagrammen, illustraties en schermafbeeldingen kan begrijpen. Het model kan beschrijven wat er in een afbeelding staat, vragen beantwoorden over de inhoud ervan, en zelfs diagramredeneringen uitvoeren (bijv. het interpreteren van een stroomdiagram of een grafiek). Afbeeldingen worden doorgaans verstrekt als URL's of base64-gecodeerde gegevens binnen het OpenAI-chatvoltooiingsformaat. De kosten voor beeldverwerking zijn inbegrepen in de invoertoken-telling, die wordt berekend op basis van de afbeeldingsresolutie en detailniveau volgens de prijsformule van OpenAI.
Als uw gebruiksscenario taken met een hoog volume en lage complexiteit omvat — zoals eenvoudige tekstclassificatie, basisvraag-en-antwoord op korte contexten, of repetitieve extractie — kan een kleiner model zoals GPT-3.5 Turbo of een specifiek fijn afgesteld model acceptabele resultaten opleveren tegen een fractie van de kosten. De prijs van GPT-4 Turbo is ruwweg 20 keer hoger dan die van GPT-3.5 Turbo per invoertoken en 30 keer hoger per uitvoertoken. Voor toepassingen waar latentie belangrijk is, reageert GPT-3.5 Turbo ook sneller. Evalueer de afweging tussen nauwkeurigheid en kosten; voor veel productiepijplijnen kan een hybride aanpak met een goedkoop model voor filteren en GPT-4 Turbo voor complexe gevallen de uitgaven optimaliseren.
GPT-4 Turbo behaalde een score van 73,7 op de MATH-500 benchmark, die het vermogen van een model evalueert om wiskundeproblemen op te lossen van basisschool- tot middelbareschoolniveau, met onderwerpen als algebra, meetkunde en calculus. Deze score duidt op sterke wiskundige redenering, maar is niet state-of-the-art; sommige gespecialiseerde modellen of grotere ensembles kunnen meer dan 80 halen. De benchmark is nuttig om modellen te vergelijken op systematisch probleemoplossend vermogen in plaats van ruwe taalgeneratie. Op OrcaRouter kun je dit zelf testen door een reeks wiskundeproblemen via de API in te dienen en resultaten te vergelijken.
Sterke punten zijn diepgaande redenering, het verwerken van lange contexten en competentie in het genereren en uitleggen van code. Het toont ook goede prestaties bij taken die tekst en visuele informatie combineren, zoals het interpreteren van diagrammen. Beperkingen zijn onder andere een relatief bescheiden uitvoercapaciteit van 4.096 tokens, wat betekent dat langere generaties (bijvoorbeeld het schrijven van een volledig hoofdstuk) meerdere aanroepen vereisen. Het model kan soms foutieve antwoorden geven in grensgevallen — het is niet onfeilbaar. Bovendien is het mogelijk niet de beste keuze voor real-time toepassingen vanwege hogere latentie in vergelijking met kleinere modellen. Er worden geen snelheidsmetingen verstrekt, maar anekdotische rapporten suggereren dat het iets langzamer is dan GPT-3.5 Turbo.
Exacte latentiecijfers voor GPT-4 Turbo op OrcaRouter zijn niet gepubliceerd; prestaties hangen af van de infrastructuur van de aanbieder en de aanvraagbelasting. In de praktijk is de inferentietijd van het model langer dan die van kleinere modellen vanwege het grotere aantal parameters en contextverwerking. Voor korte invoer zijn responstijden meestal enkele seconden, terwijl zeer grote contexten (bijv. 100K tokens) de latentie aanzienlijk kunnen verhogen omdat het model alle tokens moet verwerken voordat het uitvoer genereert. OrcaRouter adverteert niet met enige specifieke versnelling. Gebruikers die lagere latentie nodig hebben voor interactieve toepassingen geven wellicht de voorkeur aan een sneller model, terwijl batchverwerking van complexe taken levensvatbaar blijft.
De prijs is per token: $10,00 per 1 miljoen invoertokens en $30,00 per 1 miljoen uitvoertokens. Dit komt overeen met het directe tarief van OpenAI, zonder extra opslag van OrcaRouter. Invoertokens omvatten het systeembericht, gebruikersberichten, afbeeldingstokens en eventuele gespreksgeschiedenis. Uitvoertokens zijn de gegenereerde reactie van het model. De totale kosten van een verzoek worden berekend als (invoer_tokens * $0,00001) + (uitvoer_tokens * $0,00003). Er zijn geen minimumkosten of maandelijkse verplichtingen; u betaalt alleen voor de tokens die u gebruikt.
GPT-4 Turbo is aanzienlijk duurder dan kleinere modellen zoals GPT-3.5 Turbo ($0,50/$1,50 per 1M tokens), maar biedt superieure redenering en contextverwerking. Voor taken die alleen basale mogelijkheden nodig hebben, kan het gebruik van GPT-4 Turbo leiden tot onnodige kosten. Aan de andere kant, vergeleken met de originele GPT-4 ($30/$60 per 1M tokens), is GPT-4 Turbo 33% goedkoper op input en 50% goedkoper op output, waardoor het een kosteneffectievere optie is voor hoge prestatie-eisen. Het nul-markup prijsmodel van OrcaRouter zorgt ervoor dat u hetzelfde tarief betaalt als bij rechtstreeks gebruik van OpenAI.
OrcaRouter biedt geen specifieke kortingen, volumeprijzen of response-caching voor GPT-4 Turbo, behalve de vermelde tarieven per token. De prijsstelling is eenvoudig: u betaalt exact wat OpenAI in rekening brengt, zonder extra kosten. Er is geen commitmentkorting, vooraf aankoop van tokens of getrapte prijzen. Caching van prompts of responses wordt niet vermeld, dus elk verzoek wordt tegen het standaardtarief gefactureerd. Als u zeer hoge volumes verwacht, kunt u contact opnemen met OrcaRouter of overwegen een specifiek API-eindpunt met een eigen cachinglaag te gebruiken om herhaalde kosten voor identieke invoer te verminderen.
Uitvoertokens kosten drie keer meer dan invoertokens ($30 vs. $10 per 1M). Daarom kunnen lange generaties de rekening snel laten oplopen. Het genereren van een antwoord van 2.000 tokens kost bijvoorbeeld $0.06, terwijl een antwoord van 4.000 tokens $0.12 kost. Om de kosten te beheersen, overweeg dan om een lagere max_tokens-parameter in te stellen, kortere prompts te gebruiken, of iteratieve verfijning toe te passen waarbij het model kortere uitvoeren produceert en deze vervolgens in een aparte aanroep uitbreidt alleen wanneer nodig. Voor taken zoals samenvatting kan een model met lagere kosten voor uitvoertokens de voorkeur hebben als de context niet kritisch is.
U kunt GPT-4 Turbo aanroepen via OrcaRouter's OpenAI-compatibele API. Verkrijg eerst een API-sleutel van OrcaRouter. Stel vervolgens de basis-URL in op https://api.orcarouter.ai/v1 en gebruik de model-ID "openai/gpt-4-turbo" in uw chatvoltooiingsverzoeken. Bijvoorbeeld, met de OpenAI Python SDK zou u een client maken met base_url die naar OrcaRouter verwijst en model="openai/gpt-4-turbo". Het verzoek- en antwoordformaat is identiek aan die van OpenAI's native API, dus minimale code-aanpassingen zijn nodig om over te schakelen van direct OpenAI-gebruik.
De API ondersteunt standaard OpenAI chat voltooiingsparameters: messages (array met role en content), temperature (0-2), top_p, n, stream, stop, max_tokens (beperkt tot 4096), presence_penalty, frequency_penalty, logit_bias, user, en function calling/tools. Voor afbeeldingsinvoer kunt u een content-onderdeel opnemen met type "image_url" en url. Het model ondersteunt geen extra parameters buiten de specificatie van OpenAI. Alle parameters werken precies zoals gedocumenteerd voor OpenAI's GPT-4 Turbo. Let op: de max_tokens-parameter mag niet hoger zijn dan 4096, wat de uitvoerlimiet van het model is.
Migratie is eenvoudig: vervang de basis-URL van OpenAI door het eindpunt van OrcaRouter https://api.orcarouter.ai/v1 en wijzig de modelnaam naar "openai/gpt-4-turbo". Gebruik je OrcaRouter API-sleutel in plaats van je OpenAI API-sleutel. De rest van je code — berichtopmaak, streaming, foutafhandeling — blijft ongewijzigd omdat de API volledig compatibel is. Als je de OpenAI Python-bibliotheek gebruikte, kun je eenvoudig openai.api_base (of het equivalent in nieuwere versies) instellen op de OrcaRouter-URL. Hiermee kun je GPT-4 Turbo via OrcaRouter testen zonder enige logica te herschrijven.
GPT-4 Turbo is een evolutie van GPT-4 met een groter contextvenster (128K vs. tot 32K bij eerdere GPT-4-varianten) en een goedkopere prijs per token: $10/$30 per 1M tokens vs. $30/$60 per 1M tokens voor GPT-4. Beide modellen ondersteunen vision, maar GPT-4 Turbo verbetert ook de efficiëntie en de redeneerkwaliteit (in kleine mate). In benchmarks zoals MATH-500 scoort GPT-4 Turbo 73.7, terwijl de originele GPT-4 (met context 8K) ongeveer 52.9 scoorde op een kleinere MATH-testset — de cijfers zijn niet direct vergelijkbaar vanwege verschillende testversies, maar de verbetering is indicatief. Op OrcaRouter zijn de oudere GPT-4-modellen ook beschikbaar tegen hun respectievelijke prijzen.
GPT-3.5 Turbo is veel goedkoper ($0.50/$1.50 per 1M tokens) en sneller, waardoor het geschikt is voor toepassingen met een hoog volume en lage latentie. Het heeft echter een kleiner contextvenster (16K of 4K, afhankelijk van de variant) en aanzienlijk zwakkere redenerings-, codegeneratie- en visuele mogelijkheden. Voor taken die meerstapsredenering of een grote context vereisen, presteert GPT-4 Turbo duidelijk beter. In een directe vergelijking op het gebied van wiskundig redeneren scoort GPT-3.5 Turbo doorgaans onder 30 op MATH-500, terwijl GPT-4 Turbo 73.7 behaalt. Kies GPT-3.5 Turbo voor eenvoudige taken en kostenbesparing, maar vertrouw op GPT-4 Turbo wanneer nauwkeurigheid of contextlengte van cruciaal belang is.
Een directe kop-aan-kopvergelijking wordt niet gegeven, maar algemene publieke kennis toont aan dat Anthropic Claude 3 en Google Gemini 1.5 vergelijkbare mogelijkheden bieden. Claude 3 Opus heeft een contextvenster van 200K en vergelijkbare redeneervaardigheden, terwijl Gemini 1.5 Pro tot 1M tokens kan verwerken. Elk model heeft echter verschillende prijs- en prestatieprofielen. Op OrcaRouter kun je ook modellen van andere aanbieders vergelijken. GPT-4 Turbo blijft concurrerend vanwege de balans tussen prijs, redeneerkwaliteit en het ontwikkelaarsecossysteem (OpenAI SDK). Voor visuele taken ondersteunen zowel Claude als Gemini ook beeldinvoer.
OpenAI-compatibel — behoud je huidige SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Invoer / 1M tokens | $10.00 |
| Uitvoer / 1M tokens | $30.00 |
| Valuta | USD |
Schatting op basis van catalogusprijs
Alleen een schatting — het werkelijke aantal tokens hangt af van de tokenizer van de aanbieder.
GET /api/public/models/openai/gpt-4-turboOpenen @misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo