OpenAI GPT-4-0613: 8K context, 13.1 AA Coding, tekst-only model voor $30/$60 per 1M tokens
OpenAI GPT-4-0613 is een specifiek checkpoint van het GPT-4 large language model dat in juni 2023 door OpenAI is uitgebracht. Het werkt uitsluitend op tekstinvoer en produceert tekstuitvoer. Het…
GPT-4-0613 blinkt uit in taken die diepgaand redeneren, precieze taalgeneratie en het naleven van complexe instructies vereisen. Veelvoorkomende gebruiksscenario's zijn het genereren en beoordelen van code in talen zoals Python, JavaScript en C++, evenals het debuggen van bestaande codebases. Het kan grote tekstcorpora analyseren en samenvatten, gestructureerde rapporten produceren en gedetailleerde technische of juridische documenten opstellen. Het model is ook effectief in het opsplitsen van meerstapsproblemen in duidelijke, opeenvolgende stappen, wat het nuttig maakt voor planning en probleemoplossing. Hoewel het voornamelijk in het Engels werkt, kan het met wisselende betrouwbaarheid meerdere andere talen aan. Voor taken die dit niveau van verfijning niet vereisen, kunnen kleinere of goedkopere modellen een kosteneffectievere oplossing bieden.
GPT-4-0613 is een premiummodel met hogere kosten per token. Het is niet ideaal voor taken met een hoog volume en een lage complexiteit, zoals eenvoudige tekstclassificatie, basis chatinteracties of eenvoudige vertalingen. Voor dergelijke workloads kunnen modellen zoals OpenAI's GPT-3.5 Turbo of andere lichtgewicht alternatieven voldoende prestaties leveren tegen een fractie van de kosten. Daarnaast, als uw toepassing niet de volledige contextvenster van 8192 tokens nodig heeft of als de maximale uitvoerlengte zelden wordt gebruikt, kan een goedkoper model met een kleinere context geschikter zijn. Evalueer altijd de afweging tussen uitvoerkwaliteit en kosten voor uw specifieke gebruiksscenario om te bepalen of GPT-4-0613 gerechtvaardigd is.
GPT-4-0613 is primair getraind op Engels, maar heeft bekwaamheid getoond in vele andere talen, waaronder Frans, Spaans, Duits, Chinees en Arabisch. De prestaties in niet-Engelse talen zijn over het algemeen sterk voor gestructureerde taken zoals vertaling, samenvatting en het beantwoorden van vragen, maar het kan een lagere nauwkeurigheid en minder natuurlijke formulering vertonen in vergelijking met Engels. De sterke punten van het model op het gebied van redeneren en het opvolgen van instructies strekken zich uit tot meertalige contexten, maar gebruikers moeten specifieke niet-Engelse scenario's testen om de geschiktheid te bevestigen. Voor toepassingen die een hoge precisie vereisen in een andere taal dan Engels, overweeg dan om aan te vullen met taalspecifieke modellen of extra validatie.
GPT-4-0613 respecteert systeemberichten en gebruikersinstructies, waardoor het geschikt is voor toepassingen die strikte naleving van opmaak, toon of structuur vereisen. Het kan uitvoer genereren in JSON, markdown of andere gespecificeerde formaten, en kan meerstapsinstructies volgen met behoud van context. Het model is bijzonder betrouwbaar voor taken die stapsgewijze redenering of chain-of-thought prompting vereisen. Net als alle grote modellen kan het echter af en toe dubbelzinnige instructies verkeerd interpreteren of uitvoer produceren die afwijkt van het gewenste formaat. Het wordt aanbevolen om duidelijke, expliciete instructies te geven en, indien mogelijk, voorbeelden toe te voegen om het gedrag van het model te sturen.
De AA Coding-benchmarkscore van 13,1 voor GPT-4-0613 geeft de prestaties weer op een codeerspecifieke evaluatie. Hoewel de exacte methodologie van deze benchmark niet wordt beschreven in de verstrekte feiten, weerspiegelt een hogere score over het algemeen een betere nauwkeurigheid en betrouwbaarheid bij het genereren van code, het oplossen van programmeerproblemen en het begrijpen van codestructuren. Deze score positioneert GPT-4-0613 als een sterke keuze voor codeertaken zoals het oplossen van bugs, het implementeren van algoritmen en het uitleggen van code. Het is belangrijk op te merken dat benchmarkscores indicatief zijn en mogelijk niet volledig de prestaties in de praktijk voor specifieke codeertaken weergeven. Gebruikers dienen het model te evalueren op hun eigen datasets voor de beste resultaten.
De latentie voor GPT-4-0613 is niet gespecificeerd in de verstrekte feiten, maar als een model met hoge capaciteit heeft het over het algemeen hogere responstijden in vergelijking met kleinere modellen zoals GPT-3.5 Turbo of GPT-4o mini. De inferentiesnelheid hangt af van factoren zoals de lengte van de invoer en uitvoer, de complexiteit van het verzoek en de onderliggende infrastructuur. Via OrcaRouter kan latentie ook worden beïnvloed door netwerkomstandigheden en de serveercapaciteit van de aanbieder. Voor realtime-toepassingen waar lage latentie cruciaal is, overweeg het model te testen onder uw verwachte belasting en mogelijk een sneller, goedkoper model te gebruiken voor minder veeleisende delen van uw workflow.
De belangrijkste sterke punten van GPT-4-0613 liggen in zijn logisch redeneren, vermogen om complexe meerstapsinstructies te volgen, en hoge nauwkeurigheid bij taken zoals codegeneratie en gegevensanalyse. Het produceert goed gestructureerde, samenhangende output, zelfs voor lange prompts, waardoor het geschikt is voor het opstellen van uitgebreide documenten of rapporten. Het model toont sterke consistentie over meerdere beurten, wat gunstig is voor conversatieagenten die context moeten behouden. De benchmark-score van 13,1 op AA Coding onderstreept de betrouwbaarheid voor programmeergerelateerde taken. Deze kwaliteiten maken het een voorkeurskeuze voor toepassingen waar precisie en diepgang van het grootste belang zijn, zelfs tegen een hogere kostprijs.
GPT-4-0613 heeft verschillende beperkingen. Het is alleen tekstgebaseerd en kan geen afbeeldingen, audio of video verwerken. De contextvenster is beperkt tot 8192 tokens, wat mogelijk onvoldoende is voor zeer lange documenten of gesprekken met uitgebreide geschiedenis. Het model kan soms plausibel klinkende maar incorrecte informatie produceren (hallucinaties), vooral over onderwerpen buiten de trainingsdata. De prijzen zijn relatief hoog in vergelijking met alternatieven, waardoor het minder economisch is voor toepassingen met een hoog volume. Bovendien, omdat het een momentopname is van juni 2023, kan het niet op de hoogte zijn van gebeurtenissen of kennis na die datum. Gebruikers moeten kritische uitvoer verifiëren en overwegen om retrieval-augmented generation (RAG) te gebruiken om antwoorden te baseren op actuele informatie.
GPT-4-0613 wordt geprijsd tegen het directe tarief van de provider zonder opslag via OrcaRouter. De kosten bedragen $30,00 per 1 miljoen invoertokens en $60,00 per 1 miljoen uitvoertokens. Invoertokens verwijzen naar alle tekst in het verzoek van de gebruiker, inclusief systeemberichten, gespreksgeschiedenis en de huidige gebruikersvraag. Uitvoertokens zijn de tekst die door het model wordt gegenereerd als antwoord. Zowel invoer- als uitvoertokens tellen mee voor het totale gebruik en worden dienovereenkomstig gefactureerd. Er zijn geen extra platformkosten naast het tarief per token. Gebruikers worden gefactureerd op basis van het daadwerkelijke aantal verwerkte tokens per API-aanroep.
Omdat uitvoertokens twee keer zo duur zijn als invoertokens ($60 vs $30 per 1M tokens), kunnen applicaties die lange antwoorden genereren aanzienlijk duurder worden dan die met korte uitvoer. Bijvoorbeeld, een verzoek met 10.000 invoertokens en een uitvoer van 2.000 tokens kost $0,30 voor invoer en $0,12 voor uitvoer, in totaal $0,42. Als de uitvoer 8.000 tokens zou zijn, zouden de kosten stijgen tot $0,30 + $0,48 = $0,78. Om de kosten te beheersen, kunt u overwegen de max_tokens-parameter te beperken tot de minimaal benodigde lengte voor uw gebruikssituatie. Ook kortere systeemprompts en ingekorte gespreksgeschiedenissen verminderen het aantal invoertokens.
Er wordt geen informatie over token-caching of volumekortingen verstrekt in de beschikbare feiten voor GPT-4-0613 via OrcaRouter. Dit betekent dat elke aanroep wordt gefactureerd op basis van de daadwerkelijk verwerkte tokens, zonder enig vooraf bepaald caching-mechanisme dat de kosten voor herhaalde prompts zou verlagen. Gebruikers dienen rechtstreeks contact op te nemen met OrcaRouter om te informeren naar mogelijke caching-functionaliteiten of zakelijke prijsafspraken. Het is ook mogelijk dat OrcaRouter kostenoptimalisatie-opties biedt die hier niet zijn gedocumenteerd. Ga er voorlopig vanuit dat alle tokens worden aangerekend tegen de vermelde tarieven per token, zonder speciale kortingen.
Wanneer je GPT-4-0613 gebruikt, is de belangrijkste afweging tussen uitvoerkwaliteit en kosten. Voor taken die hoge nauwkeurigheid en redenering vereisen, is de premium prijs vaak gerechtvaardigd. Voor eenvoudigere of bulkverwerking kunnen echter goedkopere alternatieven zoals GPT-3.5 Turbo of GPT-4o mini de kosten met tot 90% verlagen. Overweeg ook de invoer-uitvoer verhouding: als je workflow zeer lange invoeren vereist (bijv. volledige documenten) maar korte uitvoeren, zullen de invoerkosten domineren. Omgekeerd zullen lange uitvoeren de uitvoerkosten snel verhogen. Evalueer of de specifieke sterke punten van het model (zoals codeernauwkeurigheid) noodzakelijk zijn voor jouw taak, en benchmark een subset van je gegevens voordat je je committeert aan grootschalig gebruik.
Om GPT-4-0613 via OrcaRouter aan te roepen, gebruik het OpenAI-compatibele API-eindpunt met base_url https://api.orcarouter.ai/v1. Stel de modelparameter in op "openai/gpt-4-0613" in uw verzoek. U heeft een API-sleutel van OrcaRouter nodig voor authenticatie. Het verzoekformaat volgt de documentatie van OpenAI voor chat completions, ondersteunt parameters zoals messages (array van systeem- en gebruikersberichten), temperature (0 tot 2), top_p, max_tokens (tot 8192), n (aantal voltooiingen), stop (sequenties om generatie te stoppen) en stream (boolean voor streaming). Voorbeeld met Python's openai-bibliotheek: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}])
GPT-4-0613 ondersteunt de standaard OpenAI chatvoltooiingsparameters. Belangrijke parameters zijn onder andere temperature (standaard 1) die willekeur beheerst—lagere waarden maken de uitvoer deterministischer; top_p (standaard 1) voor nucleus sampling; max_tokens (standaard ingesteld door endpoint, maximum 8192) om de uitvoerlengte te beperken; n (aantal te genereren voltooiingen per verzoek); en stop (tekenreeksen die generatie stoppen). U kunt ook presence_penalty en frequency_penalty gebruiken om herhaling van onderwerpen aan te moedigen of te ontmoedigen. Streaming wordt ondersteund door stream=True in te stellen, wat tokens stapsgewijs oplevert. Alle parameters gedragen zich identiek aan OpenAI's eigen API, waardoor naadloze migratie mogelijk is. Voor de beste resultaten stelt u max_tokens in op niet meer dan nodig om de kosten te beheersen, en gebruikt u een temperatuur tussen 0 en 0.5 voor feitelijke taken.
Overstappen van OpenAI's directe API naar OrcaRouter vereist slechts twee wijzigingen in uw code: werk de base_url bij naar https://api.orcarouter.ai/v1 en wijzig de model-ID naar "openai/gpt-4-0613". Uw bestaande authenticatielogica moet worden bijgewerkt om een OrcaRouter API-sleutel te gebruiken in plaats van een OpenAI-sleutel. Alle vertrouwde parameters (messages, temperature, max_tokens, etc.) blijven ongewijzigd. Bijvoorbeeld, met behulp van de openai Python-bibliotheek stelt u openai.api_base = "https://api.orcarouter.ai/v1" en openai.api_key = "your_orcarouter_key". Roept u vervolgens openai.ChatCompletion.create(model="openai/gpt-4-0613", ...) aan. De API van OrcaRouter is ontworpen als een drop-in vervanging, dus er zijn geen verdere code-aanpassingen nodig. Test met een klein verzoek om de connectiviteit en facturatie te bevestigen.
Snelheidslimieten voor GPT-4-0613 via OrcaRouter zijn niet gespecificeerd in de beschikbare feiten. Authenticatie vereist een API-sleutel verstrekt door OrcaRouter. Deze sleutel moet worden opgenomen in de request-header (bijv. Authorization: Bearer <key>). De exacte snelheidslimieten kunnen afhangen van uw OrcaRouter-plan of accountniveau. Neem voor productiegebruik contact op met OrcaRouter voor details over maximale verzoeken per minuut (RPM) en tokens per minuut (TPM). Bij afwezigheid van specifieke limieten is het raadzaam om exponentiële backoff te implementeren in geval van snelheidslimietfouten. Houd er ook rekening mee dat uw API-sleutel veilig moet worden bewaard en niet mag worden blootgesteld in client-side code.
GPT-4-0613 is een latere snapshot dan GPT-4-0314, uitgebracht in juni 2023 versus maart 2023. OpenAI heeft verklaard dat de update van juni de betrouwbaarheid verbetert, de kans op het genereren van verboden inhoud verkleint en zorgt voor een betere naleving van instructies. Beide modellen hebben hetzelfde contextvenster (8192 tokens) en dezelfde prijsstructuur. De benchmarkscore van 13.1 op AA Coding is specifiek voor GPT-4-0613, terwijl GPT-4-0314 mogelijk iets andere prestaties heeft. In de praktijk melden veel gebruikers dat GPT-4-0613 consistenter is en minder snel weifelt of onschuldige verzoeken weigert. Als je momenteel GPT-4-0314 gebruikt, is migreren naar GPT-4-0613 eenvoudig en waarschijnlijk voordelig.
GPT-4o is het multimodale model van OpenAI dat tekst, afbeeldingen en audio kan verwerken, en sneller en goedkoper is dan GPT-4-0613. De prijs van GPT-4o is $5 per 1M invoertokens en $15 per 1M uitvoertokens, waardoor het aanzienlijk kostenefficiënter is. GPT-4-0613, dat alleen tekst ondersteunt, kan geen niet-tekstuele invoer verwerken. Voor complexe tekstuele taken kan GPT-4-0613 echter een iets meer doordachte redenering bieden, omdat het hetzelfde onderliggende model is als GPT-4, maar zonder multimodale integratie. Voor toepassingen die beeldherkenning of de laagste latentie vereisen, is GPT-4o vaak de betere keuze. Voor pure teksttaken waarbij maximale nauwkeurigheid essentieel is en de kosten minder kritisch zijn, blijft GPT-4-0613 een haalbare optie.
GPT-3.5 Turbo is een aanzienlijk goedkopere en snellere alternatief voor GPT-4-0613, geprijsd op ongeveer $3 per 1M invoertokens en $6 per 1M uitvoertokens. Het is geoptimaliseerd voor dialoog en eenvoudige instructies, maar mist de diepgang van redeneren, codeernauwkeurigheid en het vermogen om instructies op te volgen van GPT-4-0613. De AA Coding benchmark en complexe redeneertaken tonen een duidelijke prestatiekloof ten gunste van GPT-4-0613. Voor toepassingen met hoge volumes en eenvoudige vereisten is GPT-3.5 Turbo economischer. Voor kritieke codegeneratie, meerstapsanalyse of genuanceerde taaltaken biedt GPT-4-0613 aanzienlijke kwaliteitsverbeteringen die de hogere kosten kunnen rechtvaardigen. Overweeg het gebruik van GPT-3.5 Turbo voor eenvoudige of iteratieve subtaken binnen een grotere workflow om kosten en kwaliteit in balans te brengen.
OpenAI-compatibel — behoud je huidige SDK
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Invoer / 1M tokens | $30.00 |
|---|---|
| Uitvoer / 1M tokens | $60.00 |
| Valuta | USD |
Schatting op basis van catalogusprijs
Alleen een schatting — het werkelijke aantal tokens hangt af van de tokenizer van de aanbieder.
Waar ontwikkelaars het deze week over hebben
GET /api/public/models/openai/gpt-4-0613Openen @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613