OpenAI GPT-4-0613: 8K kontext, 13.1 AA Coding, endast text-modell till $30/$60 per 1M tokens
OpenAI GPT-4-0613 är en specifik checkpoint av den stora språkmodellen GPT-4 som släpptes av OpenAI i juni 2023. Den arbetar uteslutande med textinmatningar och producerar textutdata. Modellen stöder…
GPT-4-0613 utmärker sig i uppgifter som kräver djup resonemangsförmåga, exakt språkgenerering och följsamhet till komplexa instruktioner. Vanliga användningsområden inkluderar att generera och granska kod på språk som Python, JavaScript och C++, samt att felsöka befintliga kodbaser. Den kan analysera och sammanfatta stora textmängder, producera strukturerade rapporter och utarbeta detaljerade tekniska eller juridiska dokument. Modellen är också effektiv på att bryta ner flerstegsproblem i tydliga, sekventiella steg, vilket gör den användbar för planering och problemlösning. Även om den huvudsakligen fungerar på engelska, kan den hantera flera andra språk med varierande tillförlitlighet. För uppgifter som inte kräver denna nivå av sofistikering kan mindre eller billigare modeller erbjuda en mer kostnadseffektiv lösning.
GPT-4-0613 är en premiummodell med högre kostnad per token. Den är inte idealisk för högvolymsuppgifter med låg komplexitet, såsom enkel textklassificering, grundläggande chattinteraktioner eller enkel översättning. För sådana arbetsbelastningar kan modeller som OpenAIs GPT-3.5 Turbo eller andra lätta alternativ leverera tillräcklig prestanda till en bråkdel av kostnaden. Om din applikation dessutom inte kräver hela kontextfönstret på 8192 tokens, eller om maximal utdatalängd sällan behövs, kan en billigare modell med mindre kontext vara mer lämplig. Utvärdera alltid avvägningen mellan utdatakvalitet och kostnad för ditt specifika användningsfall för att avgöra om GPT-4-0613 är motiverad.
GPT-4-0613 är primärt tränat på engelska men har visat förmåga på många andra språk, inklusive franska, spanska, tyska, kinesiska och arabiska. Dess prestanda på icke-engelska språk är generellt stark för strukturerade uppgifter som översättning, sammanfattning och frågebesvarande, men den kan uppvisa lägre noggrannhet och mindre naturliga formuleringar jämfört med engelska. Modellens styrkor inom resonemang och instruktionsföljning sträcker sig till flerspråkiga sammanhang, men användare bör testa specifika icke-engelska scenarier för att bekräfta lämplighet. För applikationer som kräver hög precision på ett annat språk än engelska, överväg att komplettera med språkspecifika modeller eller ytterligare validering.
GPT-4-0613 respekterar systemmeddelanden och användarinstruktioner, vilket gör den väl lämpad för applikationer som kräver strikt efterlevnad av formatering, ton eller struktur. Den kan generera utdata i JSON, markdown eller andra specificerade format, och kan följa flerstegsinstruktioner med bibehållen kontext. Modellen är särskilt pålitlig för uppgifter som kräver stegvis resonemang eller kedja av tankar-promptning. Men, liksom alla stora modeller, kan den ibland misstolka tvetydiga instruktioner eller producera utdata som avviker från det önskade formatet. Det rekommenderas att ge tydliga, explicita instruktioner och, när möjligt, inkludera exempel för att vägleda modellens beteende.
AAPoäng för kodningsriktmärket 13.1 för GPT-4-0613 indikerar dess prestanda i en kodningsspecifik utvärdering. Även om den exakta metodiken för detta riktmärke inte beskrivs i de angivna fakta, återspeglar ett högre poäng i allmänhet bättre noggrannhet och tillförlitlighet när det gäller att generera kod, lösa programmeringsproblem och förstå kodstrukturer. Detta poäng placerar GPT-4-0613 som ett starkt val för kodningsuppgifter som buggfixning, algoritmimplementation och kodförklaring. Det är viktigt att notera att riktmärkespoäng är vägledande och kanske inte fullt ut fångar verklig prestanda för specifika kodningsuppgifter. Användare bör utvärdera modellen på sina egna datamängder för bästa resultat.
Latens för GPT-4-0613 anges inte i de tillhandahållna fakta, men som en högkapacitetsmodell har den generellt högre svarstider jämfört med mindre modeller som GPT-3.5 Turbo eller GPT-4o mini. Inferenshastighet beror på faktorer som längden på indata och utdata, komplexiteten i förfrågan samt den underliggande infrastrukturen. Genom OrcaRouter kan latensen även påverkas av nätverksförhållanden och leverantörens serveringskapacitet. För realtidsapplikationer där låg latens är avgörande, överväg att testa modellen under din förväntade belastning och eventuellt använda en snabbare, billigare modell för mindre krävande delar av ditt arbetsflöde.
GPT-4-0613:s främsta styrkor ligger i dess logiska resonemang, förmåga att följa komplexa flerstegsinstruktioner och hög noggrannhet i uppgifter som kodgenerering och dataanalys. Den producerar välorganiserade, sammanhängande utdata även för långa uppmaningar, vilket gör den lämplig för att utarbeta omfattande dokument eller rapporter. Modellen uppvisar stark konsekvens över flera omgångar, vilket är fördelaktigt för konversationsagenter som behöver bibehålla sammanhang. Dess riktmärkespoäng på 13.1 på AA Coding understryker dess tillförlitlighet för programmeringsrelaterade uppgifter. Dessa egenskaper gör den till ett föredraget val för applikationer där precision och djup är av största vikt, även till en högre kostnad.
GPT-4-0613 har flera begränsningar. Den är endast textbaserad och kan inte bearbeta bilder, ljud eller video. Dess kontextfönster är begränsat till 8192 tokens, vilket kan vara otillräckligt för mycket långa dokument eller flervarvskonversationer med omfattande historik. Modellen kan ibland producera informationsljudande men felaktig information (hallucinationer), särskilt om ämnen utanför dess träningsdata. Dess prissättning är relativt hög jämfört med alternativ, vilket gör den mindre ekonomisk för högvolymstillämpningar. Dessutom, eftersom den är en ögonblicksbild från juni 2023, kan den vara omedveten om händelser eller kunskap efter det datumet. Användare bör verifiera kritiska utdata och överväga att använda retrieval-augmented generation (RAG) för att förankra svar i aktuell information.
GPT-4-0613 prissätts enligt leverantörens direktpris utan påslag via OrcaRouter. Kostnaden är $30,00 per 1 miljon inmatningstokens och $60,00 per 1 miljon utdatatokens. Inmatningstokens avser all text som tillhandahålls i användarens begäran, inklusive systemmeddelanden, konversationshistorik och nuvarande användarfråga. Utdatatokens är den text som modellen genererar som svar. Både inmatnings- och utdatatokens räknas till den totala användningen och debiteras därefter. Det finns inga ytterligare plattformsavgifter utöver priset per token. Användare debiteras baserat på det faktiska antalet tokens som bearbetas per API-anrop.
Eftersom output-tokens prissätts dubbelt så högt som input-tokens ($60 mot $30 per 1M tokens), blir applikationer som genererar långa svar betydligt dyrare än de med korta utdata. Till exempel skulle en förfrågan med 10 000 input-tokens och 2 000 output-tokens kosta $0,30 för input och $0,12 för output, totalt $0,42. Om output vore 8 000 tokens skulle kostnaden stiga till $0,30 + $0,48 = $0,78. För att hantera kostnaderna, överväg att begränsa parametern max_tokens till den minsta nödvändiga längden för ditt användningsfall. Kortare systemprompter och putsade konversationshistoriker minskar också antalet input-tokens.
Ingen information om token-cachning eller volymrabatter tillhandahålls i de tillgängliga fakta för GPT-4-0613 via OrcaRouter. Det innebär att varje anrop debiteras baserat på de faktiska tokens som bearbetas, utan någon förutbestämd cachningsmekanism som skulle minska kostnaderna för upprepade uppmaningar. Användare bör kontakta OrcaRouter direkt för att fråga om eventuella cachningsfunktioner eller företagsprisavtal. Det är också möjligt att OrcaRouter kan erbjuda kostnadsoptimeringsalternativ som inte dokumenteras här. För närvarande, utgå från att alla tokens debiteras enligt de angivna priserna per token utan några särskilda rabatter.
När man använder GPT-4-0613 är huvudavvägningen mellan utdatakvalitet och kostnad. För uppgifter som kräver hög noggrannhet och resonemang är premiumpriset ofta motiverat. Men för enklare eller bulkbearbetning kan billigare alternativ som GPT-3.5 Turbo eller GPT-4o mini minska kostnaderna med upp till 90%. Överväg även förhållandet mellan in- och utdata: om ditt arbetsflöde kräver mycket långa indata (t.ex. hela dokument) men korta utdata, kommer indatakostnaden att dominera. Omvänt kommer långa utdata snabbt att öka utdatakostnaden. Utvärdera om modellens specifika styrkor (som kodnoggrannhet) är nödvändiga för din uppgift, och benchmarka en delmängd av dina data innan du förbinder dig till storskalig användning.
För att anropa GPT-4-0613 via OrcaRouter, använd den OpenAI-kompatibla API-slutpunkten med base_url https://api.orcarouter.ai/v1. Ställ in modellparametern till "openai/gpt-4-0613" i din förfrågan. Du behöver en API-nyckel från OrcaRouter för autentisering. Begäransformat följer OpenAI:s chat completions-dokumentation och stöder parametrar som messages (array av system- och användarmeddelanden), temperature (0 till 2), top_p, max_tokens (upp till 8192), n (antal kompletteringar), stop (sekvenser för att avbryta generering) och stream (boolesk för strömning). Exempel med Pythons openai-bibliotek: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}]).
GPT-4-0613 stöder standardparametrar för OpenAI-chattkomplettering. Viktiga parametrar inkluderar temperature (standardvärde 1) som styr slumpmässighet – lägre värden gör utdatan mer deterministisk; top_p (standardvärde 1) för kärnsampling; max_tokens (standardvärde satt av slutpunkt, max 8192) för att begränsa utdatalängden; n (antal kompletteringar som ska genereras per förfrågan); och stop (strängar som stoppar genereringen). Du kan också använda presence_penalty och frequency_penalty för att uppmuntra eller motverka ämnesupprepning. Streaming stöds genom att ange stream=True, vilket returnerar tokens stegvis. Alla parametrar beter sig identiskt med OpenAI:s eget API, vilket möjliggör sömlös migrering. För bästa resultat, ställ in max_tokens till högst det som behövs för att kontrollera kostnaderna, och använd en temperatur mellan 0 och 0.5 för faktabaserade uppgifter.
Att migrera från OpenAIs direkta API till OrcaRouter kräver endast två ändringar i din kod: uppdatera base_url till https://api.orcarouter.ai/v1 och ändra model-ID till "openai/gpt-4-0613". Din befintliga autentiseringslogik bör uppdateras för att använda en OrcaRouter API-nyckel istället för en OpenAI-nyckel. Alla välbekanta parametrar (messages, temperature, max_tokens, etc.) förblir oförändrade. Till exempel, med openai Python-biblioteket, ställ in openai.api_base = "https://api.orcarouter.ai/v1" och openai.api_key = "your_orcarouter_key". Anropa sedan openai.ChatCompletion.create(model="openai/gpt-4-0613", ...). OrcaRouters API är utformat som en direkt ersättning, så inga ytterligare kodändringar krävs. Testa med en liten förfrågan för att bekräfta anslutning och fakturering.
Gränsvärden för GPT-4-0613 via OrcaRouter anges inte i tillgängliga fakta. Autentisering kräver en API-nyckel från OrcaRouter. Denna nyckel ska inkluderas i begärandets huvud (t.ex. Authorization: Bearer <key>). De exakta gränsvärdena kan bero på din OrcaRouter-plan eller kontonivå. För produktionsanvändning, kontakta OrcaRouter för detaljer om maximala förfrågningar per minut (RPM) och tokens per minut (TPM). I avsaknad av specifika gränser rekommenderas att implementera exponentiell backoff vid fel relaterade till gränsvärden. Observera även att din API-nyckel ska hållas säker och inte exponeras i kod på klientsidan.
GPT-4-0613 är en senare ögonblicksbild än GPT-4-0314, släppt i juni 2023 jämfört med mars 2023. OpenAI har sagt att juniversionen förbättrar tillförlitligheten, minskar sannolikheten för att generera förbjudet innehåll och erbjuder bättre instruktionsefterlevnad. Båda modellerna har samma kontextfönster (8192 tokens) och prissättningsstruktur. Benchmarkpoängen 13,1 på AA Coding är specifik för GPT-4-0613, medan GPT-4-0314 kan ha något annorlunda prestandasiffror. I praktiken rapporterar många användare att GPT-4-0613 är mer konsekvent och mindre benägen att tveka eller vägra ofarliga förfrågningar. Om du för närvarande använder GPT-4-0314 är det enkelt och troligen fördelaktigt att migrera till GPT-4-0613.
GPT-4o är OpenAI:s multimodala modell som kan bearbeta text, bilder och ljud, och är snabbare och billigare än GPT-4-0613. GPT-4o:s prissättning är $5 per 1M inputtokens och $15 per 1M outputtokens, vilket gör den betydligt mer kostnadseffektiv. GPT-4-0613, som endast hanterar text, kan inte bearbeta icke-textuella indata. Däremot kan GPT-4-0613 erbjuda något mer eftertänksam resonemang för komplexa textbaserade uppgifter, eftersom det är samma underliggande modell som GPT-4 men utan multimodal integration. För applikationer som kräver bildförståelse eller lägsta latens är GPT-4o ofta det bättre valet. För rena textuppgifter där maximal noggrannhet är avgörande och kostnaden mindre kritisk, är GPT-4-0613 fortfarande ett gångbart alternativ.
GPT-3.5 Turbo är ett avsevärt billigare och snabbare alternativ till GPT-4-0613, med ett pris på ungefär $3 per 1M inmatningstokens och $6 per 1M utmatningstokens. Den är optimerad för dialog och enkla instruktioner, men saknar djupet i resonemang, kodningsnoggrannhet och förmågan att följa instruktioner som GPT-4-0613 har. AA Coding benchmark och komplexa resonemangsuppgifter visar en tydlig prestandaskillnad som gynnar GPT-4-0613. För högvolymapplikationer med enkla krav är GPT-3.5 Turbo mer ekonomisk. För kritisk kodgenerering, flerstegsanalys eller nyanserade språkuppgifter erbjuder GPT-4-0613 betydande kvalitetsförbättringar som kan motivera dess högre kostnad. Överväg att använda GPT-3.5 Turbo för enkla eller iterativa deluppgifter inom ett större arbetsflöde för att balansera kostnad och kvalitet.
OpenAI-kompatibel — behåll det SDK du redan använder
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Inmatning / 1M token | $30.00 |
|---|---|
| Utdata / 1M tokens | $60.00 |
| Valuta | USD |
Uppskattning baserad på listpris
Endast en uppskattning — faktiskt antal token beror på leverantörens tokenizer.
Vad utvecklare säger den här veckan
GET /api/public/models/openai/gpt-4-0613Öppna @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613