GPT-4o ("o" står för "omni") är OpenAI:s senaste AI-modell, som stöder både text- och bildinmatningar med textutdata. Den bibehåller intelligensnivån hos [GPT-4 Turbo](/models/openai/gpt-4-turbo) medan den är dubbelt så...
GPT-4o (2024-05-13) är en multimodal språkmodell från OpenAI, tillgänglig via OrcaRouters API. Den bearbetar text, bilder och filer, vilket gör den lämplig för uppgifter som blandar visuell och…
GPT-4o kan analysera bilder som ingår i indata. Det kan beskriva visuellt innehåll, svara på frågor om objekt, text i bilder och rumsliga relationer. Det kan även extrahera och transkribera text från skannade dokument eller foton. Eftersom det bearbetar bilder direkt behöver du ingen separat OCR- eller visionsmodell. Bilden tokeniseras för att passa inom kontextfönstret. Till exempel kan en användare ladda upp en skärmdump av ett diagram och be modellen tolka trenderna. Modellens förståelse är inte begränsad till enkla bildtexter; den kan resonera om innehållet, jämföra flera bilder och använda visuella ledtrådar tillsammans med textinstruktioner. Denna förmåga är integrerad i samma API-anrop, med samma meddelandeformat som textbaserade förfrågningar. På OrcaRouter skickar du bilder som base64-kodad data eller URL:er i innehållsmatrisen. Modell-ID förblir "openai/gpt-4o-2024-05-13".
GPT-4o accepterar filer som indata. De format som stöds inkluderar PDF, Microsoft Office-dokument (Word, Excel, PowerPoint), textfiler och bildformat. För PDF- och Office-filer extraherar modellen textinnehåll och analyserar layouten. Den renderar inte direkt komplex formatering utan läser textinnehållet. Detta är användbart för att bearbeta rapporter, kontrakt, kalkylblad eller presentationer utan manuell extrahering. Filinnehållet tokeniseras och räknas mot totalen av indata-tokens. Modellen kan svara på frågor om filinnehållet, sammanfatta det eller utföra beräkningar på tabelldata. När du använder filer inkluderar du dem som en del av meddelandeinnehållet med lämpliga OpenAI API-fält. OrcaRouter hanterar överföringen utan ändringar. Observera att modellens förmågor beror på kvaliteten på den extraherade texten; tungt skannade bilder i PDF-filer kanske inte är fullt läsbara om de inte innehåller inbäddade textlager.
GPT-4o är en premiummodell med högre kostnad än alternativ som GPT-4o-mini eller tidigare GPT-3.5-varianter. Om din uppgift inte kräver de multimodala funktionerna (t.ex. textbaserade uppgifter), stort sammanhang (upp till 128K), eller den matematiska resonemangsnivå som mäts av MATH-500 (79.1), kan en billigare modell vara mer ekonomisk. Till exempel kan enkel klassificering, kortformig innehållsgenerering eller grundläggande chatt hanteras av modeller med lägre kostnad som fortfarande ger acceptabel kvalitet. Om din applikation är känslig för latens och den mindre modellen är snabbare, kan avvägningen gynna hastighet framför absolut precision. Slutligen, om du sällan behöver bearbeta bilder eller filer, är den tillagda multimodala förmågan onödig. OrcaRouter erbjuder en rad modeller så att du kan välja bästa pris-prestanda-förhållande. Utvärdera ditt användningsfalls krav mot benchmarkpoängen och prissättningen för att avgöra om GPT-4o:s fördelar motiverar den extra kostnaden.
GPT-4o kan generera upp till 16 384 tokens per förfrågan. Detta är en generös gräns som möjliggör långa svar, detaljerad kod eller analyser i flera stycken. Utdata-tokens debiteras dock med 15,00 USD per miljon, vilket gör längre utdata dyrare. Du kan styra utdatalängden med parametern max_tokens i API-anropet. Om du förväntar dig att behöva mycket långa genereringar, överväg att batcha eller dela upp förfrågan. Gränsen på 16 384 gäller för hela slutförandet, inklusive resonemangssteg eller tankekedja om så begärs. För mycket komplexa uppgifter som kräver utökat tänkande kan du behöva använda flera anrop. På OrcaRouter rapporteras antalet utdata-tokens i API-svarets användningsfält, så du kan spåra kostnader noggrant. Det finns ingen ytterligare gräns som påförs av OrcaRouter; modellens inbyggda tak gäller.
GPT-4o fick 79,1 på MATH-500-benchmarket. MATH-500 består av 500 utmanande matematikproblem inom olika områden som algebra, geometri, talteori och sannolikhetslära. En poäng på 79,1 innebär att modellen svarade rätt på 79,1 % av problemen. Detta är ett starkt resultat som indikerar robust matematisk resonemangsförmåga, särskilt för en multimodellmodell. Benchmarket testar både problemlösning och steg-för-steg-resonemang. Denna poäng kan vägleda förväntningar för applikationer som innefattar matematikhandledning, vetenskaplig beräkning eller logiska pussel. Observera att benchmarkprestanda inte garanterar identiska resultat i verkliga uppgifter; domänspecifik finjustering eller prompt-engineering kan krävas. När du överväger denna modell, jämför dess MATH-500-poäng med andra modeller du utvärderar. OrcaRouter tillhandahåller inga ytterligare benchmarkdata, så detta är den enda referenspunkten som ges för denna modell.
Latens beror på flera faktorer: längden på indatan, längden på förväntad utdata, aktuell belastning på OpenAIs servrar samt nätverksvägen mellan din applikation och OrcaRouter. OrcaRouter tillför ingen betydande överhead utöver underliggande leverantörs svarstid. För typiska förfrågningar med måttlig indata (några tusen tokens) och korta utdata (under 1 000 tokens) kommer svar ofta inom några sekunder. Längre utdata (nära 16 384 tokens) tar naturligtvis längre tid eftersom modellen genererar tokens sekventiellt. Bildindata ökar också latensen på grund av tokenisering och bearbetning. Du kan optimera latensen genom att minska utdatalängden, använda kortare uppmaningar eller batcha förfrågningar. OrcaRouter tillhandahåller standard API-slutpunkter som returnerar resultat asynkront via strömning om så önskas. För realtidsinteraktiva applikationer, överväg att använda strömningsläge (stream: true) för att börja bearbeta så snart tokens anländer. Inga specifika latenssiffror anges i modellfakta, så dessa är kvalitativa uppskattningar.
Styrkor: Multimodal input (text, bild, fil), stort 128K-kontextfönster, stark matematisk resonemangsförmåga (MATH-500: 79,1), och hög token-gräns för utdata (16 384). Den hanterar långa dokument och flervarvskonversationer effektivt. API:t är standard OpenAI-kompatibelt, vilket underlättar integration. Begränsningar: Högre kostnad jämfört med mindre modeller. Inte optimerad för uppgifter som inte drar nytta av multimodalitet eller stor kontext. Ingen information ges om prestanda för icke-engelska språk eller specifika säkerhetsriktmärken. Bildförståelse kan vara begränsad för mycket komplexa scener eller lågupplösta bilder. Modellen kan också producera felaktiga svar på problem utanför dess träningsdistribution. Det finns ingen offentliggjord latensgaranti. För användare som kräver extremt låg latens eller extremt låg kostnad kan en annan modell vara bättre. Riktmärkespoängen 79,1 på MATH-500 indikerar utrymme för förbättring på de svåraste matematikproblemen. Utvärdera om dessa avvägningar stämmer överens med din applikations krav.
GPT-4o faktureras per token, med separata priser för inmatningstoken och utdatatoken. Inmatningstoken kostar $5,00 per 1 miljon token. Utdatatoken kostar $15,00 per 1 miljon token. Dessa är leverantörens priser, vidarebefordrade av OrcaRouter utan påslag. Kostnaden per begäran = (inmatningstoken/1e6 * 5) + (utdatatoken/1e6 * 15). Till exempel skulle en konversation med 4 000 inmatningstoken och 200 utdatatoken kosta (0,004*$5) + (0,0002*$15) = $0,02 + $0,003 = $0,023. Det finns inga extra avgifter för API-anrop i sig; du betalar endast för förbrukade token. Priser uppdateras dynamiskt baserat på leverantörsändringar; OrcaRouter förmedlar eventuella framtida justeringar. Eftersom det inte finns något påslag, drar användarna nytta av samma priser som direkta OpenAI-kunder, men med bekvämligheten av OrcaRouters enhetliga hantering och fakturering. Tänk på att bilder och filer tokeniseras och bidrar till antalet inmatningstoken, vilket ofta ökar kostnaden jämfört med textbaserade inmatningar.
Nej. OrcaRouter erbjuder inga rabatter, cachade tokens eller reducerad prissättning för upprepade inmatningar. Varje token debiteras enligt standardpriset från leverantören. Det finns ingen separat kostnad för cachning eller någon extra avgift för hög volym. Priserna på $5/$15 per miljon tokens är fasta. Användare som kräver mycket hög genomströmning kan förfråga sig om anpassade överenskommelser, men standardtjänsten inkluderar inga volymrabatter. Dessutom finns det inga dolda avgifter såsom anslutningsavgifter eller månatliga minimibelopp. Prissättningen är transparent och direkt kopplad till tokenanvändning. För kostnadsoptimering, överväg att minska indatastorleken (t.ex. trimma historik, använda kortare uppmaningar) och utdatalängden (t.ex. ställa in ett lägre max_tokens). Att endast använda modellen när dess funktioner är nödvändiga (multimodal, stor kontext) hjälper också till att kontrollera kostnaderna. Om din applikation har repetitiva uppmaningar som är identiska varje gång kan cachning på applikationsnivå minska tokenanvändningen, men OrcaRouter själv erbjuder inte en sådan funktion.
GPT-4o har ett premiumpris. För många uppgifter kan en billigare modell (t.ex. GPT-4o-mini eller GPT-3.5-turbo) vara tillräcklig. Gör en avvägning genom att bedöma komplexiteten och den nödvändiga noggrannheten. Om din uppgift innefattar enkel extrahering eller klassificering med begränsad kontext, kan en billigare model prestera likvärdigt till en bråkdel av kostnaden. Omvänt, om uppgiften kräver nyanserad förståelse av bilder, långa dokument eller hög matematisk precision (MATH-500-poäng på 79,1 jämfört med lägre poäng på billigare modeller), kan GPT-4o vara värd premiumkostnaden. Använd A/B-testning på ett representativt urval för att jämföra kvalitet och kostnad. Tänk också på att samma pris per miljon tokens gäller oavsett textlängd; kortare förfrågningar är billigare. Om ditt arbetsflöde ofta använder hela 128K-kontexten kan kostnaden för inmatningstokens för den förfrågan bli hög; säkerställ att kontexten verkligen behövs. OrcaRouter tillhandahåller användningsstatistik så att du kan övervaka och optimera.
För att anropa GPT-4o på OrcaRouter, använd den OpenAI-kompatibla API-slutpunkten: base_url = "https://api.orcarouter.ai/v1". Ställ in modellparametern på "openai/gpt-4o-2024-05-13". Du behöver en API-nyckel från OrcaRouter. Begäransformatet följer standard OpenAI Chat Completions API: messages-array med roller (system, user, assistant), valfritt innehåll för bilder och filer, samt parametrar som temperature, max_tokens, top_p, frequency_penalty, presence_penalty och stop. Till exempel skickas en enkel textförfrågan som en POST till /chat/completions. För bilder, inkludera innehållet som en del av användarmeddelandet med typ "image_url". För filer, inkludera dem som en del av innehållet också (det specifika formatet följer OpenAI-specifikationen). Svaret kommer att innehålla assistentens meddelande, användningsstatistik (prompt_tokens, completion_tokens, total_tokens) och annan metadata. Inga särskilda rubriker krävs utöver standard Content-Type och Authorization. Integrationen är identisk med att använda OpenAI direkt.
Alla standardparametrar för OpenAI Chat Completions stöds: messages (obligatorisk), model (obligatorisk, satt till "openai/gpt-4o-2024-05-13"), temperature (0–2, standard 1), top_p (0–1, standard 1), n (antal fullföljningar, standard 1), stop (strängar eller lista med strängar), max_tokens (standard 16 384, max 16 384), presence_penalty (−2 till 2, standard 0), frequency_penalty (−2 till 2, standard 0), logit_bias (karta från token-ID till biasvärde), user (sträng för missbruksövervakning), stream (boolesk, standard false) och functions/tools (för funktionsanrop). För multimodala indata kan meddelandets innehåll vara en array av innehållsdelar med typ "text" eller "image_url". Dessutom kan du inkludera innehåll av typen "file" enligt OpenAI:s dokumentation (t.ex. för PDF-bilagor). OrcaRouter skickar dessa parametrar direkt till leverantören utan ändringar. Se till att du inte överskrider kontextfönstret på 128K tokens. API:et returnerar standardfelkoder vid ogiltiga förfrågningar, hastighetsbegränsning eller autentiseringsfel.
Migreringen är enkel eftersom OrcaRouters API är helt OpenAI-kompatibelt. Du behöver bara ändra två saker: bas-URL från https://api.openai.com/v1 till https://api.orcarouter.ai/v1, och modell-ID från "gpt-4o-2024-05-13" till "openai/gpt-4o-2024-05-13". Din API-nyckel från OrcaRouter ersätter din OpenAI-nyckel. All befintlig kod som använder OpenAIs Python/Node-bibliotek eller råa HTTP-förfrågningar fungerar utan andra ändringar. Meddelandeformatet, parameternamnen och svarsstrukturen är identiska. För bibliotek som accepterar en base_url-parameter ställer du bara in den till OrcaRouterns slutpunkt. Om du använde OpenAIs klient kan du instansiera den med base_url inställd på OrcaRouterns slutpunkt. Inga ändringar av prompt engineering eller cachningslogik krävs. OrcaRouter stöder också streaming (stream: true) och funktionsanrop precis som tidigare. Testning kan göras med en liten uppsättning förfrågningar för att verifiera att beteendet överensstämmer.
OrcaRouter ändrar inte modellens beteende. Den fungerar rent som en gateway, som vidarebefordrar dina förfrågningar till OpenAIs servrar och returnerar svaret ordagrant. Ingen ytterligare förbearbetning, efterbearbetning eller innehållsfiltrering tillämpas av OrcaRouter. Angående datahantering: OrcaRouter lagrar eller loggar inte prompt- eller slutförandedata utöver vad som är nödvändigt för fakturering och operativ övervakning. OpenAIs egna datapolicyer gäller för användningen av modellen via OrcaRouter. Enligt de tillhandahållna uppgifterna nämns ingen datalagring av OrcaRouter utöver standard API-loggning. Användare bör granska både OrcaRouters integritetspolicy och OpenAIs policy för att förstå datahanteringen. Om du har strikta krav på dataplacering, kontakta OrcaRouter om tillgängliga alternativ. Det finns inga indikationer på att OrcaRouter delar data med andra kunder. Modell-ID är den enda ändring som behövs; inga anpassade instruktioner injiceras.
De främsta skillnaderna mellan GPT-4o och GPT-4o-mini är kontextfönstrets storlek, multimodala funktioner, benchmark-prestanda och kostnad. GPT-4o erbjuder ett kontextfönster på 128K och stöder bild- och filinmatningar. GPT-4o-mini (baserat på OpenAI:s utbud) har vanligtvis ett mindre kontextfönster (t.ex. 128K eller 16K i vissa versioner) och stöder inte alla modaliteter. På MATH-500 får GPT-4o 79,1; GPT-4o-mini skulle få lägre poäng. Prissättning: GPT-4o kostar $5/$15 per miljon tokens, medan GPT-4o-mini är betydligt billigare (t.ex. $0,15/$0,60 per miljon tokens i vissa versioner). Därför är GPT-4o-mini lämplig för enklare uppgifter där lägre kostnad är avgörande, medan GPT-4o är bättre för komplexa resonemang, långa kontextsammanhang och multimodala uppgifter. När du väljer mellan dem, överväg kraven på noggrannhet och behovet av bild- eller filhantering. OrcaRouter erbjuder båda modellerna under distinkta ID:n. Om din arbetsbelastning sällan använder bilder eller stora kontextsammanhang, kan GPT-4o-mini vara det ekonomiskt överlägsna valet.
GPT-4o (2024-05-13) är en multimodal modell med en kontextlängd på 128K, medan äldre GPT-4-versioner (som gpt-4-0613) vanligtvis har en kontext på 8K eller 32K och är endast textbaserade (vissa senare versioner har stöd för bilder via separata slutpunkter för vision). Priserna för GPT-4o ($5/$15 per miljon tokens) är generellt lägre än GPT-4 Turbo-priserna var som högst (t.ex. $10/$30 per miljon tokens). Prestanda i riktmärken: det angivna MATH-500-resultatet på 79,1 är för GPT-4o; GPT-4 hade inget officiellt MATH-500-resultat i de angivna fakta, men det var känt att det presterade lägre på liknande matematikriktmärken. GPT-4o erbjuder också en högre utmatningsgräns (16K tokens) jämfört med äldre GPT-4 (4K eller 8K beroende på version). Sammantaget ger GPT-4o bättre värde för multimodala applikationer med lång kontext. Äldre GPT-4-modeller kan dock ha finjusterats för specifika uppgifter; utvärdera på din egen data. Via OrcaRouter är båda modellfamiljerna tillgängliga.
En direkt jämförelse kräver modellspecifika fakta som inte anges här. Generellt sett är båda modellerna konkurrenskraftiga vad gäller resonemang och multimodal kapacitet. GPT-4o har en kontextlängd på 128K, liknande Claudes 200K (för Sonnet). Båda stöder bilder. Benchmark-resultat varierar: GPT-4o ger ett MATH-500-poäng på 79,1; Claude 3.5 Sonnets poäng på samma benchmark anges inte. Prissättning: GPT-4o kostar $5/$15 per miljon tokens; Claude Sonnet-priset är vanligtvis runt $3/$15 per miljon tokens (kan ändras). Således är indatakostnaderna för GPT-4o högre. Prestandaskillnader beror på uppgiften: vissa användare anser att Claude är överlägsen för långa texter, medan GPT-4o utmärker sig inom matematik och kodning. Utan en kontrollerad utvärdering rekommenderas att testa båda på representativa sampel. OrcaRouter erbjuder båda modellerna, så du kan enkelt jämföra genom att ändra modell-ID. I slutändan beror den bästa modellen på dina specifika krav på noggrannhet, latens och kostnad. De angivna fakta inkluderar inte Claudes poäng, så denna jämförelse förblir kvalitativ.
Llama 3 (t.ex. Llama 3 70B) är en öppen källkodsmodell som kan självhostas, medan GPT-4o är proprietär och nås via API. GPT-4o stöder multimodala indata (text, bild, fil) med en kontext på 128K, medan Llama 3 vanligtvis är endast textbaserad (om inte finjusterad för vision) och har mindre kontext (t.ex. 8K eller 32K). Benchmarkpoäng: GPT-4o:s MATH-500-poäng är 79,1; Llama 3 70B får cirka 70–75 på liknande matematikbenchmark (inte angivna i fakta men allmän kunskap). Kostnad: GPT-4o:s API-kostnad per token är fast; självhostning av Llama 3 innebär infrastrukturkostnader (GPU, el) som kan vara lägre vid hög volym. Latens: API-baserad GPT-4o kan vara snabbare för burst-arbetsbelastningar; självhostade modeller kan erbjuda jämn latens om kapacitet reserveras. Flexibilitet: Llama 3 kan finjusteras; GPT-4o kan inte. För användare som vill undvika inlåsning hos leverantör eller hantera känslig data helt på plats är modeller med öppen källkod attraktiva. OrcaRouter ger tillgång till båda typerna: du kan använda GPT-4o via API och även nå modeller med öppen källkod via OrcaRouter om tillgängligt.
OpenAI-kompatibel — behåll det SDK du redan använder
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-05-13",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamtemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Inmatning / 1M token | $5.00 |
|---|---|
| Utdata / 1M tokens | $15.00 |
| Valuta | USD |
Uppskattning baserad på listpris
Endast en uppskattning — faktiskt antal token beror på leverantörens tokenizer.
Vad utvecklare säger den här veckan
GET /api/public/models/openai/gpt-4o-2024-05-13Öppna @misc{orcarouter_gpt_4o_2024_05_13,
title = {GPT-4o (2024-05-13) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13}
}OpenAI. (2024). GPT-4o (2024-05-13) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-05-13