GPT-4o ("o" står för "omni") är OpenAI:s senaste AI-modell, som stöder både text- och bildinmatningar med textutdata. Den bibehåller intelligensnivån hos [GPT-4 Turbo](/models/openai/gpt-4-turbo) medan den är dubbelt så...
GPT-4o är en multimodal stor språkmodell från OpenAI. Den accepterar text-, bild- och filinmatningar och genererar text som utdata. Modellen är utformad för användare som behöver bearbeta långt…
GPT-4o utmärker sig inom multimodal resonemangsförmåga, bearbetning av långa kontexter och matematisk problemlösning. Dess kontext på 128k tokens gör att den kan behålla och referera till stora mängder information, vilket gör den användbar för uppgifter som dokumentanalys, kodgenerering över hela projekt och komplexa flervarvskonversationer. Modellen fick 75,9 på MATH-500-benchmarken, vilket indikerar stark förmåga att lösa matematiska problem. Dessutom innebär dess förmåga att ta emot bild- och filinmatningar att den kan resonera om visuellt innehåll – såsom diagram, grafer eller fotografier – i kombination med text. På OrcaRouter kan du utnyttja dessa styrkor utan att betala någon påslag jämfört med OpenAIs listpriser.
GPT-4o är mycket effektivt för uppgifter som kräver både textuell och visuell förståelse. Exempel inkluderar: att besvara frågor om ett diagram i en lärobok, extrahera data från en skannad faktura, generera kod baserat på en trådbild eller sammanfatta en lång forskningsartikel med figurer. Dess stora kontext gör det också lämpligt för att analysera hela kodbaser eller långa konversationsloggar. Matematisk resonemangsförmåga är en annan stark sida, vilket visas av dess 75,9 på MATH-500. På OrcaRouter är dessa användningsfall enkla att implementera – du skickar en vanlig OpenAI-kompatibel förfrågan med lämpliga innehållstyper, och modellen returnerar ett textsvar.
Om din uppgift inte kräver multimodal indata eller ett stort sammanhang, kan en billigare modell vara mer kostnadseffektiv. Till exempel, för enkla textklassificerings-, sammanfattnings- eller översättningsuppgifter som passar inom ett mindre sammanhang, är modeller som GPT-3.5 Turbo (prissatt till $0,50 per 1M indata och $1,50 per 1M utdata) betydligt billigare. GPT-4o:s indatakostnad är $2,50 per 1M tokens, vilket är fem gånger högre än GPT-3.5 Turbo. Om du bearbetar stora volymer av endast textdata utan behov av multimodalt resonemang, kan en mindre modell minska kostnaderna. OrcaRouter erbjuder en mängd olika modeller så att du kan välja den bästa pris-prestandabalansen.
GPT-4o är utformat för att ta emot bilder och filer som indata, vilket gör det möjligt att utföra uppgifter som visuell frågebesvarande, bildtextning och dokumentförståelse. Även om specifika multimodala benchmark-poäng inte anges i tillgängliga fakta, stöder modellens arkitektur gemensamt resonemang över text och bilder. Till exempel kan den räkna objekt i en bild eller tolka ett diagram. Modellen genererar endast text, inte bilder. På OrcaRouter skickas multimodala förfrågningar med samma parametrar som OpenAIs API: inkludera en image_url- eller filinnehållsdel i messages-arrayen. Modellen bearbetar den visuella datan och returnerar ett textsvar baserat på den kombinerade indatan.
GPT-4o uppnår ett resultat på 75,9 på MATH-500-riktmärket. MATH-500 är en delmängd av MATH-dataseten, som består av 500 utmanande matematikproblem inom olika ämnen som algebra, geometri och kalkyl. Ett resultat på 75,9 innebär att modellen korrekt löser ungefär 76 % av dessa problem. Detta indikerar stark matematisk resonemangsförmåga, även om den inte är perfekt. Som jämförelse får många mindre modeller under 50 på liknande riktmärken. Resultatet speglar modellens förmåga att utföra flerstegsresonemang och hantera matematisk notation. På OrcaRouter kan du använda GPT-4o för matematikrelaterade uppgifter som handledning, tentamensförberedelser eller verifiering av beräkningar.
Liksom alla stora språkmodeller har GPT-4o begränsningar. Det kan producera felaktiga eller hallucinerade svar, särskilt inom områden med begränsad träningsdata eller som kräver mycket aktuell kunskap (dess träningsgränsdatum anges inte i fakta, men som en OpenAI-modell har den en kunskapsgräns). Det kan vara känsligt för prompts formulering och kan ha svårt med tvetydiga instruktioner. Trots sitt starka MATH-500-resultat är det inte ofelbart när det gäller komplexa matematiska bevis. Modellen bearbetar bilder men genererar inte bilder. Dessutom kan det stora kontextfönstret (128k tokens) leda till ökad tokenanvändning, vilket höjer kostnaderna om det inte hanteras noggrant. På OrcaRouter kan du mildra vissa problem genom att justera parametrar som temperature och top_p.
Exakta siffror för latens för GPT-4o anges inte i fakta. I allmänhet är GPT-4o en stor modell och kommer att ha högre latens jämfört med mindre modeller som GPT-3.5 Turbo eller Llama 3.1 8B. Det är dock troligt att den är optimerad för snabbare inferens än den ursprungliga GPT-4. Genom OrcaRouter kan du förvänta dig svarstider som liknar de du får direkt från OpenAI, eftersom plattformen dirigerar förfrågningar utan ytterligare bearbetning. För realtidsapplikationer där hastighet är avgörande, överväg att använda en snabbare, billigare modell för enklare uppgifter och spara GPT-4o för komplexa frågor som drar nytta av dess kapacitet.
På OrcaRouter är GPT-4o prissatt exakt till OpenAIs angivna priser: $2,50 per 1 miljon inmatningstokens och $10,00 per 1 miljon utmatningstokens. Det är noll påslag från OrcaRouter. Fakturering baseras på tokenantal avrundat till närmaste hela token. Inmatningstokens inkluderar text, bilder och filer du skickar, även om bilder vanligtvis tokeniseras till en fast avgift av modellen (t.ex. förbrukar varje bild ett visst antal tokens). Utmatningstokens är den text som genereras av modellen. Du debiteras endast för det du använder; det finns inga månadsavgifter eller minimiåtaganden. Denna transparenta prissättning gör att du kan budgetera noggrant för dina AI-arbetsbelastningar.
Den primära avvägningen är kostnad kontra kapacitet. GPT-4o kostar $2.50 per 1M tokens för indata och $10 per 1M tokens för utdata. Billigare modeller som GPT-3.5 Turbo ($0.50 indata, $1.50 utdata) eller Llama 3.1 8B är mer ekonomiska för enkla eller högvolymsuppgifter. GPT-4o erbjuder dock multimodal indata och ett större kontextfönster. Om din applikation kräver förståelse av bilder eller bearbetning av mycket långa dokument kan GPT-4o vara nödvändig trots den högre kostnaden. För textbaserade uppgifter med korta indata kan en billigare modell spara pengar. På OrcaRouter kan du växla mellan modeller med en enkel ändring av modell-ID, så du kan optimera kostnaden för varje förfrågan.
Nej. OrcaRouter debiterar GPT-4o till exakt leverantörspris utan påslag. Priserna är $2.50 per 1M inmatningstokens och $10.00 per 1M utmatningstokens. Det finns inga dolda avgifter, merförsäljning eller extra kostnader. OrcaRouter för vidare kostnaden direkt från OpenAI. Denna policy gäller för alla modeller som listas på plattformen. Bas-URL:en är https://api.orcarouter.ai/v1 och modell-ID:t är "openai/gpt-4o". Du kan när som helst verifiera priserna genom att kontrollera din användningsdashboard. Det finns ingen prissättning i nivåer eller åtagande krävs—betala endast för förbrukade tokens.
För att använda GPT-4o via OrcaRouter, skicka HTTP POST-förfrågningar till bas-URL:en https://api.orcarouter.ai/v1/chat/completions. Ställ in modellparametern till "openai/gpt-4o". Din förfrågan måste innehålla en API-nyckel (ange din OrcaRouter API-nyckel i Authorization-headern). Förfrågningskroppen följer standard OpenAI chat completions-format: en messages-array med role/content-par, valfria parametrar som temperature, max_tokens, top_p, etc. För multimodala indata, inkludera content-delar som har typen "text" eller "image_url" (eller file). Svaret är ett JSON-objekt som innehåller modellens fullföljning. Exempel på curl-kommando: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
När du anropar GPT-4o via OrcaRouter kan du använda samma parametrar som OpenAI:s API. Vanligt använda parametrar inkluderar: - temperature (float, 0-2): Styr slumpmässighet. Lägre värden som 0,2 gör utdata mer deterministisk. - max_tokens (heltal, standard 16384): Maximalt antal tokens i svaret. - top_p (float, 0-1): Nucleus-samplingparameter. - frequency_penalty och presence_penalty: Minskar upprepning. - stop (sträng eller array): Stoppsekvenser. - stream (boolesk): Aktivera strömmande svar (true/false). - seed (heltal): För deterministisk sampling. Du kan också använda det valfria fältet "user" för att spåra enskilda användare. Modellen stöder funktionsanrop och verktygsanvändning, även om det inte uttryckligen listas i fakta. På OrcaRouter accepteras alla standardparametrar.
Överföringen är enkel eftersom OrcaRouter erbjuder en OpenAI-kompatibel slutpunkt. Steg: 1. Hämta en API-nyckel från OrcaRouter (registrera dig på deras webbplats). 2. Ändra bas-URL från https://api.openai.com/v1 till https://api.orcarouter.ai/v1. 3. Ändra modell-ID från "gpt-4o" till "openai/gpt-4o". 4. Använd samma begärans brödtextformat. Inga kodändringar utöver slutpunkt och modellnamn krävs. 5. Uppdatera Authorization-headern för att använda din OrcaRouter API-nyckel. Testning med en enda begäran rekommenderas. OrcaRouter använder samma strömmande och icke-strömmande lägen. Det finns ingen skillnad i hur modellen beter sig, eftersom det är samma underliggande OpenAI-modell. Dina befintliga uppmaningar och parametrar kommer att fungera identiskt.
Bas-URL:en för OrcaRouter-API:et är https://api.orcarouter.ai/v1. Det specifika modell-ID som ska användas för GPT-4o är "openai/gpt-4o". Exakt denna sträng måste skickas i parametern "model" i begäran. Exempelvis i ett anrop till slutpunkten för chattkompletteringar anger du "model": "openai/gpt-4o". OrcaRouter stöder denna modell för både strömmande och icke-strömmande kompletteringar. Om du använder ett OpenAI-SDK eller ett bibliotek konfigurerat att peka på en anpassad bas-URL, ange helt enkelt bas-URL:en till https://api.orcarouter.ai/v1 och ange din OrcaRouter-API-nyckel. Prefixet "openai/" i modell-ID skiljer den från andra leverantörers modeller på OrcaRouter.
GPT-4o är den multimodala efterföljaren till GPT-4 Turbo. Båda modellerna har ett 128k kontextfönster. Däremot lägger GPT-4o till inbyggt stöd för bild- och filinmatning, medan GPT-4 Turbo huvudsakligen var textbaserad (med vision endast tillgängligt i separata versioner). GPT-4o har också en högre maxutdata på 16 384 tokens jämfört med GPT-4 Turbos typiska 4 096 eller 8 192. Priserna skiljer sig: GPT-4 Turbo kostar $10.00 per 1M inmatning och $30.00 per 1M utdata, vilket gör GPT-4o betydligt billigare ($2.50/$10.00). MATH-500-poängen på 75,9 för GPT-4o är generellt högre än GPT-4 Turbos rapporterade riktmärken, även om exakta Turbo-poäng inte finns med i fakta. På OrcaRouter finns båda modellerna tillgängliga utan påslag.
GPT-3.5 Turbo är en billigare, snabbare modell optimerad för enkla uppgifter. Dess kontextfönster är 16 384 tokens, mycket mindre än GPT-4o:s 128k. GPT-3.5 stöder inte bildinmatningar – det är endast text. Prissättningen är $0.50 per 1M inmatningstokens och $1.50 per 1M utmatningstokens, vilket gör det ungefär 5x billigare för inmatning och 6.6x billigare för utmatning jämfört med GPT-4o. På MATH-500-benchmarken presterar GPT-3.5 Turbo vanligtvis mycket lägre (exakta siffror anges inte). GPT-4o är bättre lämpad för komplexa resonemang, långa dokument och multimodala uppgifter. Använd GPT-3.5 Turbo för högvolym, enkla interaktioner. På OrcaRouter kan du enkelt växla mellan dem genom att ändra modell-ID:t.
Claude 3.5 Sonnet är en konkurrerande modell från Anthropic. Den har också en 200k kontextfönster (större än GPT-4o:s 128k) och stöder bildinmatning. Priserna för Claude 3.5 Sonnet är vanligtvis $3,00 per 1M input och $15,00 per 1M output, vilket gör GPT-4o billigare på input men dyrare på output? Egentligen är GPT-4o $2,50 input vs $3,00, alltså billigare; output $10 vs $15, alltså billigare. På benchmarks presterar Claude 3.5 Sonnet liknande inom matematik och resonemang men exakta poäng varierar. Båda modellerna är starka inom multimodala uppgifter. Valet mellan dem kan bero på specifika prestandaegenskaper eller ekosystempreferenser. På OrcaRouter är båda tillgängliga via samma API-format med olika modell-ID:n (t.ex. "anthropic/claude-3.5-sonnet").
Llama 3.1 405B är en modell med öppna vikter från Meta med 405 miljarder parametrar. Den stöder också ett 128k kontextfönster och textinmatning, men dess multimodala förmågor är mindre tydliga (den kanske inte stödjer bilder inbyggt). Llama 3.1 405B är tillgänglig via OrcaRouter till ett lägre pris, vanligtvis runt $1.00 per 1M inmatningstokens och $1.00 per 1M utmatningstokens (ungefärlig, inte angivet i fakta). Dess riktmärkesresultat på MATH-500 anges inte men är troligen lägre än GPT-4o:s 75.9. GPT-4o är proprietär och erbjuder bättre multimodalt resonemang direkt ur lådan och potentiellt högre noggrannhet vid komplexa uppgifter. Llama 3.1 405B är ett bra val för användare som vill ha en öppen modell eller behöver självhosta. På OrcaRouter kan du jämföra båda modellerna sida vid sida.
OpenAI-kompatibel — behåll det SDK du redan använder
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Inmatning / 1M token | $2.50 |
| Utdata / 1M tokens | $10.00 |
| Cacheläsning / 1M | $1.25 |
| Valuta | USD |
Uppskattning baserad på listpris
Endast en uppskattning — faktiskt antal token beror på leverantörens tokenizer.
@misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o