GPT-4o ("o" sta per "omni") è l'ultimo modello AI di OpenAI, che supporta sia input di testo che di immagine con output di testo. Mantiene il livello di intelligenza di [GPT-4 Turbo](/models/openai/gpt-4-turbo) pur essendo due volte più...
GPT-4o è un modello linguistico multimodale di grandi dimensioni sviluppato da OpenAI. Accetta input di testo, immagini e file, e produce output di testo. Il modello è progettato per utenti che…
GPT-4o eccelle nel ragionamento multimodale, nell'elaborazione di contesti lunghi e nella risoluzione di problemi matematici. Il suo contesto di 128k token consente di conservare e fare riferimento a grandi quantità di informazioni, rendendolo utile per attività come l'analisi di documenti, la generazione di codice su interi progetti e conversazioni complesse a più turni. Il modello ha ottenuto un punteggio di 75,9 nel benchmark MATH-500, indicando una forte capacità nella risoluzione di problemi matematici. Inoltre, la sua capacità di accettare input di immagini e file significa che può ragionare su contenuti visivi—come diagrammi, grafici o fotografie—in combinazione con il testo. Su OrcaRouter, puoi sfruttare questi punti di forza senza pagare alcun ricarico rispetto ai prezzi elencati da OpenAI.
GPT-4o è molto efficace per compiti che richiedono sia comprensione testuale che visiva. Esempi includono: rispondere a domande su un diagramma in un libro di testo, estrarre dati da una fattura scansionata, generare codice basato su un'immagine wireframe, o riassumere un lungo articolo di ricerca con figure. Il suo ampio contesto lo rende anche adatto per analizzare interi codebase o lunghi log di conversazione. Il ragionamento matematico è un altro punto di forza, come dimostrato dal suo 75.9 su MATH-500. Su OrcaRouter, questi casi d'uso sono semplici da implementare: invii una richiesta standard compatibile con OpenAI con i tipi di contenuto appropriati, e il modello restituisce una risposta testuale.
Se il tuo compito non richiede input multimodale o un contesto ampio, un modello più economico potrebbe essere più conveniente. Ad esempio, per attività semplici di classificazione del testo, riepilogo o traduzione che rientrano in un contesto più ridotto, modelli come GPT-3.5 Turbo (con un costo di $0.50 per 1M di input e $1.50 per 1M di output) sono significativamente più economici. Il costo di input di GPT-4o è di $2.50 per 1M di token, che è cinque volte superiore a quello di GPT-3.5 Turbo. Se stai elaborando grandi volumi di dati testuali senza necessità di ragionamento multimodale, un modello più piccolo può ridurre i costi. OrcaRouter offre una varietà di modelli in modo da poter scegliere il miglior equilibrio tra prezzo e prestazioni.
GPT-4o è progettato per accettare immagini e file come input, consentendogli di eseguire attività come rispondere a domande visive, generare didascalie per immagini e comprendere documenti. Sebbene nei fatti disponibili non siano forniti punteggi specifici di benchmark multimodali, l'architettura del modello supporta il ragionamento congiunto su testo e immagini. Ad esempio, può contare oggetti in un'immagine o interpretare un grafico. Il modello produce solo testo, non immagini. Su OrcaRouter, le richieste multimodali vengono inviate utilizzando gli stessi parametri dell'API di OpenAI: includere una parte image_url o file content nell'array messages. Il modello elabora i dati visivi e restituisce una risposta testuale basata sull'input combinato.
GPT-4o raggiunge un punteggio di 75.9 nel benchmark MATH-500. MATH-500 è un sottoinsieme del dataset MATH, composto da 500 problemi matematici complessi su vari argomenti come algebra, geometria e calcolo. Un punteggio di 75.9 indica che il modello risolve correttamente circa il 76% di questi problemi, dimostrando una forte capacità di ragionamento matematico, sebbene non perfetta. A titolo di confronto, molti modelli più piccoli ottengono punteggi inferiori a 50 su benchmark simili. Questo punteggio riflette la capacità del modello di eseguire ragionamenti a più passaggi e gestire la notazione matematica. Su OrcaRouter, puoi utilizzare GPT-4o per attività legate alla matematica come tutoraggio, preparazione a test o verifica di calcoli.
Come tutti i grandi modelli linguistici, GPT-4o ha delle limitazioni. Può produrre risposte errate o allucinate, specialmente su argomenti con dati di addestramento limitati o che richiedono conoscenze molto recenti (la sua data di cutoff dell'addestramento non è fornita nei fatti, ma come modello OpenAI ha un cutoff di conoscenza). Può essere sensibile alla formulazione del prompt e potrebbe avere difficoltà con istruzioni ambigue. Nonostante il suo alto punteggio MATH-500, non è infallibile su dimostrazioni matematiche complesse. Il modello elabora immagini ma non genera immagini. Inoltre, la grande finestra di contesto (128k token) può portare a un aumento dell'uso di token, aumentando i costi se non gestita con attenzione. Su OrcaRouter, puoi mitigare alcuni problemi regolando parametri come temperature e top_p.
I dati esatti sulla latenza di GPT-4o non sono forniti nei fatti. In generale, GPT-4o è un modello grande e avrà una latenza maggiore rispetto a modelli più piccoli come GPT-3.5 Turbo o Llama 3.1 8B. Tuttavia, è probabile che sia ottimizzato per un'inferenza più veloce rispetto al GPT-4 originale. Tramite OrcaRouter, puoi aspettarti tempi di risposta simili a quelli che otterresti direttamente da OpenAI, poiché la piattaforma instrada le richieste senza elaborazione aggiuntiva. Per applicazioni in tempo reale in cui la velocità è critica, considera l'uso di un modello più veloce ed economico per compiti più semplici, riservando GPT-4o per query complesse che beneficiano delle sue capacità.
Su OrcaRouter, GPT-4o ha un prezzo esattamente uguale alle tariffe indicate da OpenAI: $2,50 per 1 milione di token in input e $10,00 per 1 milione di token in output. OrcaRouter non applica alcun markup. La fatturazione si basa sul conteggio dei token arrotondato al token intero più vicino. I token in input includono il testo, le immagini e i file che invii, sebbene le immagini vengano solitamente tokenizzate a una tariffa fissa dal modello (ad esempio, ogni immagine consuma un certo numero di token). I token in output sono il testo generato dal modello. Viene addebitato solo ciò che utilizzi; non ci sono costi mensili o impegni minimi. Questa tariffazione trasparente ti consente di pianificare con precisione il budget per i tuoi carichi di lavoro di IA.
Il compromesso principale è tra costo e capacità. GPT-4o costa $2.50 per input e $10 per output ogni 1 milione di token. Modelli più economici come GPT-3.5 Turbo ($0.50 input, $1.50 output) o Llama 3.1 8B sono più convenienti per attività semplici o ad alto volume. Tuttavia, GPT-4o offre input multimodale e una finestra di contesto più ampia. Se la tua applicazione richiede la comprensione di immagini o l'elaborazione di documenti molto lunghi, GPT-4o potrebbe essere necessario nonostante il costo più elevato. Per attività solo testuali con input brevi, un modello più economico può far risparmiare denaro. Su OrcaRouter, puoi passare da un modello all'altro con una semplice modifica dell'ID del modello, così da ottimizzare il costo per ogni richiesta.
No. OrcaRouter fattura GPT-4o alla tariffa esatta del fornitore senza alcun ricarico. I prezzi sono $2.50 per 1M di token di input e $10.00 per 1M di token di output. Non ci sono commissioni nascoste, upselling o costi aggiuntivi. OrcaRouter trasferisce il costo direttamente da OpenAI. Questa politica si applica a tutti i modelli elencati sulla piattaforma. L'URL di base è https://api.orcarouter.ai/v1 e l'ID del modello è "openai/gpt-4o". Puoi verificare i prezzi in qualsiasi momento controllando il tuo pannello di utilizzo. Non è richiesta una tariffazione a livelli o un impegno: paga solo per i token consumati.
Per utilizzare GPT-4o tramite OrcaRouter, inviare richieste HTTP POST all'URL di base https://api.orcarouter.ai/v1/chat/completions. Impostare il parametro model su "openai/gpt-4o". La tua richiesta deve includere una chiave API (fornisci la tua chiave API OrcaRouter nell'intestazione Authorization). Il corpo della richiesta segue il formato standard delle chat completions di OpenAI: un array messages con coppie role/content, parametri opzionali come temperature, max_tokens, top_p, ecc. Per input multimodali, includi parti di contenuto che hanno un tipo "text" o "image_url" (o file). La risposta è un oggetto JSON contenente il completamento del modello. Esempio di comando curl: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
Quando si chiama GPT-4o tramite OrcaRouter, è possibile utilizzare gli stessi parametri dell'API di OpenAI. I parametri comunemente utilizzati includono: - temperature (float, 0-2): Controlla la casualità. Valori più bassi come 0.2 rendono l'output più deterministico. - max_tokens (integer, default 16384): Numero massimo di token nella risposta. - top_p (float, 0-1): Parametro di campionamento nucleo. - frequency_penalty e presence_penalty: Ridurre la ripetizione. - stop (string o array): Sequenze di stop. - stream (boolean): Abilita risposte in streaming (true/false). - seed (integer): Per il campionamento deterministico. È anche possibile utilizzare il campo opzionale 'user' per tracciare singoli utenti. Il modello supporta la chiamata di funzioni e l'uso di strumenti, anche se non esplicitamente elencati nei fatti. Su OrcaRouter, tutti i parametri standard sono accettati.
La migrazione è semplice perché OrcaRouter offre un endpoint compatibile con OpenAI. Passaggi: 1. Ottieni una chiave API da OrcaRouter (registrati sul loro sito web). 2. Cambia l'URL di base da https://api.openai.com/v1 a https://api.orcarouter.ai/v1. 3. Cambia l'ID del modello da "gpt-4o" a "openai/gpt-4o". 4. Utilizza lo stesso formato del corpo della richiesta. Non sono necessarie modifiche al codice oltre all'endpoint e al nome del modello. 5. Aggiorna l'intestazione Authorization per utilizzare la tua chiave API OrcaRouter. Si consiglia di testare con una singola richiesta. OrcaRouter utilizza le stesse modalità di streaming e non streaming. Non c'è differenza nel comportamento del modello, poiché è lo stesso modello OpenAI sottostante. I tuoi prompt e parametri esistenti funzioneranno in modo identico.
L'URL di base per l'API OrcaRouter è https://api.orcarouter.ai/v1. L'ID del modello specifico da utilizzare per GPT-4o è "openai/gpt-4o". Questa stringa esatta deve essere passata nel parametro "model" della richiesta. Ad esempio, in una chiamata all'endpoint di completamento chat, si imposta "model": "openai/gpt-4o". OrcaRouter supporta questo modello sia per completamenti in streaming che non streaming. Se stai utilizzando un SDK o una libreria OpenAI configurata per puntare a un URL di base personalizzato, imposta semplicemente l'URL di base su https://api.orcarouter.ai/v1 e fornisci la tua chiave API OrcaRouter. Il prefisso dell'ID del modello "openai/" lo distingue dai modelli di altri provider su OrcaRouter.
GPT-4o è il successore multimodale di GPT-4 Turbo. Entrambi i modelli hanno una finestra di contesto di 128k. Tuttavia, GPT-4o aggiunge il supporto nativo per input di immagini e file, mentre GPT-4 Turbo era principalmente solo testo (con la visione disponibile solo in versioni separate). GPT-4o ha anche un output massimo più alto di 16,384 token rispetto ai tipici 4,096 o 8,192 di GPT-4 Turbo. I prezzi differiscono: GPT-4 Turbo costa $10.00 per 1M di input e $30.00 per 1M di output, rendendo GPT-4o significativamente più economico ($2.50/$10.00). Il punteggio MATH-500 di 75.9 per GPT-4o è generalmente più alto dei benchmark riportati di GPT-4 Turbo, sebbene i punteggi esatti di Turbo non siano presenti nei fatti. Su OrcaRouter, entrambi i modelli sono disponibili con margine zero.
GPT-3.5 Turbo è un modello più economico e veloce, ottimizzato per compiti semplici. La sua finestra di contesto è di 16,384 token, molto più piccola dei 128k di GPT-4o. GPT-3.5 non supporta input di immagini—è solo testo. Il suo prezzo è $0.50 per 1M token in input e $1.50 per 1M token in output, rendendolo approssimativamente 5x più economico per gli input e 6.6x più economico per gli output rispetto a GPT-4o. Nel benchmark MATH-500, GPT-3.5 Turbo ottiene tipicamente punteggi molto più bassi (numeri esatti non forniti). GPT-4o è più adatto per ragionamenti complessi, documenti lunghi e attività multimodali. Usa GPT-3.5 Turbo per interazioni semplici e ad alto volume. Su OrcaRouter, puoi passare facilmente dall'uno all'altro cambiando l'ID del modello.
Claude 3.5 Sonnet è un modello concorrente di Anthropic. Ha anche una finestra di contesto di 200k (più grande dei 128k di GPT-4o) e supporta input di immagini. Il prezzo per Claude 3.5 Sonnet è tipicamente di $3.00 per 1M di input e $15.00 per 1M di output, rendendo GPT-4o più economico in input ma più costoso in output? In realtà GPT-4o costa $2.50 input contro $3.00, quindi più economico; output $10 contro $15, quindi più economico. Nei benchmark, Claude 3.5 Sonnet raggiunge prestazioni simili in matematica e ragionamento, ma i punteggi esatti variano. Entrambi i modelli sono forti nei compiti multimodali. La scelta tra loro può dipendere da specifiche caratteristiche di performance o preferenze dell'ecosistema. Su OrcaRouter, entrambi sono accessibili tramite lo stesso formato API con diversi ID modello (ad es. "anthropic/claude-3.5-sonnet").
Llama 3.1 405B è un modello a pesi aperti di Meta con 405 miliardi di parametri. Supporta anche una finestra di contesto di 128k e input testuali, ma le sue capacità multimodali sono meno chiare (potrebbe non supportare nativamente le immagini). Llama 3.1 405B è disponibile tramite OrcaRouter a un prezzo più basso, tipicamente intorno a $1.00 per 1M di input e $1.00 per 1M di token di output (approssimativo, non fornito nei dati). I suoi punteggi benchmark su MATH-500 non sono indicati, ma sono probabilmente inferiori al 75.9 di GPT-4o. GPT-4o è proprietario e offre un ragionamento multimodale migliore fin dall'inizio e potenzialmente una maggiore precisione su compiti complessi. Llama 3.1 405B è una buona scelta per gli utenti che vogliono un modello aperto o che necessitano di self-hosting. Su OrcaRouter puoi confrontare entrambi i modelli affiancati.
Compatibile con OpenAI: mantieni il tuo SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Input / 1M token | $2.50 |
| Output / 1M token | $10.00 |
| Lettura cache / 1M | $1.25 |
| Valuta | USD |
Stima basata sul prezzo di listino
Solo una stima — il numero effettivo di token dipende dal tokenizzatore del provider.
GET /api/public/models/openai/gpt-4oApri @misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o