Embeddings di testo di alta qualità tramite OrcaRouter a $0.13/M token, margine zero, fino a 3072 dimensioni.
OpenAI text-embedding-3-large è un modello di embedding su larga scala della terza generazione della serie di embedding testuali di OpenAI. Converte l'input testuale in rappresentazioni vettoriali…
text-embedding-3-large eccelle nella similarità semantica, nella classificazione del testo, nel clustering e nel recupero delle informazioni. Il suo output ad alta dimensionalità consente una distinzione fine tra testi simili. È una scelta popolare per la creazione di database vettoriali per RAG, dove la qualità del recupero dipende dall'accuratezza degli embedding. Il modello si comporta bene anche nell'inferenza del linguaggio naturale e nel rilevamento di duplicati. Tuttavia, non è progettato per attività generative come il completamento del testo o il dialogo—usa GPT-4 o altri modelli linguistici per quelle.
Il modello può produrre embedding con dimensioni comprese tra 256 e 3072. La dimensione viene impostata tramite il parametro `dimensions` nella richiesta API. Utilizzare una dimensione inferiore riduce l'archiviazione e il calcolo downstream, ma può perdere una certa fedeltà semantica. La dimensione predefinita è 3072, che offre il massimo potere discriminante. Non esiste una dimensione supportata al di fuori di questo intervallo. Per la maggior parte dei compiti di retrieval, una dimensione compresa tra 1024 e 2048 rappresenta un buon equilibrio tra accuratezza e costo.
Se la tua applicazione è sensibile alla latenza o stai incorporando miliardi di testi, il costo di $0,13 per 1 milione di token può diventare significativo. Considera text-embedding-3-small ($0,02/M token) o modelli open source come gli embedding basati su BERT per budget più ridotti. text-embedding-3-large è la scelta migliore quando la precisione del recupero è fondamentale, ad esempio nella ricerca legale, medica o scientifica, dove la mancata individuazione di un documento rilevante ha gravi conseguenze.
OpenAI non offre attualmente fine-tuning per la serie text-embedding-3. Il modello viene utilizzato come encoder fisso. Per adattarlo a un dominio specifico, puoi impiegare strategie di retrieval augmentation, come l'aggiunta di passaggi specifici del dominio al tuo database vettoriale. In alternativa, puoi utilizzare gli embeddings come caratteristiche per un classificatore downstream addestrato sui tuoi dati etichettati. Questo flusso di lavoro è comune nei contesti aziendali.
text-embedding-3-large ottiene risultati all'avanguardia nel Massive Text Embedding Benchmark (MTEB) in attività come clustering, classificazione e riordinamento. Sebbene i punteggi esatti non siano forniti qui, il modello si classifica costantemente tra i primi livelli tra i modelli di embedding pubblicamente disponibili. La sua versione a 3072 dimensioni offre la massima precisione, mentre le dimensioni inferiori sacrificano un piccolo calo di prestazioni per una riduzione di archiviazione e calcolo. Supera il suo predecessore, text-embedding-ada-002, nella maggior parte delle attività.
La latenza dipende dal numero di token in input e dal carico del modello. Per un singolo testo breve (sotto i 100 token), il modello in genere risponde in meno di 200ms tramite OrcaRouter. Testi più lunghi (8000 token) possono richiedere 1-2 secondi. La concorrenza e la dimensione del batch influenzano il throughput: le richieste in batch (più testi in una singola chiamata API) possono ottenere un throughput più elevato. OrcaRouter non aggiunge overhead oltre al tempo di risposta del provider.
Il modello non è progettato per il supporto multilingue oltre l'inglese (sebbene gestisca alcune altre lingue, le prestazioni sono inferiori). Inoltre, non dispone di un'istruzione di seguimento integrata: è strettamente un codificatore. Il limite di 8192 token significa che i documenti estremamente lunghi devono essere suddivisi in blocchi. Inoltre, gli embeddings possono codificare bias demografici presenti nei dati di addestramento, quindi le applicazioni downstream dovrebbero essere testate per l'equità. Infine, non fornisce spiegazioni per i suoi giudizi di similarità.
text-embedding-3-large supera significativamente il precedente modello ada-002 nel benchmark MTEB, specialmente nei compiti che richiedono una distinzione fine. Il modello più recente introduce anche il parametro `dimensions`, consentendo di ridurre la dimensione del vettore senza doverlo riaddestrare. Il prezzo è leggermente più alto ($0.13 vs $0.10 per 1M token per ada-002), ma il miglioramento nell'accuratezza spesso giustifica il costo per scenari di recupero ad alta posta in gioco. Per casi d'uso semplici, ada-002 rimane un'alternativa economica valida.
Il prezzo è di $0,13 per 1 milione di token in input, fatturati alla tariffa del provider senza markup. Anche i token in output costano $0,13 per 1 milione di token, anche se per i modelli di embedding i token in output sono trascurabili poiché il modello restituisce un vettore. I token in input includono il testo che invii. Non ci sono costi aggiuntivi per l'utilizzo dell'API di OrcaRouter. Questo rende il costo totale esattamente quello che OpenAI addebita, senza commissioni nascoste o sovrapprezzi per limiti di frequenza.
Il prezzo di $0.13 per 1M token è il prezzo standard del provider. OrcaRouter non offre sconti aggiuntivi rispetto al prezzo del provider. Tuttavia, l'uso di dimensioni di output più piccole (ad esempio 1024) non influisce sul conteggio dei token—si paga per token di input indipendentemente dalla dimensione. Per utenti con volumi molto elevati, OpenAI può offrire sconti per impegni di utilizzo tramite accordi personalizzati, di cui puoi usufruire in modo indipendente.
OrcaRouter non memorizza nella cache le risposte di embedding. Ogni richiesta viene inoltrata al provider in tempo reale e fatturata di conseguenza. Se incorpori ripetutamente testi identici, ti verrà addebitato ogni volta. Per risparmiare sui costi, implementa un tuo strato di caching lato client, memorizzando gli embedding per le query frequenti. Ciò è particolarmente efficace per dataset statici come descrizioni di prodotti o contenuti delle FAQ.
OrcaRouter inoltra le richieste al provider senza limitazione artificiale, ma il provider impone i propri limiti di frequenza. Per text-embedding-3-large, i limiti tipici sono circa 3000–5000 richieste al minuto per il livello standard. Puoi aumentare i limiti contattando direttamente OpenAI. OrcaRouter ritenta automaticamente in caso di errori 429, ma ritentare eccessivamente potrebbe comportare costi aggiuntivi. Monitora il tuo utilizzo per rimanere entro i limiti.
Invia una richiesta POST a https://api.orcarouter.ai/v1/embeddings con il parametro model impostato su "openai/text-embedding-3-large". Includi una stringa di input o un array di stringhe. Opzionalmente, imposta il parametro `dimensions` su un valore compreso tra 256 e 3072. Puoi fornire una chiave API utente nell'header Authorization (token Bearer). La risposta segue la stessa struttura dell'API Embeddings di OpenAI, contenente un elenco di oggetti con embeddings e conteggi di token di utilizzo.
I parametri principali sono `model` (obbligatorio: "openai/text-embedding-3-large"), `input` (una stringa o un array di stringhe, fino a 8192 token ciascuno) e `dimensions` (intero, opzionale, predefinito 3072). OrcaRouter supporta anche il parametro `user` per tracciare l'utilizzo per utente finale. Altri parametri dell'API OpenAI Embeddings come `encoding_format` (float o base64) sono supportati. Fare riferimento alla documentazione di OpenAI per l'insieme completo.
Modifica l'URL di base da https://api.openai.com/v1 a https://api.orcarouter.ai/v1 e aggiorna l'ID del modello da "text-embedding-3-large" a "openai/text-embedding-3-large". Il tuo codice esistente che utilizza il client Python di OpenAI o una libreria HTTP dovrebbe funzionare senza altre modifiche. L'API di OrcaRouter è completamente compatibile, quindi non sono necessarie modifiche al formato del corpo della richiesta. Assicurati di avere una chiave API di OrcaRouter.
Sì. Passa un array di stringhe come parametro `input`. L'API restituirà un array di embedding nello stesso ordine. Questo è più efficiente rispetto all'invio di richieste individuali grazie a un overhead ridotto. Per una produttività ottimale, raggruppa testi di lunghezza simile per ridurre i tempi di inattività. Il modello supporta fino a 2048 stringhe per batch (controlla i limiti del provider) e il totale dei token di input nel batch non deve superare 2048000 token al minuto.
La variante piccola utilizza solo 512 dimensioni e costa $0.02 per 1M di token—circa 6,5× più economica. È più veloce e più efficiente in termini di archiviazione, ma sacrifica l'accuratezza, specialmente in compiti semantici di precisione. Per clustering semplice o ricerca per somiglianza a livello di argomento, il modello piccolo può essere sufficiente. text-embedding-3-large è raccomandato per recupero ad alto rischio dove la completezza è fondamentale.
all-MiniLM-L6-v2 è un modello gratuito ospitato localmente con 384 dimensioni e alta velocità. Funziona bene in molti compiti, ma non raggiunge text-embedding-3-large in benchmark complessi come MTEB. Il compromesso è tra costo e qualità: i modelli open source hanno un costo pari a zero per token, ma richiedono hardware di calcolo. text-embedding-3-large offre una precisione superiore, mentre il costo di $0,13/M di token può essere giustificato per sistemi di produzione in cui la qualità del recupero è una priorità.
I modelli embed-v3 di Cohere supportano anche dimensioni variabili e capacità multilingue. Sono comparabili nei benchmark in inglese, ma potrebbero gestire meglio testi non inglesi. I prezzi sono simili (circa $0.10–0.15 per 1 milione di token). La scelta spesso dipende dalle preferenze dell'ecosistema e dai requisiti multilingue specifici. text-embedding-3-large ha una finestra di contesto più ampia (8192 contro 512 per Cohere) ed è meglio integrato con gli strumenti di OpenAI.
Considera alternative se il tuo caso d'uso richiede supporto multilingue oltre all'inglese, necessita di distribuzione on-premise per la privacy dei dati, o richiede una latenza estremamente bassa con throughput elevato. Per attività come la generazione di testo, usa GPT-4. Per gli embedding immagine-testo, usa CLIP o modelli multimodali. text-embedding-3-large è un codificatore inglese generico; se il tuo dominio è altamente specializzato, esplora modelli open-source ottimizzati.
Compatibile con OpenAI: mantieni il tuo SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Input / 1M token | $0.130 |
|---|---|
| Output / 1M token | $0.130 |
| Valuta | USD |
Stima basata sul prezzo di listino
Solo una stima — il numero effettivo di token dipende dal tokenizzatore del provider.
Di cosa parlano gli sviluppatori questa settimana
GET /api/public/models/openai/text-embedding-3-largeApri @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large