Modello di embedding testuale economico di OpenAI, ideale per la ricerca semantica e il clustering, accessibile tramite OrcaRouter a costo zero.
openai/text-embedding-3-small è un modello di embedding rilasciato da OpenAI nel gennaio 2024. Produce rappresentazioni vettoriali del testo che catturano il significato semantico, consentendo…
Questo modello si comporta bene in compiti che richiedono la cattura del significato generale piuttosto che dei dettagli fini. È ampiamente utilizzato per la ricerca semantica, dove le query vengono incorporate e confrontate con un corpus di embedding di documenti. Funziona bene anche per il clustering (raggruppamento di testi simili senza etichette esplicite) e per la classificazione quando gli embedding vengono inseriti in un classificatore lineare. Nei pipeline di generazione aumentata da recupero (RAG), codifica in modo efficiente sia le query che i documenti, consentendo un rapido recupero basato sulla similarità. Il suo contesto da 8,192 token gli consente di elaborare passaggi più lunghi, come abstract di ricerca o feedback dei clienti, in una singola chiamata di embedding.
Se il tuo caso d'uso coinvolge testi molto brevi (ad esempio singole parole o frasi) o dai priorità alla velocità rispetto all'accuratezza, potresti esplorare modelli ancora più leggeri di altri provider disponibili su OrcaRouter, come quelli con dimensionalità inferiore o specializzati per lingue specifiche. Inoltre, se il tuo compito è estremamente grossolano, come distinguere solo tra poche categorie ampie, un modello più semplice potrebbe essere sufficiente. Tuttavia, openai/text-embedding-3-small è già una delle opzioni più convenienti di OpenAI. Per applicazioni in cui la qualità dell'embedding influisce direttamente sulle prestazioni a valle (ad esempio, il ranking per la ricerca), il piccolo costo aggiuntivo spesso giustifica risultati migliori rispetto alle alternative gratuite.
OpenAI's text-embedding-3-small ha dimostrato forti capacità cross-linguistiche, ottenendo buoni risultati in benchmark multilingue come i sottoinsiemi multilingue di MTEB. È in grado di incorporare testo in dozzine di lingue e produrre vettori comparabili per contenuti simili in diverse lingue. Ciò lo rende utile per applicazioni globali come raccomandazione di prodotti internazionali o instradamento di ticket di supporto multilingue. Tuttavia, per domini specializzati (es. legale, medico, codice), un modello di embedding adattato al dominio potrebbe offrire una maggiore accuratezza. Se i tuoi dati sono altamente tecnici, potresti voler confrontare questo modello con alternative per garantire prestazioni ottimali.
Secondo i risultati disponibili pubblicamente, openai/text-embedding-3-small raggiunge un punteggio medio di circa il 62% nel benchmark MTEB (Massive Text Embedding Benchmark). Ciò riflette prestazioni solide in una varietà di attività, tra cui classificazione, clustering, classificazione di coppie e riordinamento. Sebbene sia inferiore al più grande text-embedding-3-large (che raggiunge circa il 65%), il suo costo per token è circa un decimo di quello della variante grande. Le prestazioni del modello sono particolarmente forti nelle attività di clustering e similarità semantica. Per attività che richiedono alta precisione in STS (Similarità Testuale Semantica), il modello piccolo risulta comunque competitivo.
La latenza per le richieste di embedding dipende dalla lunghezza dell'input e dal carico concorrente. Su OrcaRouter, il modello è servito tramite l'infrastruttura di OpenAI, quindi le latenze tipiche sono paragonabili alle chiamate dirette all'API OpenAI. Per una singola query di lunghezza media (100-200 token), il tempo di risposta è generalmente inferiore a 200ms. Il throughput può essere aumentato raggruppando più testi in una singola chiamata API. Il modello supporta l'elaborazione batch e OrcaRouter passa gli stessi parametri di batch dell'API OpenAI. Per carichi di lavoro elevati, il basso costo per token rende possibile incorporare milioni di record senza superare i budget.
Nonostante i suoi punti di forza, openai/text-embedding-3-small presenta dei limiti. Il suo vettore predefinito a 512 dimensioni può perdere alcune sfumature rispetto alla variante large a 1.536 dimensioni, specialmente per distinzioni semantiche fini. Le prestazioni del modello su compiti che richiedono conoscenze approfondite del dominio o la gestione di documenti molto lunghi (vicini a 8.192 token) possono degradarsi se il testo è rumoroso o poco strutturato. Inoltre, essendo un modello generico, potrebbe avere prestazioni inferiori in attività specializzate come la ricerca di codice o l'estrazione di concetti biomedici rispetto a modelli dedicati. OrcaRouter fornisce l'accesso ad altri modelli per queste esigenze specifiche.
openai/text-embedding-3-small ha un prezzo di $0,02 per milione di token in input e $0,02 per milione di token in output. Poiché il modello produce solo embeddings (i token di output sono la rappresentazione vettoriale, non testo), il conteggio dei token di output è proporzionale all'input. In pratica, ti vengono fatturati sia i token di input che quelli di output alla stessa tariffa. OrcaRouter applica la tariffa esatta del fornitore senza alcun ricarico, quindi il costo totale è esattamente $0,02 per milione di token in input e $0,02 per milione di token in output. Non ci sono commissioni aggiuntive della piattaforma né costi nascosti. Ciò rende il modello una delle opzioni più convenienti per l'embedding di testo su larga scala.
Rispetto al text-embedding-3-large di OpenAI ($0.13 per 1M token di input), il modello piccolo è 6.5x più economico. Per molte applicazioni, il degrado delle prestazioni è modesto, rendendo il modello piccolo un miglior rapporto qualità-prezzo. Rispetto al legacy ada-002 (ora deprecato), il modello piccolo è sia più economico che più capace. Su OrcaRouter, puoi anche trovare modelli di embedding di terze parti con prezzi ancora più bassi; tuttavia, potrebbero non offrire la stessa qualità o compatibilità con l'ecosistema di OpenAI. Il modello a margine zero di OrcaRouter garantisce che paghi solo quello che pagheresti direttamente, senza alcun sovrapprezzo.
OrcaRouter può implementare meccanismi di caching per ridurre le chiamate API ridondanti. Se invii più volte lo stesso testo di input, la piattaforma potrebbe restituire embedding memorizzati nella cache senza incorrere in costi aggiuntivi per i token. Tuttavia, le politiche di caching non sono esplicitamente dettagliate nei fatti forniti. Per ridurre al minimo i costi, puoi implementare un tuo livello di caching lato client utilizzando i vettori di embedding restituiti. Poiché il costo dei token è già molto basso, il caching offre risparmi marginali a meno che tu non abbia query estremamente ripetitive. Contatta il supporto di OrcaRouter per dettagli sul comportamento del caching lato server.
Per utilizzare openai/text-embedding-3-small tramite OrcaRouter, imposta l'URL di base su https://api.orcarouter.ai/v1 e specifica l'ID del modello come 'openai/text-embedding-3-small'. L'API è completamente compatibile con l'endpoint di embedding di OpenAI, quindi puoi utilizzare la libreria Python di OpenAI o qualsiasi client HTTP con lo stesso formato della richiesta. Ad esempio, in Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). La risposta contiene il vettore di embedding e i dettagli di utilizzo.
L'API supporta gli stessi parametri dell'endpoint di embedding di OpenAI. Obbligatori: 'model' impostato su 'openai/text-embedding-3-small' e 'input' (stringa o array di stringhe). Opzionale: 'dimensions' (intero, da 128 a 512, default 512) per ridurre la dimensione del vettore di output. Una dimensione inferiore accelera l'elaborazione a valle e riduce l'archiviazione, mantenendo gran parte dell'informazione semantica. Il parametro 'user' può essere utilizzato per il rate limiting per cliente. OrcaRouter accetta anche header standard come Authorization e Content-Type. Per richieste batch, passa un array di stringhe come input; l'API restituirà un elenco di embedding nell'ordine corrispondente.
Se attualmente utilizzi l'API di embedding di OpenAI, migrare a OrcaRouter è semplice. Modifica l'URL di base da https://api.openai.com/v1 a https://api.orcarouter.ai/v1 e aggiorna il nome del modello in 'openai/text-embedding-3-small'. Non sono necessarie altre modifiche al codice. La tua libreria client esistente (Python, Node.js, curl, ecc.) funzionerà in modo identico. OrcaRouter supporta lo stesso schema di autenticazione tramite chiave API. Questo cambio ti permette di beneficiare di prezzi senza margini senza dover riconfigurare la tua pipeline di embedding. Assicurati che la tua chiave abbia accesso al modello su OrcaRouter.
Le differenze principali sono dimensioni, costo e prestazioni. text-embedding-3-large produce 1.536 dimensioni (predefinite) contro 512 per la versione piccola, e costa $0,13 per 1M token di input—6,5x più costoso. Nel benchmark MTEB, il modello grande ottiene circa il 65%, il piccolo circa il 62%. Per la maggior parte delle applicazioni, il modello piccolo offre un miglior rapporto qualità-prezzo. Il modello grande può essere preferito quando è necessaria la massima precisione possibile per attività come la ricerca di similarità a grana fine o quando non ci si può permettere alcun calo di recall. OrcaRouter fornisce entrambi i modelli, così puoi testarli sui tuoi dati.
Il precedente modello di embedding di OpenAI, text-embedding-ada-002, è ora deprecato e non più disponibile attraverso canali ufficiali. Rispetto a ada-002, text-embedding-3-small offre prestazioni medie migliori su MTEB (62% vs ~61%), supporta un contesto più ampio (8.192 vs 2.048 token) e costa significativamente meno ($0.02 vs $0.10 per 1M token in input) ai prezzi attuali. Il nuovo modello introduce anche il parametro dimensions, consentendo ulteriori ottimizzazioni di costo e storage. Se hai flussi di lavoro che utilizzano ancora ada-002, dovresti migrare a text-embedding-3-small per una qualità migliorata e un costo inferiore.
OrcaRouter ospita modelli di embedding di vari fornitori, con differenze di prezzo, dimensione e qualità. Ad esempio, alcuni modelli offrono livelli gratuiti o costi per token inferiori. Tuttavia, questi modelli hanno spesso finestre di contesto più piccole (ad esempio, 512 token) o punteggi di benchmark inferiori. openai/text-embedding-3-small bilancia costo, lunghezza del contesto e qualità. Se i tuoi dati sono altamente specifici per un dominio, un modello su misura (ad esempio, specifico per codice o ambito legale) potrebbe superarlo. Il catalogo di OrcaRouter ti permette di confrontare prestazioni e prezzi. Il modello piccolo è un affidabile default per attività generiche in inglese e multilingue.
I modelli di embedding open-source (ad esempio, quelli di Hugging Face) possono essere auto-ospitati, riducendo potenzialmente i costi per volumi molto elevati. Tuttavia, richiedono infrastruttura, manutenzione e competenze per ottenere latenza e affidabilità paragonabili all'API di OpenAI. openai/text-embedding-3-small, accessibile tramite OrcaRouter, offre zero overhead infrastrutturale, uptime costante e compatibilità con l'ecosistema OpenAI. Per carichi di lavoro di piccole e medie dimensioni, l'API gestita è spesso più economica considerando il tempo di ingegneria. Per distribuzioni estremamente su larga scala (miliardi di embedding), i modelli auto-ospitati potrebbero diventare più economici, sebbene la parità di qualità non sia garantita.
Compatibile con OpenAI: mantieni il tuo SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Input / 1M token | $0.020 |
|---|---|
| Output / 1M token | $0.020 |
| Valuta | USD |
Stima basata sul prezzo di listino
Solo una stima — il numero effettivo di token dipende dal tokenizzatore del provider.
Confronta i costi mensuali dei modelli nel calcolatore dei costi LLM
Di cosa parlano gli sviluppatori questa settimana
GET /api/public/models/openai/text-embedding-3-smallApri @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small