Hoogwaardige tekstembeddings via OrcaRouter voor $0.13/M tokens, nul opslag, tot 3072 dimensies.
OpenAI text-embedding-3-large is een grootschalig inbeddingsmodel uit de derde generatie van OpenAI's tekstinbeddingserie. Het zet tekstinvoer om in dichte vectorrepresentaties die semantische…
text-embedding-3-large blinkt uit in semantische gelijkenis, tekstclassificatie, clustering en informatieophaling. De hoogdimensionale uitvoer maakt fijnmazig onderscheid tussen gelijkaardige teksten mogelijk. Het is een populaire keuze voor het bouwen van vectordatabases voor RAG, waarbij de kwaliteit van de ophaling afhangt van de nauwkeurigheid van de embedding. Het model presteert ook goed op natuurlijke taalinterferentie en het detecteren van duplicaten. Het is echter niet ontworpen voor generatieve taken zoals tekstaanvulling of dialoog—gebruik daarvoor GPT-4 of andere taalmodellen.
Het model kan embeddings uitvoeren met dimensies tussen 256 en 3072. De dimensie wordt ingesteld via de parameter `dimensions` in het API-verzoek. Het gebruik van een lagere dimensie vermindert opslag en downstream-berekeningen, maar kan enige semantische getrouwheid verliezen. De standaarddimensie is 3072, die de hoogste onderscheidende kracht biedt. Er wordt geen dimensie buiten dit bereik ondersteund. Voor de meeste retrievaltaken is een dimensie van 1024 tot 2048 een goed evenwicht tussen nauwkeurigheid en kosten.
Als uw applicatie latentiegevoelig is of u miljarden teksten inbedt, kunnen de kosten van $0,13 per 1M tokens oplopen. Overweeg text-embedding-3-small ($0,02/M tokens) of opensource-modellen zoals BERT-gebaseerde embeddings voor lagere budgetten. text-embedding-3-large is het beste wanneer de nauwkeurigheid van het ophalen van gegevens van het grootste belang is, zoals bij juridisch, medisch of wetenschappelijk zoeken, waar een gemist relevant document grote gevolgen heeft.
OpenAI biedt momenteel geen fine-tuning aan voor de text-embedding-3-serie. Het model wordt gebruikt als een vaste encoder. Om het aan te passen aan een specifiek domein, kunt u retrieval augmentation strategieën gebruiken, zoals het toevoegen van domeinspecifieke passages aan uw vectordatabase. Als alternatief kunt u de embeddings gebruiken als kenmerken voor een stroomafwaartse classifier die is getraind op uw gelabelde gegevens. Deze workflow is gebruikelijk in bedrijfsomgevingen.
text-embedding-3-large behaalt state-of-the-art resultaten op de Massive Text Embedding Benchmark (MTEB) voor taken zoals clustering, classificatie en herordening. Hoewel exacte scores hier niet worden gegeven, staat het model consistent in de bovenste regionen van algemeen beschikbare embedding-modellen. De 3072-dimensie versie biedt de hoogste nauwkeurigheid, terwijl lagere dimensies een kleine prestatieverlies inruilen voor verminderde opslag en rekenkracht. Het presteert beter dan zijn voorganger, text-embedding-ada-002, voor de meeste taken.
Latentie hangt af van het aantal invoertokens en de belasting van het model. Voor een enkele korte tekst (minder dan 100 tokens) reageert het model doorgaans binnen 200 ms via OrcaRouter. Langere teksten (8000 tokens) kunnen 1-2 seconden duren. Gelijktijdigheid en batchgrootte beïnvloeden de doorvoer—gebatched verzoeken (meerdere teksten in één API-aanroep) kunnen een hogere doorvoer bereiken. OrcaRouter voegt geen overhead toe bovenop de reactietijd van de provider.
Het model is niet ontworpen voor meertalige ondersteuning buiten Engels (hoewel het sommige andere talen aankan, is de prestatie lager). Het mist ook ingebouwde instructieopvolging – het is strikt een encoder. De limiet van 8192 tokens betekent dat extreem lange documenten in stukken moeten worden opgedeeld. Bovendien kunnen embeddings demografische vooroordelen bevatten die aanwezig zijn in de trainingsdata, dus stroomafwaartse toepassingen moeten worden getest op eerlijkheid. Ten slotte biedt het geen verklaarbaarheid voor zijn gelijkenisbeoordelingen.
text-embedding-3-large presteert aanzienlijk beter dan het oudere ada-002 model op de MTEB benchmark, vooral bij taken die fijnmazige onderscheiding vereisen. Het nieuwere model introduceert ook de `dimensions` parameter, waardoor de vector grootte kan worden verkleind zonder hertraining. De prijs ligt iets hoger ($0,13 vs $0,10 per 1M tokens voor ada-002), maar de verbetering in nauwkeurigheid rechtvaardigt vaak de kosten voor risicovolle retrieval scenario's. Voor eenvoudige gebruikssituaties blijft ada-002 een levensvatbaar lager geprijsd alternatief.
De prijs is $0,13 per 1 miljoen invoertokens, gefactureerd tegen het provider-tarief zonder opslag. Uitvoertokens zijn ook $0,13 per 1M tokens, hoewel voor inbeddingsmodellen uitvoertokens verwaarloosbaar zijn omdat het model een vector retourneert. Invoertokens omvatten de tekst die u verzendt. Er zijn geen extra kosten voor het gebruik van OrcaRouter's API. Dit maakt de totale kosten exact gelijk aan wat OpenAI in rekening brengt, zonder verborgen kosten of toeslagen voor snelheidsbeperkingen.
Het tarief van $0.13 per 1M tokens is de standaard providerprijs. OrcaRouter biedt geen kortingen bovenop de providerprijzen. Het gebruik van kleinere uitvoerdimensies (bijv. 1024) heeft echter geen invloed op het aantal tokens—je betaalt per invoertoken ongeacht de dimensie. Voor gebruikers met een zeer hoog volume kan OpenAI kortingen voor toegezegd gebruik aanbieden via maatwerkovereenkomsten, waar u onafhankelijk gebruik van kunt maken.
OrcaRouter cacheert geen inbeddingsreacties. Elk verzoek wordt in realtime doorgestuurd naar de provider en dienovereenkomstig in rekening gebracht. Als u herhaaldelijk identieke teksten inbedt, worden deze elke keer in rekening gebracht. Om kosten te besparen, implementeert u uw eigen cachelaag aan de clientzijde, waarbij u inbeddingen opslaat voor veelgebruikte query's. Dit is vooral effectief voor statische datasets zoals productbeschrijvingen of FAQ-inhoud.
OrcaRouter geeft verzoeken door aan de provider zonder kunstmatige throttling, maar de provider hanteert zijn eigen snelheidslimieten. Voor text-embedding-3-large liggen de typische limieten rond 3000–5000 verzoeken per minuut voor de standaard tier. U kunt de limieten verhogen door rechtstreeks contact op te nemen met OpenAI. OrcaRouter probeert het automatisch opnieuw bij 429-fouten, maar overmatige herhaalpogingen kunnen extra kosten met zich meebrengen. Houd uw gebruik in de gaten om binnen de limieten te blijven.
Stuur een POST-verzoek naar https://api.orcarouter.ai/v1/embeddings met de modelparameter ingesteld op "openai/text-embedding-3-large". Voeg een invoerstring of een array van strings toe. Stel optioneel de parameter `dimensions` in op een waarde tussen 256 en 3072. U kunt een gebruikers-API-sleutel verstrekken in de Authorization-header (Bearer token). Het antwoord volgt dezelfde structuur als OpenAI's Embeddings API, met een objectenlijst met embeddings en gebruikte tokenaantallen.
De primaire parameters zijn `model` (vereist: "openai/text-embedding-3-large"), `input` (een string of array van strings, elk maximaal 8192 tokens), en `dimensions` (integer, optioneel, standaard 3072). OrcaRouter ondersteunt ook de `user`-parameter voor het bijhouden van gebruik per eindgebruiker. Andere OpenAI Embeddings API-parameters zoals `encoding_format` (float of base64) worden ondersteund. Raadpleeg OpenAI's documentatie voor de volledige set.
Verander de basis-URL van https://api.openai.com/v1 naar https://api.orcarouter.ai/v1 en werk het model-ID bij van "text-embedding-3-large" naar "openai/text-embedding-3-large". Uw bestaande code met de OpenAI Python-client of HTTP-bibliotheek zou zonder andere aanpassingen moeten werken. De API van OrcaRouter is volledig compatibel, dus er zijn geen wijzigingen in het formaat van de verzoekbody nodig. Zorg ervoor dat u een OrcaRouter API-sleutel heeft.
Ja. Geef een array van strings door als de parameter `input`. De API retourneert een array van embeddings in dezelfde volgorde. Dit is efficiënter dan het verzenden van afzonderlijke verzoeken vanwege lagere overhead. Voor optimale doorvoer, batch teksten van vergelijkbare lengte om inactieve tijd te verminderen. Het model ondersteunt maximaal 2048 tekenreeksen per batch (controleer providerlimieten) en het totale aantal invoertokens in de batch mag niet hoger zijn dan 2048000 tokens per minuut.
De kleine variant gebruikt slechts 512 dimensies en kost $0.02 per 1M tokens—ongeveer 6.5× goedkoper. Het is sneller en opslagefficiënter, maar offert nauwkeurigheid op, vooral bij fijnmazige semantische taken. Voor eenvoudige clustering of zoeken op onderwerpniveausimilariteit kan het kleine model volstaan. text-embedding-3-large wordt aanbevolen voor hoogwaardige retrieval waar recall het belangrijkst is.
all-MiniLM-L6-v2 is een gratis, lokaal gehost model met 384 dimensies en hoge snelheid. Het presteert goed op veel taken, maar schiet tekort ten opzichte van text-embedding-3-large op complexe benchmarks zoals MTEB. De afweging is kosten versus kwaliteit: open-source modellen hebben nul kosten per token, maar vereisen rekenhardware. text-embedding-3-large biedt superieure nauwkeurigheid, terwijl de kosten van $0.13/M tokens gerechtvaardigd kunnen zijn voor productiesystemen waar ophaalkwaliteit prioriteit heeft.
Cohere's embed-v3-modellen ondersteunen ook variabele dimensies en meertalige mogelijkheden. Ze zijn vergelijkbaar op Engelse benchmarks, maar kunnen mogelijk beter omgaan met niet-Engelse teksten. De prijzen zijn vergelijkbaar (ongeveer $0,10–0,15 per 1M tokens). De keuze hangt vaak af van de ecosysteemvoorkeur en specifieke meertalige vereisten. text-embedding-3-large heeft een grotere contextvenster (8192 vs 512 voor Cohere) en is beter geïntegreerd met OpenAI-tools.
Overweeg alternatieven als uw gebruikssituatie meertalige ondersteuning vereist die verder gaat dan Engels, on-premise implementatie nodig heeft voor gegevensprivacy, of extreem lage latentie bij hoge doorvoer vereist. Gebruik GPT-4 voor taken zoals tekstgeneratie. Gebruik CLIP of multimodale modellen voor afbeelding-tekst-embeddings. text-embedding-3-large is een algemene Engelse encoder; als uw domein zeer gespecialiseerd is, verken dan fijn afgestelde opensource-modellen.
OpenAI-compatibel — behoud je huidige SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Invoer / 1M tokens | $0.130 |
|---|---|
| Uitvoer / 1M tokens | $0.130 |
| Valuta | USD |
Schatting op basis van catalogusprijs
Alleen een schatting — het werkelijke aantal tokens hangt af van de tokenizer van de aanbieder.
Waar ontwikkelaars het deze week over hebben
GET /api/public/models/openai/text-embedding-3-largeOpenen @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large