Textinbäddningar av hög kvalitet via OrcaRouter till $0,13/M tokens, noll påslag, upp till 3072 dimensioner.
OpenAI text-embedding-3-large är en storskalig inbäddningsmodell från den tredje generationen av OpenAIs serie för textinbäddning. Den omvandlar textinmatning till täta vektorrepresentationer som…
text-embedding-3-large utmärker sig inom semantisk likhet, textklassificering, klustring och informationssökning. Dess högdimensionella utdata möjliggör finkornig särskiljning mellan liknande texter. Det är ett populärt val för att bygga vektordatabaser för RAG, där återvinningskvaliteten beror på inbäddningarnas noggrannhet. Modellen presterar också bra för naturlig språkinferens och dupliceradetektering. Den är dock inte avsedd för generativa uppgifter som textkomplettering eller dialog – använd GPT-4 eller andra språkmodeller för sådana.
Modellen kan generera inbäddningar med dimensioner mellan 256 och 3072. Dimensionen ställs in via parametern `dimensioner` i API-anropet. Att använda en lägre dimension minskar lagrings- och efterföljande beräkningskostnader men kan förlora viss semantisk trohet. Standarddimensionen är 3072, vilket ger högst diskriminerande förmåga. Det finns ingen dimension utanför detta intervall som stöds. För de flesta sökuppgifter är en dimension på 1024 till 2048 en bra balans mellan noggrannhet och kostnad.
Om din applikation är känslig för latens eller om du bäddar in miljarder texter, kan kostnaden på $0,13 per 1M tokens ackumuleras. Överväg text-embedding-3-small ($0,02/M tokens) eller öppen källkodsmodeller som BERT-baserade inbäddningar för lägre budgetar. text-embedding-3-large är bäst när sökprecisionen är avgörande, till exempel inom juridisk, medicinsk eller vetenskaplig sökning, där en missad relevant dokument får stora konsekvenser.
OpenAI erbjuder för närvarande inte finjustering för text-embedding-3-serien. Modellen används som en fast kodare. För att anpassa den till en specifik domän kan du använda retrieval-augmenteringsstrategier, till exempel att lägga till domänspecifika passager i din vektordatabas. Alternativt kan du använda inbäddningarna som funktioner för en nedströmsklassificerare som tränas på din märkta data. Detta arbetsflöde är vanligt i företagsmiljöer.
text-embedding-3-large uppnår toppmoderna resultat på Massive Text Embedding Benchmark (MTEB) inom uppgifter som klustring, klassificering och omrangering. Även om exakta poäng inte anges här, rankas modellen konsekvent i de högsta nivåerna bland offentligt tillgängliga inbäddningsmodeller. Dess 3072-dimensionsversion erbjuder högst noggrannhet, medan lägre dimensioner byter en liten prestandaförlust mot minskad lagring och beräkning. Den överträffar sin föregångare, text-embedding-ada-002, inom de flesta uppgifter.
Latens beror på antalet indatatoken och modellbelastning. För en enskild kort text (under 100 tokens) svarar modellen vanligtvis på under 200 ms via OrcaRouter. Längre texter (8000 tokens) kan ta 1–2 sekunder. Samtidighet och batchstorlek påverkar genomströmningen – batcherade förfrågningar (flera texter i ett API-anrop) kan uppnå högre genomströmning. OrcaRouter tillför ingen överhead utöver leverantörens svarstid.
Modellen är inte utformad för flerspråkigt stöd utöver engelska (även om den hanterar vissa andra språk, är prestandan lägre). Den saknar också inbyggd instruktionsföljning—den är strikt en enkodare. 8192 token-gränsen innebär att extremt långa dokument måste styckas. Dessutom kan inbäddningar koda demografiska fördomar som finns i träningsdata, så applikationer nedströms bör testas för rättvisa. Slutligen erbjuder den inte förklarbarhet för sina likhetsbedömningar.
text-embedding-3-large presterar avsevärt bättre än den äldre ada-002-modellen på MTEB-riktmärket, särskilt vid uppgifter som kräver finkornig åtskillnad. Den nyare modellen introducerar även parametern `dimensions`, vilket möjliggör reducerad vektorstorlek utan omträning. Priset är något högre ($0.13 mot $0.10 per 1M tokens för ada-002), men förbättringen i noggrannhet rättfärdigar ofta kostnaden för högrisk-sökningsscenarier. För enkla användningsfall förblir ada-002 ett gångbart lågkostnadsalternativ.
Priset är 0,13 USD per 1 miljon inmatningstokens, debiteras enligt leverantörens taxa utan påslag. Utmatningstokens kostar också 0,13 USD per 1M tokens, men för inbäddningsmodeller är utmatningstokens försumbara eftersom modellen returnerar en vektor. Inmatningstokens inkluderar texten du skickar. Det finns inga extra avgifter för att använda OrcaRouters API. Detta gör den totala kostnaden exakt vad OpenAI tar ut, utan dolda avgifter eller prishöjningar för hastighetsbegränsningar.
Priset på $0.13 per 1M token är standardleverantörspriset. OrcaRouter erbjuder inga rabatter utöver leverantörens prissättning. Att använda mindre utdatadimensioner (t.ex. 1024) påverkar dock inte tokenantalet – du betalar per inmatningstoken oavsett dimension. För användare med mycket hög volym kan OpenAI erbjuda rabatter för åtaganden genom anpassade avtal, vilket du kan dra nytta av oberoende.
OrcaRouter cachelagrar inte inbäddningssvar. Varje begäran vidarebefordras till leverantören i realtid och debiteras därefter. Om du bäddar in identiska texter upprepade gånger debiteras du varje gång. För att spara kostnader bör du implementera ett eget cachelager på klientsidan och lagra inbäddningar för vanliga frågor. Detta är särskilt effektivt för statiska datamängder som produktbeskrivningar eller FAQ-innehåll.
OrcaRouter skickar förfrågningar till leverantören utan artificiell begränsning, men leverantören har egna hastighetsbegränsningar. För text-embedding-3-large är typiska gränser runt 3000–5000 förfrågningar per minut för standardnivån. Du kan öka gränserna genom att kontakta OpenAI direkt. OrcaRouter försöker automatiskt igen vid 429-fel, men överdrivna återförsök kan leda till extra kostnader. Övervaka din användning för att hålla dig inom gränserna.
Skicka en POST-förfrågan till https://api.orcarouter.ai/v1/embeddings med parametern model inställd på "openai/text-embedding-3-large". Inkludera en sträng eller en array av strängar i input. Du kan också ställa in parametern `dimensions` till ett värde mellan 256 och 3072. Du kan ange en användar-API-nyckel i Authorization-headern (Bearer-token). Svaret följer samma struktur som OpenAI:s Embeddings API, med en objektlista som innehåller embeddings och tokenräkning för användning.
De primära parametrarna är `model` (obligatorisk: "openai/text-embedding-3-large"), `input` (en sträng eller en array av strängar, upp till 8192 tokens var) och `dimensions` (heltal, valfritt, standard 3072). OrcaRouter stöder också parametern `user` för att spåra användning per slutanvändare. Andra parametrar från OpenAI Embeddings API såsom `encoding_format` (float eller base64) stöds. Se OpenAIs dokumentation för hela uppsättningen.
Ändra bas-URL från https://api.openai.com/v1 till https://api.orcarouter.ai/v1 och uppdatera modell-ID från "text-embedding-3-large" till "openai/text-embedding-3-large". Din befintliga kod som använder OpenAI Python-klienten eller HTTP-biblioteket bör fungera utan andra ändringar. OrcaRouters API är fullt kompatibelt, så inga ändringar av begärandets brödtextformat behövs. Se till att du har en OrcaRouter API-nyckel.
Ja. Skicka en array av strängar som `input`-parameter. API:et returnerar en array av inbäddningar i samma ordning. Detta är effektivare än att skicka enskilda förfrågningar på grund av lägre overhead. För optimal genomströmning, batcha texter av liknande längd för att minska vilotiden. Modellen stöder upp till 2048 strängar per batch (kontrollera leverantörens gränser) och totala inmatningstokens över batchen får inte överstiga 2048000 tokens per minut.
Den lilla varianten använder endast 512 dimensioner och kostar $0.02 per 1M tokens—ungefär 6.5× billigare. Den är snabbare och mer lagringseffektiv men offrar noggrannhet, särskilt på finmaskiga semantiska uppgifter. För enkel klustring eller sökning på ämnesnivålikhet kan den lilla modellen vara tillräcklig. text-embedding-3-large rekommenderas för högriskåtervinning där återkallelse är viktigast.
all-MiniLM-L6-v2 är en gratis, lokalt värdmodell med 384 dimensioner och hög hastighet. Den presterar bra på många uppgifter men når inte upp till text-embedding-3-large på komplexa riktmärken som MTEB. Avvägningen är kostnad vs. kvalitet: öppna källkodsmodeller har noll kostnad per token men kräver beräkningshårdvara. text-embedding-3-large erbjuder överlägsen noggrannhet samtidigt som kostnaden på $0.13/M tokens kan vara motiverad för produktionssystem där återvinningskvalitet är en prioritet.
Coheres embed-v3-modeller stöder även variabla dimensioner och flerspråkiga funktioner. De är jämförbara på engelska riktmärken men kan hantera icke-engelska texter bättre. Prissättningen är liknande (ungefär $0,10–0,15 per 1M tokens). Valet beror ofta på ekosystempreferens och specifika flerspråkiga krav. text-embedding-3-large har ett större kontextfönster (8192 vs 512 för Cohere) och är bättre integrerat med OpenAI-verktyg.
Överväg alternativ om ditt användningsfall kräver flerspråkigt stöd utöver engelska, behöver lokal drift för dataintegritet, eller kräver extremt låg latens vid hög genomströmning. För uppgifter som textgenerering, använd GPT-4. För bild-text-inbäddningar, använd CLIP eller multimodala modeller. text-embedding-3-large är en generell engelsk kodare; om din domän är högt specialiserad, utforska finjusterade öppen källkodsmodeller.
OpenAI-kompatibel — behåll det SDK du redan använder
https://api.orcarouter.ai/v1dimensionsencoding_format| Inmatning / 1M token | $0.130 |
|---|---|
| Utdata / 1M tokens | $0.130 |
| Valuta | USD |
Uppskattning baserad på listpris
Endast en uppskattning — faktiskt antal token beror på leverantörens tokenizer.
Vad utvecklare säger den här veckan
GET /api/public/models/openai/text-embedding-3-largeÖppna @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large