Kostnadseffektiv textinbäddningsmodell från OpenAI, idealisk för semantisk sökning och klustring, tillgänglig via OrcaRouter utan påslag.
openai/text-embedding-3-small är en inbäddningsmodell som släpptes av OpenAI i januari 2024. Den producerar vektorrepresentationer av text som fångar semantisk betydelse, vilket möjliggör jämförelser…
Denna modell presterar starkt på uppgifter som kräver att fånga övergripande innebörd snarare än finkorniga detaljer. Den används ofta för semantisk sökning, där frågor bäddas in och matchas mot en samling dokumentinbäddningar. Den fungerar också bra för klustring—gruppering av liknande texter utan explicita etiketter—och för klassificering när inbäddningar matas in i en linjär klassificerare. I retrieveringsförstärkt genereringspipelines (RAG) kodar den effektivt både frågor och dokument, vilket möjliggör snabb likhetsbaserad återvinning. Dess 8,192-tokens kontext gör att den kan bearbeta längre passager, såsom forskningssammanfattningar eller kundfeedback, i ett enda inbäddningsanrop.
Om ditt användningsfall innefattar mycket korta texter (t.ex. enstaka ord eller fraser) eller om du prioriterar hastighet framför noggrannhet, kan du överväga ännu lättare modeller från andra leverantörer som finns tillgängliga på OrcaRouter, såsom sådana med lägre dimensionalitet eller specialiserade för specifika språk. Dessutom, om din uppgift är extremt grov—som att bara skilja mellan några få breda kategorier—kan en enklare modell vara tillräcklig. Men openai/text-embedding-3-small är redan ett av de mest prisvärda alternativen från OpenAI. För applikationer där inbäddningskvalitet direkt påverkar nedströms prestanda (t.ex. rankning för sökning), motiverar den lilla extrakostnaden ofta de bättre resultaten jämfört med gratissnivåalternativen.
OpenAIs text-embedding-3-small har visat starka tvärspråkliga förmågor och presterat väl på flerspråkiga riktmärken som MTEB:s flerspråkiga delmängder. Den kan bädda in text i dussintals språk och producera jämförbara vektorer för liknande innehåll över språk. Detta gör den användbar för globala applikationer som internationell produktrekommendation eller flerspråkig routing av supportärenden. Men för specialiserade domäner (t.ex. juridik, medicin, kod) kan en domänanpassad inbäddningsmodell ge högre noggrannhet. Om dina data är mycket tekniska kan du vilja jämföra denna modell med alternativ för att säkerställa optimal prestanda.
Enligt offentligt tillgängliga resultat uppnår openai/text-embedding-3-small en genomsnittlig poäng på cirka 62 % på MTEB-benchmark (Massive Text Embedding Benchmark). Detta återspeglar en solid prestanda över en mängd olika uppgifter, inklusive klassificering, klustring, parklassificering och omrangering. Även om den ligger efter den större text-embedding-3-large (som får cirka 65 %), är dess kostnad per token ungefär en tiondel av den stora variantens. Modellens prestanda är särskilt stark på klustrings- och semantisk likhetsuppgifter. För uppgifter som kräver hög precision i STS (Semantic Textual Similarity) presterar den lilla modellen fortfarande konkurrenskraftigt.
Latensen för embeddingsförfrågningar beror på indatalängd och samtidig belastning. På OrcaRouter levereras modellen via OpenAIs infrastruktur, så typiska latenser är jämförbara med direkt OpenAI API-anrop. För en enskild fråga av genomsnittlig längd (100-200 tokens) är svarstiden generellt under 200ms. Genomströmningen kan ökas genom att batcha flera texter i ett API-anrop. Modellen stöder batchbearbetning och OrcaRouter skickar samma batchparametrar som OpenAI API. För arbetsbelastningar med hög volym gör den låga kostnaden per token det möjligt att bädda in miljontals poster utan att överskrida budgetar.
Trots sina styrkor har openai/text-embedding-3-small begränsningar. Dess 512-dimensionella standardvektor kan förlora en del nyanser jämfört med den 1,536-dimensionella stora varianten, särskilt för finjusterade semantiska skillnader. Modellens prestanda vid uppgifter som kräver djup domänkunskap eller hantering av mycket långa dokument (nära 8,192 tokens) kan försämras om texten är brusig eller dåligt strukturerad. Eftersom det är en allmän modell kan den dessutom prestera sämre på specialiserade uppgifter som kodsökning eller biomedicinsk konceptextraktion jämfört med dedikerade modeller. OrcaRouter erbjuder tillgång till andra modeller för dessa specifika behov.
openai/text-embedding-3-small prissätts till $0.02 per miljon inmatningstoken och $0.02 per miljon utmatningstoken. Eftersom modellen endast producerar inbäddningar (utmatningstoken är vektorrepresentationen, inte text), är antalet utmatningstoken proportionellt mot inmatningen. I praktiken debiteras du för både inmatnings- och utmatningstoken till samma taxa. OrcaRouter vidarebefordrar den exakta leverantörstaxan utan påslag, så den totala kostnaden är exakt $0.02 per miljon inmatningstoken och $0.02 per miljon utmatningstoken. Det finns inga ytterligare plattformsavgifter eller dolda avgifter. Detta gör modellen till ett av de mest kostnadseffektiva alternativen för att bädda in text i stor skala.
Jämfört med OpenAIs text-embedding-3-large ($0,13 per 1M inmatningstokens) är den lilla modellen 6,5 gånger billigare. För många applikationer är prestandaförsämringen måttlig, vilket gör den lilla modellen till ett bättre val. Jämfört med äldre ada-002 (nu avvecklad) är den lilla modellen både billigare och mer kapabel. På OrcaRouter kan du också hitta tredjeparts inbäddningsmodeller med ännu lägre priser; de kanske dock inte erbjuder samma kvalitet eller kompatibilitet med OpenAIs ekosystem. Nollpåslagsmodellen från OrcaRouter säkerställer att du bara betalar vad du skulle direkt, utan någon premie.
OrcaRouter kan implementera cachningsmekanismer för att minska redundanta API-anrop. Om du skickar samma indatatext flera gånger kan plattformen returnera cachade inbäddningar utan att medföra ytterligare tokenkostnader. Däremot anges inte cachningspolicyer uttryckligen i de angivna fakta. För att minimera kostnaderna kan du implementera ditt eget cachningslager på klientsidan med hjälp av de returnerade inbäddningsvektorerna. Eftersom tokenkostnaden redan är mycket låg ger cachning marginella besparingar om du inte har extremt repetitiva frågor. Kontakta OrcaRouter support för information om server-sidans cachningsbeteende.
För att använda openai/text-embedding-3-small via OrcaRouter, ställ in bas-URL till https://api.orcarouter.ai/v1 och ange modell-ID som 'openai/text-embedding-3-small'. API:et är fullt kompatibelt med OpenAIs embedding-endpoint, så du kan använda OpenAIs Python-bibliotek eller vilken HTTP-klient som helst med samma förfrågningsformat. Till exempel i Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Din text här'). Svaret innehåller embedding-vektorn och användningsinformation.
API:et stöder samma parametrar som OpenAIs embedding-slutpunkt. Obligatoriskt: 'model' är inställt på 'openai/text-embedding-3-small' och 'input' (sträng eller array av strängar). Valfritt: 'dimensions' (heltal, 128 till 512, standard 512) för att minska utdatavektorns storlek. En mindre dimension snabbar upp efterföljande bearbetning och minskar lagring samtidigt som det mesta av den semantiska informationen behålls. Parametern 'user' kan användas för hastighetsbegränsning per kund. OrcaRouter accepterar även standardhuvuden som Authorization och Content-Type. För batchförfrågningar, skicka en array av strängar som indata; API:et returnerar en lista med embeddings i motsvarande ordning.
Om du för närvarande använder OpenAIs inbäddnings-API är migreringen till OrcaRouter enkel. Ändra bas-URL:en från https://api.openai.com/v1 till https://api.orcarouter.ai/v1 och uppdatera modellnamnet till 'openai/text-embedding-3-small'. Inga andra kodändringar krävs. Ditt befintliga klientbibliotek (Python, Node.js, curl, etc.) fungerar identiskt. OrcaRouter stöder samma autentiseringsschema med en API-nyckel. Detta byte gör att du kan dra nytta av nollpåslagsprissättning utan att behöva omarbeta din inbäddningspipeline. Se till att din nyckel har åtkomst till modellen på OrcaRouter.
De främsta skillnaderna är storlek, kostnad och prestanda. text-embedding-3-large producerar 1 536 dimensioner (standard) jämfört med 512 för den lilla versionen, och kostar 0,13 USD per 1M inmatningstokens—6,5 gånger dyrare. På MTEB-riktmärket får large cirka 65 %, small cirka 62 %. För de flesta applikationer erbjuder den lilla modellen ett bättre värde-till-kostnadsförhållande. Den stora modellen kan föredras när du behöver högsta möjliga noggrannhet för uppgifter som finkornig likhetssökning eller när du inte har råd med någon minskning av återkallelsen. OrcaRouter tillhandahåller båda modellerna, så du kan testa båda på din egen data.
OpenAI:s tidigare inbäddningsmodell, text-embedding-ada-002, är nu föråldrad och inte längre tillgänglig via officiella kanaler. Jämfört med ada-002 erbjuder text-embedding-3-small bättre genomsnittlig prestanda på MTEB (62 % mot ~61 %), stödjer en större kontext (8 192 mot 2 048 tokens) och kostar betydligt mindre ($0,02 mot $0,10 per 1M inmatningstokens) vid nuvarande prissättning. Den nya modellen introducerar även dimensionsparametern, vilket möjliggör ytterligare kostnads- och lagringsoptimering. Om du har arbetsflöden som fortfarande använder ada-002 bör du migrera till text-embedding-3-small för förbättrad kvalitet och lägre kostnad.
OrcaRouter är värd för inbäddningsmodeller från flera leverantörer, med varierande pris, dimension och kvalitet. Till exempel erbjuder vissa modeller gratisnivåer eller lägre kostnad per token. Dessa modeller har dock ofta mindre kontextfönster (t.ex. 512 tokens) eller lägre benchmark-poäng. openai/text-embedding-3-small balanserar kostnad, kontextlängd och kvalitet. Om dina data är starkt domänspecifika kan en skräddarsydd modell (t.ex. kod- eller juridikspecifik) prestera bättre. OrcaRouters katalog låter dig jämföra prestanda och prissättning. Den lilla modellen är ett pålitligt standardval för allmänna engelska och flerspråkiga uppgifter.
Open-source inbäddningsmodeller (t.ex. från Hugging Face) kan självhostas, vilket potentiellt minskar kostnaderna vid mycket höga volymer. De kräver dock infrastruktur, underhåll och expertis för att uppnå latens och tillförlitlighet jämförbar med OpenAIs API. openai/text-embedding-3-small, som nås via OrcaRouter, erbjuder noll infrastrukturkostnad, konsekvent drifttid och kompatibilitet med OpenAI-ekosystemet. För små till medelstora arbetsbelastningar är det hanterade API:t ofta mer ekonomiskt när man räknar in ingenjörstid. För extremt storskaliga driftsättningar (miljarder inbäddningar) kan självhostade modeller bli billigare, även om kvalitetsparitet inte garanteras.
OpenAI-kompatibel — behåll det SDK du redan använder
https://api.orcarouter.ai/v1dimensionsencoding_format| Inmatning / 1M token | $0.020 |
|---|---|
| Utdata / 1M tokens | $0.020 |
| Valuta | USD |
Uppskattning baserad på listpris
Endast en uppskattning — faktiskt antal token beror på leverantörens tokenizer.
Jämför månadskostnader mellan modeller i LLM-kostnadskalkylatorn
Vad utvecklare säger den här veckan
GET /api/public/models/openai/text-embedding-3-smallÖppna @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small