Kosteneffizientes Text-Embedding-Modell von OpenAI, ideal für semantische Suche und Clustering, zugänglich über OrcaRouter ohne Aufpreis.
openai/text-embedding-3-small ist ein von OpenAI im Januar 2024 veröffentlichtes Embedding-Modell. Es erzeugt Vektordarstellungen von Text, die semantische Bedeutung erfassen und Vergleiche sowie…
Dieses Modell erzielt starke Leistungen bei Aufgaben, die das Erfassen der Gesamtbedeutung erfordern und nicht feiner Details. Es wird häufig für die semantische Suche eingesetzt, bei der Suchanfragen eingebettet und mit einem Korpus von Dokumenteinbettungen abgeglichen werden. Es eignet sich auch gut für das Clustering – das Gruppieren ähnlicher Texte ohne explizite Labels – und für die Klassifikation, wenn Einbettungen in einen linearen Klassifikator eingespeist werden. In Retrieval-Augmented-Generation-Pipelines (RAG) codiert es sowohl Suchanfragen als auch Dokumente effizient und ermöglicht so eine schnelle ähnlichkeitsbasierte Abfrage. Der Kontext von 8.192 Token ermöglicht die Verarbeitung längerer Passagen, wie z. B. Forschungszusammenfassungen oder Kundenfeedback, in einem einzigen Einbettungsvorgang.
Falls Ihr Anwendungsfall sehr kurze Texte umfasst (z. B. einzelne Wörter oder Phrasen) oder Sie Geschwindigkeit über Genauigkeit stellen, könnten Sie noch leichtere Modelle anderer Anbieter auf OrcaRouter in Betracht ziehen, etwa solche mit niedrigerer Dimensionalität oder spezialisiert auf bestimmte Sprachen. Wenn Ihre Aufgabe zudem sehr grob granular ist – wie die Unterscheidung zwischen nur wenigen breiten Kategorien –, kann ein einfacheres Modell ausreichen. Allerdings ist openai/text-embedding-3-small bereits eine der günstigsten Optionen von OpenAI. Für Anwendungen, bei denen die Embedding-Qualität die nachgelagerte Leistung direkt beeinflusst (z. B. Ranking in der Suche), rechtfertigen die geringen Mehrkosten oft die besseren Ergebnisse im Vergleich zu den kostenlosen Alternativen.
OpenAIs text-embedding-3-small hat starke cross-linguale Fähigkeiten gezeigt und schneidet bei mehrsprachigen Benchmarks wie den mehrsprachigen Teilmengen von MTEB gut ab. Es kann Text in Dutzenden von Sprachen einbetten und für ähnliche Inhalte über Sprachen hinweg vergleichbare Vektoren erzeugen. Das macht es nützlich für globale Anwendungen wie internationale Produktempfehlungen oder mehrsprachige Support-Ticket-Routing. Für spezialisierte Bereiche (z. B. Recht, Medizin, Code) könnte jedoch ein domänenangepasstes Einbettungsmodell eine höhere Genauigkeit bieten. Wenn Ihre Daten sehr technisch sind, sollten Sie dieses Modell gegen Alternativen benchmarken, um eine optimale Leistung sicherzustellen.
Laut öffentlich verfügbaren Ergebnissen erreicht openai/text-embedding-3-small einen mittleren Wert von etwa 62 % auf der MTEB-Benchmark (Massive Text Embedding Benchmark). Dies spiegelt eine solide Leistung in einer Vielzahl von Aufgaben wider, darunter Klassifikation, Clustering, Paarklassifikation und Neubewertung. Obwohl es hinter dem größeren text-embedding-3-large (der etwa 65 % erreicht) zurückbleibt, liegen die Kosten pro Token bei etwa einem Zehntel der großen Variante. Die Leistung des Modells ist besonders stark bei Clustering- und semantischen Ähnlichkeitsaufgaben. Für Aufgaben, die eine hohe Präzision bei STS (Semantic Textual Similarity) erfordern, schneidet das kleine Modell dennoch wettbewerbsfähig ab.
Die Latenz für Embedding-Anfragen hängt von der Eingabelänge und der gleichzeitigen Last ab. Auf OrcaRouter wird das Modell über die Infrastruktur von OpenAI bereitgestellt, sodass die typischen Latenzzeiten mit direkten OpenAI-API-Aufrufen vergleichbar sind. Bei einer einzelnen Abfrage mit durchschnittlicher Länge (100-200 Token) liegt die Antwortzeit in der Regel unter 200 ms. Der Durchsatz kann durch das Bündeln mehrerer Texte in einem API-Aufruf erhöht werden. Das Modell unterstützt Stapelverarbeitung, und OrcaRouter übergibt dieselben Batch-Parameter wie die OpenAI-API. Bei hohen Arbeitslasten machen die niedrigen Kosten pro Token es möglich, Millionen von Datensätzen einzubetten, ohne das Budget zu sprengen.
Trotz seiner Stärken hat openai/text-embedding-3-small Einschränkungen. Der 512-dimensionale Standardvektor kann im Vergleich zur 1.536-dimensionalen großen Variante Nuancen verlieren, insbesondere bei feinkörnigen semantischen Unterscheidungen. Die Leistung des Modells bei Aufgaben, die tiefes Domänenwissen oder die Verarbeitung sehr langer Dokumente (nahe 8.192 Token) erfordern, kann verschlechtern, wenn der Text verrauscht oder schlecht strukturiert ist. Da es sich um ein Allzweckmodell handelt, kann es bei spezialisierten Aufgaben wie Codesuche oder biomedizinischer Konzeptextraktion im Vergleich zu dedizierten Modellen schlechter abschneiden. OrcaRouter bietet Zugang zu anderen Modellen für diese spezifischen Anforderungen.
openai/text-embedding-3-small kostet 0,02 $ pro Million Eingabe-Tokens und 0,02 $ pro Million Ausgabe-Tokens. Da das Modell nur Embeddings erzeugt (Ausgabe-Tokens sind die Vektorrepräsentation, kein Text), ist die Anzahl der Ausgabe-Tokens proportional zu den Eingabe-Tokens. In der Praxis werden Ihnen sowohl Eingabe- als auch Ausgabe-Tokens zum gleichen Satz berechnet. OrcaRouter gibt den genauen Anbieterpreis ohne Aufschlag weiter, sodass die Gesamtkosten genau 0,02 $ pro Million Eingabe-Tokens und 0,02 $ pro Million Ausgabe-Tokens betragen. Es gibt keine zusätzlichen Plattformgebühren oder versteckten Kosten. Dies macht das Modell zu einer der kosteneffektivsten Optionen für die Einbettung von Text in großem Maßstab.
Im Vergleich zu OpenAIs text-embedding-3-large (0,13 $ pro 1 Mio. Eingabetoken) ist das kleine Modell 6,5x günstiger. Für viele Anwendungen sind die Leistungseinbußen gering, sodass das kleine Modell ein besseres Preis-Leistungs-Verhältnis bietet. Im Vergleich zum veralteten ada-002 (inzwischen eingestellt) ist das kleine Modell sowohl günstiger als auch leistungsfähiger. Auf OrcaRouter finden Sie auch Drittanbieter-Embedding-Modelle mit noch niedrigeren Preisen; diese bieten jedoch möglicherweise nicht die gleiche Qualität oder Kompatibilität mit dem OpenAI-Ökosystem. Das Nullaufschlag-Modell von OrcaRouter stellt sicher, dass Sie nur das bezahlen, was Sie direkt zahlen würden, ohne jeden Aufschlag.
OrcaRouter kann Caching-Mechanismen implementieren, um redundante API-Aufrufe zu reduzieren. Wenn Sie denselben Eingabetext mehrmals senden, gibt die Plattform möglicherweise zwischengespeicherte Embeddings zurück, ohne zusätzliche Token-Kosten zu verursachen. Die Caching-Richtlinien sind in den bereitgestellten Fakten jedoch nicht explizit aufgeführt. Um Kosten zu minimieren, können Sie auf der Client-Seite eine eigene Caching-Schicht implementieren, indem Sie die zurückgegebenen Embedding-Vektoren verwenden. Da die Token-Kosten bereits sehr niedrig sind, bietet Caching nur geringe Einsparungen, es sei denn, Sie haben extrem repetitive Abfragen. Wenden Sie sich an den OrcaRouter-Support, um Informationen zum serverseitigen Caching-Verhalten zu erhalten.
Um openai/text-embedding-3-small über OrcaRouter zu verwenden, setzen Sie die Basis-URL auf https://api.orcarouter.ai/v1 und geben Sie die Modell-ID als 'openai/text-embedding-3-small' an. Die API ist vollständig kompatibel mit dem Embedding-Endpunkt von OpenAI, sodass Sie die OpenAI Python-Bibliothek oder einen beliebigen HTTP-Client mit dem gleichen Anfrageformat verwenden können. Zum Beispiel in Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). Die Antwort enthält den Embedding-Vektor und Nutzungsdetails.
Die API unterstützt dieselben Parameter wie der Embedding-Endpunkt von OpenAI. Erforderlich: 'model' auf 'openai/text-embedding-3-small' gesetzt und 'input' (Zeichenkette oder Array von Zeichenketten). Optional: 'dimensions' (Ganzzahl, 128 bis 512, Standard 512) zur Verkleinerung der Ausgabevektorgröße. Eine kleinere Dimension beschleunigt die nachgelagerte Verarbeitung und reduziert den Speicherbedarf, während der Großteil der semantischen Informationen erhalten bleibt. Der Parameter 'user' kann zur Ratenbegrenzung pro Kunde verwendet werden. OrcaRouter akzeptiert auch Standard-Header wie Authorization und Content-Type. Für Batch-Anfragen übergeben Sie ein Array von Zeichenketten als Eingabe; die API gibt eine Liste von Embeddings in entsprechender Reihenfolge zurück.
Falls Sie derzeit die Embedding-API von OpenAI nutzen, ist die Migration zu OrcaRouter unkompliziert. Ändern Sie die Basis-URL von https://api.openai.com/v1 zu https://api.orcarouter.ai/v1 und aktualisieren Sie den Modellnamen auf 'openai/text-embedding-3-small'. Es sind keine weiteren Code-Änderungen erforderlich. Ihre vorhandene Client-Bibliothek (Python, Node.js, curl usw.) funktioniert identisch weiter. OrcaRouter unterstützt dasselbe Authentifizierungsschema mittels API-Schlüssel. Dieser Wechsel ermöglicht es Ihnen, von der Nullmarge-Preisgestaltung zu profitieren, ohne Ihre Embedding-Pipeline umstellen zu müssen. Stellen Sie sicher, dass Ihr Schlüssel Zugriff auf das Modell auf OrcaRouter hat.
Die Hauptunterschiede liegen in Größe, Kosten und Leistung. text-embedding-3-large gibt standardmäßig 1.536 Dimensionen aus (im Vergleich zu 512 bei der kleinen Version) und kostet 0,13 $ pro 1 Million Eingabe-Token – das ist 6,5-mal teurer. Beim MTEB-Benchmark erreicht das große Modell etwa 65 %, das kleine etwa 62 %. Für die meisten Anwendungen bietet das kleine Modell ein besseres Preis-Leistungs-Verhältnis. Das große Modell kann bevorzugt werden, wenn die höchstmögliche Genauigkeit erforderlich ist, z. B. bei feinkörnigen Ähnlichkeitssuchen, oder wenn Sie sich keinen Rückgang des Recall leisten können. OrcaRouter bietet beide Modelle, sodass Sie beide mit Ihren eigenen Daten testen können.
Das vorherige Einbettungsmodell von OpenAI, text-embedding-ada-002, ist nun veraltet und nicht mehr über offizielle Kanäle verfügbar. Im Vergleich zu ada-002 bietet text-embedding-3-small eine bessere durchschnittliche Leistung bei MTEB (62 % gegenüber ~61 %), unterstützt einen größeren Kontext (8.192 gegenüber 2.048 Token) und kostet bei aktueller Preisgestaltung deutlich weniger (0,02 $ gegenüber 0,10 $ pro 1 Mio. Eingabe-Token). Das neue Modell führt außerdem den dimensions-Parameter ein, der weitere Kosten- und Speicheroptimierungen ermöglicht. Wenn Sie noch Workflows mit ada-002 verwenden, sollten Sie auf text-embedding-3-small umsteigen, um eine verbesserte Qualität und geringere Kosten zu erzielen.
OrcaRouter hostet Embedding-Modelle von mehreren Anbietern, die sich in Preis, Dimension und Qualität unterscheiden. Beispielsweise bieten einige Modelle kostenlose Stufen oder niedrigere Kosten pro Token an. Allerdings haben diese Modelle oft kleinere Kontextfenster (z. B. 512 Tokens) oder niedrigere Benchmark-Ergebnisse. openai/text-embedding-3-small balanciert Kosten, Kontextlänge und Qualität aus. Wenn Ihre Daten stark domänenspezifisch sind, könnte ein maßgeschneidertes Modell (z. B. code- oder rechtsspezifisch) es übertreffen. Der Katalog von OrcaRouter ermöglicht es Ihnen, Leistung und Preise zu vergleichen. Das kleine Modell ist ein zuverlässiger Standard für allgemeinsprachliche englische und mehrsprachige Aufgaben.
Open-Source-Embedding-Modelle (z. B. von Hugging Face) können selbst gehostet werden, was bei sehr hohen Volumen potenziell Kosten senkt. Sie erfordern jedoch Infrastruktur, Wartung und Fachkenntnisse, um eine mit der OpenAI-API vergleichbare Latenz und Zuverlässigkeit zu erreichen. openai/text-embedding-3-small, über OrcaRouter abgerufen, bietet null Infrastrukturaufwand, konsistente Betriebszeit und Kompatibilität mit dem OpenAI-Ökosystem. Für kleine bis mittlere Workloads ist die verwaltete API unter Berücksichtigung der Entwicklungszeit oft wirtschaftlicher. Für extrem große Bereitstellungen (Milliarden von Embeddings) können selbst gehostete Modelle günstiger werden, wobei die Gleichwertigkeit der Qualität nicht garantiert ist.
OpenAI-kompatibel — behalte dein bisheriges SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Eingabe / 1M Tokens | $0.020 |
|---|---|
| Ausgabe / 1M Tokens | $0.020 |
| Währung | USD |
Schätzung auf Basis des Listenpreises
Nur eine Schätzung — die tatsächliche Token-Anzahl hängt vom Tokenizer des Anbieters ab.
Monatliche Kosten aller Modelle im LLM-Kostenrechner vergleichen
Worüber Entwickler diese Woche sprechen
GET /api/public/models/openai/text-embedding-3-smallÖffnen @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small