Modèle d'embedding de texte économique d'OpenAI, idéal pour la recherche sémantique et le clustering, accessible via OrcaRouter sans marge.
openai/text-embedding-3-small est un modèle d'embedding publié par OpenAI en janvier 2024. Il produit des représentations vectorielles du texte qui capturent le sens sémantique, permettant des…
Ce modèle donne de bons résultats pour les tâches nécessitant une compréhension globale plutôt que des détails précis. Il est largement utilisé pour la recherche sémantique, où les requêtes sont intégrées et mises en correspondance avec un corpus d'embeddings de documents. Il fonctionne également bien pour le clustering (regroupement de textes similaires sans étiquettes explicites) et pour la classification lorsque les embeddings sont alimentés dans un classifieur linéaire. Dans les pipelines de génération augmentée par récupération (RAG), il encode efficacement à la fois les requêtes et les documents, permettant une récupération rapide basée sur la similarité. Son contexte de 8 192 tokens lui permet de traiter des passages plus longs, comme des résumés de recherche ou des commentaires clients, en un seul appel d'embedding.
Si votre cas d'utilisation implique des textes très courts (par exemple, des mots ou des phrases uniques) ou si vous privilégiez la rapidité à la précision, vous pourriez explorer des modèles encore plus légers d'autres fournisseurs disponibles sur OrcaRouter, tels que ceux avec une dimensionalité plus faible ou spécialisés pour des langues spécifiques. De plus, si votre tâche est extrêmement grossière—comme distinguer seulement entre quelques grandes catégories—un modèle plus simple peut suffire. Cependant, openai/text-embedding-3-small est déjà l'une des options les plus abordables d'OpenAI. Pour les applications où la qualité des embeddings impacte directement les performances en aval (par exemple, le classement pour la recherche), le faible coût supplémentaire justifie souvent les meilleurs résultats par rapport aux alternatives gratuites.
OpenAI's text-embedding-3-small a démontré de solides capacités multilingues, obtenant de bons résultats sur des benchmarks multilingues tels que les sous-ensembles multilingues de MTEB. Il peut encoder du texte dans des dizaines de langues et produire des vecteurs comparables pour des contenus similaires dans différentes langues. Cela le rend utile pour des applications mondiales comme la recommandation internationale de produits ou le routage multilingue des tickets de support. Cependant, pour des domaines spécialisés (par exemple, juridique, médical, code), un modèle d'embedding adapté au domaine pourrait offrir une meilleure précision. Si vos données sont hautement techniques, vous souhaiterez peut-être comparer ce modèle à des alternatives pour garantir des performances optimales.
Selon les résultats disponibles publiquement, openai/text-embedding-3-small obtient un score moyen d'environ 62 % sur le benchmark MTEB (Massive Text Embedding Benchmark). Cela reflète une performance solide dans une variété de tâches, y compris la classification, le clustering, la classification par paires et le reranking. Bien qu'il soit en retard par rapport au modèle plus grand text-embedding-3-large (qui obtient un score d'environ 65 %), son coût par token est environ un dixième de celui de la grande variante. La performance du modèle est particulièrement forte dans les tâches de clustering et de similarité sémantique. Pour les tâches nécessitant une haute précision en STS (Semantic Textual Similarity), le petit modèle reste compétitif.
La latence des requêtes d'intégration dépend de la longueur de l'entrée et de la charge simultanée. Sur OrcaRouter, le modèle est servi via l'infrastructure d'OpenAI, donc les latences typiques sont comparables aux appels directs à l'API OpenAI. Pour une requête unique de longueur moyenne (100-200 tokens), le temps de réponse est généralement inférieur à 200 ms. Le débit peut être augmenté en regroupant plusieurs textes dans un seul appel API. Le modèle prend en charge le traitement par lots, et OrcaRouter transmet les mêmes paramètres de regroupement que l'API OpenAI. Pour les charges de travail élevées, le faible coût par token permet d'intégrer des millions d'enregistrements sans dépasser les budgets.
Malgré ses atouts, openai/text-embedding-3-small présente des limitations. Son vecteur par défaut de 512 dimensions peut perdre certaines nuances par rapport à la variante large de 1 536 dimensions, en particulier pour des distinctions sémantiques fines. Les performances du modèle sur des tâches nécessitant une connaissance approfondie du domaine ou le traitement de documents très longs (proches de 8 192 tokens) peuvent se dégrader si le texte est bruité ou mal structuré. De plus, étant un modèle généraliste, il peut être moins performant sur des tâches spécialisées comme la recherche de code ou l'extraction de concepts biomédicaux par rapport à des modèles dédiés. OrcaRouter donne accès à d'autres modèles pour ces besoins spécifiques.
openai/text-embedding-3-small est facturé à 0,02 $ par million de tokens d’entrée et 0,02 $ par million de tokens de sortie. Comme le modèle ne produit que des embeddings (les tokens de sortie sont la représentation vectorielle, pas du texte), le nombre de tokens de sortie est proportionnel à celui d’entrée. En pratique, vous êtes facturé pour les tokens d’entrée et de sortie au même tarif. OrcaRouter transmet le tarif exact du fournisseur sans aucune marge, le coût total est donc exactement de 0,02 $ par million de tokens d’entrée et 0,02 $ par million de tokens de sortie. Il n’y a pas de frais de plateforme supplémentaires ni de coûts cachés. Cela fait de ce modèle l’une des options les plus rentables pour l’embedding de textes à grande échelle.
Comparé au text-embedding-3-large d'OpenAI (0,13 $ pour 1 million de tokens en entrée), le petit modèle est 6,5 fois moins cher. Pour de nombreuses applications, la dégradation des performances est modeste, ce qui fait du petit modèle un meilleur rapport qualité-prix. Comparé au legacy ada-002 (maintenant déprécié), le petit modèle est à la fois moins cher et plus performant. Sur OrcaRouter, vous pouvez également trouver des modèles d'embedding tiers à des prix encore plus bas ; cependant, ils peuvent ne pas offrir la même qualité ou compatibilité avec l'écosystème d'OpenAI. Le modèle sans marge d'OrcaRouter garantit que vous ne payez que ce que vous paieriez directement, sans aucune prime.
OrcaRouter peut implémenter des mécanismes de mise en cache pour réduire les appels API redondants. Si vous envoyez le même texte d'entrée plusieurs fois, la plateforme peut renvoyer des embeddings mis en cache sans engendrer de coûts de jetons supplémentaires. Cependant, les politiques de mise en cache ne sont pas explicitement détaillées dans les faits fournis. Pour minimiser les coûts, vous pouvez implémenter votre propre couche de mise en cache côté client en utilisant les vecteurs d'embedding renvoyés. Étant donné que le coût des jetons est déjà très bas, la mise en cache offre des économies marginales, sauf si vous avez des requêtes extrêmement répétitives. Contactez le support OrcaRouter pour plus de détails sur le comportement de mise en cache côté serveur.
Pour utiliser openai/text-embedding-3-small via OrcaRouter, définissez l'URL de base sur https://api.orcarouter.ai/v1 et spécifiez l'ID du modèle comme 'openai/text-embedding-3-small'. L'API est entièrement compatible avec le point de terminaison d'embedding d'OpenAI, vous pouvez donc utiliser la bibliothèque Python OpenAI ou n'importe quel client HTTP avec le même format de requête. Par exemple, en Python : client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). La réponse contient le vecteur d'embedding et les détails d'utilisation.
L'API prend en charge les mêmes paramètres que le point de terminaison d'embedding d'OpenAI. Requis : 'model' défini sur 'openai/text-embedding-3-small' et 'input' (chaîne ou tableau de chaînes). Optionnel : 'dimensions' (entier, de 128 à 512, par défaut 512) pour réduire la taille du vecteur de sortie. Une dimension plus petite accélère le traitement en aval et réduit le stockage tout en conservant la plupart des informations sémantiques. Le paramètre 'user' peut être utilisé pour limiter le débit par client. OrcaRouter accepte également les en-têtes standard comme Authorization et Content-Type. Pour les requêtes par lots, passez un tableau de chaînes en entrée ; l'API renverra une liste d'embeddings dans l'ordre correspondant.
Si vous utilisez actuellement l'API d'embedding d'OpenAI, migrer vers OrcaRouter est simple. Remplacez l'URL de base https://api.openai.com/v1 par https://api.orcarouter.ai/v1 et mettez à jour le nom du modèle en 'openai/text-embedding-3-small'. Aucune autre modification de code n'est nécessaire. Votre bibliothèque cliente existante (Python, Node.js, curl, etc.) fonctionnera de manière identique. OrcaRouter prend en charge le même schéma d'authentification avec une clé API. Ce changement vous permet de bénéficier d'une tarification sans marge sans avoir à retravailler votre pipeline d'embedding. Assurez-vous que votre clé a accès au modèle sur OrcaRouter.
Les principales différences sont la taille, le coût et les performances. text-embedding-3-large produit 1 536 dimensions (par défaut) contre 512 pour la version small, et coûte 0,13 $ par million de tokens d’entrée—soit 6,5 fois plus cher. Sur le benchmark MTEB, large obtient environ 65 % de score, small environ 62 %. Pour la plupart des applications, le modèle small offre un meilleur rapport qualité-prix. Le modèle large peut être préféré lorsque vous avez besoin de la plus haute précision possible pour des tâches comme la recherche de similarité fine ou lorsque vous ne pouvez pas vous permettre une baisse de rappel. OrcaRouter propose les deux modèles, vous pouvez donc les tester sur vos propres données.
Le modèle d'embedding précédent d'OpenAI, text-embedding-ada-002, est désormais obsolète et n'est plus disponible via les canaux officiels. Par rapport à ada-002, text-embedding-3-small offre de meilleures performances moyennes sur MTEB (62 % contre ~61 %), prend en charge un contexte plus large (8 192 contre 2 048 tokens) et coûte nettement moins cher (0,02 $ contre 0,10 $ pour 1 million de tokens en entrée) aux prix actuels. Le nouveau modèle introduit également le paramètre dimensions, permettant une optimisation supplémentaire des coûts et du stockage. Si vous avez encore des workflows utilisant ada-002, vous devriez migrer vers text-embedding-3-small pour bénéficier d'une meilleure qualité et d'un coût réduit.
OrcaRouter héberge des modèles d'embedding de plusieurs fournisseurs, variant en prix, dimension et qualité. Par exemple, certains modèles offrent des niveaux gratuits ou des coûts par token plus faibles. Cependant, ces modèles ont souvent des fenêtres de contexte plus petites (par exemple, 512 tokens) ou des scores de benchmark inférieurs. openai/text-embedding-3-small équilibre le coût, la longueur de contexte et la qualité. Si vos données sont très spécifiques à un domaine, un modèle sur mesure (par exemple, spécifique au code ou au droit) pourrait le surpasser. Le catalogue d'OrcaRouter vous permet de comparer les performances et les tarifs. Le petit modèle constitue un choix fiable par défaut pour les tâches généralistes en anglais et multilingues.
Les modèles d’embedding open-source (par exemple, ceux de Hugging Face) peuvent être auto-hébergés, ce qui permet potentiellement de réduire les coûts à très grands volumes. Cependant, ils nécessitent une infrastructure, une maintenance et une expertise pour atteindre une latence et une fiabilité comparables à celles de l’API d’OpenAI. openai/text-embedding-3-small, accessible via OrcaRouter, offre zéro surcharge d’infrastructure, une disponibilité constante et une compatibilité avec l’écosystème OpenAI. Pour les charges de travail de petite à moyenne envergure, l’API gérée est souvent plus économique si l’on tient compte du temps d’ingénierie. Pour les déploiements à très grande échelle (des milliards d’embeddings), les modèles auto-hébergés peuvent devenir moins chers, bien que la parité de qualité ne soit pas garantie.
Compatible OpenAI — gardez votre SDK actuel
https://api.orcarouter.ai/v1dimensionsencoding_format| Entrée / 1M tokens | $0.020 |
|---|---|
| Sortie / 1M tokens | $0.020 |
| Devise | USD |
Estimation basée sur le tarif public
Estimation seulement — le nombre réel de tokens dépend du tokeniseur du fournisseur.
Comparer les coûts mensuels des modèles dans le calculateur de coûts LLM
Ce dont parlent les développeurs cette semaine
GET /api/public/models/openai/text-embedding-3-smallOuvrir @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small