Embeddings de texto de alta calidad a través de OrcaRouter a $0.13/M tokens, sin margen adicional, hasta 3072 dimensiones.
OpenAI text-embedding-3-large es un modelo de incrustación a gran escala de la tercera generación de la serie de incrustación de texto de OpenAI. Convierte la entrada de texto en representaciones…
text-embedding-3-large sobresale en similitud semántica, clasificación de texto, agrupamiento y recuperación de información. Su salida de alta dimensionalidad permite una distinción detallada entre textos similares. Es una opción popular para construir bases de datos vectoriales para RAG, donde la calidad de la recuperación depende de la precisión de los embeddings. El modelo también funciona bien en inferencia de lenguaje natural y detección de duplicados. Sin embargo, no está diseñado para tareas generativas como completar texto o diálogo; para eso, usa GPT-4 u otros modelos de lenguaje.
El modelo puede generar embeddings con dimensiones entre 256 y 3072. La dimensión se establece mediante el parámetro `dimensions` en la solicitud de API. Usar una dimensión más baja reduce el almacenamiento y el cómputo posterior, pero puede perder algo de fidelidad semántica. La dimensión predeterminada es 3072, que proporciona el mayor poder discriminativo. No hay dimensiones compatibles fuera de este rango. Para la mayoría de las tareas de recuperación, una dimensión de 1024 a 2048 ofrece un buen equilibrio entre precisión y costo.
Si tu aplicación es sensible a la latencia o estás incorporando miles de millones de textos, el costo de $0.13 por 1M de tokens puede acumularse. Considera text-embedding-3-small ($0.02/M tokens) o modelos de código abierto como embeddings basados en BERT para presupuestos más ajustados. text-embedding-3-large es la mejor opción cuando la precisión en la recuperación es primordial, como en búsquedas legales, médicas o científicas, donde pasar por alto un documento relevante tiene grandes consecuencias.
OpenAI actualmente no ofrece ajuste fino para la serie text-embedding-3. El modelo se utiliza como un codificador fijo. Para adaptarlo a un dominio específico, puede emplear estrategias de aumento por recuperación, como agregar pasajes específicos del dominio a su base de datos vectorial. Alternativamente, puede usar las incrustaciones como características para un clasificador descendente entrenado con sus datos etiquetados. Este flujo de trabajo es común en entornos empresariales.
text-embedding-3-large logra resultados de vanguardia en el Massive Text Embedding Benchmark (MTEB) en tareas como agrupamiento, clasificación y reordenamiento. Aunque no se proporcionan puntuaciones exactas aquí, el modelo se clasifica consistentemente en los niveles superiores entre los modelos de incrustación disponibles públicamente. Su versión de 3072 dimensiones ofrece la máxima precisión, mientras que las dimensiones más bajas intercambian una pequeña caída en el rendimiento por una reducción en almacenamiento y cómputo. Supera a su predecesor, text-embedding-ada-002, en la mayoría de las tareas.
La latencia depende del conteo de tokens de entrada y de la carga del modelo. Para un texto corto único (menos de 100 tokens), el modelo normalmente responde en menos de 200ms a través de OrcaRouter. Los textos más largos (8000 tokens) pueden tomar de 1 a 2 segundos. La concurrencia y el tamaño del lote afectan el rendimiento: las solicitudes por lotes (varios textos en una sola llamada API) pueden lograr un mayor rendimiento. OrcaRouter no añade sobrecarga más allá del tiempo de respuesta del proveedor.
El modelo no está diseñado para soporte multilingüe más allá del inglés (aunque maneja algunos otros idiomas, el rendimiento es menor). Tampoco cuenta con capacidad integrada para seguir instrucciones: es estrictamente un codificador. El límite de 8192 tokens implica que los documentos extremadamente largos deben dividirse en fragmentos. Además, las incrustaciones pueden codificar sesgos demográficos presentes en los datos de entrenamiento, por lo que las aplicaciones posteriores deben evaluarse en cuanto a equidad. Finalmente, no proporciona explicabilidad para sus juicios de similitud.
text-embedding-3-large supera significativamente al modelo anterior ada-002 en el benchmark MTEB, especialmente en tareas que requieren una distinción detallada. El modelo más nuevo también introduce el parámetro `dimensions`, permitiendo reducir el tamaño del vector sin reentrenamiento. El precio es ligeramente más alto ($0.13 frente a $0.10 por 1M tokens para ada-002), pero la mejora en precisión a menudo justifica el costo para escenarios de recuperación de alto riesgo. Para casos de uso simples, ada-002 sigue siendo una alternativa viable de menor costo.
El precio es de $0.13 por 1 millón de tokens de entrada, facturado a la tarifa del proveedor sin margen adicional. Los tokens de salida también son $0.13 por 1 millón de tokens, aunque para los modelos de embedding los tokens de salida son insignificantes ya que el modelo devuelve un vector. Los tokens de entrada incluyen el texto que envías. No hay tarifas adicionales por usar la API de OrcaRouter. Esto hace que el costo total sea exactamente lo que cobra OpenAI, sin cargos ocultos ni recargos por límite de tasa.
La tarifa de $0.13 por cada 1M de tokens es el precio estándar del proveedor. OrcaRouter no ofrece descuentos sobre el precio del proveedor. Sin embargo, usar dimensiones de salida más pequeñas (por ejemplo, 1024) no afecta el conteo de tokens; se paga por token de entrada independientemente de la dimensión. Para usuarios de muy alto volumen, OpenAI puede ofrecer descuentos por uso comprometido mediante acuerdos personalizados, de los cuales puedes beneficiarte de forma independiente.
OrcaRouter no almacena en caché las respuestas de embeddings. Cada solicitud se reenvía al proveedor en tiempo real y se factura en consecuencia. Si incrustas repetidamente textos idénticos, se te cobrará cada vez. Para ahorrar costos, implementa tu propia capa de caché en el lado del cliente, almacenando los embeddings para consultas frecuentes. Esto es especialmente efectivo para conjuntos de datos estáticos como descripciones de productos o contenido de preguntas frecuentes.
OrcaRouter pasa las solicitudes al proveedor sin limitación artificial, pero el proveedor impone sus propios límites de tasa. Para text-embedding-3-large, los límites típicos son alrededor de 3000–5000 solicitudes por minuto para el nivel estándar. Puede aumentar los límites contactando directamente a OpenAI. OrcaRouter reintenta automáticamente en errores 429, pero los reintentos excesivos podrían incurrir en costos adicionales. Supervise su uso para mantenerse dentro de los límites.
Envía una solicitud POST a https://api.orcarouter.ai/v1/embeddings con el parámetro model establecido en "openai/text-embedding-3-large". Incluye una cadena de entrada o un array de cadenas. Opcionalmente, establece el parámetro `dimensions` a un valor entre 256 y 3072. Puedes proporcionar una clave de API de usuario en el encabezado Authorization (token Bearer). La respuesta sigue la misma estructura que la API de Embeddings de OpenAI, que contiene una lista de objetos con embeddings y recuentos de tokens de uso.
Los parámetros principales son `model` (obligatorio: "openai/text-embedding-3-large"), `input` (una cadena o arreglo de cadenas, cada una de hasta 8192 tokens), y `dimensions` (entero, opcional, por defecto 3072). OrcaRouter también admite el parámetro `user` para rastrear el uso por usuario final. Otros parámetros de la API de Embeddings de OpenAI como `encoding_format` (float o base64) son compatibles. Consulte la documentación de OpenAI para obtener el conjunto completo.
Cambia la URL base de `https://api.openai.com/v1` a `https://api.orcarouter.ai/v1` y actualiza el ID del modelo de `"text-embedding-3-large"` a `"openai/text-embedding-3-large"`. Tu código existente que usa el cliente Python de OpenAI o una biblioteca HTTP debería funcionar sin otras modificaciones. La API de OrcaRouter es totalmente compatible, por lo que no se necesitan cambios en el formato del cuerpo de la solicitud. Asegúrate de tener una clave API de OrcaRouter.
Sí. Pase un array de cadenas como el parámetro `input`. La API devolverá un array de embeddings en el mismo orden. Esto es más eficiente que enviar solicitudes individuales debido a la menor sobrecarga. Para un rendimiento óptimo, agrupe textos de longitud similar para reducir el tiempo de inactividad. El modelo admite hasta 2048 cadenas por lote (consulte los límites del proveedor) y el total de tokens de entrada en el lote no debe exceder los 2048000 tokens por minuto.
La variante pequeña utiliza solo 512 dimensiones y cuesta $0.02 por 1M de tokens—aproximadamente 6.5× más barato. Es más rápida y más eficiente en almacenamiento, pero sacrifica precisión, especialmente en tareas semánticas de grano fino. Para agrupamiento simple o búsqueda de similitud a nivel de tema, el modelo pequeño puede ser suficiente. text-embedding-3-large es recomendado para recuperación de alta importancia donde la recuperación es lo más importante.
all-MiniLM-L6-v2 es un modelo gratuito y alojado localmente con 384 dimensiones y alta velocidad. Funciona bien en muchas tareas, pero no alcanza a text-embedding-3-large en benchmarks complejos como MTEB. La compensación es entre costo y calidad: los modelos de código abierto tienen costo cero por token, pero requieren hardware de cómputo. text-embedding-3-large ofrece una precisión superior, mientras que el gasto de $0.13/M tokens puede estar justificado para sistemas de producción donde la calidad de recuperación es una prioridad.
Los modelos embed-v3 de Cohere también admiten dimensiones variables y capacidades multilingües. Son comparables en pruebas de referencia en inglés, pero pueden manejar mejor textos en otros idiomas. El precio es similar (aproximadamente $0.10–0.15 por cada 1M de tokens). La elección suele depender de la preferencia del ecosistema y de los requisitos multilingües específicos. text-embedding-3-large tiene una ventana de contexto más grande (8192 frente a 512 de Cohere) y está mejor integrado con las herramientas de OpenAI.
Considera alternativas si tu caso de uso requiere soporte multilingüe más allá del inglés, necesita despliegue on-premise por privacidad de datos, o exige latencia extremadamente baja con alto rendimiento. Para tareas como generación de texto, usa GPT-4. Para embeddings de imagen-texto, usa CLIP o modelos multimodales. text-embedding-3-large es un codificador de inglés de propósito general; si tu dominio es altamente especializado, explora modelos de código abierto ajustados (fine-tuned).
Compatible con OpenAI: conserva tu SDK actual
https://api.orcarouter.ai/v1dimensionsencoding_format| Entrada / 1M tokens | $0.130 |
|---|---|
| Salida / 1M tokens | $0.130 |
| Moneda | USD |
Estimación según precio de lista
Solo una estimación: el número real de tokens depende del tokenizador del proveedor.
De qué hablan los desarrolladores esta semana
GET /api/public/models/openai/text-embedding-3-largeAbrir @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large