OpenAI GPT-4o-mini preview con contexto extendido para generación de texto orientada a búsqueda a bajo costo.
Este modelo es una variante preliminar de GPT-4o-mini de OpenAI, optimizada para generación de texto orientada a búsqueda. Solo acepta entradas de texto y ofrece una ventana de contexto de 128,000…
El modelo destaca en la comprensión y generación de texto basado en contextos grandes (hasta 128k tokens) y en la producción de salidas de hasta 16,384 tokens. Conserva las fortalezas principales de GPT-4o-mini: inferencia rápida, buen seguimiento de instrucciones y eficiencia de costos. El ajuste de búsqueda previa probablemente mejora su capacidad para extraer fragmentos relevantes, comparar información y responder preguntas que requieren escanear pasajes extensos. Se puede utilizar para resumen, respuestas a preguntas, extracción de información y conversaciones de múltiples turnos siempre que la entrada siga siendo texto. No admite llamadas a funciones ni uso de herramientas de forma predeterminada, aunque puedes incorporar resultados de búsqueda externos en tu mensaje.
Según su diseño, el modelo es ideal para tareas en las que un usuario proporciona un bloque de texto extenso que contiene la información necesaria para generar una respuesta. Esto incluye escenarios como: analizar un conjunto de resultados de búsqueda (proporcionados como texto), comparar descripciones de productos, extraer datos clave de documentos de investigación o resumir transcripciones de reuniones. El contexto de 128k permite procesar libros completos o colecciones de múltiples documentos en una sola solicitud. Sin embargo, puede no ser óptimo para escritura creativa, generación de código o tareas que requieran comprensión multimodal. Para eso, considere los modelos estándar GPT-4o-mini o GPT-4o.
Si su tarea es muy simple —como una pregunta y respuesta corta o clasificación— y no requiere la ventana de contexto grande ni el ajuste específico de búsqueda, un modelo más barato como GPT-4o-mini (sin preview) o incluso GPT-3.5 Turbo podría ser suficiente. El precio del modelo preview es idéntico al de GPT-4o-mini, por lo que el costo no es un diferenciador. Sin embargo, si la latencia es la prioridad, GPT-4o-mini ya es uno de los modelos más rápidos; la versión preview debería tener una velocidad similar. Si no necesita el enfoque de búsqueda, el GPT-4o-mini estándar puede estar más ampliamente probado y ser más estable.
El máximo de tokens de salida por solicitud es de 16,384. El contexto de entrada puede tener hasta 128,000 tokens. Estos son límites generosos que permiten respuestas largas y contextos muy extensos. Sin embargo, debido a que el modelo es solo de texto, todos los tokens deben ser texto. No hay soporte nativo para datos estructurados como la aplicación de esquemas JSON, aunque puedes indicarle al modelo que genere JSON. La vista previa puede tener límites de velocidad; al usar OrcaRouter, esos límites dependen del nivel de tu cuenta y la disponibilidad del proveedor de backend.
OpenAI no ha publicado puntuaciones de referencia independientes para este modelo de vista previa específico. Sin embargo, se sabe que el GPT-4o-mini base logra resultados sólidos en muchos benchmarks de NLP, siendo significativamente más rápido y más barato que GPT-4o. Los usuarios deben esperar un rendimiento general similar, con resultados potencialmente mejores en tareas que involucren recuperación de información o razonamiento de contexto largo debido al ajuste de búsqueda. Sin puntos de referencia oficiales, se recomienda evaluar el modelo en su propio conjunto de prueba para medir su efectividad en su dominio.
GPT-4o-mini es uno de los modelos más rápidos de la familia GPT-4, y esta versión preliminar debería tener una latencia comparable. El tiempo típico hasta el primer token es bajo, lo que lo hace adecuado para aplicaciones interactivas. La latencia exacta depende del tamaño de la solicitud, la longitud de la salida y la carga actual del proveedor. El contexto de 128k puede aumentar el tiempo hasta el primer token en comparación con contextos más cortos, pero una vez que comienza la transmisión, los tokens se producen rápidamente. OrcaRouter no añade una sobrecarga significativa; las llamadas a la API están optimizadas para una latencia mínima.
La principal fortaleza es la combinación de alta velocidad, bajo costo y la capacidad de manejar contextos muy largos. Para tareas donde la respuesta está presente en el texto proporcionado, este modelo puede extraerla eficientemente sin el mayor costo de GPT-4o. También hereda el fuerte cumplimiento de instrucciones de GPT-4o-mini. Sin embargo, puede no igualar el razonamiento matizado, la creatividad o la precisión factual de modelos más grandes como GPT-4o o GPT-4 Turbo. En tareas de razonamiento complejo, los modelos más grandes a menudo se desempeñan mejor, pero con mayor latencia y costo.
Como vista previa, el modelo puede tener errores no descubiertos o comportamiento incoherente. No ha sido probado tan ampliamente como las versiones estables. El ajuste de búsqueda podría causar resultados inesperados cuando la entrada no contiene suficiente información, lo que potencialmente conduce a alucinaciones. El modelo no puede usar herramientas externas ni navegar por la web a menos que usted proporcione el contenido relevante. Si su tarea requiere resultados de búsqueda web actualizados, deberá inyectarlos manualmente en el mensaje. Además, no admite imágenes ni audio, lo que limita su uso en escenarios multimodales.
OrcaRouter transmite el precio del proveedor sin margen de beneficio. Para openai/gpt-4o-mini-search-preview-2025-03-11, el costo es de $0.15 por 1 millón de tokens de entrada y $0.60 por 1 millón de tokens de salida. Los tokens de entrada incluyen todo el prompt (mensaje del sistema, mensajes del usuario y cualquier historial). Los tokens de salida son el texto generado. OrcaRouter no cobra tarifas adicionales. Esto hace que el modelo sea muy asequible para uso a gran volumen, especialmente al procesar contextos largos.
No se mencionan descuentos específicos por caché para este modelo en OrcaRouter. El precio es por token, de pago por uso. Algunos proveedores ofrecen caché de prompts que reduce el costo para prefijos repetidos, pero no está confirmado para esta vista previa. Normalmente, OpenAI puede ofrecer caché para ciertos modelos en su API, pero es posible que esta vista previa no sea elegible. Consulta la documentación de OpenAI para conocer las políticas de caché más recientes. En OrcaRouter, se te factura la misma tarifa independientemente de los patrones de uso.
A $0.15 de entrada / $0.60 de salida por millón de tokens, es idéntico al GPT-4o-mini estándar. Esto lo hace significativamente más barato que GPT-4o ($2.50 entrada / $10 salida) y GPT-4 Turbo ($10 entrada / $30 salida). Es más caro que modelos más antiguos como GPT-3.5 Turbo ($0.50/$1.50 por millón?). Sin embargo, el valor proviene del gran contexto y el ajuste de búsqueda. Si necesitas el contexto completo, la ventaja de coste sobre modelos más grandes es sustancial.
Para usar el modelo, establezca su URL base de API en https://api.orcarouter.ai/v1, su clave de API (de OrcaRouter) y el ID del modelo exactamente como "openai/gpt-4o-mini-search-preview-2025-03-11". Ejemplo estándar del cliente de OpenAI en Python: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) Todos los parámetros estándar de finalización de chat son compatibles, incluyendo temperature, max_tokens, top_p, frequency_penalty, presence_penalty y secuencias de parada. La transmisión está disponible usando stream=True.
El modelo admite los mismos parámetros que la API de OpenAI Chat Completions. Parámetros clave: temperature (predeterminado 1.0, rango 0-2), top_p (predeterminado 1.0), max_tokens (predeterminado varía, se puede configurar hasta 16384), stop (lista de cadenas), frequency_penalty (predeterminado 0), presence_penalty (predeterminado 0) y logit_bias. También puede pasar user_id para monitoreo. Aún no hay soporte nativo para el esquema response_format; si necesita una salida estructurada, use instrucciones en el prompt. El modelo respeta los mensajes de sistema para establecer el contexto.
La migración no requiere cambios en el código de la estructura de la solicitud más allá de actualizar el ID del modelo. En tu llamada a la API, reemplaza la cadena del modelo por "openai/gpt-4o-mini-search-preview-2025-03-11". Asegúrate de que tu URL base apunte a OrcaRouter (https://api.orcarouter.ai/v1) si aún no lo estás usando. Debido a que es una vista previa, prueba minuciosamente: las respuestas pueden diferir en estilo o precisión. Puedes cambiar condicionalmente entre modelos en tu aplicación almacenando el ID del modelo en la configuración. Monitorea el rendimiento y los costos para asegurarte de que la vista previa cumpla con tus necesidades antes del lanzamiento completo.
Ambos modelos comparten la misma arquitectura base y precio. El GPT-4o-mini estándar es un modelo de propósito general sin ajuste específico para búsqueda. La vista previa está diseñada para mejorar el rendimiento en tareas que implican extraer y sintetizar información de grandes contextos de texto, como el análisis de resultados de búsqueda. En la práctica, la vista previa puede manejar indicaciones largas con muchos datos de forma más precisa, mientras que la versión estándar puede ser mejor para conversaciones abiertas, escritura creativa o tareas donde no se necesita comportamiento de búsqueda. Si tu aplicación ya funciona con GPT-4o-mini estándar, probar la vista previa implica bajo riesgo debido a la API idéntica.
GPT-4o es el modelo multimodal insignia de OpenAI con una mayor capacidad de razonamiento, comprensión de imágenes y una ventana de contexto más amplia (también de 128k tokens). Sin embargo, es significativamente más caro ($2.50/$10 por millón de tokens) y más lento. La vista previa de búsqueda de GPT-4o-mini intercambia algo de profundidad de razonamiento por velocidad y costo. Para tareas que son puramente basadas en texto y no requieren razonamiento complejo de múltiples pasos, la vista previa puede ser suficiente a una fracción del costo. Para tareas que necesitan entrada multimodal o mayor precisión, GPT-4o sigue siendo superior.
Claude 3 Haiku (Anthropic) y Gemini 1.5 Flash (Google) también son modelos rápidos y económicos con grandes contextos. Haiku tiene un contexto de 200k tokens, Flash hasta 1M. Los precios varían. La vista previa de búsqueda de GPT-4o-mini es única porque es una vista previa de una variante afinada para búsqueda de OpenAI. Sin comparaciones directas de benchmarks, es difícil decir cuál es el mejor. Los tres son excelentes para tareas de recuperación de información. La elección puede depender de la compatibilidad con el ecosistema, el estilo de los prompts y el rendimiento específico en tus datos. OrcaRouter proporciona acceso unificado a todos ellos, permitiendo realizar pruebas A/B fácilmente.
Elija este modelo si su principal requisito es la eficiencia de costos, tiempos de respuesta rápidos, y está trabajando con entradas solo de texto que no requieren razonamiento avanzado. Es ideal para aplicaciones de alto volumen donde el contexto de cada solicitud es grande (por ejemplo, procesar documentos largos) pero la salida es relativamente corta. Si necesita la mejor precisión posible, especialmente en consultas ambiguas o complejas, o si necesita procesar imágenes, entonces GPT-4o es una mejor opción. El modelo de vista previa también es adecuado para la creación de prototipos y pruebas antes de comprometerse con un modelo de mayor costo.
Compatible con OpenAI: conserva tu SDK actual
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| Entrada / 1M tokens | $0.150 |
| Salida / 1M tokens | $0.600 |
| Moneda | USD |
Estimación según precio de lista
Solo una estimación: el número real de tokens depende del tokenizador del proveedor.
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11Abrir @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11