GPT-4o ("o" por "omni") es el último modelo de inteligencia artificial de OpenAI, que admite entradas tanto de texto como de imágenes con salidas de texto. Mantiene el nivel de inteligencia de [GPT-4 Turbo](/models/openai/gpt-4-turbo) mientras es dos veces más...
GPT-4o es un modelo de lenguaje grande multimodal de OpenAI. Acepta entradas de texto, imagen y archivos, y produce texto. El modelo está diseñado para usuarios que necesitan procesar contenido…
GPT-4o sobresale en razonamiento multimodal, procesamiento de contexto largo y resolución de problemas matemáticos. Su contexto de 128k tokens le permite retener y referenciar grandes cantidades de información, lo que lo hace útil para tareas como análisis de documentos, generación de código en proyectos completos y conversaciones complejas de múltiples turnos. El modelo obtuvo 75.9 en el benchmark MATH-500, lo que indica una fuerte capacidad para resolver problemas matemáticos. Además, su capacidad para aceptar entradas de imágenes y archivos significa que puede razonar sobre contenido visual—como diagramas, gráficos o fotografías—en combinación con texto. En OrcaRouter, puedes aprovechar estas fortalezas sin pagar ningún margen sobre los precios listados de OpenAI.
GPT-4o es altamente eficaz para tareas que requieren comprensión tanto textual como visual. Ejemplos incluyen: responder preguntas sobre un diagrama en un libro de texto, extraer datos de una factura escaneada, generar código basado en una imagen de wireframe, o resumir un artículo de investigación extenso con figuras. Su amplio contexto también lo hace adecuado para analizar bases de código completas o registros de conversaciones largos. El razonamiento matemático es otra de sus fortalezas, como lo demuestra su puntuación de 75.9 en MATH-500. En OrcaRouter, estos casos de uso son sencillos de implementar: envías una solicitud estándar compatible con OpenAI con los tipos de contenido adecuados, y el modelo devuelve una respuesta de texto.
Si tu tarea no requiere entrada multimodal o un contexto amplio, un modelo más económico podría ser más rentable. Por ejemplo, para tareas simples de clasificación de texto, resumen o traducción que encajen en un contexto más pequeño, modelos como GPT-3.5 Turbo (con un precio de $0.50 por 1M de entrada y $1.50 por 1M de salida) son significativamente más baratos. El costo de entrada de GPT-4o es de $2.50 por 1M de tokens, que es cinco veces más alto que el de GPT-3.5 Turbo. Si estás procesando grandes volúmenes de datos solo de texto sin necesidad de razonamiento multimodal, un modelo más pequeño puede reducir los costos. OrcaRouter ofrece una variedad de modelos para que puedas elegir el mejor equilibrio entre precio y rendimiento.
GPT-4o está diseñado para aceptar imágenes y archivos como entradas, lo que le permite realizar tareas como responder preguntas visuales, generar descripciones de imágenes y comprender documentos. Aunque no se proporcionan puntuaciones específicas de benchmarks multimodales en los datos disponibles, la arquitectura del modelo admite el razonamiento conjunto sobre texto e imágenes. Por ejemplo, puede contar objetos en una imagen o interpretar un gráfico. El modelo solo genera texto, no imágenes. En OrcaRouter, las solicitudes multimodales se envían usando los mismos parámetros que la API de OpenAI: incluya una parte de image_url o contenido de archivo en el arreglo de mensajes. El modelo procesa los datos visuales y devuelve una respuesta de texto basada en la entrada combinada.
GPT-4o logra una puntuación de 75.9 en el benchmark MATH-500. MATH-500 es un subconjunto del dataset MATH, que consta de 500 problemas matemáticos desafiantes en diversos temas como álgebra, geometría y cálculo. Una puntuación de 75.9 significa que el modelo resuelve correctamente aproximadamente el 76% de estos problemas. Esto indica una capacidad sólida de razonamiento matemático, aunque no perfecta. En comparación, muchos modelos más pequeños obtienen puntuaciones por debajo de 50 en benchmarks similares. Esta puntuación refleja la capacidad del modelo para realizar razonamiento de múltiples pasos y manejar notación matemática. En OrcaRouter, puedes usar GPT-4o para tareas relacionadas con matemáticas, como tutorías, preparación de exámenes o verificación de cálculos.
Como todos los modelos de lenguaje grandes, GPT-4o tiene limitaciones. Puede producir respuestas incorrectas o alucinadas, especialmente en temas con datos de entrenamiento limitados o que requieren conocimientos muy recientes (su fecha de corte de entrenamiento no se proporciona en los datos, pero como modelo de OpenAI tiene un corte de conocimiento). Puede ser sensible a la redacción de las indicaciones y puede tener dificultades con instrucciones ambiguas. A pesar de su sólida puntuación en MATH-500, no es infalible en demostraciones matemáticas complejas. El modelo procesa imágenes pero no genera imágenes. Además, la gran ventana de contexto (128k tokens) puede llevar a un mayor uso de tokens, aumentando los costos si no se gestiona con cuidado. En OrcaRouter, puedes mitigar algunos problemas ajustando parámetros como temperature y top_p.
Las cifras exactas de latencia para GPT-4o no se proporcionan en los datos. En general, GPT-4o es un modelo grande y tendrá una latencia mayor en comparación con modelos más pequeños como GPT-3.5 Turbo o Llama 3.1 8B. Sin embargo, es probable que esté optimizado para una inferencia más rápida que el GPT-4 original. A través de OrcaRouter, puedes esperar tiempos de respuesta similares a los que obtendrías directamente de OpenAI, ya que la plataforma enruta las solicitudes sin procesamiento adicional. Para aplicaciones en tiempo real donde la velocidad es crítica, considera usar un modelo más rápido y económico para tareas simples y reservar GPT-4o para consultas complejas que se beneficien de sus capacidades.
En OrcaRouter, GPT-4o tiene un precio exactamente igual a las tarifas publicadas por OpenAI: $2.50 por 1 millón de tokens de entrada y $10.00 por 1 millón de tokens de salida. OrcaRouter no aplica ningún margen adicional. La facturación se basa en el recuento de tokens redondeado al token entero más cercano. Los tokens de entrada incluyen el texto, las imágenes y los archivos que envíes, aunque las imágenes suelen ser tokenizadas a una tasa fija por el modelo (por ejemplo, cada imagen consume un número determinado de tokens). Los tokens de salida son el texto generado por el modelo. Solo se te cobra por lo que usas; no hay tarifas mensuales ni compromisos mínimos. Este precio transparente te permite presupuestar con precisión tus cargas de trabajo de IA.
La principal compensación es el costo frente a la capacidad. GPT-4o cuesta $2.50 de entrada y $10 de salida por 1M de tokens. Modelos más baratos como GPT-3.5 Turbo ($0.50 de entrada, $1.50 de salida) o Llama 3.1 8B son más económicos para tareas simples o de alto volumen. Sin embargo, GPT-4o ofrece entrada multimodal y una ventana de contexto más grande. Si su aplicación requiere comprender imágenes o procesar documentos muy largos, GPT-4o puede ser necesario a pesar del costo más alto. Para tareas solo de texto con entradas cortas, un modelo más barato puede ahorrar dinero. En OrcaRouter, puede cambiar entre modelos con un simple cambio del ID del modelo, por lo que puede optimizar el costo para cada solicitud.
No. OrcaRouter factura GPT-4o exactamente a la tarifa del proveedor sin margen de beneficio. Los precios son $2.50 por 1M de tokens de entrada y $10.00 por 1M de tokens de salida. No hay tarifas ocultas, ventas adicionales ni cargos adicionales. OrcaRouter pasa el costo directamente desde OpenAI. Esta política se aplica a todos los modelos listados en la plataforma. La URL base es https://api.orcarouter.ai/v1 y el ID del modelo es "openai/gpt-4o". Puede verificar los precios en cualquier momento revisando su panel de uso. No hay precios escalonados ni compromiso requerido: pague solo por los tokens consumidos.
Para usar GPT-4o a través de OrcaRouter, envíe solicitudes HTTP POST a la URL base https://api.orcarouter.ai/v1/chat/completions. Establezca el parámetro model en "openai/gpt-4o". Su solicitud debe incluir una clave API (proporcione su clave API de OrcaRouter en el encabezado Authorization). El cuerpo de la solicitud sigue el formato estándar de completaciones de chat de OpenAI: un arreglo messages con pares role/content, parámetros opcionales como temperature, max_tokens, top_p, etc. Para entradas multimodales, incluya partes de contenido que tengan un tipo "text" o "image_url" (o file). La respuesta es un objeto JSON que contiene la completación del modelo. Ejemplo de comando curl: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"¿Qué hay en esta imagen?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
Al llamar a GPT-4o a través de OrcaRouter, puedes usar los mismos parámetros que la API de OpenAI. Los parámetros de uso común incluyen: - temperature (float, 0-2): Controla la aleatoriedad. Valores más bajos, como 0.2, hacen que la salida sea más determinista. - max_tokens (entero, por defecto 16384): Número máximo de tokens en la respuesta. - top_p (float, 0-1): Parámetro de muestreo de núcleo. - frequency_penalty y presence_penalty: Reducen la repetición. - stop (cadena o arreglo): Secuencias de parada. - stream (booleano): Habilita respuestas en streaming (verdadero/falso). - seed (entero): Para muestreo determinista. También puedes usar el campo opcional "user" para rastrear usuarios individuales. El modelo admite llamadas a funciones y uso de herramientas, aunque no estén explícitamente listados en los hechos. En OrcaRouter, se aceptan todos los parámetros estándar.
Migrar es sencillo porque OrcaRouter ofrece un endpoint compatible con OpenAI. Pasos: 1. Obtén una clave API de OrcaRouter (regístrate en su sitio web). 2. Cambia la base URL de https://api.openai.com/v1 a https://api.orcarouter.ai/v1. 3. Cambia el model ID de "gpt-4o" a "openai/gpt-4o". 4. Usa el mismo formato del request body. No se necesitan cambios de código aparte del endpoint y el nombre del modelo. 5. Actualiza el encabezado Authorization para usar tu clave API de OrcaRouter. Se recomienda probar con una sola solicitud. OrcaRouter usa los mismos modos streaming y non-streaming. No hay diferencia en el comportamiento del modelo, ya que es el mismo modelo subyacente de OpenAI. Tus prompts y parámetros existentes funcionarán exactamente igual.
La URL base para la API de OrcaRouter es https://api.orcarouter.ai/v1. El ID de modelo específico para usar con GPT-4o es "openai/gpt-4o". Esta cadena exacta debe pasarse en el parámetro "model" de la solicitud. Por ejemplo, en una llamada al endpoint de chat completions, se establece "model": "openai/gpt-4o". OrcaRouter admite este modelo tanto para completions en streaming como sin streaming. Si estás usando un SDK o biblioteca de OpenAI configurado para apuntar a una URL base personalizada, simplemente establece la URL base en https://api.orcarouter.ai/v1 y proporciona tu clave de API de OrcaRouter. El prefijo "openai/" del ID de modelo lo distingue de los modelos de otros proveedores en OrcaRouter.
GPT-4o es el sucesor multimodal de GPT-4 Turbo. Ambos modelos tienen una ventana de contexto de 128k. Sin embargo, GPT-4o añade soporte nativo para entrada de imágenes y archivos, mientras que GPT-4 Turbo era principalmente solo texto (con visión disponible solo en versiones separadas). GPT-4o también tiene una salida máxima más alta de 16,384 tokens en comparación con los típicos 4,096 u 8,192 de GPT-4 Turbo. Los precios difieren: GPT-4 Turbo cuesta $10.00 por 1M de entrada y $30.00 por 1M de salida, lo que hace que GPT-4o sea significativamente más barato ($2.50/$10.00). La puntuación MATH-500 de 75.9 para GPT-4o es generalmente más alta que los benchmarks reportados de GPT-4 Turbo, aunque las puntuaciones exactas de Turbo no están en los hechos. En OrcaRouter, ambos modelos están disponibles sin margen adicional.
GPT-3.5 Turbo es un modelo más barato y rápido, optimizado para tareas simples. Su ventana de contexto es de 16,384 tokens, mucho más pequeña que los 128k de GPT-4o. GPT-3.5 no admite entradas de imagen, solo texto. Su precio es de $0.50 por cada 1M de tokens de entrada y $1.50 por cada 1M de tokens de salida, lo que lo hace aproximadamente 5 veces más barato para entradas y 6.6 veces más barato para salidas que GPT-4o. En el benchmark MATH-500, GPT-3.5 Turbo suele obtener puntuaciones mucho más bajas (no se proporcionan cifras exactas). GPT-4o es más adecuado para razonamiento complejo, documentos largos y tareas multimodales. Usa GPT-3.5 Turbo para interacciones simples y de gran volumen. En OrcaRouter, puedes cambiar fácilmente entre ellos modificando el ID del modelo.
Claude 3.5 Sonnet es un modelo competidor de Anthropic. También tiene una ventana de contexto de 200k (más grande que los 128k de GPT-4o) y admite entradas de imágenes. El precio de Claude 3.5 Sonnet suele ser de $3.00 por 1M de entrada y $15.00 por 1M de salida, lo que hace que GPT-4o sea más barato en entrada pero más caro en salida? En realidad, GPT-4o cuesta $2.50 de entrada frente a $3.00, por lo que es más barato; salida $10 frente a $15, por lo que también es más barato. En los benchmarks, Claude 3.5 Sonnet logra un rendimiento similar en matemáticas y razonamiento, pero las puntuaciones exactas varían. Ambos modelos son sólidos en tareas multimodales. La elección entre ellos puede depender de características de rendimiento específicas o preferencias del ecosistema. En OrcaRouter, ambos son accesibles a través del mismo formato de API con diferentes IDs de modelo (por ejemplo, "anthropic/claude-3.5-sonnet").
Llama 3.1 405B es un modelo de pesos abiertos de Meta con 405 mil millones de parámetros. También admite una ventana de contexto de 128k y entrada de texto, pero sus capacidades multimodales son menos claras (puede que no admita imágenes de forma nativa). Llama 3.1 405B está disponible a través de OrcaRouter a un precio más bajo, típicamente alrededor de $1.00 por 1M de tokens de entrada y $1.00 por 1M de tokens de salida (aproximado, no proporcionado en los hechos). Sus puntuaciones de referencia en MATH-500 no se proporcionan, pero probablemente sean más bajas que el 75.9 de GPT-4o. GPT-4o es propietario y ofrece un mejor razonamiento multimodal listo para usar y potencialmente mayor precisión en tareas complejas. Llama 3.1 405B es una buena opción para usuarios que quieren un modelo abierto o necesitan autohospedarlo. En OrcaRouter, puedes comparar ambos modelos lado a lado.
Compatible con OpenAI: conserva tu SDK actual
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Entrada / 1M tokens | $2.50 |
| Salida / 1M tokens | $10.00 |
| Lectura caché / 1M | $1.25 |
| Moneda | USD |
Estimación según precio de lista
Solo una estimación: el número real de tokens depende del tokenizador del proveedor.
GET /api/public/models/openai/gpt-4oAbrir @misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o