O mais recente modelo GPT-4 Turbo com capacidades de visão. As solicitações de visão agora podem usar o JSON mode e function calling. Dados de treinamento: até dezembro de 2023.
GPT-4 Turbo é um modelo de linguagem de grande escala lançado pela OpenAI que processa entradas de texto e imagem. Ele se baseia na arquitetura do GPT-4, mas aumenta a janela de contexto para 128.000…
GPT-4 Turbo demonstra fortes capacidades de raciocínio, particularmente em matemática (pontuação MATH-500 de 73,7), geração de código e resolução de problemas em várias etapas. Ele pode seguir instruções complexas em conversas longas, manter consistência ao longo de milhares de tokens e gerar explicações técnicas coerentes. O modelo também é capaz de analisar imagens — como capturas de tela, diagramas e texto impresso — quando a entrada inclui dados de imagem. No entanto, não é especializado em todos os domínios; para tarefas simples de classificação ou extração, um modelo menor como o GPT-3.5 Turbo pode ser suficiente e mais econômico.
Uma janela de contexto de 128.000 tokens permite que você insira documentos grandes — livros inteiros, contratos legais extensos, repositórios de código completos ou longas conversas — sem precisar dividir o conteúdo em partes. Por exemplo, você pode colar um artigo de pesquisa completo e fazer perguntas sobre qualquer seção sem perder as partes anteriores. Isso é particularmente valioso para tarefas como sumarização de documentos, análise legislativa ou depuração de uma grande base de código, onde o modelo precisa ver toda a estrutura. No OrcaRouter, esse contexto é cobrado como tokens de entrada, então alimentar um documento de 100K tokens custaria aproximadamente $1,00 por consulta (100K * $10/1M).
GPT-4 Turbo aceita imagens como parte da entrada, permitindo que ele compreenda conteúdo visual, como fotografias, diagramas, ilustrações e capturas de tela. O modelo pode descrever o que está em uma imagem, responder perguntas sobre seu conteúdo e até realizar raciocínio sobre diagramas (por exemplo, interpretar um fluxograma ou um gráfico). Imagens são normalmente fornecidas como URLs ou dados codificados em base64 no formato de conclusão de chat da OpenAI. O custo para processamento de imagem está incluído na contagem de tokens de entrada, que é calculada com base na resolução da imagem e no nível de detalhe de acordo com a fórmula de preços da OpenAI.
Se o seu caso de uso envolver tarefas de alto volume e baixa complexidade — como classificação simples de texto, perguntas e respostas básicas em contextos curtos ou extração repetitiva — um modelo menor como o GPT-3.5 Turbo ou um modelo dedicado ajustado pode produzir resultados aceitáveis por uma fração do custo. O preço do GPT-4 Turbo é aproximadamente 20 vezes maior que o do GPT-3.5 Turbo por token de entrada e 30 vezes maior por token de saída. Para aplicações onde a latência importa, o GPT-3.5 Turbo também responde mais rápido. Avalie a compensação entre precisão e custo; para muitos pipelines de produção, uma abordagem híbrida usando um modelo barato para filtragem e o GPT-4 Turbo para casos complexos pode otimizar os gastos.
O GPT-4 Turbo alcançou uma pontuação de 73,7 no benchmark MATH-500, que avalia a capacidade de um modelo de resolver problemas de matemática do ensino fundamental ao médio, abrangendo tópicos como álgebra, geometria e cálculo. Essa pontuação indica forte raciocínio matemático, mas não é estado da arte; alguns modelos especializados ou ensembles maiores podem ultrapassar 80. O benchmark é útil para comparar modelos na resolução sistemática de problemas, em vez de geração bruta de linguagem. No OrcaRouter, você pode testar isso por conta própria enviando um conjunto de problemas de matemática através da API e comparando os resultados.
Os pontos fortes incluem raciocínio profundo, lidar com contextos longos e competência na geração e explicação de código. Também demonstra bom desempenho em tarefas que combinam texto e visão, como interpretar diagramas. As limitações incluem um limite de saída relativamente modesto de 4.096 tokens, o que significa que a geração de textos longos (por exemplo, escrever um capítulo completo) requer múltiplas chamadas. O modelo pode, por vezes, produzir respostas incorretas em casos excecionais — não é infalível. Além disso, pode não ser a melhor escolha para aplicações em tempo real devido à latência mais alta em comparação com modelos mais pequenos. Não são fornecidas medições de velocidade, mas relatos anedóticos sugerem que é ligeiramente mais lento que o GPT-3.5 Turbo.
Os números exatos de latência para o GPT-4 Turbo no OrcaRouter não são publicados; o desempenho depende da infraestrutura do provedor e da carga de solicitações. Na prática, o tempo de inferência do modelo é maior do que o de modelos menores devido ao seu maior número de parâmetros e processamento de contexto. Para entradas curtas, os tempos de resposta geralmente são de alguns segundos, enquanto contextos muito grandes (por exemplo, 100 mil tokens) podem aumentar significativamente a latência, pois o modelo precisa processar todos os tokens antes de gerar a saída. O OrcaRouter não anuncia nenhuma aceleração específica. Usuários que precisam de menor latência para aplicações interativas podem preferir um modelo mais rápido, enquanto o processamento em lote de tarefas complexas continua viável.
O preço é por token: $10.00 por 1 milhão de tokens de entrada e $30.00 por 1 milhão de tokens de saída. Isso corresponde à taxa direta da OpenAI, sem nenhum acréscimo adicional da OrcaRouter. Os tokens de entrada incluem a mensagem do sistema, as mensagens do usuário, os tokens de imagem e qualquer histórico de conversação. Os tokens de saída são a resposta gerada pelo modelo. O custo total de uma solicitação é calculado como (input_tokens * $0,00001) + (output_tokens * $0,00003). Não há taxas mínimas ou compromissos mensais; você paga apenas pelos tokens que utiliza.
O GPT-4 Turbo é significativamente mais caro do que modelos menores como o GPT-3.5 Turbo ($0.50/$1.50 por 1M tokens), mas oferece raciocínio e manuseio de contexto superiores. Para tarefas que exigem apenas capacidades básicas, usar o GPT-4 Turbo pode levar a custos desnecessários. Por outro lado, em comparação com o GPT-4 original ($30/$60 por 1M tokens), o GPT-4 Turbo é 33% mais barato na entrada e 50% mais barato na saída, tornando-o uma opção mais econômica para requisitos de alto desempenho. O preço sem margem do OrcaRouter garante que você pague a mesma taxa que ao usar a OpenAI diretamente.
OrçaRouter não oferece descontos específicos, preços por volume ou cache de respostas para GPT-4 Turbo além das taxas por token informadas. Os preços são diretos: você paga exatamente o que a OpenAI cobra, sem taxas adicionais. Não há desconto por compromisso, pré-compra de tokens ou preços escalonados. O cache de prompts ou respostas não é divulgado, portanto cada solicitação é cobrada pela taxa padrão. Se você prevê volumes muito altos, talvez queira entrar em contato com a OrcaRouter ou considerar o uso de um endpoint de API dedicado com sua própria camada de cache para reduzir custos repetidos para entradas idênticas.
Os tokens de saída custam três vezes mais que os tokens de entrada ($30 vs. $10 por 1M). Portanto, gerações longas podem aumentar rapidamente a conta. Por exemplo, gerar uma resposta de 2.000 tokens custaria $0.06, enquanto uma resposta de 4.000 tokens custa $0.12. Para controlar os custos, considere definir um parâmetro max_tokens mais baixo, usar prompts mais curtos ou empregar refinamento iterativo, onde o modelo produz saídas mais curtas e depois as expande em uma chamada separada apenas quando necessário. Para tarefas como sumarização, um modelo com um custo de token de saída menor pode ser preferível se o contexto não for crítico.
Você pode chamar o GPT-4 Turbo através da API compatível com OpenAI do OrcaRouter. Primeiro, obtenha uma chave de API do OrcaRouter. Em seguida, defina a URL base como https://api.orcarouter.ai/v1 e use o ID do modelo "openai/gpt-4-turbo" nas suas solicitações de conclusão de chat. Por exemplo, com o SDK Python da OpenAI, você criaria um cliente com base_url apontando para o OrcaRouter e model="openai/gpt-4-turbo". Os formatos de requisição e resposta são idênticos aos da API nativa da OpenAI, portanto, são necessárias alterações mínimas no código para migrar do uso direto da OpenAI.
A API suporta parâmetros padrão de conclusão de chat do OpenAI: messages (array com role e content), temperature (0-2), top_p, n, stream, stop, max_tokens (limitado a 4096), presence_penalty, frequency_penalty, logit_bias, user, e chamada de função/ferramentas. Para entradas de imagem, você pode incluir uma parte de conteúdo com type "image_url" e url. O modelo não suporta parâmetros adicionais além da especificação do OpenAI. Todos os parâmetros funcionam exatamente como documentado para o GPT-4 Turbo do OpenAI. Observe que o parâmetro max_tokens não pode exceder 4096, que é o limite de saída do modelo.
A migração é direta: substitua a URL base do OpenAI pelo endpoint do OrcaRouter https://api.orcarouter.ai/v1 e altere o nome do modelo para "openai/gpt-4-turbo". Use sua chave de API do OrcaRouter em vez da chave de API do OpenAI. O restante do seu código — formatação de mensagens, streaming, tratamento de erros — permanece inalterado porque a API é totalmente compatível. Se você estava usando a biblioteca Python do OpenAI, basta definir openai.api_base (ou o equivalente em versões mais recentes) para a URL do OrcaRouter. Isso permite que você teste o GPT-4 Turbo via OrcaRouter sem reescrever nenhuma lógica.
GPT-4 Turbo é uma evolução do GPT-4 com uma janela de contexto maior (128K vs. até 32K nas variantes anteriores do GPT-4) e preço por token mais barato: $10/$30 por 1M de tokens vs. $30/$60 por 1M de tokens para o GPT-4. Ambos os modelos suportam visão, mas o GPT-4 Turbo também melhora a eficiência e a qualidade do raciocínio de forma modesta. Em benchmarks como o MATH-500, o GPT-4 Turbo obteve 73,7, enquanto o GPT-4 original (com contexto de 8K) obteve cerca de 52,9 em um conjunto de teste MATH menor — os números não são diretamente comparáveis devido a versões de teste diferentes, mas a melhoria é indicativa. No OrcaRouter, os modelos GPT-4 mais antigos também estão disponíveis com seus respectivos preços.
GPT-3.5 Turbo é muito mais barato ($0,50/$1,50 por 1M de tokens) e mais rápido, sendo adequado para aplicações de alto volume e baixa latência. No entanto, possui uma janela de contexto menor (16K ou 4K dependendo da variante) e capacidades significativamente mais fracas de raciocínio, geração de código e visão. Para tarefas que exigem raciocínio de múltiplas etapas ou contexto amplo, o GPT-4 Turbo claramente supera. Em uma comparação direta de raciocínio matemático, o GPT-3.5 Turbo normalmente pontua abaixo de 30 no MATH-500, enquanto o GPT-4 Turbo alcança 73,7. Escolha o GPT-3.5 Turbo para tarefas simples e economia de custos, mas opte pelo GPT-4 Turbo quando precisão ou extensão de contexto for crítica.
Uma comparação direta frente a frente não é fornecida, mas o conhecimento público geral mostra que Anthropic Claude 3 e Google Gemini 1.5 oferecem capacidades semelhantes. O Claude 3 Opus tem uma janela de contexto de 200K e raciocínio comparável, enquanto o Gemini 1.5 Pro pode lidar com até 1M de tokens. No entanto, cada modelo tem diferentes perfis de preço e desempenho. No OrcaRouter, você também pode acessar modelos de outros provedores para comparação. O GPT-4 Turbo continua competitivo por seu equilíbrio entre preço, qualidade de raciocínio e ecossistema de desenvolvedores (OpenAI SDK). Para tarefas de visão, tanto Claude quanto Gemini também suportam entrada de imagem.
Compatível com OpenAI — mantenha seu SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Entrada / 1M tokens | $10.00 |
| Saída / 1M tokens | $30.00 |
| Moeda | USD |
Estimativa com base no preço de tabela
Apenas uma estimativa — a contagem real de tokens depende do tokenizador do provedor.
GET /api/public/models/openai/gpt-4-turboAbrir @misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo