Le dernier modèle GPT-4 Turbo avec capacités de vision. Les requêtes visuelles peuvent désormais utiliser le mode JSON et l'appel de fonctions. Données d'entraînement : jusqu'en décembre 2023.
GPT-4 Turbo est un grand modèle de langage publié par OpenAI qui traite à la fois des entrées textuelles et des images. Il s'appuie sur l'architecture de GPT-4 mais étend la fenêtre de contexte à 128…
GPT-4 Turbo démontre de solides capacités de raisonnement, en particulier en mathématiques (score MATH-500 de 73,7), en génération de code et en résolution de problèmes en plusieurs étapes. Il peut suivre des instructions complexes sur de longues conversations, maintenir une cohérence sur des milliers de tokens et générer des explications techniques cohérentes. Le modèle est également capable d'analyser des images — telles que des captures d'écran, des diagrammes et du texte imprimé — lorsque l'entrée comprend des données d'image. Cependant, il n'est pas spécialisé dans tous les domaines ; pour des tâches simples de classification ou d'extraction, un modèle plus petit comme GPT-3.5 Turbo peut être suffisant et plus économique.
Une fenêtre de contexte de 128 000 tokens vous permet de saisir de grands documents — des livres entiers, de longs contrats juridiques, des dépôts de code complets ou de longues conversations — sans avoir besoin de diviser le contenu en morceaux. Par exemple, vous pouvez coller un article de recherche complet et poser des questions sur n'importe quelle section sans perdre les parties précédentes. Ceci est particulièrement utile pour des tâches telles que le résumé de documents, l'analyse législative ou le débogage d'une grande base de code où le modèle doit voir l'ensemble de la structure. Sur OrcaRouter, ce contexte est facturé en tant que tokens d'entrée, donc l'alimentation d'un document de 100K tokens coûterait environ 1,00 $ par requête (100K * 10 $/1M).
GPT-4 Turbo accepte les images dans l’entrée, ce qui lui permet de comprendre du contenu visuel comme des photographies, des diagrammes, des illustrations et des captures d’écran. Le modèle peut décrire ce qui se trouve dans une image, répondre à des questions sur son contenu et même effectuer un raisonnement sur des diagrammes (par exemple, interpréter un organigramme ou un graphique). Les images sont généralement fournies sous forme d’URL ou de données encodées en base64 dans le format de complétion de chat d’OpenAI. Le coût du traitement des images est inclus dans le nombre de tokens d’entrée, calculé en fonction de la résolution et du niveau de détail de l’image selon la formule de tarification d’OpenAI.
Si votre cas d'utilisation implique des tâches à volume élevé et de faible complexité — telles que la classification de texte simple, des Q&R basiques sur des contextes courts, ou une extraction répétitive — un modèle plus petit comme GPT-3.5 Turbo ou un modèle dédié finement ajusté peut produire des résultats acceptables pour une fraction du coût. Le prix de GPT-4 Turbo est environ 20 fois plus élevé que celui de GPT-3.5 Turbo par jeton d'entrée et 30 fois plus élevé par jeton de sortie. Pour les applications où la latence est importante, GPT-3.5 Turbo répond également plus rapidement. Évaluez le compromis entre précision et coût ; pour de nombreux pipelines de production, une approche hybride utilisant un modèle bon marché pour le filtrage et GPT-4 Turbo pour les cas complexes peut optimiser les dépenses.
GPT-4 Turbo a obtenu un score de 73,7 sur le benchmark MATH-500, qui évalue la capacité d'un modèle à résoudre des problèmes de mathématiques allant du niveau primaire au lycée, couvrant des sujets comme l'algèbre, la géométrie et le calcul. Ce score indique un raisonnement mathématique solide mais n'est pas de pointe ; certains modèles spécialisés ou ensembles plus grands peuvent dépasser 80. Ce benchmark est utile pour comparer les modèles sur la résolution systématique de problèmes plutôt que sur la génération brute de langage. Sur OrcaRouter, vous pouvez le tester vous-même en soumettant un ensemble de problèmes de mathématiques via l'API et en comparant les résultats.
Points forts : raisonnement approfondi, gestion de longs contextes et compétence en génération et explication de code. Il montre également de bonnes performances sur des tâches combinant texte et vision, comme l'interprétation de diagrammes. Les limites incluent un plafond de sortie relativement modeste de 4 096 tokens, ce qui signifie que la génération de longs textes (par exemple, rédiger un chapitre complet) nécessite plusieurs appels. Le modèle peut parfois produire des réponses incorrectes dans des cas limites — il n'est pas infaillible. De plus, il peut ne pas être le meilleur choix pour les applications en temps réel en raison d'une latence plus élevée par rapport à des modèles plus petits. Aucune mesure de vitesse n'est fournie, mais des rapports anecdotiques suggèrent qu'il est légèrement plus lent que GPT-3.5 Turbo.
Les chiffres de latence exacts pour GPT-4 Turbo sur OrcaRouter ne sont pas publiés ; les performances dépendent de l'infrastructure du fournisseur et de la charge des requêtes. En pratique, le temps d'inférence du modèle est plus long que celui des modèles plus petits en raison de son plus grand nombre de paramètres et du traitement du contexte. Pour des entrées courtes, les temps de réponse sont généralement de quelques secondes, tandis que des contextes très volumineux (par exemple 100K tokens) peuvent augmenter considérablement la latence, car le modèle doit traiter tous les tokens avant de générer une sortie. OrcaRouter ne revendique aucune accélération spécifique. Les utilisateurs ayant besoin d'une latence plus faible pour des applications interactives peuvent préférer un modèle plus rapide, tandis que le traitement par lots de tâches complexes reste viable.
La tarification est par token : $10.00 pour 1 million de tokens d'entrée et $30.00 pour 1 million de tokens de sortie. Cela correspond au tarif direct d'OpenAI, sans majoration supplémentaire de la part d'OrcaRouter. Les tokens d'entrée incluent le message système, les messages utilisateur, les tokens d'image et tout l'historique de conversation. Les tokens de sortie sont la réponse générée par le modèle. Le coût total d'une requête est calculé comme suit : (input_tokens * $0.00001) + (output_tokens * $0.00003). Il n'y a pas de frais minimum ni d'engagements mensuels ; vous ne payez que pour les tokens que vous utilisez.
GPT-4 Turbo est nettement plus cher que les modèles plus petits comme GPT-3.5 Turbo ($0.50/$1.50 pour 1 million de tokens) mais offre un raisonnement et une gestion du contexte supérieurs. Pour les tâches qui ne nécessitent que des capacités de base, utiliser GPT-4 Turbo peut entraîner des coûts inutiles. D'autre part, comparé au GPT-4 original ($30/$60 pour 1 million de tokens), GPT-4 Turbo est 33 % moins cher à l'entrée et 50 % moins cher à la sortie, ce qui en fait une option plus rentable pour les exigences de haute performance. La tarification sans marge d'OrcaRouter vous garantit de payer le même tarif qu'en utilisant OpenAI directement.
OrcaRouter n'offre pas de réductions spécifiques, de tarification en volume, ni de mise en cache des réponses pour GPT-4 Turbo au-delà des taux par jeton indiqués. La tarification est simple : vous payez exactement ce qu'OpenAI facture, sans frais supplémentaires. Il n'y a pas de remise d'engagement, de préachat de jetons, ni de tarification par paliers. La mise en cache des invites ou des réponses n'est pas annoncée, donc chaque requête est facturée au tarif standard. Si vous prévoyez des volumes très élevés, vous pouvez contacter OrcaRouter ou envisager d'utiliser un point de terminaison API dédié avec votre propre couche de mise en cache pour réduire les coûts répétés pour des entrées identiques.
Les jetons de sortie coûtent trois fois plus cher que les jetons d'entrée (30 $ contre 10 $ par million). Par conséquent, les longues générations peuvent rapidement faire augmenter la facture. Par exemple, générer une réponse de 2 000 jetons coûterait 0,06 $, tandis qu'une réponse de 4 000 jetons coûte 0,12 $. Pour contrôler les coûts, envisagez de définir un paramètre max_tokens plus bas, d'utiliser des prompts plus courts, ou de recourir à un raffinement itératif où le modèle produit des sorties plus courtes puis les développe dans un appel séparé uniquement lorsque cela est nécessaire. Pour des tâches telles que le résumé, un modèle avec un coût en jetons de sortie plus faible pourrait être préférable si le contexte n'est pas critique.
Vous pouvez appeler GPT-4 Turbo via l'API compatible OpenAI d'OrcaRouter. Tout d'abord, obtenez une clé API auprès d'OrcaRouter. Ensuite, définissez l'URL de base sur https://api.orcarouter.ai/v1 et utilisez l'ID de modèle "openai/gpt-4-turbo" dans vos requêtes de complétion de chat. Par exemple, avec le SDK Python OpenAI, vous créeriez un client avec base_url pointant vers OrcaRouter et model="openai/gpt-4-turbo". Les formats de requête et de réponse sont identiques à ceux de l'API native d'OpenAI, donc des modifications de code minimes sont nécessaires pour passer d'une utilisation directe d'OpenAI.
L'API prend en charge les paramètres standard de complétion de chat OpenAI : messages (tableau avec rôle et contenu), temperature (0-2), top_p, n, stream, stop, max_tokens (limité à 4096), presence_penalty, frequency_penalty, logit_bias, user, et appel de fonctions/outils. Pour les entrées d'image, vous pouvez inclure une partie de contenu avec le type "image_url" et une URL. Le modèle ne prend pas en charge de paramètres supplémentaires au-delà de la spécification OpenAI. Tous les paramètres fonctionnent exactement comme documenté pour GPT-4 Turbo d'OpenAI. Notez que le paramètre max_tokens ne peut pas dépasser 4096, qui est la limite de sortie du modèle.
La migration est simple : remplacez votre URL de base OpenAI par le point de terminaison d'OrcaRouter https://api.orcarouter.ai/v1 et changez le nom du modèle en "openai/gpt-4-turbo". Utilisez votre clé API OrcaRouter au lieu de votre clé API OpenAI. Le reste de votre code — formatage des messages, streaming, gestion des erreurs — reste inchangé car l'API est entièrement compatible. Si vous utilisiez la bibliothèque Python OpenAI, vous pouvez simplement définir openai.api_base (ou l'équivalent dans les versions plus récentes) sur l'URL d'OrcaRouter. Cela vous permet de tester GPT-4 Turbo via OrcaRouter sans réécrire aucune logique.
GPT-4 Turbo est une évolution de GPT-4 avec une fenêtre de contexte plus large (128K contre jusqu'à 32K dans les variantes précédentes de GPT-4) et un tarif par token moins cher : 10 $/30 $ pour 1 million de tokens contre 30 $/60 $ pour 1 million de tokens pour GPT-4. Les deux modèles prennent en charge la vision, mais GPT-4 Turbo améliore également l'efficacité et la qualité de raisonnement mineure. Dans des benchmarks comme MATH-500, GPT-4 Turbo obtient un score de 73,7, tandis que le GPT-4 original (avec un contexte de 8K) obtenait environ 52,9 sur un ensemble de test MATH plus restreint — les chiffres ne sont pas directement comparables en raison de versions de test différentes, mais l'amélioration est révélatrice. Sur OrcaRouter, les anciens modèles GPT-4 sont également disponibles à leurs tarifs respectifs.
GPT-3.5 Turbo est bien moins cher (0,50 $ / 1,50 $ par 1M tokens) et plus rapide, ce qui le rend adapté aux applications à grand volume et à faible latence. Cependant, il dispose d'une fenêtre de contexte plus petite (16K ou 4K selon la variante) et de capacités de raisonnement, de génération de code et de vision nettement plus faibles. Pour les tâches nécessitant un raisonnement en plusieurs étapes ou un grand contexte, GPT-4 Turbo surpasse clairement. Dans une comparaison directe sur le raisonnement mathématique, GPT-3.5 Turbo obtient généralement un score inférieur à 30 sur MATH-500, tandis que GPT-4 Turbo atteint 73,7. Choisissez GPT-3.5 Turbo pour les tâches simples et les économies de coûts, mais fiez-vous à GPT-4 Turbo lorsque la précision ou la longueur du contexte est critique.
Une comparaison directe n'est pas fournie, mais les connaissances générales montrent qu'Anthropic Claude 3 et Google Gemini 1.5 offrent des capacités similaires. Claude 3 Opus dispose d'une fenêtre de contexte de 200K et d'un raisonnement comparable, tandis que Gemini 1.5 Pro peut gérer jusqu'à 1 million de jetons. Cependant, chaque modèle a des tarifications et des profils de performance différents. Sur OrcaRouter, vous pouvez également accéder aux modèles d'autres fournisseurs pour comparaison. GPT-4 Turbo reste compétitif pour son équilibre entre prix, qualité de raisonnement et écosystème développeur (SDK OpenAI). Pour les tâches de vision, Claude et Gemini prennent également en charge l'entrée d'image.
Compatible OpenAI — gardez votre SDK actuel
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Entrée / 1M tokens | $10.00 |
| Sortie / 1M tokens | $30.00 |
| Devise | USD |
Estimation basée sur le tarif public
Estimation seulement — le nombre réel de tokens dépend du tokeniseur du fournisseur.
GET /api/public/models/openai/gpt-4-turboOuvrir @misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo