OpenAI GPT-4-0613 : contexte 8K, 13.1 AA Coding, modèle texte uniquement à $30/$60 pour 1 million de tokens.
OpenAI GPT-4-0613 est un point de contrôle spécifique du grand modèle de langage GPT-4 publié par OpenAI en juin 2023. Il fonctionne exclusivement sur des entrées textuelles et produit des sorties…
GPT-4-0613 excelle dans les tâches qui nécessitent un raisonnement approfondi, une génération de langage précise et le respect d'instructions complexes. Les cas d'usage courants incluent la génération et la révision de code dans des langages comme Python, JavaScript et C++, ainsi que le débogage de bases de code existantes. Il peut analyser et résumer de grands corpus de texte, produire des rapports structurés et rédiger des documents techniques ou juridiques détaillés. Le modèle est également efficace pour décomposer des problèmes complexes en étapes claires et séquentielles, ce qui le rend utile pour la planification et la résolution de problèmes. Bien qu'il travaille principalement en anglais, il peut traiter plusieurs autres langues avec une fiabilité variable. Pour les tâches qui ne nécessitent pas ce niveau de sophistication, des modèles plus petits ou moins coûteux peuvent offrir une solution plus économique.
GPT-4-0613 est un modèle premium avec un coût par jeton plus élevé. Il n'est pas idéal pour les tâches à volume élevé et à faible complexité, comme la classification de texte simple, les interactions de base en chat ou la traduction directe. Pour de telles charges de travail, des modèles comme GPT-3.5 Turbo d'OpenAI ou d'autres alternatives légères peuvent offrir des performances suffisantes pour une fraction du coût. De plus, si votre application n'a pas besoin de la fenêtre de contexte complète de 8192 jetons ou si la longueur maximale de sortie est rarement utilisée, un modèle moins cher avec un contexte plus restreint pourrait être plus approprié. Évaluez toujours le compromis entre la qualité de sortie et le coût pour votre cas d'utilisation spécifique afin de déterminer si GPT-4-0613 est justifié.
GPT-4-0613 est principalement entraîné sur l'anglais, mais a démontré des capacités dans de nombreuses autres langues, notamment le français, l'espagnol, l'allemand, le chinois et l'arabe. Ses performances dans les langues non anglaises sont généralement bonnes pour des tâches structurées comme la traduction, la synthèse et les réponses aux questions, mais peuvent présenter une précision moindre et un phrasé moins naturel par rapport à l'anglais. Les points forts du modèle en matière de raisonnement et de suivi d'instructions s'étendent aux contextes multilingues, mais les utilisateurs devraient tester des scénarios spécifiques dans d'autres langues pour confirmer l'adéquation. Pour les applications nécessitant une haute précision dans une langue autre que l'anglais, envisagez de compléter avec des modèles spécifiques à la langue ou une validation supplémentaire.
GPT-4-0613 respecte les messages système et les instructions de l'utilisateur, ce qui le rend idéal pour les applications nécessitant une adhésion stricte au format, au ton ou à la structure. Il peut générer des sorties en JSON, Markdown ou autres formats spécifiés, et peut suivre des instructions multi-tours avec un contexte maintenu. Le modèle est particulièrement fiable pour les tâches nécessitant un raisonnement étape par étape ou un prompt de chaîne de pensée. Cependant, comme tous les grands modèles, il peut parfois mal interpréter des instructions ambiguës ou produire des sorties qui s'écartent du format souhaité. Il est recommandé de fournir des instructions claires et explicites et, lorsque c'est possible, d'inclure des exemples pour guider le comportement du modèle.
Le score de référence AA Coding de 13,1 pour GPT-4-0613 indique sa performance dans une évaluation spécifique au codage. Bien que la méthodologie exacte de cette référence ne soit pas détaillée dans les faits fournis, un score plus élevé reflète généralement une meilleure précision et fiabilité dans la génération de code, la résolution de problèmes de programmation et la compréhension des structures de code. Ce score positionne GPT-4-0613 comme un choix solide pour des tâches de codage telles que la correction de bogues, l'implémentation d'algorithmes et l'explication de code. Il est important de noter que les scores de référence sont indicatifs et peuvent ne pas refléter pleinement les performances réelles sur des tâches de codage spécifiques. Les utilisateurs devraient évaluer le modèle sur leurs propres jeux de données pour de meilleurs résultats.
La latence pour GPT-4-0613 n'est pas spécifiée dans les faits fournis, mais en tant que modèle à haute capacité, il présente généralement des temps de réponse plus élevés par rapport à des modèles plus petits comme GPT-3.5 Turbo ou GPT-4o mini. La vitesse d'inférence dépend de facteurs tels que la longueur de l'entrée et de la sortie, la complexité de la requête et l'infrastructure sous-jacente. Via OrcaRouter, la latence peut également être influencée par les conditions réseau et la capacité de service du fournisseur. Pour les applications en temps réel où une faible latence est cruciale, envisagez de tester le modèle sous votre charge attendue et d'utiliser éventuellement un modèle plus rapide et moins cher pour les parties moins exigeantes de votre flux de travail.
Les principaux atouts de GPT-4-0613 résident dans son raisonnement logique, sa capacité à suivre des instructions complexes en plusieurs étapes et sa grande précision dans des tâches telles que la génération de code et l'analyse de données. Il produit des résultats bien structurés et cohérents même pour des prompts longs, ce qui le rend adapté à la rédaction de documents ou de rapports complets. Le modèle démontre une forte cohérence sur plusieurs tours, ce qui est bénéfique pour les agents conversationnels qui doivent maintenir le contexte. Son score de référence de 13,1 sur AA Coding souligne sa fiabilité pour les tâches liées à la programmation. Ces qualités en font un choix privilégié pour les applications où la précision et la profondeur sont primordiales, même à un coût plus élevé.
GPT-4-0613 présente plusieurs limitations. Il est exclusivement textuel et ne peut pas traiter les images, l'audio ou la vidéo. Sa fenêtre de contexte est limitée à 8192 tokens, ce qui peut être insuffisant pour des documents très longs ou des conversations multi-tours avec des historiques étendus. Le modèle peut parfois générer des informations plausibles mais incorrectes (hallucinations), en particulier sur des sujets en dehors de ses données d'entraînement. Son prix est relativement élevé par rapport aux alternatives, ce qui le rend moins économique pour les applications à fort volume. De plus, étant un instantané de juin 2023, il peut ne pas être au courant des événements ou des connaissances postérieurs à cette date. Les utilisateurs devraient vérifier les résultats critiques et envisager d'utiliser la génération augmentée par récupération (RAG) pour ancrer les réponses dans des informations à jour.
GPT-4-0613 est facturé au tarif direct du fournisseur, sans marge ajoutée via OrcaRouter. Le coût est de 30,00 $ pour 1 million de tokens d'entrée et de 60,00 $ pour 1 million de tokens de sortie. Les tokens d'entrée correspondent à tout le texte fourni dans la requête de l'utilisateur, y compris les messages système, l'historique de la conversation et la requête actuelle de l'utilisateur. Les tokens de sortie sont le texte généré par le modèle en réponse. Les tokens d'entrée et de sortie comptent dans l'utilisation totale et sont facturés en conséquence. Il n'y a pas de frais de plateforme supplémentaires au-delà du tarif par token. Les utilisateurs sont facturés en fonction du nombre réel de tokens traités par appel API.
Parce que les tokens de sortie sont facturés deux fois plus cher que les tokens d’entrée (60 $ contre 30 $ par million de tokens), les applications qui génèrent des réponses longues peuvent devenir beaucoup plus coûteuses que celles ayant des sorties courtes. Par exemple, une requête avec 10 000 tokens d’entrée et 2 000 tokens de sortie coûterait 0,30 $ pour l’entrée et 0,12 $ pour la sortie, soit un total de 0,42 $. Si la sortie était de 8 000 tokens, le coût passerait à 0,30 $ + 0,48 $ = 0,78 $. Pour gérer les coûts, envisagez de limiter le paramètre max_tokens à la longueur minimale nécessaire pour votre cas d’utilisation. De plus, des prompts système plus courts et des historiques de conversation réduits diminuent le nombre de tokens d’entrée.
Aucune information sur la mise en cache des jetons ou les remises sur volume n'est fournie dans les faits disponibles pour GPT-4-0613 via OrcaRouter. Cela signifie que chaque appel est facturé en fonction des jetons réellement traités, sans aucun mécanisme de mise en cache prédéfini qui réduirait les coûts pour les invites répétées. Les utilisateurs doivent contacter OrcaRouter directement pour se renseigner sur les éventuelles fonctionnalités de mise en cache ou les accords de tarification pour les entreprises. Il est également possible qu'OrcaRouter propose des options d'optimisation des coûts non documentées ici. Pour l'instant, partez du principe que tous les jetons sont facturés aux taux par jeton indiqués, sans remises spéciales.
Lors de l'utilisation de GPT-4-0613, le principal compromis se situe entre la qualité des résultats et le coût. Pour les tâches exigeant une grande précision et un raisonnement avancé, le prix élevé est souvent justifié. Cependant, pour un traitement plus simple ou en masse, des alternatives moins chères comme GPT-3.5 Turbo ou GPT-4o mini peuvent réduire les coûts jusqu'à 90 %. Il faut également tenir compte du rapport entrée-sortie : si votre flux de travail nécessite des entrées très longues (par exemple, des documents complets) mais des sorties courtes, le coût d'entrée dominera. Inversement, des sorties longues augmenteront rapidement le coût de sortie. Évaluez si les forces spécifiques du modèle (comme la précision en codage) sont nécessaires pour votre tâche, et effectuez un test sur un sous-ensemble de vos données avant de vous engager dans une utilisation à grande échelle.
Pour appeler GPT-4-0613 via OrcaRouter, utilisez le point de terminaison d'API compatible OpenAI avec base_url https://api.orcarouter.ai/v1. Définissez le paramètre model sur "openai/gpt-4-0613" dans votre requête. Vous aurez besoin d'une clé API d'OrcaRouter pour l'authentification. Le format de la requête suit la documentation des complétions de chat d'OpenAI, prenant en charge des paramètres tels que messages (tableau de messages système et utilisateur), temperature (0 à 2), top_p, max_tokens (jusqu'à 8192), n (nombre de complétions), stop (séquences pour arrêter la génération), et stream (booléen pour le streaming). Exemple utilisant la bibliothèque openai de Python : import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}])
GPT-4-0613 prend en charge les paramètres standard de complétion de chat d'OpenAI. Les paramètres clés incluent temperature (par défaut 1) qui contrôle l'aléatoire — des valeurs plus faibles rendent la sortie plus déterministe ; top_p (par défaut 1) pour l'échantillonnage par noyau ; max_tokens (par défaut défini par l'endpoint, maximum 8192) pour limiter la longueur de la sortie ; n (nombre de complétions à générer par requête) ; et stop (chaînes de caractères qui arrêtent la génération). Vous pouvez également utiliser presence_penalty et frequency_penalty pour encourager ou décourager la répétition des sujets. Le streaming est pris en charge en définissant stream=True, ce qui renvoie les jetons de manière incrémentielle. Tous les paramètres se comportent de manière identique à ceux de l'API d'OpenAI, permettant une migration transparente. Pour de meilleurs résultats, définissez max_tokens au strict nécessaire pour contrôler les coûts, et utilisez une température entre 0 et 0,5 pour les tâches factuelles.
Migrer de l'API directe d'OpenAI vers OrcaRouter ne nécessite que deux modifications dans votre code : mettez à jour le base_url vers https://api.orcarouter.ai/v1 et remplacez l'ID du modèle par "openai/gpt-4-0613". Votre logique d'authentification existante doit être mise à jour pour utiliser une clé API OrcaRouter au lieu d'une clé OpenAI. Tous les paramètres familiers (messages, temperature, max_tokens, etc.) restent inchangés. Par exemple, en utilisant la bibliothèque Python openai, définissez openai.api_base = "https://api.orcarouter.ai/v1" et openai.api_key = "votre_clé_orcarouter". Appelez ensuite openai.ChatCompletion.create(model="openai/gpt-4-0613", ...). L'API d'OrcaRouter est conçue pour être un remplacement direct, donc aucune autre modification de code n'est nécessaire. Testez avec une petite requête pour confirmer la connectivité et la facturation.
Les limites de débit pour GPT-4-0613 via OrcaRouter ne sont pas spécifiées dans les faits disponibles. L'authentification nécessite une clé API fournie par OrcaRouter. Cette clé doit être incluse dans l'en-tête de la requête (par exemple, Authorization: Bearer <key>). Les limites exactes peuvent dépendre de votre plan OrcaRouter ou de votre niveau de compte. Pour une utilisation en production, contactez OrcaRouter pour obtenir des détails sur le nombre maximal de requêtes par minute (RPM) et de jetons par minute (TPM). En l'absence de limites spécifiques, il est conseillé d'implémenter une stratégie de backoff exponentiel en cas d'erreurs de limite de débit. Notez également que votre clé API doit être conservée en sécurité et ne pas être exposée dans le code côté client.
GPT-4-0613 est une version plus récente que GPT-4-0314, publiée en juin 2023 contre mars 2023. OpenAI a déclaré que la mise à jour de juin améliore la fiabilité, réduit la probabilité de générer du contenu interdit et offre une meilleure adhésion aux instructions. Les deux modèles ont la même fenêtre de contexte (8192 tokens) et la même structure de tarification. Le score de référence de 13.1 sur AA Coding est spécifique à GPT-4-0613, tandis que GPT-4-0314 peut avoir des performances légèrement différentes. En pratique, de nombreux utilisateurs rapportent que GPT-4-0613 est plus cohérent et moins enclin à esquiver ou refuser des demandes inoffensives. Si vous utilisez actuellement GPT-4-0314, la migration vers GPT-4-0613 est simple et probablement bénéfique.
GPT-4o est le modèle multimodal d'OpenAI capable de traiter du texte, des images et de l'audio, et il est plus rapide et moins cher que GPT-4-0613. Le tarif de GPT-4o est de 5 $ pour 1 million de tokens d'entrée et de 15 $ pour 1 million de tokens de sortie, ce qui le rend nettement plus économique. GPT-4-0613, étant limité au texte, ne peut pas gérer les entrées non textuelles. Cependant, GPT-4-0613 peut offrir un raisonnement légèrement plus délibéré pour les tâches complexes uniquement textuelles, car il s'agit du même modèle sous-jacent que GPT-4, mais sans intégration multimodale. Pour les applications nécessitant la compréhension d'images ou une latence minimale, GPT-4o est souvent le meilleur choix. Pour les tâches purement textuelles où la précision maximale est primordiale et le coût moins critique, GPT-4-0613 reste une option viable.
GPT-3.5 Turbo est une alternative nettement moins chère et plus rapide à GPT-4-0613, avec un prix d'environ 3 $ pour 1 million de jetons d'entrée et 6 $ pour 1 million de jetons de sortie. Il est optimisé pour les dialogues et les instructions simples mais manque de profondeur de raisonnement, de précision de codage et de capacité à suivre des instructions par rapport à GPT-4-0613. Le benchmark AA Coding et les tâches de raisonnement complexes montrent un écart de performance clair en faveur de GPT-4-0613. Pour les applications à volume élevé avec des exigences simples, GPT-3.5 Turbo est plus économique. Pour la génération de code critique, l'analyse en plusieurs étapes ou les tâches linguistiques nuancées, GPT-4-0613 offre des améliorations de qualité substantielles qui peuvent justifier son coût plus élevé. Envisagez d'utiliser GPT-3.5 Turbo pour des sous-tâches simples ou itératives dans un flux de travail plus large afin d'équilibrer le coût et la qualité.
Compatible OpenAI — gardez votre SDK actuel
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Entrée / 1M tokens | $30.00 |
|---|---|
| Sortie / 1M tokens | $60.00 |
| Devise | USD |
Estimation basée sur le tarif public
Estimation seulement — le nombre réel de tokens dépend du tokeniseur du fournisseur.
Ce dont parlent les développeurs cette semaine
GET /api/public/models/openai/gpt-4-0613Ouvrir @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613