Carte de titre pour une comparaison de GPT-6.1 Sol et Grok 4.6, portant l'inscription « Le problème de l'en-tête Accept, et un écart de 35 points qui n'est pas réel », avec des cartes affichant GPT-6.1 Sol à 56,06 % sur Terminal-Bench 4.0 et Grok 4.6 à 88,39 % sur Terminal-Bench 2.1, ainsi qu'une note précisant qu'il s'agit de deux versions différentes du benchmark.
Guides & Insights

GPT-6.1 Sol vs Grok 4.6 : le problème d'en-tête Accept, et un écart de 35 points qui n'est pas réel

Auteur

Alistair Wren

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Il existe, sur le marché actuel des modèles, un duo dans lequel l'option la moins chère l'emporte haut la main sur le benchmark scientifique le plus difficile, et pourtant la comparaison dans son ensemble ne tourne toujours pas à son avantage. Grok 4.6, le modèle phare de SpaceXAI depuis le 2026-08-12, obtient 94,9 % sur GPQA Diamond — des questions scientifiques de niveau master/doctorat — contre 42,9 % sur Humanity's Last Exam pour ce même modèle, et il coûte 2,00 $ par million de tokens en entrée et 6,00 $ par million de tokens en sortie. GPT-6.1 Sol, la version publiée par Open​AI le 2026-09-29, obtient 52,9 % sur ce même ensemble HLE et facture 10,00 $ par million de tokens en sortie. Grok 4.6 est donc meilleur sur un point difficile, moins cher sur chaque ligne de la grille tarifaire, et pourtant c'est dans la seconde moitié de cette comparaison que se niche le problème intéressant : on ne pose pas toujours la même question aux deux modèles.

Les chiffres ci-dessous sont des mesures Artificial Analysis effectuées sur nos propres enregistrements de modèles pour les deux modèles, des chiffres de fournisseurs lorsqu’ils sont indiqués, ainsi que nos propres données de service. L’évaluateur et la date sont précisés partout où un chiffre pourrait être ambigu.

Le numéro de version qui fait le travail

Commencez par les chiffres qui ressemblent à une déroute sans en être une. Artificial Analysis mène deux benchmarks d’agents terminaux, et il a évalué les deux modèles sur chacun :

• Terminal-Bench 2.1 — Grok 4.6 obtient un score de 88,39 % ; GPT-6.1 Sol n'est pas répertorié dans cette version.

• Terminal-Bench 4.0 — Grok 4.6 obtient 21,21 % ; GPT-6.1 Sol obtient 56,06 %.

Lisez uniquement la deuxième ligne et Grok 4.6 semble incapable d'accomplir une tâche dans un shell. Lisez les deux et il devient clair que la différence réside dans le harness, pas dans le modèle. Terminal-Bench 4.0 est une révision plus difficile de la même idée, et les deux modèles y ont été évalués à des moments différents — le record Artificial Analysis de GPT-6.1 Sol porte une date d'évaluation du 2026-09-28, celui de Grok 4.6 porte le 2026-08-12. Un écart de 35 points entre deux modèles mesurés à six semaines d'intervalle sur un benchmark révisé pendant cette fenêtre n'est pas la preuve que l'un d'eux ne sait pas utiliser un terminal. C'est la preuve qu'il ne faut pas comparer ces deux cellules.

La version honnête de la comparaison agentique est la plus étroite : Grok 4.6 affiche 88,39 % sur Terminal-Bench 2.1, et il n’existe aucun chiffre pour GPT-6.1 Sol sur cette version à mettre en regard. C’est une lacune dans les preuves, et le reste de cet article la traite comme telle.

Ce que sont les deux

Grok 4.6 est le fleuron actuel de la gamme Grok, répertorié comme « Latest » dans la documentation développeur de SpaceXAI elle-même, succédant à Grok 4.5 avec la même fenêtre de contexte de 500 000 tokens et la même surface d'entrée texte, image et fichier. Il prend en charge un effort de raisonnement configurable, l'appel d'outils natif, les sorties structurées et l'ensemble de la surface d'échantillonnage — temperature, top_p, seed, logprobs, penalties — ce qui est un détail important : contrairement à GPT-6.1 Sol, il accepte une temperature.

GPT-6.1 Sol est un instantané unique — gpt-6.1-sol, sans variante datée — avec une fenêtre de contexte de 1 050 000 tokens, une sortie maximale de 128 000, la même surface d'entrée texte, image et fichier, et cinq niveaux d'effort dont la valeur par défaut est moyen. Il n'accepte pas temperature ni top_p ; l'échantillonnage est remplacé par le sélecteur d'effort.

Les lignes de spécifications, côte à côte, sur les dimensions où elles diffèrent :

• Fenêtre de contexte — 1 050 000 tokens pour GPT-6.1 Sol contre 500 000 pour Grok 4.6. GPT-6.1 Sol représente un peu plus du double de la fenêtre.

• Sortie maximale — 128 000 jetons pour GPT-6.1 Sol ; le plafond de sortie de Grok 4.6 n’est pas indiqué dans notre fiche catalogue le concernant, un champ qui n’a jamais été renseigné plutôt qu’un zéro.

• Paramètres d’échantillonnage — température, top_p, seed et les paramètres de pénalité fonctionnent sur Grok 4.6 et sont rejetés par GPT-6.1 Sol.

• Prix de base — 2,00 $/6,00 $ pour Grok 4.6 contre 2,00 $/10,00 $ pour GPT-6.1 Sol, dans les premiers paliers des deux modèles.

Cinq axes, une direction claire

Les deux modèles partagent suffisamment de mesures indépendantes pour pouvoir être comparés correctement, et la forme du résultat est cohérente :

• AA Intelligence Index — GPT-6.1 Sol 51,8, 10e sur 147, 93,2e centile ; Grok 4.6 44,3, 20e, 86,4e centile.

• Humanity's Last Exam — 52,9 % contre 42,9 %. Dix points, GPT-6.1 Sol.

• Rappel en contexte long — 83 % contre 80,33 %.

• SciCode — 54,2 % contre 56,5 %. Grok 4.6 de 2,3 points, le seul de ces quatre axes où il mène.

• GPQA Diamond — GPT-6.1 Sol n'est pas répertorié sur cet axe dans nos relevés ; Grok 4.6 obtient 94,9 %, le chiffre le plus élevé de sa fiche.

Deux des axes de Grok 4.6 ne sont pas mesurés du côté de GPT-6.1 Sol, et l’un de ceux de GPT-6.1 Sol ne l’est pas du côté de Grok 4.6. C’est là la forme habituelle d’une comparaison entre des modèles évalués selon des calendriers différents, et la façon de procéder consiste à laisser les cellules vides plutôt qu’à les remplir à partir d’une présentation de lancement.

Une réconciliation s’impose concernant l’Intelligence Index. Une couverture antérieure sur ce blog plaçait Grok 4.6 à 61 sur le même indice. Notre relevé actuel comporte une ligne supplémentaire avec cette valeur, à côté du chiffre de 44,3 ci-dessus — l’indice a été révisé et renoté, et les deux lectures existent pour le même modèle. Quiconque cite la position de Grok 4.6 dans l’indice devrait préciser de quelle révision il parle, car l’écart entre 61 et 44,3 est plus grand que celui dont traite tout cet article.

A two-column scoreboard comparing GPT-6.1 Sol and Grok 4.6 across six rows: index 51.8 vs 44.3, Humanity's Last Exam 52.9% vs 42.9%, GPQA Diamond not listed vs 94.9%, SciCode 54.2% vs 56.5%, Long-Context Recall 83% vs 80.33%, and output price $10.00 vs $6.00 per million.

La grille tarifaire, ainsi que l’étape qu’elle contient

Grok 4.6 est moins cher sur chaque ligne de base et propose une liste de lignes plus longue. Sa grille tarifaire :

• Jusqu'à 200 000 tokens de prompt — 2,00 $ en entrée, 6,00 $ en sortie, 0,50 $ en entrée mise en cache.

• Au-delà de 200 000 jetons de prompt — l'ensemble de la requête est refacturé à 4,00 $ en entrée, 12,00 $ en sortie, 1,00 $ en entrée mise en cache.

GPT-6.1 Sol's :

• Jusqu'à 272 000 jetons de prompt — 2,00 $ en entrée, 10,00 $ en sortie, 0,10 $ en entrée mise en cache, 2,50 $ en écriture de cache.

• Plus de 272 000 tokens de prompt — toute la requête est re-tarifée à 4,00 $ en entrée, 15,00 $ en sortie, 0,20 $ pour l'entrée mise en cache, 5,00 $ pour l'écriture de cache.

Les deux paliers tombent dans la même zone de longueur de prompt — mais notez ce que les paliers font à l'écart principal. Dans le premier niveau, la sortie de Grok 4.6 est 40 % moins chère. Au-dessus du palier, à 12,00 $ contre 15,00 $, elle est 20 % moins chère. Et sur l'entrée mise en cache, l'ordre s'inverse complètement : les 0,10 $ par million de GPT-6.1 Sol représentent un cinquième des 0,50 $ de Grok 4.6 avant le palier, et un dixième après.

Pour une charge de travail agentique qui relit un long préfixe fixe à chaque tour — un dépôt de code, un ensemble de contrats, une longue transcription —, cette ligne de cache vaut plus que le tarif de base, et elle joue en sens inverse. Pour une charge de travail qui produit beaucoup de sortie à partir d'un court prompt, les 6,00 $ de Grok 4.6 sont la ligne qui tranche.

Nos propres données de service, et pourquoi une partie doit être ignorée

Le catalogue d'OrcaRouter comporte un panneau de service sur sept jours pour chaque modèle, et sur l'un de ces deux, il s'agit d'un artefact plutôt que d'une mesure. Le panneau de Grok 4.6 indique une latence p50 de 6 250 millisecondes et un taux d'erreur de 56,76 %, sur une fenêtre durant laquelle il a servi 1 212 441 jetons. Le panneau de GPT-6.1 Sol indique une p50 de 2 442 millisecondes, 95,57 jetons de sortie par seconde, un taux d'erreur de 6,36 % et 421 752 431 jetons servis au cours des mêmes sept jours.

Les chiffres de trafic sont ceux à lire en premier, car ce sont eux qui expliquent le reste. Un modèle qui a servi 1,2 million de tokens sur une semaine offre un échantillon trop mince pour qu'un taux d'erreur signifie grand-chose — à ce volume, un taux de 56,76 % reflète quelques dizaines de tentatives, non une qualité de service, et l'interpréter comme la preuve que Grok 4.6 n'est pas fiable reviendrait à prendre un artefact de mesure pour une mesure. Notre panel GPT-6.1 Sol s'appuie sur environ 350 fois plus de trafic, ce qui en fait un chiffre exploitable concernant les utilisateurs de notre playground, et toujours pas une propriété du modèle.

Screenshot of the OrcaRouter model page for grok/grok-4.6, showing a 500K-token context window, text, image and file input, tools and JSON support, a note that it is the current Grok flagship listed as Latest in the vendor's developer documentation, a headline GPQA Diamond figure of 94.9, and the $2.00 input / $6.00 output price lines.

Ce que nous ne pouvons pas vous dire

Trois choses manquent à cette comparaison, et aucune d'entre elles ne peut être comblée par l'argumentation.

Le premier est un score d'agent terminal de même version pour les deux modèles. Tant qu'Artificial Analysis n'aura pas évalué Grok 4.6 sur Terminal-Bench 4.0, ou GPT-6.1 Sol sur 2.1, la comparaison agentique repose sur le chiffre d'un modèle et le silence de l'autre. Quiconque vous dit que l'écart de 56,06 % contre 21,21 % est un écart de capacités cite une différence de révision.

Le deuxième est le plafond de sortie de Grok 4.6. Ce champ n'est pas mesuré dans notre historique, donc une charge de travail qui dépend de réponses individuelles très longues n'a aucun chiffre publié sur lequel se baser de ce côté-là.

Le troisième est combien les deux modèles coûtent réellement par tâche terminée. Notre playground indique un coût moyen par tâche pour Claude Opus 5 ; il n'en donne pas pour l'un ou l'autre de ces deux, et les prix des tokens ci-dessus sont des données d'entrée de ce nombre plutôt que le nombre lui-même. Les propres chiffres rapportés par le fournisseur OpenAI pour GPT-6.1 Sol décrivent des améliorations du coût par tâche — Terminal-Bench Science 0.1 à 5,47 $ par tâche contre 23,21 $ pour Claude Opus 5.5 et 23,80 $ pour GPT-6 Astra, à effort maximal — mais ce sont les chiffres d'OpenAI sur le harnais d'OpenAI, personne à l'extérieur ne les a reproduits, et ils ne disent rien sur Grok 4.6.

Screenshot of the OrcaRouter model page for openai/gpt-6.1-sol, showing the 1.05M-token context window, 128K max output, text, image and file input, tools and JSON support, an OpenAI-compatible code sample, and the $2.00 input / $10.00 output price lines.

Le choix

Les deux modèles sont routés sur OrcaRouter au prix catalogue du fournisseur, avec 0 % de marge — openai/gpt-6.1-sol à 2,00 $/10,00 $, avec 0,10 $ pour l'entrée mise en cache et le palier au-delà de 272 K appliqué exactement comme OpenAI le définit, et grok/grok-4.6 à 2,00 $/6,00 $, avec le palier au-delà de 200 K appliqué exactement comme SpaceXAI le définit. Une seule clé donne accès aux deux, la tarification suit le fournisseur le jour même où elle change plutôt qu'au cycle de facturation suivant, et un basculement automatique en cas de panne se trouve en dessous, pour que le modèle le moins cher puisse tenir une voie sans être la seule chose à la maintenir.

Si la charge de travail se présente sous forme de questions et est intensive en sortie — récupération et réponse, génération à grande échelle, tout ce qui ne dépasse jamais 200 000 tokens de prompt —, Grok 4.6 est le meilleur achat sur la grille tarifaire, de 40 % sur la ligne qui compte, et son score de 94,9 % à GPQA Diamond est un chiffre indépendant, pas une affirmation.

Si la charge de travail est agentique, à longs prompts ou lourde en cache, GPT-6.1 Sol est la valeur par défaut plus sûre : il est en tête sur chaque axe indépendant que les deux partagent, sauf SciCode, ses lectures de cache coûtent un cinquième de celles de Grok 4.6, et son plafond de sortie publié est un chiffre sur lequel vous pouvez planifier. La fenêtre de 500 000 jetons de Grok 4.6 est généreuse, et la fenêtre de 1 050 000 jetons de GPT-6.1 Sol est le double — mais sur un prompt vraiment long, les deux sont alors passés dans leurs paliers doublés, et c'est là que l'écart de prix se réduit à 20 pour cent et cesse d'être la raison de choisir l'un ou l'autre.

Le verdict qui résiste aux preuves : Grok 4.6 est le modèle le moins cher et GPT-6.1 Sol est le plus mesuré, et l’écart de 35 points au benchmark terminal qui circule est une comparaison entre deux versions différentes du benchmark, et non entre deux modèles.

Comparés dans cet article1

Détecté à partir de cet article · Benchmarks : Artificial Analysis · mis à jour quotidiennement