Nemotron 3.5 Super vs GPT-6 Astra : combien coûte une page scannée sur chacun

OpenAI GPT-6 Astra facture un document scanné au token. NVIDIA Nemotron 3.5 Super le facture à la seconde de GPU. Cette seule phrase résume l'essentiel de cette comparaison, et ce n'est pas la phrase que l'un ou l'autre fournisseur mettrait en titre. Le modèle NVIDIA — 120 milliards de paramètres au total, dont 12 milliards actifs par token, un encodeur visuel C-RADIO sur un mélange d'experts hybride Mamba-2 et Transformer, annoncé par NVIDIA le 15 octobre 2026 sous le nom NVIDIA Nemotron 3.5 Super VL et distribué sur Ollama sous code>nemotron-3.5-super/code> — est arrivé dans le monde avec des poids déjà vieux de trois jours sur Hugging Face, mis en ligne le 12 octobre. Astra est le modèle phare d'OpenAI : 1 050 000 tokens de contexte, 128 000 tokens de sortie maximale, entrée texte, image et fichier, raisonnement toujours actif, et un prix catalogue de 10 $ par million de tokens en entrée et 50 $ par million en sortie.

Ces deux tarifs sont séparés d’un facteur dix en entrée et de vingt-cinq en sortie, ce qui rend la question intéressante particulièrement tranchante. À partir de quel volume un checkpoint ouvert à coût fixe bat-il un compteur à 10 $/50 $ pour le travail sur documents — et la réponse change-t-elle lorsque le document est une page de pixels plutôt qu’une page de texte ?

Ils ne sont pas en concurrence pour la même requête

La première chose à bien saisir, c’est que, sur le plan des capacités mesurées, ces deux modèles ne sont pas proches, et aucun des deux fournisseurs ne prétend le contraire.

• Indice tiers — Astra se situe à environ 54,7 sur le panel qui évalue ces modèles, avec un indice de codage de 76,9 et un indice agentique de 51,6, tous consignés dans la fiche catalogue d'Astra · le checkpoint NVIDIA se situe à environ 26. Cela représente un écart d'environ vingt-huit points, et il n'est mesuré par aucun des deux fournisseurs.

• Contexte — 1 050 000 tokens pour Astra avec un plafond de sortie de 128 000 tokens · 1 000 000 pour le checkpoint NVIDIA sans aucun plafond de sortie publié, et la mise en garde de la fiche elle-même selon laquelle la mémoire et les paramètres d'exécution déterminent le chiffre utilisable.

• Surface de raisonnement — Astra exécute un raisonnement toujours actif, avec un effort configurable de faible à maximal, renvoie l'intégralité des traces de raisonnement via l'API Responses, et prend en charge les sorties structurées, les seeds et la recherche web en tant qu'outil · le checkpoint NVIDIA dispose d'un mode de réflexion activé/désactivé, basculé via le template de chat, et d'un tableau de benchmarks publié, mais d'aucune surface hébergée, quelle qu'elle soit.

• Modalité d’entrée — texte, images et fichiers pour Astra · texte, images et vidéo pour le checkpoint NVIDIA, avec un projecteur de vision de 1,6 GiB sur chaque tag publié afin que le chemin d’image soit toujours présent.

• Prix — 10 $ en entrée et 50 $ en sortie par million de jetons, avec un palier de contexte long au-delà de 272 000 jetons d'invite · aucun prix, car le modèle n'a pas de point de terminaison.

• Ce que vous obtenez — une clé API et une trace · quatre H100 ou deux GB200 en BF16, ou une carte de 96 Go pour l'étiquette 4 bits par défaut de 82,3 Gio, sous OpenMDW-1.1 avec usage commercial autorisé.

Lisez cette liste et la conclusion est évidente : si le travail exige un raisonnement de frontière, Astra est le modèle et la comparaison s'arrête là. Ce qui rend cette page digne d'être lue, c'est le cas où le travail n'a pas besoin de raisonnement de frontière, car c'est là qu'un checkpoint de 120 milliards de paramètres doté d'un encodeur visuel commence à avoir un sens économique — et il représente une part des pipelines documentaires réels plus importante que quiconque veut bien l'admettre.

Le calcul du coût par page, effectué avec de vrais chiffres

Prenons un cas concret : un corpus de factures scannées, 200 pages par jour, chaque page rendue à une résolution suffisamment élevée pour lire un numéro de référence manuscrit. Comptons 1 500 jetons d’image par page après le traitement de l’encodeur, plus une invite de 300 jetons et une réponse de 150 jetons. Cela représente environ 1 950 jetons en entrée et 150 en sortie par page, soit 390 000 jetons d’entrée et 30 000 jetons de sortie par jour pour l’ensemble du corpus.

Au tarif publié d'Astra, soit 3,90 $ d'entrée et 1,50 $ de sortie — environ 5,40 $ par jour, ou environ 160 $ par mois pour une tâche qu'un seul GPU peut accomplir en une nuit. Augmentez la résolution, ajoutez une page qui déclenche le palier de contexte long au-delà de 272 000 tokens de prompt, ou exécutez le corpus deux fois parce que la première passe était erronée, et le chiffre évolue dans une seule direction. Voici la forme du problème : à 10 $ et 50 $, un flux de travail par page a une facture par page, et la facture évolue exactement avec ce qui croît — le nombre de pages.

Sur le checkpoint NVIDIA, le même travail coûte la fraction d’heure-GPU que consomment 230 000 tokens, ce qui, à 200 pages par jour, représente une erreur d’arrondi par rapport à l’électricité. La facture, c’est la carte, et la carte est la même que vous traitiez 200 pages ou 20 000.

Trois mises en garde avant que quiconque se précipite pour acheter du matériel. La première, c'est que cela cesse d'être vrai à faible volume — une carte de 96 Go et la puissance nécessaire pour la faire tourner coûtent plus cher par mois que ce que la plupart des équipes dépensent en tokens, et à 200 pages par jour, vous y perdriez probablement. La deuxième, c'est que la quantification NVIDIA que la plupart des gens utiliseront réellement, q4_K_M, ne dispose d'aucune évaluation publiée ; tous les chiffres sur la carte NVIDIA sont en BF16 ou NVFP4, donc la précision de la version que vous déployez est inconnue. La troisième, c'est que la sortie d'Astra est sensiblement meilleure, et sur un corpus où un numéro de référence mal lu représente un coût réel, une meilleure précision peut l'emporter sur un écart de prix, quelle que soit son ampleur.

Là où Astra n’est pas simplement meilleur, mais structurellement meilleur

Il serait malhonnête de présenter Astra comme une alternative coûteuse à une option moins chère. Sur plusieurs axes, il s’agit d’une catégorie de produit différente, et la différence ne tient pas aux scores.

Astra renvoie des traces de raisonnement complètes via l’API Responses. Pour un pipeline qui doit justifier une décision — une adjudication de réclamation, une lecture de conformité, une passe de codage médical — une trace auditable n’est pas une fonctionnalité, c’est une exigence. Le checkpoint NVIDIA dispose d’un mode de réflexion que vous pouvez activer et désactiver dans le gabarit de conversation et d’aucune surface de trace hébergée, ce qui signifie que vous devez construire la couche d’audit vous-même.

Astra prend en charge les sorties structurées avec un schéma et une graine. Dans un pipeline d'extraction de documents où la sortie doit se conformer à une structure d'enregistrement, un modèle que l'on peut contraindre à un schéma est moins coûteux à intégrer qu'un modèle où l'on valide et réessaie, et le coût des réessais est invisible jusqu'à ce qu'il ne le soit plus.

Et la surface d'outils d'Astra est un produit first-party : appel de fonctions, response_format, seed et recherche web comme outil. La recette de déploiement du checkpoint NVIDIA réutilise un analyseur d'appels d'outils qu'elle n'a pas écrit — la propre recette vLLM du fournisseur désigne code>qwen3_coder/code> comme analyseur d'appels d'outils et code>nemotron_v3/code> comme analyseur de raisonnement. C'est un choix d'ingénierie judicieux, et cela signifie aussi que la surface d'appel d'outils est empruntée plutôt que conçue pour ce modèle, et devra être testée avant de lui faire confiance.

La recette vLLM vous indique aussi ce que le fournisseur attend qu’un réplica prenne en charge : un parallélisme tensoriel de 4, une utilisation de la mémoire GPU de 0,85, un maximum de 32 séquences concurrentes, une image et une vidéo par prompt, un élagage vidéo à 0,5, et un décodage spéculatif via la tête MTP intégrée avec trois jetons spéculatifs. Trente-deux séquences concurrentes, c’est le plafond sur un nœud à quatre GPU. Le plafond d’Astra est une limite de débit.

Le piège dans la configuration par défaut de NVIDIA, et pourquoi il apparaît d’abord sur les documents

C'est le détail qui déterminera si la première expérience réussit, et il n'est visible que si vous lisez le registre d'exécution plutôt que la publication du fournisseur.

La fiche technique précise deux configurations d'échantillonnage : température 1.0 avec top_p 0.95 pour le travail textuel, et température 0.6 avec top_p 0.95 pour la vision. La valeur par défaut livrée dans le manifeste Ollama est la paire texte — code>{"temperature": 1.0, "top_p": 0.95}/code> avec code>draft_num_predict: 3/code>. La configuration dans laquelle la plupart des gens rencontreront ce modèle de vision est donc réglée pour la moitié de celui-ci qui n'est pas de la vision. Si la première chose que vous faites est de le pointer vers une facture numérisée et que le résultat est approximatif ou halluciné, les paramètres d'échantillonnage sont la première chose à modifier — avant de tirer la moindre conclusion sur le checkpoint.

Deux autres détails du registre à connaître avant de déployer. Quatre des neuf tags publiés — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> et code>:120b-a12b-q4_K_M/code> — correspondent à la même couche q4_K_M, donc le tag nommé d'après le nombre complet de paramètres n'est pas le fichier que vous recevez. Et le contrôle de version est appliqué plutôt que conseillé : la configuration déclare code>requires: 0.40.5/code>, donc sur un environnement d'exécution plus ancien, le pull ne fonctionne pas du tout.

Comparez cela au mode de défaillance de l’autre côté de cette comparaison, à savoir un point de terminaison modifié. Astra est un service hébergé ; son comportement peut être révisé. Aucun des deux risques n’est une raison d’éviter le modèle. Ce sont des risques différents, et ils appellent des mesures d’atténuation différentes — un changement de configuration d’un côté, une route de repli de l’autre.

La réponse de routage, qui est la même pour les deux

Astra est accessible avec notre clé. OrcaRouter l'achemine au prix catalogue du fournisseur, répercuté tel quel, sans majoration par token — 10 $ et 50 $ par million de tokens, le palier de contexte long étant facturé exactement au même tarif qu'OpenAI, disponible de notre côté le jour même plutôt qu'à votre prochain renouvellement. Si la question est de savoir si Astra gère votre charge de travail documentaire, cela se résume à une clé et à aucun processus d'achat, et la réponse coûte quelques dollars de tokens.

Le checkpoint NVIDIA ne figure pas sur notre clé. Nous routons un peu plus de deux cents modèles et il n'y a aucune entrée NVIDIA Nemotron parmi eux, donc cet article ne prétend pas que vous pouvez l'appeler ici. Si vous avez besoin de ce checkpoint, les canaux de compilation et de distribution propres à NVIDIA ainsi que le pull local constituent votre voie d'accès.

Dans cette décision, ce à quoi la plateforme sert réellement, c’est le séquençage. Faites d’abord passer le corpus sur Astra et mesurez deux choses : le coût par page et le taux d’erreur par page. Ces deux chiffres réunis décident de tout. Si le taux d’erreur est faible et le volume faible, restez au compteur pour toujours — vous ne pourrez jamais faire mieux avec du matériel. Si le taux d’erreur est faible et le volume élevé, vous avez désormais un argument défendable pour déplacer les pages standard vers une carte que vous possédez tout en gardant les plus difficiles au compteur. Si le taux d’erreur est élevé, aucun avantage de prix du côté NVIDIA n’aidera, car l’arithmétique d’une facture mal lue n’a rien à voir avec les tokens.

Et quelle que soit la voie que vous choisissez, faites passer le nouveau modèle derrière une solution de repli. Un checkpoint dont les poids datent de quatre jours dispose de quatre jours d’historique opérationnel, et l’assurance la moins coûteuse contre cela est un second modèle sur le même appel. Astra est une chose raisonnable à avoir derrière un modèle ouvert de quatre jours ; c’est aussi le modèle que la plupart des lecteurs de cette page concluront ne pas avoir besoin de remplacer.