Le dernier Gemini Pro multimodal de Google via l'API d'OrcaRouter aux tarifs fournisseurs, sans majoration.
Google Gemini Pro Latest est la version la plus récente du modèle Gemini Pro de Google, accessible via l’API compatible OpenAI d’OrcaRouter. Il s’agit d’un modèle multimodal qui accepte des entrées…
Ce modèle peut traiter et raisonner sur du texte, des images, de l’audio, de la vidéo et des fichiers dans une seule requête. Par exemple, vous pouvez fournir une image d’un graphique, un enregistrement audio d’une réunion et une question textuelle, et le modèle combinera les informations de toutes les sources pour générer une réponse cohérente. Il est également capable de générer des réponses textuelles longues, allant jusqu’à 65 536 tokens, ce qui le rend adapté à des tâches comme la rédaction de rapports détaillés, la création de modèles de code ou la production de documentation exhaustive. Comparé à des modèles plus petits et moins chers, Gemini Pro Latest offre un ancrage multimodal supérieur et une capacité de sortie plus grande, mais son coût plus élevé signifie qu’il doit être réservé aux tâches qui nécessitent réellement ses capacités avancées.
Pour les tâches qui n'impliquent que du texte et ne nécessitent pas de longues sorties, un modèle plus petit comme Gemini 1.5 Flash ou une variante textuelle de Google peut être plus rentable. Si votre cas d'utilisation est une classification de base, un simple Q&A ou une génération courte (moins de quelques centaines de tokens), le coût plus élevé par token de Gemini Pro Latest (4 $/18 $ par million de tokens) peut ne pas être justifié. De même, si vous n'avez pas besoin d'entrée multimodale au-delà du texte, un modèle moins cher qui ne prend pas en charge les images, l'audio ou la vidéo suffira. OrcaRouter propose une gamme de modèles afin que vous puissiez sélectionner le bon compromis entre capacité et coût. Utilisez Gemini Pro Latest lorsque votre prompt ou la sortie attendue est volumineux, multimodal, ou nécessite les dernières améliorations en matière de raisonnement.
Ce modèle excelle dans les scénarios qui combinent plusieurs modalités d’entrée et exigent de longues sorties. Les cas d’usage typiques incluent : le raisonnement multimodal (par exemple, expliquer un diagramme avec un fichier audio associé), la transcription et le résumé audio/vidéo avec questions de suivi, la génération de code à partir de captures d’écran d’interfaces utilisateur, la création de rapports détaillés intégrant des données issues d’images et de fichiers texte, ainsi que les applications interactives où le modèle doit traiter des fichiers téléchargés par l’utilisateur. Sa limite élevée de jetons de sortie le rend également adapté à la génération de chapitres entiers d’un livre, de longues documentations techniques ou de bases de code complètes. Pour toute tâche qui bénéficie de la dernière architecture Gemini Pro et d’une grande flexibilité d’entrée, ce modèle constitue un choix solide.
Bien qu'aucun score de référence spécifique ne soit fourni par le catalogue pour ce modèle particulier, Gemini Pro Latest est réputé intégrer les dernières données d'entraînement et améliorations algorithmiques de Google DeepMind. Par rapport aux versions précédentes de Gemini Pro, il offre probablement un meilleur raisonnement, une meilleure compréhension multimodale et une réduction des hallucinations. La grande fenêtre de sortie de 65 536 jetons constitue une amélioration significative par rapport à de nombreux modèles précédents, qui étaient limités à des tailles de génération plus petites. Notez que « Latest » fait référence à la version stable la plus récente de Gemini Pro, et non à un numéro de version spécifique. Pour les différences exactes, vous devez vous référer aux notes de version de Google, mais dans la pratique, les utilisateurs rapportent souvent une qualité et une cohérence supérieures par rapport à Gemini 1.0 Pro.
Les fiches techniques du catalogue pour google/gemini-pro-latest n'incluent aucun chiffre de benchmark spécifique. Par conséquent, nous ne pouvons pas revendiquer des performances sur MMLU, GSM8K, HumanEval, ou des évaluations standard similaires. Cependant, Gemini Pro en tant que famille a été évalué par Google sur divers benchmarks, et la version « Latest » devrait être compétitive avec des modèles comme GPT‑4. Sans chiffres officiels pour cette version exacte, il est préférable d'évaluer le modèle sur vos propres données. OrcaRouter vous permet de tester facilement des prompts via son API au tarif du fournisseur, afin que vous puissiez évaluer empiriquement la qualité et la vitesse pour votre cas d'utilisation spécifique avant de vous engager en production.
Les chiffres de latence ne sont pas fournis dans le catalogue. En général, la vitesse de génération des sorties dépend de la longueur de la réponse et de la charge actuelle sur l’infrastructure de Google. Comme Gemini Pro Latest peut générer jusqu’à 65 536 tokens, les sorties plus longues peuvent prendre des dizaines de secondes à quelques minutes. La vitesse de traitement des entrées varie également avec la taille et le nombre de fichiers multimodaux. Pour les applications en temps réel, il peut être judicieux de tester avec des sorties plus petites. OrcaRouter n’ajoute pas de latence significative au‑delà du point d’accès Google sous‑jacent ; le proxy API est conçu pour être transparent. Si une faible latence est cruciale, envisagez d’utiliser un modèle plus rapide comme Gemini Flash, bien qu’il puisse offrir moins de capacités.
Bien que puissant, le modèle présente des limitations. Premièrement, son coût est relativement élevé : 18 $ par million de jetons en sortie peut s’accumuler rapidement pour des générations longues. Deuxièmement, il peut encore produire des réponses inexactes ou hallucinées, en particulier sur des sujets de niche ou en évolution rapide. Troisièmement, le traitement d’entrées multimodales très volumineuses (par exemple, longues vidéos ou images haute résolution) peut augmenter le temps de traitement et le coût. Quatrièmement, comme il s’agit d’un modèle « le plus récent » sans version explicite, son comportement peut évoluer au fil du temps à mesure que Google met à jour le modèle sous-jacent. Pour les tâches nécessitant un modèle stable et immuable, vous pouvez préférer une version fixe comme Gemini 1.5 Pro. Enfin, le modèle n’est pas disponible chez tous les fournisseurs ; seul OrcaRouter propose actuellement l’interface compatible OpenAI pour celui-ci.
Avec un maximum de 65 536 tokens de sortie, Gemini Pro Latest peut produire des réponses très longues en une seule génération. Ceci est utile pour créer des rapports complets, du code étendu ou maintenir des conversations de longue durée sans troncature. Cependant, cela ne signifie pas nécessairement que le modèle utilisera toujours autant de tokens ; les sorties typiques sont plus courtes. Cette grande limite a toutefois un inconvénient : générer 65 K tokens peut être lent et coûteux. Pour la plupart des applications pratiques, vous pouvez définir un paramètre max_tokens plus bas pour contrôler le coût et la vitesse. La capacité du modèle à gérer de longues sorties implique également un mécanisme d'attention profondément correspondant, ce qui améliore généralement la cohérence du raisonnement sur des textes longs.
Le prix est exactement celui du fournisseur Google sans aucune majoration : 4,00 $ par million de jetons d'entrée et 18,00 $ par million de jetons de sortie. Les jetons d'entrée comprennent la partie textuelle de votre prompt ainsi que toutes les images, l'audio, la vidéo ou les fichiers encodés dans la requête. Les jetons de sortie sont comptés pour chaque jeton généré dans la réponse. OrcaRouter n'ajoute aucun frais de plateforme, niveau d'abonnement ni frais cachés. Vous êtes facturé en fonction de l'utilisation de jetons telle que rapportée par Google. Cette tarification transparente facilite l'estimation des coûts : par exemple, un prompt de 1 000 jetons avec une réponse de 5 000 jetons coûterait (4 $ * 0.001) + (18 $ * 0.005) = 0.004 $ + 0.09 $ = 0.094 $.
Comparé à des modèles plus petits comme Gemini 1.5 Flash (généralement 0,50 $/2,00 $ pour 1 million de tokens), Gemini Pro Latest est plus cher par token. Si votre charge de travail implique des sorties courtes et des entrées uniquement textuelles, vous pouvez réduire considérablement les coûts en utilisant un modèle moins cher. En revanche, pour les tâches qui nécessitent réellement des entrées multimodales ou des sorties très longues, le coût plus élevé par token peut être justifié par la capacité supérieure du modèle. Il n’y a aucune remise de cache annoncée ; chaque token est facturé au tarif standard. Cependant, si vous utilisez à plusieurs reprises les mêmes prompts longs, ceux-ci sont comptés comme tokens d’entrée à chaque fois. OrcaRouter transmet le prix du fournisseur, donc vous payez exactement ce que vous paieriez en utilisant Google directement, sans aucune majoration de commodité.
Les informations du catalogue ne mentionnent aucune réduction, mise en cache ou tarification au volume pour google/gemini-pro-latest. OrcaRouter indique que la tarification est facturée au tarif du fournisseur avec une marge zéro, ce qui implique que les prix indiqués sont le seul coût. Il n'est pas question de mise en cache des prompts, donc chaque requête est facturée pour la totalité des tokens d'entrée, même si des réponses antérieures utilisaient un texte similaire. Pour les utilisateurs à volume élevé, il peut être utile de contacter OrcaRouter directement pour se renseigner sur d'éventuels accords d'entreprise, mais aucune réduction officielle n'est spécifiée. En l'absence de mise en cache, vous devriez optimiser vos prompts pour minimiser l'utilisation des tokens dans la mesure du possible, par exemple en réduisant la taille des fichiers multimodaux ou en tronquant l'historique de la conversation.
Vous pouvez appeler le modèle en utilisant n'importe quelle bibliothèque client compatible OpenAI (Python, Node.js, cURL, etc.) en définissant l'URL de base sur https://api.orcarouter.ai/v1 et le paramètre modèle sur "google/gemini-pro-latest". Par exemple, en Python avec le package openai : client = OpenAI(api_key='your_orcarouter_key', base_url='https://api.orcarouter.ai/v1') puis response = client.chat.completions.create(model='google/gemini-pro-latest', messages=[{...}], max_tokens=10000). Orcarouter nécessite une clé API, que vous pouvez obtenir en vous inscrivant sur leur plateforme. Le format de réponse reflète celui d'OpenAI, incluant choices, usage et finish_reason.
Les paramètres standard de complétion de chat OpenAI sont pris en charge, tels que messages, max_tokens, temperature, top_p, frequency_penalty, presence_penalty, stop et stream. Le tableau messages peut inclure les rôles system, user et assistant. Pour les entrées multimodales (images, audio, etc.), vous pouvez utiliser le format content parts (si pris en charge par OrcaRouter) ou transmettre des données encodées en base64 de manière structurée. Consultez la documentation d'OrcaRouter pour savoir exactement comment envoyer les fichiers et les types de médias. Le modèle respecte également le paramètre max_tokens jusqu'à 65 536. Notez que tous les paramètres OpenAI ne sont pas forcément implémentés ; testez soigneusement. L'API renverra l'utilisation des tokens dans la réponse sous usage.prompt_tokens et usage.completion_tokens.
Si vous utilisez actuellement Vertex AI de Google ou l'API Gemini directement, la migration vers OrcaRouter est simple. Remplacez votre endpoint et votre méthode d'authentification par ceux d'OrcaRouter. Au lieu des bibliothèques clientes de Google, utilisez un code compatible OpenAI. Modifiez l'URL de base en https://api.orcarouter.ai/v1 et l'ID du modèle en « google/gemini-pro-latest ». Vous aurez besoin d'une clé API OrcaRouter. Le format des messages peut différer légèrement (Google utilise « contents » contre « messages »), vous devrez donc vous adapter au format OpenAI. Pour le contenu multimodal, vous devrez peut-être encoder les images ou les fichiers différemment. La documentation d'OrcaRouter devrait fournir des exemples. La tarification reste la même que celle de la facturation directe de Google, de sorte que votre coût par token n'augmentera pas. Cette migration vous permet d'unifier tous les appels de modèles sous une seule interface compatible OpenAI.
Les deux modèles sont de grands modèles multimodaux puissants, mais ils ont des forces différentes. GPT‑4 d'OpenAI est connu pour son raisonnement solide et son large support d'écosystème, tandis que Gemini Pro Latest excelle dans la diversité des entrées multimodales (y compris l'audio et la vidéo en natif) et offre une limite de tokens de sortie plus grande de 65,536 contre les 8,192 ou 32,768 typiques de GPT‑4 selon les variantes. Les prix diffèrent : Gemini Pro Latest coûte 4 $ / 18 $ par 1 million de tokens, tandis que GPT‑4 Turbo coûte 10 $ / 30 $ (ou 20 $ / 60 $ pour GPT‑4). Sans données de référence directes, les comparaisons de performance dépendent des tâches spécifiques. Gemini Pro Latest peut être meilleur pour les tâches nécessitant la compréhension simultanée de plusieurs types de médias, tandis que GPT‑4 peut avoir des avantages dans certaines générations de code ou sorties structurées. Il est recommandé de tester sur vos propres données.
Au sein de la famille Gemini, ce modèle est la dernière version « Pro », ce qui signifie qu'il offre plus de capacités que la variante Flash plus petite, mais moins que le niveau Ultra (qui n'est pas répertorié ici). Comparé à Gemini 1.5 Pro (une version fixe), le tag « Latest » signifie qu'il reçoit des mises à jour continues ; il peut être plus récent mais sujet à changement. Gemini Flash est moins cher et plus rapide, mais possède moins de fonctionnalités multimodales et une limite de sortie plus faible. Le « Pro Latest » occupe une position intermédiaire : hautes performances avec une large prise en charge des modalités à un prix modéré (milieu de gamme par rapport à GPT‑4 et Claude 3 Opus). Pour les utilisateurs qui souhaitent les dernières améliorations sans le coût le plus élevé, c'est un choix équilibré.
Les modèles Claude 3 d'Anthropic (Haiku, Sonnet, Opus) prennent également en charge les entrées multimodales et les sorties longues. Claude 3 Opus dispose d'une fenêtre de contexte de 200K et jusqu'à 4 096 tokens de sortie (ou plus avec des fonctionnalités étendues). Gemini Pro Latest a une fenêtre de contexte plus petite (la taille maximale d'entrée exacte n'est pas fournie) mais une limite de sortie beaucoup plus grande (65 536 tokens). Le prix de Claude 3 Opus est de $15/$75 par million de tokens, nettement plus élevé que celui de Gemini Pro Latest ($4/$18). Claude 3 Sonnet est plus proche en termes de prix. En matière de sécurité et d'alignement, les modèles Claude sont reconnus pour traiter les contenus nuisibles avec plus de prudence. Gemini Pro Latest peut être meilleur pour les générations très longues, tandis que Claude peut exceller dans les conversations nuancées. Les deux sont accessibles via OrcaRouter, vous permettant de choisir en fonction de la tâche et du budget.
Compatible OpenAI — gardez votre SDK actuel
https://api.orcarouter.ai/v1https://api.orcarouter.aifrom openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="google/gemini-pro-latest",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_pinclude_reasoningreasoning| Entrée / 1M tokens | $4.00 |
| Sortie / 1M tokens | $18.00 |
| Lecture cache / 1M | $0.400 |
| Devise | USD |
Estimation basée sur le tarif public
Estimation seulement — le nombre réel de tokens dépend du tokeniseur du fournisseur.
GET /api/public/models/google/gemini-pro-latestOuvrir @misc{orcarouter_gemini_pro_latest,
title = {google/gemini-pro-latest API},
author = {google},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/google/gemini-pro-latest}
}google. (n.d.). google/gemini-pro-latest API. OrcaRouter. https://www.orcarouter.ai/models/google/gemini-pro-latest