Voxtral 3: Mistral porta quattro modelli vocali e un'API per agenti vocali sullo stesso contatore

Il numero interessante nel rilascio di Mistral del 20 ottobre non è un tasso di errore sulle parole. È 0,04 $ al minuto. È quanto l'azienda addebita per un agente vocale Voxtral 3 — una pipeline end-to-end che ascolta un chiamante, ragiona su ciò che ha detto con Mistral Small 4, chiama strumenti e risponde. Somma le parti che Mistral vende separatamente e lo stesso minuto costa di più: Voxtral Mini Transcribe Realtime 3 a 0,008 $, più Voxtral Mini T​TS 3 a circa 0,02 $ per una normale velocità di parlato, più il modello di ragionamento in aggiunta. Il minuto in bundle è il prodotto. Tutto il resto — Voxtral Small Transcribe 3, Voxtral Mini Transcribe 3, Voxtral Mini Transcribe Realtime 3, Voxtral Speech 3 — viene venduto come componente acquistabile à la carte, e come modo per dimostrare che i componenti sono abbastanza buoni da valere l'accorpamento in bundle. Le pipeline di agenti vocali falliscono in modi che i listini non menzionano mai, e gli incidenti registrati sono catalogati nell'OrcaRouter AI Incident Archive dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.

Cosa c’è davvero di nuovo, modello per modello

Questo è un rinnovamento dell'intera famiglia, non di un singolo modello con un incremento di versione. Ogni elemento ha un ruolo distinto e un prezzo distinto, e la suddivisione conta più del nome condiviso.

• Voxtral Small Transcribe 3 — il livello di precisione. $0,004 al minuto, contesto da 32k e la principale promessa di Mistral per la trascrizione con diarizzazione. Esegue anche traduzione, domande e risposte vocali, riepilogo e chiamata di funzioni, il che lo rende l'unico membro della famiglia più vicino a un modello audio-linguistico che a un trascrittore.

• Voxtral Mini Transcribe 3 — 4B parametri, $0.0035 al minuto, contesto da 32k. Mistral comunica le dimensioni di questo modello ma tace quelle del modello Small. Vale la pena notare questa asimmetria: il modello mini è quello posizionato per il volume e la distribuzione su dispositivi edge, quindi la sua impronta è un argomento di vendita; quella del modello di punta non viene divulgata.

• Voxtral Mini Transcribe Realtime 3 — streaming su WebSocket a 0,008 $ al minuto, con latenza configurabile da 80 ms a 2.400 ms e rilevamento di fine turno che combina indizi acustici e semantici anziché attendere il silenzio. La documentazione parla di «meno di 500 ms»; il limite minimo configurabile è molto al di sotto, e il costo in termini di accuratezza per scendere così in basso è notevole — si veda la sezione sui benchmark.

• Voxtral Speech 3 (venduto nella documentazione come Voxtral Mini T​TS 3) — 13 $ per milione di caratteri, circa 90 ms al primo audio, 34 tag di emozione e due tag di ritmo, nove lingue, clonazione vocale zero-shot e "professionale". La pagina di lancio di Mistral indica la clonazione a partire da 30+ minuti di audio di riferimento.

Sotto si trova l'SDK dell'agente vocale, costruito su LiveKit e su ASR, LLM e TTS in streaming come un'unica pipeline. Riceve chiamate SIP, sessioni WebRTC e trunk telefonici o IVR esistenti, supporta il barge-in e consente di cambiare il modello di ragionamento, la voce o la lingua senza ricostruire l'agente. Mistral dichiara una latenza di turno inferiore a un secondo.

La tabella dei benchmark, leggila attentamente.

Mistral ha pubblicato i propri numeri, e sono buoni numeri. Sul macro-average word error rate di FLEURS 45, Voxtral Small Transcribe 3 si attesta al 4,1% con lingua forzata e al 4,0% con lingua inferita. Voxtral Mini Transcribe 3 è al 4,6% / 4,5%. Per confronto, sulla stessa tabella del fornitore: G​emini 3.5 Transcribe al 6,1% / 4,5%, Scribe v2 al 4,9%, G​PT Transcribe al 6,3% / 5,6% e Whisper large-v3 al 16,0% / 14,9%.

Due cose su quella tabella meritano un secondo sguardo. Primo, MAI-Transcribe-2 di Microsoft si colloca al 4,1% / 4,0% — identico a Voxtral Small Transcribe 3, fino al decimale. Una tabella di un fornitore in cui il modello di punta pareggia esattamente il suo concorrente più diretto è o un pareggio onesto o un pareggio arrotondato; Mistral non dice quale delle due. Secondo, il dato di Whisper non è il numero che chiunque altro cita per Whisper. Whisper large-v3 ottiene 7,44 di WER medio sulla Open ASR Leaderboard, e la variante Turbo il 4,6% sulla board indipendente di Artificial Analysis. Il sedici percento è ciò che Whisper sembra su audio FLEURS multilingue difficili nello specifico, non ciò che sembra in inglese di produzione. Usare la porzione più severa disponibile per un concorrente è una normale mossa di marketing, ma è una mossa di marketing.

La classifica indipendente racconta una storia più serrata. Artificial Analysis colloca Voxtral Small Transcribe 3 al 2,1% di AA-WER e Voxtral Mini Transcribe 3 al 2,2% — primo e secondo nella classifica non-streaming al momento in cui scriviamo, con MAI-Transcribe-2 al 2,0% nella posizione sopra di loro a seconda di quando si consulta la classifica. Sono valori abbastanza vicini che l’ordine cambierà nelle ripetizioni. Chiunque indichi un vincitore da un distacco di 0,1 punti sta citando rumore.

Dove il livello in tempo reale restituisce accuratezza

I numeri dello streaming sono la cosa più utile che Mistral abbia pubblicato, perché sono i meno lusinghieri. Su FLEURS 35, il baseline offline di Voxtral Mini Transcribe 3 è 4,0% WER. Il modello in tempo reale peggiora in modo monotono man mano che gli si chiede di rispondere prima:

• 2.400 ms di latenza — 5,7% WER

• 960 ms — 6,0%

• 480 ms — 6,4%

• 240 ms — 7,4%

Di contro, Mistral elenca G​emini 3.5 Realtime Transcribe al 4,2%, il livello streaming di Microsoft al 5,8%, G​PT Live Transcribe all'8,4% e Scribe v2 Realtime all'8,7%. Quindi la lettura onesta è: con un ritardo confortevole di 2,4 secondi, il livello realtime di Voxtral è competitivo con Microsoft e batte i modelli streaming di O​penAI ed ElevenLabs, ma non batte quello di G​oogle, e a 240 ms è peggiore di tutto tranne i due modelli in coda. Il dato di punta sotto i 500 ms è reale; ti costa solo circa tre punti di accuratezza rispetto a elaborare lo stesso audio offline.

La diarizzazione è l'ambito in cui la famiglia appare più forte e in cui la tabella dei fornitori fa la maggior parte del lavoro. Sul WER concatenato a permutazione minima, Mistral riporta 18,4% per Voxtral Small Transcribe 3, 18,6% per la Mini, 19,0% per Pyannote Orchestrator Precision 3, 20,3% per MAI-Transcribe-2 e 38,4% per Gemini 3.5 Transcribe. Un divario di 20 punti rispetto a Gemini sull'attribuzione dei parlanti è il tipo di numero che decide un prodotto — trascrizione di riunioni, QA delle chiamate — ma è l'harness di un fornitore contro il modello di un altro fornitore, e nessuna terza parte lo ha rieseguito.

Cosa comprende il prezzo, in ore

La fatturazione al minuto è facile da confrontare e facile da sbagliare quando l'alternativa è quella per token. Rapportata a mille ore di audio, che corrispondono più o meno al consumo mensile di un contact centre di medie dimensioni:

• Voxtral Mini Transcribe 3 — 210 $ per 1.000 ore a 0,0035 $/min

• Voxtral Small Transcribe 3 — 240 $ per 1.000 ore a 0,004 $/min

• Voxtral Mini Transcribe Realtime 3 — 480 $ per 1.000 ore a 0,008 $/min

• API per agente vocale con ragionamento Mistral Small 4 — $2,400 per 1.000 ore di conversazione a $0.04/min

Il livello agent costa da cinque a undici volte il prezzo del livello trascrizione, che è il corretto ordine di grandezza una volta ricordato che include il modello di ragionamento e la sintesi vocale. È anche il punto in cui si trova il margine, e il posizionamento di Mistral — verifica dell’identità, controllo delle bollette, prenotazione di appuntamenti — è scelto per le chiamate in cui un’attività completata vale più di un minuto di calcolo.

Un avvertimento strutturale sull'intero listino prezzi: ogni modello qui è in anteprima pubblica, non in GA, e i prezzi in anteprima nel settore vocale si sono storicamente modificati. Non esiste alcun impegno pubblicato che 0,0035 $ rimanga 0,0035 $.

Cosa Mistral non ha rilasciato

Nessun peso. La pagina di lancio afferma che Voxtral 3 è disponibile tramite l'API di Mistral con endpoint UE, USA e globali, e «per il self-deployment sulla propria infrastruttura» — ma non pubblica alcuna licenza, né il numero di parametri per tre dei quattro modelli, né un repository Hugging Face. Per contesto, le precedenti release vocali di Mistral erano scaricabili: Voxtral Small 24B 2507 è Apache 2.0 su Hugging Face, Voxtral 4B TTS 2603 è CC-BY-NC-4.0, e Voxtral Mini 4B Realtime Arabic è stato pubblicato l'8 ottobre senza alcuna licenza dichiarata. Questa release è la prima generazione Voxtral senza alcun membro scaricabile. Il self-deployment, in questo caso, si legge come un contratto enterprise, non come un download.

Mancano inoltre: una lunghezza audio massima, qualsiasi valore relativo alla finestra di contesto per i tier TTS o agent e qualsiasi dettaglio sulla conservazione o sulla residenza dei dati oltre alle regioni degli endpoint. Se stai valutando questa soluzione per la registrazione regolamentata delle chiamate, sono proprio queste tre lacune che conviene colmare in una conversazione con l’ufficio acquisti anziché dal post di lancio.

Come provarlo davvero

Voxtral 3 oggi non è nel catalogo di OrcaRouter, quindi la via per valutarlo è l'API e i playground Studio di Mistral, che coprono trascrizione, generazione vocale, clonazione della voce e la pipeline degli agenti. Dove un router aiuta davvero è nella seconda metà della decisione: quasi mai si vuole un unico stack vocale, e mettere il modello di ragionamento che gestisce le chiamate agli strumenti del tuo agente dietro un unico endpoint significa poter confrontare Mistral Small 4 con una dozzina di altri modelli sulla stessa trascrizione senza ricostruire la pipeline. OrcaRouter applica i prezzi di listino dei provider a un ricarico dello 0% e esegue automaticamente il failover tra provider, il che conta soprattutto proprio in questa situazione — un modello di livello preview senza alcuna cronologia di uptime alle spalle.

L'ordine pratico di valutazione, se fate questa prova questa settimana: fate passare i vostri audio peggiori attraverso Voxtral Small Transcribe 3 e MAI-Transcribe-2 sugli stessi 200 file, perché i due fornitori dichiarano lo stesso punteggio FLEURS e solo i vostri audio possono sciogliere la parità. Poi provate il livello realtime a 960 ms e a 2.400 ms e contate quante volte il rilevatore di fine turno interrompe un chiamante a metà frase: in un agente live, quella modalità di errore costa più di qualsiasi differenza di WER in questa famiglia. Poi valutate il costo del minuto agente rispetto al vostro tasso di contenimento, non rispetto alla vostra bolletta di trascrizione.

Cosa guardare

Tre cose decideranno se questa release invecchierà bene. Le riproduzioni indipendenti dell'affermazione sulla diarizzazione, che è l'unico numero del lancio che cambierebbe davvero una decisione d'acquisto. Se i pesi saranno disponibili, perché un Voxtral scaricabile diventerebbe immediatamente l'opzione aperta predefinita per la diarizzazione nelle lingue europee e scardinerebbe l'intero argomento sui prezzi qui sopra. E se la latenza sub-secondo degli agenti regge sulla telefonia reale anziché in una demo di una lettera di segnalazione francese — il barge-in e il rilevamento di fine turno sono i punti in cui gli agenti vocali di solito falliscono, e nessuno dei due sopravvive come prova a un post sul blog di un fornitore.