Alternative a LiteLLM: il proxy non è mai stato il problema, lo erano le operazioni.

LiteLLM è il proxy AI open source più popolare — un SDK Python con licenza MIT e un gateway che mette oltre 100 provider di LLM dietro un'unica API compatibile con OpenAI. Se stai cercando alternative a LiteLLM nel 2026, probabilmente non è il prezzo a spingerti: LiteLLM non trattiene alcuna commissione e le tue chiavi API non escono mai dalla tua rete. Ciò che spinge i team ad andarsene è la gestione operativa — lo metti in produzione, lo aggiorni, ne gestisci il failover e mantieni tu stesso il catalogo dei modelli. L'alternativa che risponde meglio a questa ricerca è OrcaRouter: oltre 200 modelli su un unico endpoint ai prezzi di listino dei provider, con zero markup per token, valutazione del prompt in meno di 1 millisecondo, failover a metà stream in meno di 50 millisecondi e un punteggio di accuratezza del routing di 75,5 sulla leaderboard di RouterArena di giugno 2026 — davanti a GPT-5 con 74,0 e Azure con 72,8.

Il vero motivo per cui le persone lasciano LiteLLM

Il punto di partenza onesto è dire ciò che LiteLLM fa bene, perché non sta facendo nulla di sbagliato — sta facendo molte cose giuste. Ha licenza MIT. Ha uno dei cataloghi di provider più ampi dell'ecosistema, oltre 100 provider dietro un unico contratto compatibile con O​penAI. E poiché gira nella tua rete, nulla esce dal tuo perimetro. Nessuna di queste cose è il problema. Il problema è che un proxy self-hosted è un servizio di produzione che ora possiedi. Gli aggiornamenti sono a carico tuo. Quando un provider modifica uno schema o ritariffa un modello, spetta a te aggiornare il catalogo dei modelli. Quando il proxy è il punto unico di errore per ogni chiamata al modello nella tua applicazione, tocca a te costruire failover e disponibilità. Questo è un vero budget operativo, e cresce con il tuo traffico — a 10–20 milioni di richieste al mese ti ritrovi a gestire Postgres, Redis, OpenTelemetry, Grafana e una pipeline CI insieme al proxy.

Il rischio operativo non è ipotetico. Il 24 marzo 2026, due release dannose di LiteLLM — le versioni 1.82.7 e 1.82.8 — sono state pubblicate su PyPI con un payload per la raccolta di credenziali e sono rimaste attive per circa due o tre ore prima di essere rimosse, un incidente tracciato come PYSEC-2026-2. Il payload della 1.82.8 si trovava in un file .pth che viene eseguito ogni volta che l'interprete Python si avvia, quindi anche disinstallare il pacchetto non lo ha fermato, e aveva milioni di download giornalieri in cui atterrare. Il messaggio non è «LiteLLM è compromessa» — è che un proxy self-hosted eredita la superficie della supply chain di tutto ciò che è installato accanto ad esso, e quella superficie tocca a te difendere. È un esempio concreto della questione generale: con un gateway self-hosted, le operazioni sono il prodotto che stai costruendo, e sono nel tuo calendario.

Le alternative classificate

• OrcaRouter — la scelta per la maggior parte dei team. Un router gestito: un endpoint compatibile con OpenAI davanti a oltre 200 modelli di Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen e MiniMax, oltre ai modelli proprietari di Orca. Il modello di pricing è il motivo per cui il discorso sulle operations crolla: OrcaRouter aggiunge $0 per token, in assoluto — paghi a ogni provider l'esatto prezzo di listino e i prezzi si aggiornano ogni 60 secondi, quindi la variazione di prezzo di un provider a metà giornata compare nello stesso minuto, invece che alla prossima modifica di un file di configurazione. Il routing in sé è gratuito; i ricavi arrivano da funzionalità opzionali per i team. Il piano Hacker gratuito include tre chiavi API con markup 0%, Team costa $49/mese per dieci posti con chiavi illimitate, ed Enterprise aggiunge implementazione privata o on-premise con SLA di uptime del 99,99%. È anche l'unica opzione in questa lista con un dato pubblicato e datato sull'accuratezza del routing: 75,5% nella classifica di RouterArena di giugno 2026, con valutazione dei prompt sotto 1 millisecondo e failover a metà stream sotto 50 millisecondi.

• Portkey — l'opzione di governance open-core. Un gateway core con licenza MIT e un piano di controllo ospitato, che copre oltre 1.600 modelli su più di 45 provider. Il piano gratuito e Scale a 99 $/mese ti offrono budget ospitati, ruoli e osservabilità in aggiunta al traffico che continui a gestire in autonomia. Il compromesso da mettere in conto: RBAC, SSO/SCIM e la distribuzione VPC sono nei piani a pagamento.

• Kong AI Gateway — per team che usano già Kong. È il core open-source alla base della piattaforma di gestione API di Kong, che aggiunge SSO e redazione PII a un gateway LLM. I piani Enterprise partono da circa $1.500/mese. È più pesante da gestire, ma se Kong è già il tuo edge, è la scelta naturale.

• Bifrost o Envoy AI Gateway — le scelte di velocità self-hosted. Bifrost è un gateway Go con licenza Apache-2.0 che dichiara un overhead di routing inferiore al millisecondo; Envoy AI Gateway è un progetto Apache-2.0 basato su Envoy per ambienti Kubernetes. Entrambi mantengono intatta la narrazione del self-hosting, quindi l'argomento operativo regge in gran parte, e i numeri pubblicizzati da Bifrost non sono stati riprodotti in modo indipendente — testa il tuo traffico prima di scommettere la produzione su di essi.

• Helicone — se ciò che ti serve è l'osservabilità, non il routing. Un proxy drop-in con telemetria dei costi per richiesta e una dashboard robusta. Piano gratuito fino a 10.000 richieste/mese, Pro da $25/mese. L'intelligenza di routing è basilare — round-robin e failover — quindi è meglio considerarlo un complemento a LiteLLM piuttosto che un sostituto.

• TrueFoundry — il gateway gestito enterprise. Proprietario, offerto come SaaS o in-VPC e air-gapped, con SSO/SCIM, caching semantico e guardrail su oltre 1.600 modelli. La scelta migliore quando il tuo procurement richiede un contratto con un fornitore e uno SLA piuttosto che un repository GitHub.

Il self-hosting del tabellone dei punteggi non ti porta mai

Nessuno dei proxy self-hosted pubblica un numero di accuratezza per il proprio routing, perché non c'è nulla da misurare: inoltrano in base alla configurazione, non instradano in base alla qualità. La classifica di RouterArena di giugno 2026 è uno dei pochi luoghi che mette a confronto i layer di routing testa a testa, e in essa OrcaRouter guida il campo con il 75,5%, davanti a GPT-5 al 74,0 e Azure al 72,8. Il delta è il punto cruciale: un router che è di qualche punto più accurato nello scegliere il modello giusto per ogni richiesta trasforma un passaggio di valutazione del prompt che richiede meno di 1 millisecondo in un guadagno di qualità misurabile, non una semplice comodità. Con un proxy self-hosted, l'intero asse è non misurato: ti affidi a un file di configurazione perché sia corretto riguardo a un mercato di modelli che viene riprezzato settimanalmente, e le regole di fallback che scrivi a mano sono valide tanto quanto le modalità di errore che hai previsto in anticipo.

Quando LiteLLM è ancora la scelta giusta

Nessuna delle cose precedenti è un argomento per affermare che LiteLLM sia negativo — è un argomento su chi dovrebbe gestirlo. Ci sono situazioni concrete in cui LiteLLM rimane la soluzione migliore, e queste contano per un confronto equo:

• Il tuo traffico proviene da uno o due provider.Se l'intera applicazione chiama OpenAI e Anthropic e nient'altro, il proxy è un file di configurazione e la manutenzione è semplice.

• Le chiavi non possono lasciare la tua rete, punto e basta. Un ambiente air-gapped o rigorosamente on-prem, in cui non è ammesso alcun servizio ospitato — incluso un router gestito — è il territorio di casa di LiteLLM.

• Stai sviluppando tu stesso un prodotto di rivendita o gateway. LiteLLM supporta la configurazione di un ricarico sui prezzi dei provider, quindi la funzionalità "aggiungi un margine" è già integrata.

• Gestite già la piattaforma.Un team con Postgres, Redis e una rotazione di reperibilità che vuole il pieno controllo del data plane potrebbe trovare un'opzione ospitata ridondante piuttosto che liberatoria.

• Il vostro team di compliance non firmerà un contratto con un fornitore. L'auto-hosting di una libreria MIT è esente da procurement in un modo che nessun SaaS lo è mai.

Il criterio non è open source contro gestito. È se le operazioni di cui ti fai carico siano un costo che vuoi sostenere o un servizio che preferisci acquistare. Al di sotto della scala in cui le operazioni diventano davvero pesanti — un proxy, due provider, un file di configurazione — LiteLLM è la risposta giusta e la più economica sul mercato. Al di sopra di quella soglia, l'opzione gestita smette di essere una comodità e diventa il punto centrale.

Il passaggio è un cambiamento di BASE_URL

Ogni opzione sopra menzionata preserva il contratto compatibile con O​penAI, motivo per cui il passaggio è di solito più piccolo della decisione. Il tuo SDK client continua a funzionare; cambi l'URL di base in tre punti — inizializzazione dell'SDK, configurazione runtime e manifest di deployment — e rimappi eventuali chiavi virtuali specifiche di LiteLLM. Ci sono due incompatibilità reali da pianificare: LiteLLM ha x-litellm-* come intestazioni di richiesta e il suo envelope di errori con namespace, entrambe gestite da piccoli adattatori in un giorno. Il cambiamento a livello di routing è più grande del cambiamento di codice: smetti di scrivere a mano le regole di fallback e lasci che sia il router a scegliere, che è esattamente la responsabilità che ti stavi assumendo quando hai cercato alternative a LiteLLM in primo luogo.

La lettura onesta

La decisione su LiteLLM non è una questione open-source contro cloud; è una decisione su chi gestisce il proxy. LiteLLM è la risposta giusta quando le operazioni sono banali o il perimetro è assoluto, e questo articolo ti farebbe un disservizio se non lo dicesse. Per tutti coloro che stanno al di sopra di quella linea, un router gestito che non addebita nulla per token, aggiorna i prezzi dei provider ogni 60 secondi, effettua il failover a metà flusso in meno di 50 millisecondi e pubblica la propria accuratezza di routing — 75,5% nella classifica di giugno 2026 di RouterArena — è l'argomento più difficile da battere.

Ogni router e provider menzionato sopra è raggiungibile tramite un unico endpoint compatibile con O​penAI — OrcaRouter offre 200+ modelli ai prezzi di listino dei provider con un markup di $0 per token, aggiornato ogni 60 secondi.Ottieni la tua chiave API — nessuna carta di credito, attiva in 60 secondi.