Een provider valt uit. Niemand merkt het.

Wanneer een upstream de snelheid beperkt of een 5xx-fout geeft, wordt een geconfigureerde fallback-keten opnieuw geprobeerd tegen een gezond model voordat de respons al begint te streamen.

Geef tot vijf reservemodellen op, gekozen uit een catalogus van 200+ modellen bij 40+ aanbieders.
Failover vindt plaats vóór het streamen — uw client ziet één correct antwoord, niet een afgekapt antwoord gevolgd door een fout.
Elke nieuwe poging staat in de bon: wat er mislukte, wat het vervolgens afhandelde en hoe lang elke poging duurde.

De storing waar niemand een ticket over indient.

Een aanbieder begint 503-fouten te geven. Met een geconfigureerde fallback-keten is het verzoek al onderweg — het komt terecht bij een gezond model voordat er ook maar één token uw gebruiker heeft bereikt. Zij zien één helder antwoord. U ziet beide pogingen op de bon.

Altijd ergens naartoe.

U geeft maximaal vijf modellen op voor de keten, gekozen uit 200+ bij 40+ aanbieders — genoeg zodat een slechte middag van één upstream-aanbieder niet uw incidentrapportage hoeft te worden. Gezondheid, gewicht en prioriteit worden per kanaal bijgehouden; modellen die het moeilijk hebben, verdwijnen stil uit de rotatie.