Jak korzystać z Gemini 4 Carbon: konfiguracja API, parametry i koszty

Gemini 4 Carbon to multimodalny model Google z rodziny Gemini 4, a w OrcaRouter jest dostępny przy użyciu jednego klucza: identyfikator modelu to google/gemini-4-carbon, cena katalogowa wynosi 2,00 USD za milion tokenów wejściowych i 10,00 USD za milion tokenów wyjściowych, a Gemini 4 Carbon API zawiera aktualne dane. Poniżej znajduje się konfiguracja, która faktycznie działa, w kolejności, w jakiej ją napotkasz: punkt końcowy, struktura żądania, zestaw parametrów, koszt, a następnie wartości opóźnień, które należy uwzględnić, zanim udostępnisz go użytkownikom.

Co akceptuje model

Okno kontekstu ma 1 048 576 tokenów, a limit wyjścia wynosi 65 tys. tokenów na odpowiedź — to pierwsza rzecz, którą trzeba przyswoić: bardzo duży dokument mieści się w prompcie, ale odpowiedź jest ograniczona znacznie poniżej rozmiaru wejścia. Modalności wejściowe to tekst, obrazy, dźwięk, wideo i dokumenty; wyjście to tekst. Obsługiwane są natywne użycie narzędzi i wywoływanie funkcji, a także strukturalne wyjścia JSON, co sprawia, że można go używać w pętli agenta, a nie tylko jako okno czatu.

Zero Data Retention (ZDR) jest dostępne w tym modelu. Gdy ZDR jest włączone, żądania trafiają wyłącznie do dostawców upstream, którzy mają podpisaną umowę o zerowym przechowywaniu danych, więc jeśli Twój zespół ds. zakupów potrzebuje tego na piśmie, to jest to ustawienie routingu, a nie odrębna umowa.

Endpoint pierwszy: ścieżka zgodna z OpenAI

To ścieżka, którą należy obrać, jeśli masz już kod działający z dowolnym klientem OpenAI. Skieruj SDK na OrcaRouter, zachowaj identyfikator modelu, a nic innego w Twoim żądaniu się nie zmieni. Poniższy przykład to cały program:

Ustaw bazowy adres URL na https://api.orcarouter.ai/v1, odczytaj klucz ze zmiennej środowiskowej, a nie z literału, i przekaż google/gemini-4-carbon jako model. Te same trzy linie działają w SDK Pythona, TypeScript i Go, ponieważ format transmisji to Chat Completions.

Punkt końcowy drugi: natywny generateContent

Jeśli Twój stos jest zbudowany na Gemini SDK, a nie na kliencie OpenAI, Carbon nadal odpowiada natywnie pod adresem /v1beta/models/{model}:generateContent na tym samym hoście. Ciekawą konsekwencją jest to, że można migrować obciążenie po jednym żądaniu na raz: korzystać ze ścieżki zgodnej z OpenAI dla usług, które współdzielą kod z innymi dostawcami, oraz ze ścieżki natywnej tam, gdzie już polegasz na polach specyficznych dla Gemini. Oba są rozliczane z użyciem tego samego klucza i tego samego salda, co jest argumentem za bramą zamiast zestawu kont dostawców.

Parametry, które są respektowane

Strona modelu wyraźnie wymienia obsługiwany zestaw: include_reasoning, max_tokens, reasoning, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools i top_p. Ta lista jest kontraktem. Jeśli przenosisz zapytanie od innego dostawcy, sprawdź ją przed wysłaniem, ponieważ parametry, po które sięgasz z przyzwyczajenia — kary, obciążenia logitów, tuzin pokręteł próbkowania — nie znajdują się na niej.

Dwa z nich są ważniejsze od pozostałych. structured_outputs wraz z response_format to mechanizm, który zamienia dokument o 200 000 tokenów w rekord, jaki Twój kod dalszego przetwarzania może odczytać bez parsera napisanego samodzielnie. A include_reasoning pozwala ustalić, co model zrobił, zanim odpowiedział; jeśli pominiesz go w środowisku produkcyjnym, powierzasz swój schemat nieprzejrzystemu etapowi.

Ile kosztuje żądanie

Wejście kosztuje 2,00 USD za milion tokenów, a wyjście 10,00 USD za milion, przy czym odczyty z pamięci podręcznej kosztują 0,100 USD za milion. Przykład obliczeniowy: kontrakt o długości 40 000 tokenów plus strukturalne wyodrębnienie 2 000 tokenów daje 0,08 USD kosztu wejścia i 0,02 USD kosztu wyjścia, czyli dziesięć centów na dokument. Te same 40 000 tokenów odczytanych z pamięci podręcznej kosztuje zamiast tego 0,004 USD, dlatego pozycja dotycząca pamięci podręcznej ma znaczenie w każdym przepływie pracy, który wielokrotnie odczytuje ten sam korpus.

Dla porównania ten sam dokument o 40 000 tokenów w przypadku Gemini 3.1 Pro kosztuje tyle samo na wejściu, ale o 20 procent więcej na wyjściu, a w przypadku Gemini 3 Flash kosztuje jedną czwartą tej kwoty zarówno na wejściu, jak i na wyjściu — wybór między nimi dotyczy modalności i kontekstu, a nie ceny wejścia, która jest identyczna w przypadku Carbon i 3.1 Pro.Zestawienie darmowych interfejsów API LLM to miejsce, w którym można to porównać z resztą katalogu.

Dwie liczby opóźnienia, które oznaczają różne rzeczy

Własna strona modelu OrcaRouter raportuje dane z ostatnich siedmiu dni rzeczywistego ruchu: p50 czasu do pierwszego tokenu wynosi 6,89 sekundy, p95 wynosi 10,00 sekundy, a prędkość generowania to 226 tokenów na sekundę, przy ponad 9,6 mln obsłużonych tokenów. Tak wygląda doświadczenie interaktywnego klienta wywołującego korzystającego z bramy.

Artificial Analysis podaje 64,7 sekundy do pierwszego tokenu i 28,4 minuty czasu rzeczywistego na zadanie dla tego samego modelu. Nie ma tu sprzeczności; to różne pomiary. AA uruchamia stały zestaw ewaluacyjny, który prosi model o myślenie tak długo, jak chce, na dziewięciu trudnych benchmarkach, więc pomiar czasu obejmuje rozumowanie, a nie tylko sieć i prefill. Jeśli podasz jedną liczbę bez drugiej, albo obiecasz zbyt dużo w kwestii interaktywności, albo odstraszysz kupca, który byłby zadowolony.

Uczciwe zastrzeżenie operacyjne dotyczy odsetka błędów: 39,7 procent żądań zwróciło status inny niż 2xx u wszystkich dostawców upstream w tym siedmiodniowym oknie, w porównaniu z 10,8 procent dla Claude Fable 5.2 w tym samym okresie. Zbuduj ścieżkę ponowień i fallbacku przed premierą, a nie po pierwszym incydencie, i przeczytaj notatki o wydaniu Gemini 4 Carbon, aby dowiedzieć się, co się zmieniło, gdy wszedł na rynek.

Gdzie Carbon wpisuje się w całość, gdy już działa

Obciążenia, które to uzasadniają, to te wymagające okna 1M i więcej niż jednej modalności: całe bazy kodu, długie transkrypcje z mówcami, zeskanowane pliki PDF wraz z wyodrębnionym tekstem. Jeśli wybierasz spośród modeli Google, Gemini 4 Carbon vs Gemini 3.1 Pro to bezpośrednie porównanie; jeśli alternatywą jest zupełnie inny dostawca, GPT-6.1 Sol vs Gemini 4 Carbon ujmuje tę samą decyzję z drugiej strony.

Jeśli nadal kompletujesz stos technologiczny, a nie migrujesz jednego obciążenia, lista modeli LLM zawiera aktualny katalog z identyfikatorami i cenami, a strona modelu podlinkowana u góry jest tą, którą należy sprawdzić, zanim cokolwiek zakodujesz na sztywno — ceny i punkty końcowe się zmieniają.

Lista kontrolna

Klucz przechowuj w zmiennej środowiskowej, a nie w repozytorium. Wybierz endpoint, który odpowiada SDK, które już dostarczasz. Wysyłaj tylko parametry z listy obsługiwanych i używaj response_format oraz structured_outputs, gdy wynik zasila kod. Zaplanuj budżet wyniku na 65 tys. tokenów i buforuj wszystko powyżej 20 tys., co czytasz więcej niż dwa razy. Oczekuj p50 w okolicach siedmiu sekund i uwzględnij w planach mniejszość wywołań, które zwracają błąd. Następnie zmierz to na własnym ruchu, ponieważ wykres benchmarku to punkt wyjścia, a rozkład Twoich żądań jest jedyną rzeczą, która decyduje, czy to był właściwy wybór.