Cara Menggunakan Gemini 4 Carbon: Penyiapan API, Parameter, dan Biaya

Gemini 4 Carbon adalah model multimodal Google dalam keluarga Gemini 4, dan di OrcaRouter model ini dapat diakses hanya dengan satu kunci: id modelnya adalah google/gemini-4-carbon, harga daftarnya $2.00 per juta token input dan $10.00 per juta token output, dan halaman Gemini 4 Carbon API memuat angka terkini. Berikut adalah pengaturan yang benar-benar berfungsi, dalam urutan yang akan Anda temui: endpoint, bentuk permintaan, kumpulan parameter, biaya, lalu angka latensi yang perlu Anda anggarkan sebelum Anda menempatkannya di hadapan pengguna.

Apa yang diterima model

Jendela konteks adalah 1.048.576 token dan batas keluaran adalah 65K token per respons, yang merupakan {{1}}hal pertama yang harus dipahami betul{{/1}}: dokumen yang sangat besar dapat dimuat dalam prompt, tetapi jawabannya dibatasi jauh di bawah input. Modalitas input adalah teks, gambar, audio, video, dan dokumen; outputnya berupa teks. Penggunaan alat native dan pemanggilan fungsi didukung, begitu pula output JSON terstruktur, yang membuatnya dapat digunakan di dalam loop agen dan bukan hanya sebagai kotak obrolan.

{{1}}Retensi Data Nol{{/1}} tersedia pada model ini. Dengan ZDR aktif, permintaan hanya dikirim ke penyedia upstream yang memiliki perjanjian retensi nol, jadi jika tim pengadaan Anda memerlukan itu secara tertulis, ini adalah pengaturan perutean, bukan kontrak terpisah.

Endpoint satu: jalur yang kompatibel dengan OpenAI

Ini adalah jalur yang perlu diambil jika Anda sudah memiliki kode yang berjalan dengan klien OpenAI apa pun. Arahkan SDK ke OrcaRouter, pertahankan id model, dan tidak ada hal lain dalam permintaan Anda yang berubah. Contoh di bawah ini adalah keseluruhan program:

Atur base URL ke https://api.orcarouter.ai/v1, baca kunci dari variabel lingkungan, bukan dari literal, dan teruskan google/gemini-4-carbon sebagai model. Tiga baris yang sama berfungsi dari SDK Python, TypeScript, dan Go, karena format wire-nya adalah Chat Completions.

Endpoint dua: generateContent native

Jika stack Anda dibangun di atas Gemini SDK alih-alih klien OpenAI, Carbon tetap merespons secara native di /v1beta/models/{model}:generateContent pada host yang sama. Konsekuensi menariknya adalah Anda dapat memigrasikan beban kerja satu permintaan pada satu waktu: jalankan jalur yang kompatibel dengan OpenAI untuk layanan yang berbagi kode dengan vendor lain, dan jalur native di tempat Anda sudah bergantung pada field khusus Gemini. Keduanya ditagihkan ke kunci yang sama dan saldo yang sama, yang menjadi alasan untuk menggunakan gateway alih-alih sekumpulan akun vendor.

Parameter yang dipatuhi

Halaman model mencantumkan kumpulan yang didukung secara eksplisit: include_reasoning, max_tokens, reasoning, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools dan top_p. Daftar itu adalah kontraknya. Jika Anda memindahkan permintaan dari penyedia lain, periksa sebelum mengirimkannya, karena parameter yang Anda pakai karena kebiasaan — istilah penalti, bias logit, selusin pengaturan sampling — tidak ada di daftar itu.

Dua di antaranya lebih penting daripada yang lain. structured_outputs ditambah response_format adalah yang mengubah dokumen 200.000 token menjadi catatan yang dapat dibaca oleh kode hilir Anda tanpa parser yang Anda tulis sendiri. Dan include_reasoning adalah cara Anda mengetahui apa yang dilakukan model sebelum menjawab; jika dimatikan di produksi, Anda mempercayakan langkah buram dengan skema Anda.

Berapa biaya permintaan

Input adalah $2,00 per juta token dan output $10,00 per juta, dengan pembacaan cache sebesar $0,100 per juta. Contoh perhitungan: kontrak 40.000 token ditambah ekstraksi terstruktur 2.000 token menagih $0,08 untuk input dan $0,02 untuk output, jadi sepuluh sen per dokumen. 40.000 token yang sama jika dibaca dari cache ditagih $0,004, itulah sebabnya pos cache penting untuk alur kerja apa pun yang membaca ulang korpus yang sama.

Sebagai gambaran, untuk dokumen 40.000 token yang sama, Gemini 3.1 Pro biayanya sama untuk input tetapi 20 persen lebih tinggi untuk output, dan Gemini 3 Flash biayanya seperempat untuk keduanya — pilihan antara keduanya lebih tentang modalitas dan konteks daripada tentang harga input, yang identik antara Carbon dan 3.1 Pro. Rincian API LLM gratis adalah tempat untuk membandingkannya dengan bagian lain dari katalog.

Dua angka latensi yang maknanya berbeda

Halaman model OrcaRouter sendiri melaporkan lalu lintas langsung selama tujuh hari terakhir: p50 waktu hingga token pertama sebesar 6,89 detik, p95 sebesar 10,00 detik, dan kecepatan keluaran 226 token per detik, atas 9,6 juta token yang dilayani. Itulah yang dialami oleh pemanggil interaktif melalui gateway.

Artificial Analysis melaporkan 64,7 detik hingga token pertama dan 28,4 menit waktu aktual per tugas untuk model yang sama. Keduanya tidak saling bertentangan; itu adalah pengukuran yang berbeda. AA menjalankan harness evaluasi tetap yang meminta model berpikir selama yang diinginkannya pada sembilan benchmark sulit, jadi waktu tersebut mencakup penalaran, bukan hanya jaringan dan prefill. Jika Anda mengutip satu angka tanpa angka lainnya, Anda akan menjanjikan interaktivitas secara berlebihan atau membuat pembeli yang sebenarnya akan baik-baik saja jadi mundur.

Peringatan operasional yang jujur adalah tingkat kesalahan: 39,7 persen permintaan mengembalikan status non-2xx di semua penyedia hulu dalam jendela tujuh hari itu, dibandingkan dengan 10,8 persen untuk Claude Fable 5.2 pada periode yang sama. Bangun jalur percobaan ulang dan fallback sebelum peluncuran, bukan setelah insiden pertama, dan baca catatan rilis Gemini 4 Carbon untuk mengetahui apa yang berubah saat dirilis.

Di mana Carbon cocok setelah berjalan

Beban kerja yang membenarkannya adalah beban kerja yang membutuhkan jendela 1M dan lebih dari satu modalitas: seluruh basis kode, transkrip panjang dengan pembicara, PDF hasil pindai beserta teks yang diekstrak. Jika Anda memilih di antara model Google, Gemini 4 Carbon vs Gemini 3.1 Pro adalah perbandingan langsungnya; jika alternatifnya adalah vendor yang sama sekali berbeda, GPT-6.1 Sol vs Gemini 4 Carbon mencakup keputusan yang sama dari sisi sebaliknya.

Jika Anda masih menyusun stack alih-alih memigrasikan satu beban kerja, daftar model LLM memiliki katalog terkini dengan id dan harga, dan halaman model yang ditautkan di bagian atas adalah yang perlu diperiksa sebelum Anda melakukan hard-code pada apa pun — harga dan endpoint dapat berubah.

Daftar periksa

Simpan kunci di variabel lingkungan, bukan di repositori. Pilih endpoint yang cocok dengan SDK yang sudah Anda gunakan. Kirim hanya parameter dari daftar yang didukung, dan gunakan response_format plus structured_outputs saat output memberi masukan ke kode. Anggarkan output 65K token dan cache apa pun di atas 20K yang Anda baca lebih dari dua kali. Perkirakan p50 mendekati tujuh detik dan rencanakan untuk sebagian kecil panggilan yang mengembalikan error. Lalu ukur pada trafik Anda sendiri, karena grafik benchmark hanyalah titik awal dan distribusi permintaan Andalah satu-satunya yang menentukan apakah itu pilihan yang tepat.