Gemini Decision 1 vs Laya: 262,144 Token Disewa Dibandingkan 512 Token Dimiliki

Dua model keputusan, dua angka yang menggambarkan pilihan desain yang sama dari dua kutub berlawanan. Gemini Decision 1 menerima input 262,144 token dan hingga 1,000 pertanyaan yang diketik dalam satu panggilan, dengan biaya $0.10 per juta token input, di API milik Google sendiri. Laya menerima 512 token teks pada checkpoint bahasa Inggrisnya, berjalan di T4 yang sudah Anda bayar, dan berlisensi Apache-2.0. Itu berarti faktor 512 pada jendela dan tak terhingga pada harga, dalam arah yang berlawanan, dan tidak ada benchmark yang menyelamatkan perbandingan ini karena kedua model tidak dibuat untuk pekerjaan yang sama.

Convai Innovations menerbitkan Laya pada 18 September 2026 sebagai tiga checkpoint dalam satu repositori: model bahasa Inggris ModernBERT-large 421M, model multibahasa mmBERT-base 322M, dan varian keputusan bertipe. Google merilis Gemini Decision 1 pada 11 November 2026 dan tidak menerbitkan bobot, jumlah parameter, atau model dasar. Satu-satunya angka yang dapat dijadikan pembanding bagi keduanya adalah papan skor yang hanya memuat salah satunya — Gemini Decision 1 berada di posisi 66 pada Artificial Analysis Decision Index v2.1, peringkat kesembilan dari delapan belas, dan Laya tidak ada di papan itu.

Apa yang disingkirkan oleh jendela 512 token sebelum sarapan

Mulailah dengan batasan, karena hal itu menghilangkan seluruh kategori produk lebih cepat daripada angka akurasi apa pun.

• Input bersama — Gemini Decision 1 membaca hingga 262.144 token yang mencakup input dan setiap pertanyaan. Checkpoint bahasa Inggris Laya membaca 512 token, titik. Checkpoint multibahasa default-nya 1.024 dan dapat dinaikkan hingga 8.192 dengan max_len=8192, pada titik mana kartu milik Convai sendiri melaporkan 16 hingga 18 dari 20 permintaan dokumen panjang sebagai benar pada konteks hingga sekitar 4.000 token dan "di luar itu hasilnya bervariasi".

• Modalitas — Gemini Decision 1 menerima teks, gambar, video, audio, dan PDF dalam permintaan yang sama. Laya menerima teks. Formulir klaim hasil pindai, rekaman panggilan, atau foto produk bukanlah input sampai ada sesuatu di hulu yang mengonversinya menjadi kata-kata, dan konversi itu adalah model terpisah dengan biaya terpisah serta kesalahannya sendiri.

• Pertanyaan per panggilan — hingga 1.000 untuk Gemini Decision 1, terisolasi satu sama lain, dalam satu kali proses. Laya menjawab pertanyaan yang Anda kirim dengan satu state, dan dokumentasinya sendiri menetapkan batas praktis sekitar lima puluh opsi per pertanyaan pilihan sebelum anggaran token per opsi model menipis.

• Harga — $0,10 per juta token masukan untuk Gemini Decision 1, diukur pada $345 per juta tugas oleh Artificial Analysis, tanpa caching konteks dan tanpa Batch API. Laya adalah unduhan: sekitar 808 MB untuk checkpoint bahasa Inggris, tanpa biaya per panggilan, dan T4 berjalan pada sekitar 32,8 milidetik per keputusan.

• Lisensi dan distribusi — Bobot Apache-2.0, tanpa dependensi hosted, dan titik masuk pip install laya. Gemini Decision 1 hanya tersedia di Gemini Developer API pada v1beta, dengan tier gratis 200 permintaan per menit dan daftar kapabilitas yang didukung dan tidak didukung yang terdokumentasi.

Papan skor menampilkan salah satu dari dua ini, dan itu bukan hasil seri.

Skor 66 Gemini Decision 1 merupakan komposit dari enam evaluasi berbobot, 45% di antaranya dibangun di atas data privat, dinilai sebagai akurasi dikurangi penalti Brier yang melekat pada jawaban. Kekuatan dan kelemahannya luar biasa bersih untuk model hari peluncuran: pertama dari delapan belas pada AA-Omniscience-Decision dengan 66,3 dan pertama pada HLE-MultiChoice dengan 48,7, tetapi kesembilan pada AA-Paperclip dengan 56,8 dengan tingkat kelulusan dokumen all-or-nothing 33%, dan keempat belas pada When2Call dengan 80,5. Kesembilan secara keseluruhan, pertama di tempat pengetahuan dan abstensi diuji, papan tengah di tempat ekstraksi dan pemilihan alat diuji.

Laya tidak memiliki angka yang sebanding, dan proyek tersebut menjelaskan alasannya di kartunya sendiri. Checkpoint dasarnya mencetak 0,362 zero-shot pada benchmark typed-decisions — di bawah baseline kelas mayoritas 0,461, dan mendekati acak. Angka utama 0,766 memerlukan fine-tuning pada split pelatihan benchmark itu sendiri. Kalimat ringkasan Convai adalah yang perlu dibawa ke evaluasi apa pun: Laya adalah base yang cepat untuk dispesialisasikan, bukan mesin keputusan zero-shot.

Itu bukan kelemahan yang harus dinilai dengan membandingkannya terhadap model laboratorium terdepan; itu adalah deskripsi produk yang berbeda. Gemini Decision 1 dijual sebagai sesuatu yang sudah bagus dalam mengambil keputusan. Laya dijual sebagai sesuatu yang menjadi bagus dalam keputusan Anda setelah Anda melatihnya, dan pada titik itu angka-angka terbitannya — 0,766 dibandingkan 0,727 milik model sejenis pada keputusan bertipe, 0,950 dibandingkan 0,910 pada AG News — kompetitif pada tugas-tugas yang menjadi sasaran penyesuaiannya.

Dua pipeline yang benar-benar dibangun orang

Karena kemampuannya hampir tidak tumpang tindih, cara merumuskan yang jujur bukanlah "yang mana", melainkan "yang mana dari dua pekerjaan ini yang Anda miliki".

Gemini Decision 1 cocok untuk pekerjaan ini. Input panjang datang — kontrak 60 halaman, satu jam audio panggilan, folder faktur hasil pindai — dan banyak penilaian harus dikaitkan padanya. Empat puluh aturan kebijakan atas satu tiket dalam satu pembacaan yang ditagih; rubrik yang dinilai pada seratus jawaban kandidat; keputusan perutean yang bergantung pada bukti yang tersebar di seluruh dokumen yang tidak ingin dipecah oleh siapa pun. Dokumentasi Google sendiri menyebutkan persis hal-hal ini: perutean permintaan, pemeriksaan kebijakan di banyak aturan sekaligus, penilaian kandidat terhadap rubrik, pemilihan alat, klasifikasi latensi rendah atas media langsung. Batas 1.000 pertanyaan dan input multimodal adalah seluruh alasan produk ini ada, dan keduanya adalah dua hal yang tidak dapat dilakukan Laya pada harga berapa pun.

Pekerjaan yang cocok untuk Laya. Sebuah state singkat dan satu keputusan, pada volume di mana biaya per panggilan menjadi kendala dan kumpulan label sepenuhnya milik Anda. Triase tiket ke taksonomi Anda sendiri, klasifikasi intent, gerbang ya/tidak sebelum model mahal dijalankan. Encoder 421M di T4 dalam 32,8 milidetik praktis gratis per panggilan, dan karena ruang jawaban dirakit per permintaan alih-alih ditanam ke head kosakata, skema yang Anda buat sore ini tidak perlu pelatihan ulang untuk diterima — meskipun tetap memerlukan data pelatihan agar akurat.

Kombinasi ini bukan hal yang eksotis: Laya sebagai tahap pertama yang cepat yang menangani 80% lalu lintas yang dilatih untuk ditanganinya, dan scorer hosted besar untuk item yang membutuhkan bukti dari input panjang atau non-teks. Pola tersebut lebih murah daripada mengirim semuanya ke Google dan gagal dengan lebih anggun daripada menjalankan encoder 421M pada sebuah kontrak.

Di mana perbandingan biaya sebenarnya bermuara

Pada volume rendah, perhitungan ekonomi Laya tak tertandingi sekaligus tidak relevan. T4 berharga beberapa ratus dolar per bulan, terpakai atau tidak; satu juta tugas Gemini Decision 1 seharga $345 adalah pos anggaran yang harus disetujui seseorang. Di bawah beberapa ratus ribu keputusan per bulan, endpoint terkelola biasanya menang hanya dari sisi jam engineering — tidak ada training run, tidak ada set label, dan tidak ada serving stack.

Pada volume tinggi, perhitungannya berbalik, dengan satu catatan yang lebih penting daripada titik persilangan: biaya marginal Laya mendekati nol hanya jika model tersebut sudah berkinerja pada tugas Anda. Jika tidak, labelnya adalah tagihan yang sebenarnya. Kartu Convai secara eksplisit menyatakan bahwa fine-tuning-lah yang menghasilkan angka-angka yang dipublikasikan, jadi perbandingan yang jujur adalah $345 per satu juta tugas yang dihosting versus GPU ditambah biaya pelabelan contoh yang cukup untuk mencapai kalibrasi yang Anda percayai. Keduanya bukan tarif per token, dan perbandingan yang berpura-pura sebaliknya sama dengan membandingkan harga sewa dengan proyek konstruksi.

Lalu ada bentuk latensi, dan di sinilah kedua produk sama sekali berhenti menjadi substitusi. Gemini Decision 1 mengukur 211 milidetik per tugas pada indeks — cukup baik untuk lompatan perutean di balik pesan pelanggan, marginal untuk loop bingkai demi bingkai. 32,8 milidetik milik Laya pada T4 adalah angka yang memungkinkan keputusan per bingkai dan per penekanan tombol, dan itulah satu-satunya keunggulan yang tidak dapat ditutup oleh infrastruktur Google sebanyak apa pun, karena keunggulan itu berasal dari menjadi 421M parameter alih-alih model multimodal berskala frontier.

Merutekan bagian yang bukan keduanya

OrcaRouter tidak membawa kedua model itu. Laya adalah bobot Apache-2.0 yang Anda jalankan sendiri, dan Gemini Decision 1 adalah endpoint khusus probabilitas pada API milik Google sendiri — model keputusan bukan target chat-completions, dan kami tidak mencantumkan apa yang tidak dapat kami layani. Model keputusan dalam katalog adalah typesafe/jev-1.14 milik TypeSafe, pada 66,23 di indeks yang sama, jika panggilan penilaian dengan satu kunci penting bagi Anda.

Panggilan yang memang harus berada di belakang router adalah panggilan yang menjadi dependensi kedua model ini dan tidak dilakukan oleh keduanya: langkah konversi. Jendela 512 token Laya berarti model upstream harus mengubah dokumen, rekaman, atau tangkapan layar menjadi state singkat sebelum Laya dapat menilainya, dan biaya per tugas Gemini Decision 1 didominasi oleh seberapa banyak konteks yang Anda berikan kepadanya. Memilih dan menukar model upstream tersebut adalah keputusan berulang dalam pipeline ini, dan itulah yang kami dirancang untuknya: lebih dari 200 model di balik satu kunci yang kompatibel dengan OpenAI, harga daftar penyedia diteruskan dengan markup 0,0% sehingga penurunan harga dari vendor langsung berlaku pada hari yang sama, dan failover otomatis saat penyedia menurun performanya. Tulis sekali terhadap router, dan encoder yang Anda miliki serta scorer yang Anda sewa keduanya tetap dapat diganti.

Apa yang harus dilakukan minggu ini

Jika masukan Anda lebih panjang dari satu halaman, berisi apa pun yang bukan teks, atau memerlukan lebih dari beberapa pertanyaan untuk dijawab tentangnya, Laya bukan kandidat dan keputusannya ada di antara Gemini Decision 1 dan peer yang di-hosting berdasarkan harga dan tingkat kelulusan. Dokumentasi Google mencantumkan apa yang didukung model dalam satu paragraf; bacalah sebelum Anda merancang berdasarkan itu, karena daftar yang tidak didukung — tanpa caching, tanpa batch, tanpa Flex atau Priority, tanpa media di dalam instruksi pertanyaan — lebih panjang daripada yang didukung.

Jika input Anda berupa satu kalimat atau blob JSON pendek dan kumpulan label Anda milik Anda sendiri, model yang dihosting adalah cara yang mahal untuk melakukannya. Unduh Laya, beri label pada 500 contoh, fine-tune, dan periksa kalibrasinya sebelum Anda memercayai tingkat keyakinannya — itulah alur kerja yang dirancang oleh para penulisnya, dan kartu model mereka sendiri luar biasa jelas tentang kesenjangan antara checkpoint dasar dan checkpoint yang sudah di-fine-tune.

Yang tidak seharusnya Anda lakukan adalah membandingkan 66 dengan angka dari kartu Laya. Keduanya dihasilkan pada instrumen yang berbeda, salah satunya adalah skor zero-shot di bawah baseline mayoritas, dan yang lain adalah komposit berbobot dari enam evaluasi data privat. Satu-satunya perbandingan yang layak dijalankan adalah pada item berlabel Anda sendiri, dan hanya satu dari dua model ini yang bahkan dapat dijalankan dengan cara tersebut.