Satu endpoint untuk tingkat gratis — dirutekan berdasarkan tingkat kesulitan di antara model gratis ruang kerja Anda.
Satu endpoint untuk tingkat gratis. Alih-alih memilih alias -free tertentu sendiri, panggil orcarouter/free dan ia akan merutekan setiap permintaan berdasarkan tingkat kesulitan di antara model gratis di ruang kerjamu — tanpa pernah menyentuh saldo dompetmu, dengan penggunaan gratis dibatasi oleh laju permintaan alih-alih oleh jumlah panggilan yang tetap.
Setiap permintaan dinilai berdasarkan panjang prompt, kepadatan kode, penggunaan alat, dan petunjuk penalaran — sinyal yang sama dengan yang digunakan router adaptif kami.
Prompt biasa masuk ke tingkat gratis ringan; yang sulit ke tingkat gratis yang lebih kuat — diambil dari model gratis di ruang kerjamu.
Pemakaian model tidak berbiaya — kedua tingkat berharga $0, jadi tidak ada bedanya yang mana yang melayani permintaan.
Akses gratis dibatasi oleh laju permintaan, bukan oleh saldo — pemakaian modelnya sendiri tidak berbiaya dan jatahnya tidak pernah habis.
Setiap ruang kerja punya jatah laju permintaan. Jatah ini bertambah seiring total pembayaran sepanjang usia akun, jadi mengisi saldo juga menaikkan batas gratis.
Tiap model gratis bisa punya batas sendiri yang lebih ketat, sehingga model yang padat beban dibatasi tanpa mengganggu yang lain.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="orcarouter/free",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)