Model GPT-4 Turbo terbaru dengan kemampuan visi. Permintaan visi sekarang dapat menggunakan mode JSON dan function calling. Data pelatihan: hingga Desember 2023.
GPT-4 Turbo adalah model bahasa besar yang dirilis oleh OpenAI yang memproses input teks dan gambar. Model ini dibangun di atas arsitektur GPT-4 tetapi meningkatkan jendela konteks menjadi 128,000…
GPT-4 Turbo menunjukkan kemampuan penalaran yang kuat, terutama dalam matematika (skor MATH-500 sebesar 73,7), pembuatan kode, dan pemecahan masalah multi-langkah. Ia dapat mengikuti instruksi yang kompleks dalam percakapan panjang, mempertahankan konsistensi di ribuan token, dan menghasilkan penjelasan teknis yang koheren. Model ini juga mampu menganalisis gambar — seperti tangkapan layar, diagram, dan teks cetak — ketika inputnya menyertakan data gambar. Namun, model ini tidak terspesialisasi untuk setiap domain; untuk tugas klasifikasi atau ekstraksi sederhana, model yang lebih kecil seperti GPT-3.5 Turbo mungkin sudah cukup dan lebih ekonomis.
Jendela konteks 128.000 token memungkinkan Anda memasukkan dokumen besar — seluruh buku, kontrak hukum yang panjang, repositori kode lengkap, atau percakapan panjang — tanpa perlu memecah konten menjadi bagian-bagian. Misalnya, Anda dapat menempelkan makalah penelitian lengkap dan mengajukan pertanyaan tentang bagian mana pun tanpa kehilangan bagian sebelumnya. Ini sangat berharga untuk tugas-tugas seperti rangkuman dokumen, analisis legislatif, atau debugging basis kode yang besar di mana model perlu melihat keseluruhan struktur. Di OrcaRouter, konteks ini ditagih sebagai token masukan, jadi memasukkan dokumen 100K token akan memakan biaya sekitar $1,00 per kueri (100K * $10/1M).
GPT-4 Turbo menerima gambar sebagai bagian dari input, memungkinkannya untuk memahami konten visual seperti foto, diagram, ilustrasi, dan tangkapan layar. Model ini dapat mendeskripsikan apa yang ada dalam gambar, menjawab pertanyaan tentang isinya, dan bahkan melakukan penalaran diagram (misalnya, menginterpretasikan diagram alir atau grafik). Gambar biasanya disediakan sebagai URL atau data yang dienkode base64 dalam format chat completion OpenAI. Biaya pemrosesan gambar termasuk dalam jumlah token input, yang dihitung berdasarkan resolusi gambar dan tingkat detail sesuai dengan rumus harga OpenAI.
Jika kasus penggunaan Anda melibatkan tugas bervolume tinggi dan berkompleksitas rendah — seperti klasifikasi teks sederhana, Q&A dasar pada konteks pendek, atau ekstraksi berulang — model yang lebih kecil seperti GPT-3.5 Turbo atau model yang disesuaikan (fine-tuned) secara khusus dapat memberikan hasil yang dapat diterima dengan biaya yang jauh lebih rendah. Harga GPT-4 Turbo kira-kira 20 kali lebih tinggi dari GPT-3.5 Turbo per token masukan dan 30 kali lebih tinggi per token keluaran. Untuk aplikasi yang mengutamakan latensi, GPT-3.5 Turbo juga merespons lebih cepat. Evaluasi pertukaran antara akurasi dan biaya; untuk banyak jalur produksi, pendekatan hibrida menggunakan model murah untuk penyaringan dan GPT-4 Turbo untuk kasus kompleks dapat mengoptimalkan pengeluaran.
GPT-4 Turbo mencapai skor 73.7 pada tolok ukur MATH-500, yang mengevaluasi kemampuan model dalam memecahkan masalah matematika tingkat sekolah dasar hingga sekolah menengah atas yang mencakup topik seperti aljabar, geometri, dan kalkulus. Skor ini menunjukkan penalaran matematika yang kuat, tetapi belum mencapai level state-of-the-art; beberapa model khusus atau ansambel yang lebih besar dapat melampaui 80. Tolok ukur ini berguna untuk membandingkan model dalam pemecahan masalah sistematis, bukan dalam generasi bahasa mentah. Di OrcaRouter, Anda dapat mengujinya sendiri dengan mengirimkan serangkaian soal matematika melalui API dan membandingkan hasilnya.
Kekuatannya meliputi penalaran yang mendalam, penanganan konteks panjang, dan kompetensi dalam menghasilkan serta menjelaskan kode. Model ini juga menunjukkan kinerja yang baik pada tugas yang menggabungkan teks dan penglihatan, seperti menginterpretasikan diagram. Keterbatasannya meliputi batas output yang relatif sederhana yaitu 4.096 token, yang berarti generasi bentuk panjang (misalnya, menulis satu bab penuh) memerlukan beberapa panggilan. Model terkadang dapat menghasilkan jawaban yang salah dalam kasus-kasus pinggiran — model tidaklah sempurna. Selain itu, model ini mungkin bukan pilihan terbaik untuk aplikasi real-time karena latensi yang lebih tinggi dibandingkan dengan model yang lebih kecil. Tidak ada pengukuran kecepatan yang disediakan, tetapi laporan anekdot menunjukkan bahwa model ini sedikit lebih lambat daripada GPT-3.5 Turbo.
Angka latensi pasti untuk GPT-4 Turbo di OrcaRouter tidak dipublikasikan; kinerja tergantung pada infrastruktur penyedia dan beban permintaan. Dalam praktiknya, waktu inferensi model ini lebih lama daripada model yang lebih kecil karena jumlah parameter yang lebih besar dan pemrosesan konteks. Untuk input pendek, waktu respons biasanya beberapa detik, sementara konteks yang sangat besar (misalnya, 100K token) dapat meningkatkan latensi secara signifikan karena model harus memproses semua token sebelum menghasilkan output. OrcaRouter tidak mengiklankan percepatan spesifik apa pun. Pengguna yang membutuhkan latensi lebih rendah untuk aplikasi interaktif mungkin lebih memilih model yang lebih cepat, sedangkan pemrosesan batch untuk tugas yang kompleks tetap layak.
Harga berdasarkan token: $10,00 per 1 juta token masukan dan $30,00 per 1 juta token keluaran. Ini sesuai dengan tarif langsung OpenAI, tanpa markup tambahan dari OrcaRouter. Token masukan mencakup pesan sistem, pesan pengguna, token gambar, dan riwayat percakapan. Token keluaran adalah respons yang dihasilkan model. Total biaya suatu permintaan dihitung sebagai (input_tokens * $0,00001) + (output_tokens * $0,00003). Tidak ada biaya minimum atau komitmen bulanan; Anda hanya membayar untuk token yang Anda gunakan.
GPT-4 Turbo secara signifikan lebih mahal daripada model yang lebih kecil seperti GPT-3.5 Turbo ($0.50/$1.50 per 1M token) tetapi menawarkan penalaran dan penanganan konteks yang unggul. Untuk tugas yang hanya membutuhkan kemampuan dasar, menggunakan GPT-4 Turbo dapat menyebabkan biaya yang tidak perlu. Di sisi lain, dibandingkan dengan GPT-4 asli ($30/$60 per 1M token), GPT-4 Turbo 33% lebih murah pada input dan 50% lebih murah pada output, menjadikannya opsi yang lebih hemat biaya untuk kebutuhan performa tinggi. Harga tanpa markup OrcaRouter memastikan Anda membayar tarif yang sama seperti saat menggunakan OpenAI secara langsung.
OrcaRouter tidak menawarkan diskon khusus, harga volume, atau caching respons untuk GPT-4 Turbo di luar tarif per token yang telah disebutkan. Harga bersifat langsung: Anda membayar persis seperti yang dikenakan OpenAI, tanpa biaya tambahan. Tidak ada diskon komitmen, pembelian token di muka, atau harga berjenjang. Caching prompt atau respons tidak diiklankan, sehingga setiap permintaan dikenakan tarif standar. Jika Anda memperkirakan volume yang sangat tinggi, Anda dapat menghubungi OrcaRouter atau mempertimbangkan untuk menggunakan titik akhir API khusus dengan lapisan caching Anda sendiri untuk mengurangi biaya berulang untuk input yang identik.
Token keluaran berharga tiga kali lebih mahal daripada token masukan ($30 vs. $10 per 1M). Oleh karena itu, generasi yang panjang dapat dengan cepat meningkatkan tagihan. Misalnya, menghasilkan respons sepanjang 2.000 token akan dikenakan biaya $0.06, sementara respons sepanjang 4.000 token berbiaya $0.12. Untuk mengontrol biaya, pertimbangkan untuk mengatur parameter max_tokens yang lebih rendah, menggunakan prompt yang lebih pendek, atau menggunakan penyempurnaan berulang di mana model menghasilkan keluaran yang lebih pendek dan kemudian memperluasnya dalam panggilan terpisah hanya saat diperlukan. Untuk tugas seperti perangkuman, model dengan biaya token keluaran yang lebih kecil mungkin lebih disukai jika konteksnya tidak kritis.
Anda dapat memanggil GPT-4 Turbo melalui API yang kompatibel dengan OpenAI milik OrcaRouter. Pertama, dapatkan kunci API dari OrcaRouter. Kemudian atur base URL ke https://api.orcarouter.ai/v1 dan gunakan ID model "openai/gpt-4-turbo" dalam permintaan penyelesaian obrolan Anda. Misalnya, dengan OpenAI Python SDK, Anda dapat membuat klien dengan base_url yang menunjuk ke OrcaRouter dan model="openai/gpt-4-turbo". Format permintaan dan respons identik dengan API asli OpenAI, sehingga hanya diperlukan sedikit perubahan kode untuk beralih dari penggunaan langsung OpenAI.
API ini mendukung parameter penyelesaian obrolan OpenAI standar: messages (array dengan role dan content), temperature (0-2), top_p, n, stream, stop, max_tokens (dibatasi maksimal 4096), presence_penalty, frequency_penalty, logit_bias, user, dan function calling/tools. Untuk input gambar, Anda dapat menyertakan bagian konten dengan tipe "image_url" dan url. Model ini tidak mendukung parameter tambahan di luar spesifikasi OpenAI. Semua parameter berfungsi persis seperti yang didokumentasikan untuk GPT-4 Turbo OpenAI. Perhatikan bahwa parameter max_tokens tidak boleh melebihi 4096, yang merupakan batas output model.
Migrasi sangat mudah: ganti URL dasar OpenAI Anda dengan endpoint OrcaRouter https://api.orcarouter.ai/v1 dan ubah nama model menjadi "openai/gpt-4-turbo". Gunakan kunci API OrcaRouter Anda sebagai pengganti kunci API OpenAI Anda. Kode Anda lainnya — format pesan, streaming, penanganan kesalahan — tetap tidak berubah karena API sepenuhnya kompatibel. Jika Anda menggunakan pustaka Python OpenAI, Anda cukup mengatur openai.api_base (atau yang setara di versi yang lebih baru) ke URL OrcaRouter. Ini memungkinkan Anda menguji GPT-4 Turbo melalui OrcaRouter tanpa menulis ulang logika apa pun.
GPT-4 Turbo adalah evolusi dari GPT-4 dengan jendela konteks yang lebih besar (128K vs. hingga 32K pada varian GPT-4 sebelumnya) dan harga per token yang lebih murah: $10/$30 per 1M token vs. $30/$60 per 1M token untuk GPT-4. Kedua model mendukung visi, tetapi GPT-4 Turbo juga meningkatkan efisiensi dan kualitas penalaran minor. Dalam tolok ukur seperti MATH-500, GPT-4 Turbo mencetak 73,7, sementara GPT-4 asli (dengan konteks 8K) mencetak sekitar 52,9 pada set tes MATH yang lebih kecil — angka-angka tersebut tidak dapat dibandingkan secara langsung karena versi tes yang berbeda, tetapi peningkatannya bersifat indikatif. Di OrcaRouter, model GPT-4 yang lebih lama juga tersedia dengan harga masing-masing.
GPT-3.5 Turbo jauh lebih murah ($0.50/$1.50 per 1M token) dan lebih cepat, sehingga cocok untuk aplikasi dengan volume tinggi dan latensi rendah. Namun, ia memiliki jendela konteks yang lebih kecil (16K atau 4K tergantung varian) dan kemampuan penalaran, pembuatan kode, serta visi yang jauh lebih lemah. Untuk tugas yang memerlukan penalaran multi-langkah atau konteks besar, GPT-4 Turbo jelas lebih unggul. Dalam perbandingan langsung pada penalaran matematika, GPT-3.5 Turbo biasanya mendapat skor di bawah 30 pada MATH-500, sedangkan GPT-4 Turbo mencapai 73.7. Pilih GPT-3.5 Turbo untuk tugas sederhana dan penghematan biaya, tetapi andalkan GPT-4 Turbo ketika akurasi atau panjang konteks sangat penting.
Perbandingan langsung head-to-head tidak disediakan, tetapi pengetahuan umum menunjukkan bahwa Anthropic Claude 3 dan Google Gemini 1.5 menawarkan kemampuan yang serupa. Claude 3 Opus memiliki jendela konteks 200K dan penalaran yang sebanding, sementara Gemini 1.5 Pro dapat menangani hingga 1M token. Namun, setiap model memiliki profil harga dan kinerja yang berbeda. Di OrcaRouter, Anda juga dapat mengakses model dari penyedia lain untuk perbandingan. GPT-4 Turbo tetap kompetitif karena keseimbangan antara harga, kualitas penalaran, dan ekosistem pengembang (OpenAI SDK). Untuk tugas visi, baik Claude maupun Gemini juga mendukung input gambar.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Input / 1M token | $10.00 |
| Output / 1M token | $30.00 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
GET /api/public/models/openai/gpt-4-turboBuka @misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo