OpenAI GPT-4-0613: konteks 8K, 13.1 AA Coding, model teks saja dengan harga $30/$60 per 1M token
OpenAI GPT-4-0613 adalah checkpoint spesifik dari model bahasa besar GPT-4 yang dirilis oleh OpenAI pada Juni 2023. Model ini beroperasi secara eksklusif pada input teks dan menghasilkan output teks.…
GPT-4-0613 unggul dalam tugas-tugas yang memerlukan penalaran mendalam, pembuatan bahasa yang tepat, dan kepatuhan terhadap instruksi yang kompleks. Kasus penggunaan umum termasuk menghasilkan dan meninjau kode dalam bahasa seperti Python, JavaScript, dan C++, serta men-debug basis kode yang ada. Model ini dapat menganalisis dan merangkum korpora teks besar, menghasilkan laporan terstruktur, dan menyusun dokumen teknis atau hukum yang terperinci. Model ini juga efektif dalam memecah masalah multi-langkah menjadi langkah-langkah yang jelas dan berurutan, sehingga berguna untuk perencanaan dan pemecahan masalah. Meskipun terutama bekerja dalam bahasa Inggris, model ini dapat menangani beberapa bahasa lain dengan keandalan yang bervariasi. Untuk tugas-tugas yang tidak memerlukan tingkat kecanggihan ini, model yang lebih kecil atau lebih murah mungkin menawarkan solusi yang lebih hemat biaya.
GPT-4-0613 adalah model premium dengan biaya lebih tinggi per token. Model ini tidak ideal untuk tugas bervolume tinggi dan berkompleksitas rendah seperti klasifikasi teks sederhana, interaksi obrolan dasar, atau penerjemahan langsung. Untuk beban kerja seperti itu, model seperti OpenAI GPT-3.5 Turbo atau alternatif ringan lainnya mungkin memberikan kinerja yang memadai dengan biaya yang jauh lebih rendah. Selain itu, jika aplikasi Anda tidak memerlukan jendela konteks penuh 8192 token atau jika panjang output maksimum jarang digunakan, model yang lebih murah dengan konteks lebih kecil mungkin lebih tepat. Selalu evaluasi trade-off antara kualitas output dan biaya untuk kasus penggunaan spesifik Anda guna menentukan apakah GPT-4-0613 sepadan.
GPT-4-0613 terutama dilatih dalam bahasa Inggris, tetapi telah menunjukkan kemampuan dalam banyak bahasa lain, termasuk Prancis, Spanyol, Jerman, Mandarin, dan Arab. Kinerjanya dalam bahasa non-Inggris umumnya kuat untuk tugas-tugas terstruktur seperti penerjemahan, perangkuman, dan menjawab pertanyaan, tetapi mungkin menunjukkan akurasi yang lebih rendah dan frasa yang kurang alami dibandingkan dengan bahasa Inggris. Kelebihan model dalam penalaran dan mengikuti instruksi meluas ke konteks multibahasa, tetapi pengguna harus menguji skenario non-Inggris tertentu untuk memastikan kesesuaian. Untuk aplikasi yang memerlukan presisi tinggi dalam bahasa selain bahasa Inggris, pertimbangkan untuk menambahkan model khusus bahasa atau validasi tambahan.
GPT-4-0613 menghormati pesan sistem dan instruksi pengguna, sehingga cocok untuk aplikasi yang memerlukan kepatuhan ketat terhadap format, nada, atau struktur. Model ini dapat menghasilkan output dalam format JSON, markdown, atau format tertentu lainnya, dan dapat mengikuti instruksi multi-putaran dengan konteks yang dipertahankan. Model ini sangat andal untuk tugas yang memerlukan penalaran langkah demi langkah atau pemicu rantai pemikiran. Namun, seperti semua model besar, model ini kadang-kadang dapat salah menafsirkan instruksi yang ambigu atau menghasilkan output yang menyimpang dari format yang diinginkan. Disarankan untuk memberikan instruksi yang jelas dan eksplisit, dan bila memungkinkan, sertakan contoh untuk memandu perilaku model.
Skor benchmark AA Coding sebesar 13,1 untuk GPT-4-0613 menunjukkan kinerjanya pada evaluasi khusus coding. Meskipun metodologi pasti dari benchmark ini tidak dirinci dalam fakta yang diberikan, skor yang lebih tinggi umumnya mencerminkan akurasi dan keandalan yang lebih baik dalam menghasilkan kode, memecahkan masalah pemrograman, dan memahami struktur kode. Skor ini menempatkan GPT-4-0613 sebagai pilihan yang kuat untuk tugas coding seperti perbaikan bug, implementasi algoritma, dan penjelasan kode. Penting untuk dicatat bahwa skor benchmark bersifat indikatif dan mungkin tidak sepenuhnya menangkap kinerja dunia nyata pada tugas coding tertentu. Pengguna harus mengevaluasi model pada kumpulan data mereka sendiri untuk hasil terbaik.
Latensi untuk GPT-4-0613 tidak disebutkan dalam fakta yang diberikan, tetapi sebagai model berkapasitas tinggi, umumnya memiliki waktu respons yang lebih tinggi dibandingkan dengan model yang lebih kecil seperti GPT-3.5 Turbo atau GPT-4o mini. Kecepatan inferensi tergantung pada faktor-faktor seperti panjang input dan output, kompleksitas permintaan, dan infrastruktur yang mendasarinya. Melalui OrcaRouter, latensi juga dapat dipengaruhi oleh kondisi jaringan dan kapasitas penyajian penyedia. Untuk aplikasi real-time di mana latensi rendah sangat penting, pertimbangkan untuk menguji model di bawah beban yang Anda harapkan dan kemungkinan menggunakan model yang lebih cepat dan lebih murah untuk bagian alur kerja yang tidak terlalu menuntut.
Kelebihan utama GPT-4-0613 terletak pada penalaran logisnya, kemampuannya mengikuti instruksi multi-langkah yang kompleks, serta akurasinya yang tinggi dalam tugas-tugas seperti pembuatan kode dan analisis data. Model ini menghasilkan keluaran yang terstruktur dengan baik dan koheren meskipun untuk perintah yang panjang, sehingga cocok untuk menyusun dokumen atau laporan yang komprehensif. Model ini menunjukkan konsistensi yang kuat dalam beberapa putaran percakapan, yang bermanfaat bagi agen percakapan yang perlu menjaga konteks. Skor tolok ukurnya sebesar 13,1 pada AA Coding menegaskan keandalannya untuk tugas-tugas yang berkaitan dengan pemrograman. Kualitas-kualitas ini menjadikannya pilihan utama untuk aplikasi yang mengutamakan presisi dan kedalaman, meskipun dengan biaya yang lebih tinggi.
GPT-4-0613 memiliki beberapa keterbatasan. Ini hanya berbasis teks dan tidak dapat memproses gambar, audio, atau video. Jendela konteksnya dibatasi hingga 8192 token, yang mungkin tidak mencukupi untuk dokumen yang sangat panjang atau percakapan multi-putaran dengan riwayat yang ekstensif. Model terkadang dapat menghasilkan informasi yang terdengar masuk akal tetapi tidak benar (halusinasi), terutama pada topik di luar data pelatihannya. Harganya relatif tinggi dibandingkan alternatif lain, sehingga kurang ekonomis untuk aplikasi dengan volume tinggi. Selain itu, sebagai snapshot dari Juni 2023, model ini mungkin tidak mengetahui peristiwa atau pengetahuan setelah tanggal tersebut. Pengguna harus memverifikasi keluaran kritis dan mempertimbangkan penggunaan retrieval-augmented generation (RAG) untuk mendasarkan respons pada informasi terkini.
GPT-4-0613 dibanderol dengan tarif langsung dari penyedia tanpa markup melalui OrcaRouter. Biayanya adalah $30.00 per 1 juta token input dan $60.00 per 1 juta token output. Token input mencakup semua teks yang diberikan dalam permintaan pengguna, termasuk pesan sistem, riwayat percakapan, dan kueri pengguna saat ini. Token output adalah teks yang dihasilkan oleh model sebagai respons. Baik token input maupun output dihitung dalam total pemakaian dan ditagih sesuai dengan itu. Tidak ada biaya platform tambahan di luar tarif per token. Pengguna ditagih berdasarkan jumlah token aktual yang diproses per panggilan API.
Karena token keluaran dihargai dua kali lipat lebih mahal daripada token masukan ($60 vs $30 per 1 juta token), aplikasi yang menghasilkan respons panjang bisa menjadi jauh lebih mahal dibandingkan yang menghasilkan keluaran pendek. Sebagai contoh, permintaan dengan 10.000 token masukan dan 2.000 token keluaran akan dikenakan biaya $0,30 untuk masukan dan $0,12 untuk keluaran, total $0,42. Jika keluarannya 8.000 token, biayanya naik menjadi $0,30 + $0,48 = $0,78. Untuk mengelola biaya, pertimbangkan untuk membatasi parameter max_tokens ke panjang minimum yang diperlukan untuk kasus penggunaan Anda. Selain itu, prompt sistem yang lebih pendek dan riwayat percakapan yang dipangkas dapat mengurangi jumlah token masukan.
Tidak ada informasi tentang caching token atau diskon volume yang disediakan dalam fakta yang tersedia untuk GPT-4-0613 melalui OrcaRouter. Ini berarti bahwa setiap panggilan ditagih berdasarkan token aktual yang diproses tanpa mekanisme caching yang telah ditentukan yang akan mengurangi biaya untuk prompt berulang. Pengguna harus menghubungi OrcaRouter secara langsung untuk menanyakan tentang fitur caching potensial atau perjanjian penetapan harga perusahaan. Ada kemungkinan juga bahwa OrcaRouter menawarkan opsi optimalisasi biaya yang tidak didokumentasikan di sini. Untuk saat ini, beroperasilah dengan asumsi bahwa semua token dikenakan biaya berdasarkan tarif per token yang tercantum tanpa diskon khusus.
Ketika menggunakan GPT-4-0613, pertukaran utama adalah antara kualitas keluaran dan biaya. Untuk tugas yang memerlukan akurasi dan penalaran tinggi, harga premium sering kali dapat dibenarkan. Namun, untuk pemrosesan yang lebih sederhana atau massal, alternatif yang lebih murah seperti GPT-3.5 Turbo atau GPT-4o mini dapat mengurangi biaya hingga 90%. Pertimbangkan juga rasio input-output: jika alur kerja Anda memerlukan input yang sangat panjang (misalnya dokumen lengkap) tetapi keluaran pendek, biaya input akan mendominasi. Sebaliknya, keluaran yang panjang akan meningkatkan biaya keluaran dengan cepat. Evaluasi apakah kekuatan spesifik model (seperti akurasi pengkodean) diperlukan untuk tugas Anda, dan lakukan benchmarking pada subset data Anda sebelum berkomitmen pada penggunaan skala besar.
Untuk memanggil GPT-4-0613 melalui OrcaRouter, gunakan titik akhir API yang kompatibel dengan OpenAI di base_url https://api.orcarouter.ai/v1. Atur parameter model menjadi "openai/gpt-4-0613" dalam permintaan Anda. Anda memerlukan kunci API dari OrcaRouter untuk autentikasi. Format permintaan mengikuti dokumentasi chat completions OpenAI, mendukung parameter seperti messages (array dari pesan sistem dan pengguna), temperature (0 hingga 2), top_p, max_tokens (hingga 8192), n (jumlah penyelesaian), stop (sekuens untuk menghentikan pembuatan), dan stream (boolean untuk streaming). Contoh menggunakan pustaka openai Python: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "kunci_orcarouter_anda"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Halo"}]).
GPT-4-0613 mendukung parameter penyelesaian chat OpenAI standar. Parameter kunci termasuk temperature (default 1) yang mengontrol keacakan—nilai yang lebih rendah membuat output lebih deterministik; top_p (default 1) untuk nucleus sampling; max_tokens (default diatur oleh endpoint, maksimum 8192) untuk membatasi panjang output; n (jumlah penyelesaian yang dihasilkan per permintaan); dan stop (string yang menghentikan pembangkitan). Anda juga dapat menggunakan presence_penalty dan frequency_penalty untuk mendorong atau mencegah pengulangan topik. Streaming didukung dengan mengatur stream=True, yang menghasilkan token secara bertahap. Semua parameter berperilaku identik dengan API OpenAI sendiri, memungkinkan migrasi yang mulus. Untuk hasil terbaik, atur max_tokens tidak lebih dari yang diperlukan untuk mengontrol biaya, dan gunakan temperature antara 0 dan 0.5 untuk tugas faktual.
Migrasi dari API langsung OpenAI ke OrcaRouter hanya memerlukan dua perubahan dalam kode Anda: perbarui base_url menjadi https://api.orcarouter.ai/v1 dan ubah model ID menjadi "openai/gpt-4-0613". Logika autentikasi yang ada harus diperbarui untuk menggunakan kunci API OrcaRouter, bukan kunci OpenAI. Semua parameter yang familiar (messages, temperature, max_tokens, dll.) tetap tidak berubah. Sebagai contoh, menggunakan pustaka openai Python, setel openai.api_base = "https://api.orcarouter.ai/v1" dan openai.api_key = "your_orcarouter_key". Kemudian panggil openai.ChatCompletion.create(model="openai/gpt-4-0613", ...). API OrcaRouter dirancang sebagai pengganti langsung yang dapat digunakan tanpa perubahan, sehingga tidak diperlukan modifikasi kode lebih lanjut. Uji dengan permintaan kecil untuk memastikan konektivitas dan penagihan.
Batas kecepatan untuk GPT-4-0613 melalui OrcaRouter tidak ditentukan dalam fakta yang tersedia. Autentikasi memerlukan kunci API yang disediakan oleh OrcaRouter. Kunci ini harus disertakan dalam header permintaan (misalnya, Authorization: Bearer <key>). Batas kecepatan yang tepat mungkin tergantung pada paket OrcaRouter atau tingkat akun Anda. Untuk penggunaan produksi, hubungi OrcaRouter untuk informasi detail tentang permintaan maksimum per menit (RPM) dan token per menit (TPM). Jika tidak ada batasan spesifik, disarankan untuk menerapkan backoff eksponensial jika terjadi kesalahan batas kecepatan. Perhatikan juga bahwa kunci API Anda harus dijaga keamanannya dan tidak diekspos dalam kode sisi klien.
GPT-4-0613 adalah cuplikan yang lebih baru dibandingkan GPT-4-0314, dirilis pada Juni 2023 versus Maret 2023. OpenAI telah menyatakan bahwa pembaruan Juni meningkatkan keandalan, mengurangi kemungkinan menghasilkan konten terlarang, dan menawarkan kepatuhan instruksi yang lebih baik. Kedua model memiliki jendela konteks yang sama (8192 token) dan struktur harga yang sama. Skor tolok ukur 13,1 pada AA Coding khusus untuk GPT-4-0613, sementara GPT-4-0314 mungkin memiliki angka kinerja yang sedikit berbeda. Dalam praktiknya, banyak pengguna melaporkan bahwa GPT-4-0613 lebih konsisten dan tidak mudah ragu-ragu atau menolak permintaan yang tidak berbahaya. Jika Anda saat ini menggunakan GPT-4-0314, bermigrasi ke GPT-4-0613 mudah dan kemungkinan besar bermanfaat.
GPT-4o adalah model multimodal OpenAI yang dapat memproses teks, gambar, dan audio, serta lebih cepat dan lebih murah daripada GPT-4-0613. Harga GPT-4o adalah $5 per 1M token masukan dan $15 per 1M token keluaran, menjadikannya jauh lebih hemat biaya. GPT-4-0613, yang hanya teks, tidak dapat menangani masukan non-teks. Namun, GPT-4-0613 mungkin menawarkan penalaran yang sedikit lebih cermat untuk tugas teks saja yang kompleks, karena model dasarnya sama dengan GPT-4 tetapi tanpa integrasi multimodal. Untuk aplikasi yang memerlukan pemahaman gambar atau memerlukan latensi terendah, GPT-4o sering kali menjadi pilihan yang lebih baik. Untuk tugas teks murni di mana akurasi maksimum adalah yang terpenting dan biaya kurang kritis, GPT-4-0613 tetap menjadi pilihan yang layak.
GPT-3.5 Turbo adalah alternatif yang jauh lebih murah dan lebih cepat dibandingkan GPT-4-0613, dengan harga sekitar $3 per 1M token input dan $6 per 1M token output. Ini dioptimalkan untuk dialog dan instruksi sederhana tetapi tidak memiliki kedalaman penalaran, akurasi pengkodean, dan kemampuan mengikuti instruksi dari GPT-4-0613. Tolok ukur AA Coding dan tugas penalaran kompleks menunjukkan kesenjangan kinerja yang jelas mendukung GPT-4-0613. Untuk aplikasi bervolume tinggi dengan persyaratan yang sederhana, GPT-3.5 Turbo lebih ekonomis. Untuk pembuatan kode kritis, analisis multi-langkah, atau tugas bahasa yang bernuansa, GPT-4-0613 memberikan peningkatan kualitas substansial yang dapat membenarkan biaya yang lebih tinggi. Pertimbangkan untuk menggunakan GPT-3.5 Turbo untuk subtugas sederhana atau berulang dalam alur kerja yang lebih besar untuk menyeimbangkan biaya dan kualitas.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Input / 1M token | $30.00 |
| Output / 1M token | $60.00 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
GET /api/public/models/openai/gpt-4-0613Buka @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613