Model andalan OpenAI, GPT-4 adalah model bahasa multimodal berskala besar yang mampu memecahkan masalah sulit dengan akurasi lebih tinggi dibandingkan model sebelumnya, berkat pengetahuan umum yang lebih luas dan penalaran tingkat lanjut...
OpenAI GPT-4 adalah model bahasa besar yang dirancang untuk tugas berbasis teks. Model ini hanya menerima input teks dan menghasilkan output teks. Model ini memiliki jendela konteks sebesar 8.191…
GPT-4 menunjukkan kinerja yang kuat dalam penalaran, penulisan kreatif, peringkasan, penerjemahan, dan pembuatan kode. Model ini dapat menangani instruksi yang kompleks dan menghasilkan respons yang koheren serta terperinci di berbagai bidang. Pada tolok ukur AA Coding, GPT-4 mencetak skor 13,1, yang menunjukkan kemampuan pemecahan masalah yang efektif dalam tugas pemrograman. Model ini juga dikenal karena kemampuannya mengikuti instruksi yang bernuansa dan mempertahankan konsistensi dalam percakapan panjang. Hal ini membuatnya cocok untuk aplikasi seperti chatbot, pembuatan konten, dan pengembangan perangkat lunak berbantuan. Namun, model ini tidak dioptimalkan untuk streaming waktu nyata atau persyaratan latensi yang sangat rendah.
GPT-4 unggul dalam tugas yang memerlukan pemahaman mendalam dan pembuatan bahasa alami. Kasus penggunaan umum meliputi menulis esai atau laporan, menyusun email, menghasilkan dan men-debug kode dalam berbagai bahasa, membuat ringkasan dokumen panjang, menjawab pertanyaan berdasarkan konteks yang diberikan, dan mensimulasikan agen percakapan. Ia juga dapat menangani tugas klasifikasi, ekstraksi, dan penalaran. Untuk tugas yang hanya melibatkan teks dan sesuai dalam jendela konteks 8.191 token, GPT-4 memberikan output berkualitas tinggi. Ia kurang cocok untuk aplikasi real-time dengan batasan latensi ketat atau untuk menangani konteks yang sangat besar di luar batas tokennya.
Jika aplikasi Anda hanya memerlukan keluaran yang sederhana dan pendek, atau jika Anda melakukan pemrosesan massal di mana biaya menjadi perhatian utama, Anda mungkin memilih model yang lebih ekonomis yang tersedia di OrcaRouter, seperti GPT-3.5-Turbo. Harga GPT-4 sebesar $30 per 1 juta token masukan jauh lebih tinggi dibandingkan banyak alternatif. Untuk tugas-tugas seperti klasifikasi dasar, ekstraksi kata kunci, atau tanya jawab sederhana, model yang lebih kecil dapat memberikan hasil yang sebanding dengan biaya yang lebih rendah. Selain itu, jika kasus penggunaan Anda tidak memerlukan kedalaman penalaran GPT-4, model yang lebih ringan mungkin sudah mencukupi. OrcaRouter memungkinkan Anda menguji berbagai model dan membandingkan trade-off biaya/kualitas.
Ya. GPT-4 mampu menghasilkan kode dalam berbagai bahasa pemrograman, termasuk Python, JavaScript, C++, dan lainnya. Ia juga dapat membantu debugging dengan menganalisis pesan kesalahan atau potongan kode. Skor AA Coding model sebesar 13,1 mencerminkan kemampuannya dalam menyelesaikan tantangan coding. Misalnya, Anda dapat memberikan deskripsi masalah dan menerima solusi yang berfungsi, atau meminta GPT-4 untuk meninjau kode yang ada untuk mencari bug atau inefisiensi. Namun, selalu verifikasi kode yang dihasilkan untuk kebenaran dan keamanan, karena model dapat menghasilkan kode yang tampak masuk akal tetapi cacat.
Tolok ukur AA Coding mengevaluasi performa model pada tugas-tugas pemrograman, biasanya melibatkan penulisan kode untuk memecahkan masalah algoritmik. GPT-4 mencapai skor 13,1 pada tolok ukur ini. Angka ini menunjukkan performa rata-rata di berbagai tantangan pengkodean, dengan skor yang lebih tinggi mewakili akurasi dan kelengkapan yang lebih baik. Sebagai konteks, performa pakar manusia pada tolok ukur semacam ini seringkali lebih tinggi, tetapi skor GPT-4 menempatkannya di antara model-model teratas untuk pembuatan kode. Tolok ukur ini merupakan salah satu indikator kemampuan penalaran dan pemecahan masalah model dalam domain teknis.
Meskipun angka spesifik di luar AA Coding tidak diberikan di sini, GPT-4 dikenal mampu mencapai hasil yang kuat di berbagai tolok ukur NLP, termasuk tugas pemahaman bahasa, penerjemahan, dan peringkasan. Umumnya, model ini mengungguli model-model sebelumnya seperti GPT-3.5 pada sebagian besar evaluasi. Namun, kinerja dapat bervariasi tergantung pada tugas dan kumpulan data yang tepat. Jendela konteks model yang terdiri dari 8.191 token memungkinkannya memproses masukan yang relatif panjang, yang dapat bermanfaat untuk tugas-tugas yang memerlukan penalaran tingkat dokumen. Di OrcaRouter, Anda dapat menguji GPT-4 pada data Anda sendiri untuk menilai kesesuaiannya.
Latensi untuk GPT-4 bergantung pada panjang token input dan output, serta beban API secara keseluruhan. Biasanya, GPT-4 lebih lambat daripada model yang lebih kecil seperti GPT-3.5 karena ukurannya yang lebih besar dan komputasi yang lebih kompleks. Untuk prompt pendek, waktu respons mungkin beberapa detik; untuk keluaran yang lebih panjang, bisa memakan waktu puluhan detik. OrcaRouter menyediakan endpoint API standar yang mengalirkan respons jika Anda mengatur stream=True. Untuk aplikasi real-time di mana latensi rendah sangat penting, pertimbangkan untuk menggunakan model yang lebih cepat. Angka latensi yang tepat tidak dipublikasikan tetapi dapat diperkirakan melalui pengujian.
GPT-4 memiliki beberapa keterbatasan. Ia hanya memproses teks, sehingga tidak dapat menangani gambar atau audio secara langsung. Jendela konteksnya yang terdiri dari 8.191 token berarti ia tidak dapat memproses dokumen yang sangat panjang dalam satu waktu. Model ini mungkin menghasilkan informasi yang tampak masuk akal tetapi tidak benar (halusinasi) dan dapat sensitif terhadap susunan kata dalam perintah. Ia juga tidak memiliki memori bawaan di luar konteks percakapan saat ini. Harga relatif tinggi dibandingkan model yang lebih kecil. Terakhir, seperti semua LLM, ia dapat menghasilkan konten yang bias atau tidak aman jika tidak diarahkan dengan benar. Gunakan moderasi dan validasi yang sesuai dalam sistem produksi.
OrcaRouter membebankan tarif penyedia yang tepat untuk GPT-4 tanpa markup. Token input berharga $30,00 per 1 juta token, dan token output berharga $60,00 per 1 juta token. Token input dan output ditagih secara terpisah. Ini berarti total biaya untuk suatu permintaan adalah (input_tokens * $30/1M) + (output_tokens * $60/1M). Sebagai contoh, permintaan dengan 1000 token input dan 500 token output akan dikenakan biaya 0,001 * $30 + 0,0005 * $60 = $0,03 + $0,03 = $0,06. Tidak ada biaya tambahan dari OrcaRouter di luar penagihan berdasarkan penggunaan.
OrcaRouter mungkin menawarkan opsi caching untuk permintaan atau penyelesaian yang berulang, yang dapat mengurangi biaya jika Anda mengirim permintaan identik beberapa kali. Periksa dokumentasi OrcaRouter untuk detail tentang caching dan cara mengaktifkannya. Untuk GPT-4, karena harga per token dan relatif tinggi, caching dapat bermanfaat untuk kueri statis. Selain itu, Anda dapat mengontrol biaya dengan mengelola penggunaan token: buat prompt tetap ringkas, gunakan output yang lebih pendek, dan atur max_tokens dengan tepat. Tidak ada diskon volume di OrcaRouter untuk GPT-4; harga seragam per juta token.
GPT-4 adalah salah satu model yang lebih mahal yang tersedia di OrcaRouter. Sebagai perbandingan, GPT-3.5-Turbo jauh lebih murah (sering kali kurang dari $1 per 1M token input). Model yang lebih kecil dari penyedia lain juga lebih ekonomis. Jika tugas Anda tidak memerlukan tingkat penalaran GPT-4, beralih ke model yang lebih murah dapat menghasilkan penghematan yang signifikan. OrcaRouter memungkinkan Anda menguji beberapa model dengan antarmuka API yang sama, sehingga Anda dapat mengevaluasi kualitas versus biaya. Kebijakan zero-markup berarti Anda hanya membayar tarif penyedia; tidak ada biaya tambahan untuk menggunakan OrcaRouter.
Ya. OrcaRouter beroperasi dengan sistem bayar sesuai pemakaian. Anda hanya ditagih untuk token yang Anda gunakan. Tidak ada komitmen di muka atau persyaratan penggunaan minimum. Anda perlu memiliki kredit yang cukup atau akun yang didanai untuk melakukan panggilan API. Harga adalah per 1 juta token seperti yang dijelaskan. Untuk perencanaan anggaran, Anda dapat memperkirakan biaya berdasarkan volume token yang Anda harapkan. OrcaRouter menyediakan analitik penggunaan di dasbor. Perlu dicatat bahwa permintaan mungkin gagal jika saldo akun Anda tidak mencukupi.
Untuk memanggil GPT-4, gunakan endpoint API yang kompatibel dengan OpenAI yang disediakan oleh OrcaRouter: base URL https://api.orcarouter.ai/v1. Atur parameter model menjadi "openai/gpt-4". Anda dapat menggunakan pustaka klien OpenAI mana pun dengan mengubah base_url. Contoh menggunakan paket openai Python: ```python import openai client = openai.OpenAI(api_key="YOUR_ORCAROUTER_KEY", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4", messages=[{"role": "user", "content": "Hello"}] ) print(response.choices[0].message.content) ``` Ingatlah untuk mengganti YOUR_ORCAROUTER_KEY dengan kunci API Anda yang sebenarnya.
Anda dapat menggunakan parameter penyelesaian obrolan standar OpenAI: `messages`, `max_tokens`, `temperature`, `top_p`, `frequency_penalty`, `presence_penalty`, `stop`, `stream`, dan lain-lain. `model` harus `"openai/gpt-4"`. Parameter `max_tokens` tidak boleh melebihi 8192 dikurangi token input. `temperature` mengontrol keacakan (0 hingga 2). `stream` yang disetel ke `true` mengaktifkan streaming token per token. Semua parameter dilewatkan dalam body JSON. OrcaRouter mendukung skema yang sama dengan OpenAI. Lihat dokumentasi API OpenAI untuk deskripsi parameter yang terperinci.
Ya. Jika Anda sudah menggunakan pustaka Python OpenAI atau SDK apa pun yang kompatibel dengan API OpenAI, Anda hanya perlu mengubah `base_url` menjadi `https://api.orcarouter.ai/v1` dan memperbarui kunci API Anda. ID model berubah dari "gpt-4" menjadi "openai/gpt-4". Tidak ada perubahan kode lain yang diperlukan. API OrcaRouter dirancang sebagai pengganti langsung untuk API OpenAI. Ini membuat migrasi menjadi mudah. Anda dapat menguji dengan sejumlah kecil permintaan untuk memverifikasi perilaku sebelum beralih ke lalu lintas produksi.
Ya. Atur parameter `stream` menjadi `true` dalam permintaan API Anda. Responsnya akan berupa iterator dari potongan penyelesaian obrolan, mengikuti format streaming OpenAI. Ini memungkinkan Anda untuk menampilkan token saat dihasilkan. Streaming dapat meningkatkan latensi yang dirasakan oleh pengguna akhir. OrcaRouter menangani streaming secara native. Pastikan kode klien Anda menangani streaming dengan benar. Contoh menggunakan pustaka Python OpenAI dengan `stream=True` menghasilkan objek `Stream`.
GPT-4 secara umum lebih mampu dalam penalaran, kreativitas, dan mengikuti instruksi kompleks dibandingkan GPT-3.5-Turbo. Pada tolok ukur seperti AA Coding, GPT-4 mengungguli GPT-3.5 (yang memiliki skor lebih rendah). Namun, GPT-4 juga lebih mahal ($30/$60 per 1 juta token vs. jauh lebih rendah untuk GPT-3.5). GPT-3.5 memiliki jendela konteks yang lebih besar (16.384 token) dibandingkan dengan 8.191 token GPT-4. Jika tugas Anda sederhana atau sensitif terhadap anggaran, GPT-3.5 mungkin sudah mencukupi. Untuk pengodean kompleks, penulisan panjang, atau analisis bernuansa, GPT-4 memberikan hasil yang lebih baik. Keduanya adalah model teks saja yang tersedia di OrcaRouter.
Model Claude (misalnya, Claude 3 Sonnet atau Opus) menawarkan jendela konteks yang lebih besar (hingga 200K token) dan input multimodal di beberapa versi. GPT-4 hanya teks dan terbatas pada 8,191 token. Model Claude juga memiliki harga yang berbeda. Pada tolok ukur penalaran, kedua keluarga tersebut kompetitif, tetapi skor AA Coding GPT-4 sebesar 13,1 mungkin lebih tinggi atau lebih rendah dari varian Claude tertentu. Memilih di antara keduanya tergantung pada kebutuhan spesifik Anda: Claude untuk dokumen panjang atau multimodal, GPT-4 untuk generasi teks berkinerja tinggi dalam batas konteksnya. OrcaRouter mendukung keduanya, sehingga Anda dapat membandingkan secara langsung.
Model open-source seperti Llama 3 (70B) terkadang dapat menyamai GPT-4 dalam tugas-tugas tertentu, tetapi seringkali memerlukan hosting yang lebih kompleks dan memiliki trade-off yang berbeda. GPT-4 bersifat proprietary tetapi tersedia melalui API sederhana dengan harga yang dapat diprediksi. Llama 3 mungkin memiliki jendela konteks yang lebih besar atau biaya per-token yang lebih rendah jika di-host sendiri, tetapi biaya infrastruktur tetap berlaku. Kualitas yang konsisten dari GPT-4 dan harga tanpa markup melalui OrcaRouter membuatnya mudah digunakan. Untuk fine-tuning khusus, model open-source menawarkan fleksibilitas yang lebih besar. OrcaRouter juga menyediakan akses ke beberapa model open-source untuk perbandingan.
Nilai GPT-4 tergantung pada kasus penggunaan Anda. Jika Anda membutuhkan penalaran tingkat atas, pembuatan kode, atau output kreatif, biaya yang lebih tinggi mungkin dapat dibenarkan. Dalam skenario di mana kesalahan berbiaya tinggi (misalnya, penyusunan dokumen hukum, debugging kompleks), akurasi GPT-4 dapat menghemat waktu dan uang. Untuk tugas yang lebih sederhana, model yang lebih murah seperti GPT-3.5 memberikan performa yang memadai dengan harga yang jauh lebih murah. OrcaRouter memungkinkan Anda melakukan uji A/B model pada data Anda untuk mengukur perbedaan kualitas. Pada akhirnya, keputusan adalah trade-off antara biaya dan kualitas: gunakan GPT-4 ketika kualitas outputnya menghasilkan nilai bisnis yang nyata.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Input / 1M token | $30.00 |
| Output / 1M token | $60.00 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
GET /api/public/models/openai/gpt-4Buka @misc{orcarouter_gpt_4,
title = {GPT-4 API},
author = {OpenAI},
year = {2023},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4}
}OpenAI. (2023). GPT-4 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4