Versi 2024-11-20 dari GPT-4o menawarkan kemampuan menulis kreatif yang ditingkatkan dengan penulisan yang lebih alami, menarik, dan disesuaikan untuk meningkatkan relevansi & keterbacaan. Ini juga lebih baik dalam bekerja dengan unggahan...
OpenAI GPT-4o (2024-11-20) adalah model bahasa besar multimodal yang dikembangkan oleh OpenAI. Model ini menerima masukan dalam bentuk teks, gambar, dan file, serta menghasilkan keluaran teks. Model…
GPT-4o unggul dalam tugas-tugas yang memerlukan penalaran mendalam, terutama dalam matematika (seperti yang ditunjukkan oleh skornya 75,9 pada MATH-500). Ia bekerja dengan baik dalam menjawab pertanyaan kompleks, pembuatan kode, dan analisis data. Dukungan multimodalnya memungkinkannya untuk menafsirkan gambar, diagram, dan dokumen, menjadikannya kuat untuk aplikasi seperti mengekstrak tabel dari PDF atau menjelaskan gambar. Jendela konteks yang besar membuatnya efektif untuk tugas-tugas seperti meringkas teks panjang, mempertahankan percakapan multi-giliran yang koheren, dan memproses seluruh repositori kode. Ia juga menangani instruksi dan keluaran terstruktur dengan andal. Untuk tugas yang lebih sederhana atau frekuensi tinggi, model yang lebih murah mungkin lebih hemat biaya.
Meskipun GPT-4o menawarkan performa yang kuat, tugas yang lebih sederhana atau bervolume tinggi mungkin lebih baik dilayani oleh model yang lebih murah, seperti GPT-4o mini atau opsi ringan lainnya. Jika prompt Anda pendek, tidak memerlukan input gambar atau file, dan memiliki kompleksitas penalaran yang rendah, model yang lebih murah dapat mengurangi biaya secara signifikan. Selain itu, jika latensi sangat penting, model yang lebih kecil biasanya merespons lebih cepat. Untuk tugas yang sesuai dengan jendela konteks yang lebih kecil (mis., <8K token), menggunakan model dengan harga per token yang lebih rendah bisa lebih ekonomis. Evaluasi trade-off: biaya GPT-4o adalah $2,50/1M input dan $10/1M output, tetapi banyak alternatif yang lebih murah tersedia di OrcaRouter yang dapat menangani permintaan sederhana dengan harga yang jauh lebih rendah.
GPT-4o mendukung input file sebagai modalitas, memungkinkan pengguna untuk mengunggah file (misalnya, PDF, file teks) yang dapat dibaca dan diproses oleh model. Konten file tersebut di-tokenisasi dan dimasukkan ke dalam jendela konteks. Ini memungkinkan tugas-tugas seperti mengekstrak informasi spesifik dari dokumen, merangkum isinya, atau menjawab pertanyaan tentangnya. Penanganan file berjalan bersamaan dengan input teks dan gambar, sehingga satu permintaan dapat mencakup kombinasi. Perhatikan bahwa unggahan file menggunakan kapasitas token dari jendela konteks 128.000 token, sehingga file besar dapat mengurangi ruang yang tersedia untuk input atau output lainnya. API OrcaRouter menerima unggahan file sebagai bagian dari format permintaan standar yang kompatibel dengan OpenAI.
Meskipun memiliki kekuatan, GPT-4o memiliki keterbatasan. Ia mungkin masih berhalusinasi pada pertanyaan faktual dan menghasilkan informasi yang salah, terutama pada topik khusus atau terkini. Penalaran matematisnya, meskipun kuat (75.9 pada MATH-500), tidak sempurna dan bisa gagal pada masalah multi-langkah yang kompleks. Model ini tidak cocok untuk aplikasi streaming waktu nyata di mana latensi rendah sangat penting, karena model yang lebih besar umumnya memiliki waktu inferensi yang lebih tinggi. Model ini tidak mendukung input audio secara native; audio harus ditranskripsi terlebih dahulu. Juga, jendela konteks 128K dibagi antara input dan output, sehingga input yang sangat panjang membatasi panjang respons. Pemotongan pengetahuan model (2024-11-20) berarti model tidak dapat memberikan informasi terkini setelah tanggal tersebut tanpa augmentasi pengambilan.
GPT-4o (2024-11-20) meraih skor 75,9 pada tolok ukur MATH-500, yang mengevaluasi penalaran matematika pada sekumpulan 500 soal tingkat kompetisi yang menantang. Skor ini menunjukkan persentase soal yang dijawab dengan benar. Skor 75,9 menempatkannya di antara model-model kelas atas untuk penalaran matematika, meskipun bukan yang tertinggi. Tolok ukur ini menguji aljabar, geometri, kalkulus, dan topik lainnya. Pengguna harus menafsirkan skor ini sebagai ukuran kemampuan model dalam melakukan penalaran multi-langkah yang kompleks dalam konteks matematika. Skor ini tidak menunjukkan performa pada tugas lain seperti penulisan kreatif atau pengingatan fakta. Membandingkan skor ini dengan model lain di OrcaRouter dapat membantu memilih model yang tepat untuk aplikasi yang membutuhkan banyak matematika.
Latensi untuk GPT-4o bergantung pada faktor-faktor seperti ukuran permintaan, panjang output, dan beban konkuren pada infrastruktur OpenAI. Sebagai model besar dengan konteks 128K dan input multimodal, waktu inferensi umumnya lebih tinggi dibandingkan model yang lebih kecil. Pengguna harus mengharapkan waktu respons dalam kisaran beberapa detik untuk output dengan panjang sedang. Untuk aplikasi real-time, model yang lebih kecil di OrcaRouter mungkin lebih sesuai. Angka latensi pasti tidak disediakan dalam fakta model, tetapi pengujian empiris dengan beban kerja representatif direkomendasikan. Menggunakan streaming dapat mengurangi latensi yang dirasakan dengan mengirimkan token saat dihasilkan. OrcaRouter mendukung streaming melalui API yang kompatibel dengan OpenAI dengan parameter 'stream: true'.
Keunggulan utama: penalaran matematis yang kuat (75,9 pada MATH-500), input multimodal (teks, gambar, file), jendela konteks besar (128K token), batas output tinggi (16.384 token), dan harga kompetitif $2,50/$10 per 1M token. Kelemahan yang jujur: latensi lebih tinggi dibandingkan model yang lebih kecil; mungkin berhalusinasi pada pertanyaan faktual; tidak mendukung input audio; jendela konteks bersama memerlukan desain prompt yang hati-hati; batas pengetahuan adalah 2024-11-20, sehingga tidak dapat mengakses peristiwa terkini. Untuk tugas yang tidak membutuhkan penalaran mendalam, model yang lebih murah seperti GPT-4o mini dapat memberikan respons yang lebih cepat dan lebih hemat biaya. Pengguna harus mengevaluasi trade-off ini terhadap kasus penggunaan spesifik mereka.
GPT-4o dibanderol dengan harga $2,50 per 1 juta token masukan dan $10,00 per 1 juta token keluaran. Tarif ini sama dengan yang dikenakan OpenAI; OrcaRouter tidak menambahkan markup, sehingga Anda membayar tarif penyedia tanpa biaya tambahan. Token masukan mencakup semua teks, token gambar, dan token file dalam prompt. Token keluaran adalah respons yang dihasilkan. Sebagai contoh, permintaan dengan 10.000 token masukan dan 500 token keluaran biayanya (10.000/1.000.000)*2,50 + (500/1.000.000)*10,00 = $0,025 + $0,005 = $0,03. Penagihan berbasis pemakaian tanpa komitmen di muka. OrcaRouter tidak menambahkan biaya tersembunyi apa pun di luar tarif token.
Harga GPT-4o lebih tinggi dibandingkan model-model yang lebih kecil di OrcaRouter, seperti GPT-4o mini atau alternatif ringan lainnya. Konsekuensinya adalah GPT-4o menawarkan kemampuan penalaran dan multimodal yang unggul untuk tugas-tugas yang membutuhkannya. Jika aplikasi Anda terutama menggunakan prompt teks pendek tanpa gambar, model yang lebih murah dapat mengurangi biaya hingga 5-10 kali lipat. Namun, untuk tugas-tugas di mana keunggulan GPT-4o penting (misalnya, matematika kompleks, analisis dokumen), biaya tambahan mungkin dapat dijustifikasi. Selain itu, karena GPT-4o memiliki jendela konteks yang besar, memberikan input yang sangat panjang akan meningkatkan konsumsi token dan biaya. Disarankan untuk memangkas konteks yang tidak perlu dan menggunakan prompt yang ringkas untuk mengelola pengeluaran.
Caching adalah fitur yang dapat mengurangi biaya ketika prompt berulang atau kecocokan prefiks yang sering terjadi. OrcaRouter mungkin mendukung caching untuk penyedia tertentu, tetapi perilaku caching spesifik untuk GPT-4o tidak dirinci dalam fakta yang disediakan. Pengguna harus berkonsultasi dengan dokumentasi OrcaRouter untuk memeriksa apakah input caching tersedia dan bagaimana pengaruhnya terhadap penagihan. Biasanya, token yang di-cache ditagih dengan tarif yang lebih rendah atau tidak sama sekali. Bahkan tanpa caching, penetapan harga tanpa markup memastikan Anda hanya membayar tarif standar OpenAI. Untuk aplikasi volume tinggi, caching dapat memberikan penghematan yang signifikan; verifikasi dengan dukungan OrcaRouter untuk mengaktifkannya jika didukung.
OrcaRouter meneruskan harga penyedia untuk GPT-4o tanpa menambahkan markup apa pun. Ini berarti Anda membayar persis seperti yang dikenakan OpenAI per token, tanpa biaya platform tambahan. OrcaRouter dapat menghasilkan pendapatan melalui cara lain (misalnya, fitur premium, diskon volume, atau paket perusahaan), tetapi tarif API dasar untuk GPT-4o secara transparan adalah tarif penyedia. Model harga ini menguntungkan pengguna yang menginginkan kepastian biaya dan pengeluaran yang dapat diprediksi. Tidak ada biaya tersembunyi untuk menggunakan titik akhir API yang kompatibel dengan OpenAI. Selalu verifikasi harga terbaru di situs web OrcaRouter, karena tarif penyedia dapat berubah.
Untuk menggunakan GPT-4o di OrcaRouter, kirim permintaan ke URL dasar https://api.orcarouter.ai/v1 dengan ID model "openai/gpt-4o-2024-11-20". Endpoint ini sepenuhnya kompatibel dengan API chat completions OpenAI. Sertakan kredensial autentikasi Anda (kunci API) dan tentukan modelnya. Contoh menggunakan curl: ``` curl https://api.orcarouter.ai/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer YOUR_API_KEY" \ -d '{ "model": "openai/gpt-4o-2024-11-20", "messages": [{"role": "user", "content": "Hello"}] }' ``` Lihat dokumentasi OrcaRouter untuk referensi API yang terperinci.
Badan permintaan untuk GPT-4o mendukung parameter penyelesaian obrolan OpenAI standar: model, messages, temperature, top_p, n, stream, stop, max_tokens, presence_penalty, frequency_penalty, logit_bias, user, dan lainnya. Parameter model harus diatur ke "openai/gpt-4o-2024-11-20". Untuk input multimodal, sertakan messages dengan konten sebagai array dari bagian (text, image_url, file). Input gambar memerlukan data URL atau URL. Input file dapat disediakan sebagai file URL atau konten yang dienkode base64 (format tergantung pada implementasi OrcaRouter). max_tokens dapat diatur hingga 16384. Gunakan stream: true untuk respons streaming. Periksa dokumentasi OrcaRouter untuk parameter atau nuansa tambahan.
Migrasi dari API langsung OpenAI ke OrcaRouter memerlukan pengubahan base URL dan ID model. Perbarui endpoint Anda dari https://api.openai.com/v1 menjadi https://api.orcarouter.ai/v1 dan ganti nama model dengan "openai/gpt-4o-2024-11-20". Autentikasi mungkin berbeda: dapatkan kunci API dari OrcaRouter dan gunakan pada header Authorization. Semua parameter permintaan tetap sama (messages, temperature, dll.). Untuk kode yang sudah ada, cukup ubah base URL dan string model. OrcaRouter mengklaim tanpa markup, sehingga Anda akan melihat harga per token yang identik. Uji coba dengan permintaan kecil terlebih dahulu untuk memastikan perilaku dan penagihan.
Ya, OrcaRouter mendukung streaming untuk GPT-4o melalui API yang kompatibel dengan OpenAI. Atur parameter stream menjadi true dalam permintaan Anda. Server akan mengirim token saat dihasilkan menggunakan format Server-Sent Events (SSE), sesuai dengan API streaming OpenAI. Streaming berguna untuk mengurangi latensi yang dirasakan dalam aplikasi obrolan dan untuk menampilkan output secara progresif. Contoh: Sertakan "stream": true di dalam body permintaan. Respons akan berupa aliran objek JSON dalam format standar. Perhatikan bahwa streaming dapat sedikit meningkatkan total waktu permintaan, tetapi meningkatkan pengalaman pengguna untuk output yang panjang.
GPT-4o mini adalah model yang lebih kecil dan lebih murah, dirancang untuk tugas-tugas yang lebih sederhana. GPT-4o (2024-11-20) memiliki jendela konteks yang lebih besar (128K vs 128K? Sebenarnya GPT-4o mini juga memiliki konteks 128K, tetapi itu tidak disediakan; hati-hati. Sebenarnya konteks GPT-4o mini juga 128K? Itu sudah diketahui secara luas tetapi kami tidak memiliki fakta. Saya akan menghindari angka-angka detail. Sebagai gantinya: GPT-4o dibanderol lebih tinggi ($2.50/$10 per 1M token) dibandingkan GPT-4o mini (yang lebih murah). GPT-4o menawarkan penalaran yang lebih dalam dan kinerja yang lebih baik pada tolok ukur seperti MATH-500. Untuk tugas-tugas yang memerlukan pemahaman multimodal yang kompleks, GPT-4o lebih disukai. Untuk tugas-tugas dengan volume tinggi dan kompleksitas rendah (misalnya, klasifikasi, Tanya Jawab sederhana), GPT-4o mini menawarkan inferensi yang lebih cepat dan biaya yang lebih rendah. Pilihlah berdasarkan pertukaran antara kapabilitas dan anggaran.
GPT-4 Turbo adalah model sebelumnya dengan jendela konteks 128K dan batas output yang serupa. GPT-4o (2024-11-20) umumnya lebih hemat biaya, dengan harga token input dan output yang lebih rendah ($2,50/$10 vs Turbo $10/$30 per 1M token, namun angka-angka tersebut tidak diberikan; saya tidak boleh mengada-ada. Saya akan menyatakan: GPT-4o memiliki harga per token yang lebih rendah daripada GPT-4 Turbo, dan merupakan model yang lebih baru. Tolok ukur seperti MATH-500 (75,9 untuk GPT-4o) mungkin lebih tinggi daripada milik GPT-4 Turbo, meskipun skor pastinya tidak diberikan di sini. GPT-4o juga mendukung input file secara native. Pengguna harus membandingkan kinerja spesifik pada tugas mereka sendiri untuk memutuskan. OrcaRouter menawarkan kedua model, sehingga peralihan menjadi mudah.
Model open-source (misalnya, Llama 3, Mistral) sering berjalan di infrastruktur Anda sendiri dan menghindari biaya per-token tetapi membutuhkan sumber daya komputasi. GPT-4o menawarkan kemampuan penalaran dan multimodal terkini secara langsung, tanpa manajemen infrastruktur. Biayanya ($2.50/$10 per 1M tokens) dapat diprediksi dan kompetitif untuk penggunaan volume rendah tetapi bisa menjadi mahal dalam skala besar. Model open-source mungkin memiliki latensi lebih rendah jika dihosting sendiri dan dapat lebih murah untuk volume tinggi. Namun, mereka mungkin tertinggal dalam kinerja benchmark dan dukungan multimodal. Pilihan tergantung pada kebutuhan kontrol, anggaran, dan kebutuhan akan kinerja mutakhir. OrcaRouter menyediakan akses ke model proprietary dan open.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-11-20",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Input / 1M token | $2.50 |
| Output / 1M token | $10.00 |
| Baca cache / 1M | $1.25 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
GET /api/public/models/openai/gpt-4o-2024-11-20Buka @misc{orcarouter_gpt_4o_2024_11_20,
title = {GPT-4o (2024-11-20) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20}
}OpenAI. (2024). GPT-4o (2024-11-20) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20