OpenAI GPT-4o-mini preview with extended context for search-oriented text generation at low cost.
Model ini adalah varian pratinjau dari GPT-4o-mini dari OpenAI, dioptimalkan untuk pembuatan teks berorientasi pencarian. Hanya menerima input teks dan menawarkan jendela konteks 128,000 token,…
Model ini unggul dalam memahami dan menghasilkan teks berdasarkan konteks yang besar (hingga 128k token) serta menghasilkan keluaran hingga 16.384 token. Ia mempertahankan kekuatan inti GPT-4o-mini: inferensi cepat, kepatuhan instruksi yang baik, dan efisiensi biaya. Penyetelan pratinjau pencarian kemungkinan meningkatkan kemampuannya untuk mengekstrak cuplikan relevan, membandingkan informasi, dan menjawab pertanyaan yang memerlukan pemindaian bagian teks yang panjang. Model ini dapat digunakan untuk peringkasan, tanya jawab, ekstraksi informasi, dan percakapan multi-giliran selama input tetap berupa teks. Secara default, model ini tidak mendukung panggilan fungsi atau penggunaan alat, meskipun Anda dapat menyertakan hasil pencarian eksternal ke dalam prompt Anda.
Berdasarkan desainnya, model ini paling cocok untuk tugas di mana pengguna memberikan blok teks panjang yang berisi informasi yang diperlukan untuk menghasilkan jawaban. Ini termasuk skenario seperti: menganalisis sekumpulan hasil pencarian (disediakan sebagai teks), membandingkan deskripsi produk, mengekstrak fakta-fakta kunci dari makalah penelitian, atau merangkum transkrip rapat. Konteks 128k memungkinkan pemrosesan seluruh buku atau kumpulan multi-dokumen dalam satu permintaan. Namun, model ini mungkin tidak optimal untuk penulisan kreatif, pembuatan kode, atau tugas yang memerlukan pemahaman multimodal. Untuk itu, pertimbangkan model standar GPT-4o-mini atau GPT-4o.
Jika tugas Anda sangat sederhana—seperti Q&A pendek atau klasifikasi—dan tidak memerlukan jendela konteks besar atau penyesuaian pencarian khusus, model yang lebih murah seperti GPT-4o-mini (tanpa pratinjau) atau bahkan GPT-3.5 Turbo mungkin sudah mencukupi. Harga model pratinjau identik dengan GPT-4o-mini, sehingga biaya bukanlah faktor pembeda. Namun, jika latensi menjadi prioritas, GPT-4o-mini sudah termasuk salah satu model tercepat; versi pratinjau seharusnya memiliki kecepatan serupa. Jika Anda tidak memerlukan fokus pencarian, GPT-4o-mini standar mungkin lebih teruji secara luas dan stabil.
Token output maksimum per permintaan adalah 16,384. Konteks input dapat mencapai 128,000 token. Ini adalah batas yang longgar yang memungkinkan respons panjang dan konteks yang sangat panjang. Namun, karena model hanya berbasis teks, semua token harus berupa teks. Tidak ada dukungan asli untuk data terstruktur seperti penerapan skema JSON, meskipun Anda dapat menginstruksikan model untuk mengeluarkan JSON. Pratinjau mungkin memiliki batas kecepatan; saat menggunakan OrcaRouter, batas tersebut bergantung pada tingkat akun Anda dan ketersediaan penyedia backend.
OpenAI belum menerbitkan skor benchmark terpisah untuk model pratinjau spesifik ini. Namun, GPT-4o-mini dasar dikenal mampu mencapai hasil yang kuat di berbagai benchmark NLP sementara jauh lebih cepat dan lebih murah daripada GPT-4o. Pengguna harus mengharapkan kinerja umum yang serupa, dengan potensi hasil yang lebih baik pada tugas-tugas yang melibatkan pengambilan informasi atau penalaran konteks panjang karena penyesuaian pencarian. Tanpa benchmark resmi, disarankan untuk mengevaluasi model pada set pengujian Anda sendiri untuk mengukur efektivitasnya untuk domain Anda.
GPT-4o-mini adalah salah satu model tercepat dalam keluarga GPT-4, dan versi pratinjau ini seharusnya memiliki latensi yang sebanding. Waktu khas untuk token pertama rendah, sehingga cocok untuk aplikasi interaktif. Latensi pasti tergantung pada ukuran permintaan, panjang keluaran, dan beban penyedia saat ini. Konteks 128k dapat meningkatkan waktu ke token pertama dibandingkan dengan konteks yang lebih pendek, tetapi setelah streaming dimulai, token diproduksi dengan cepat. OrcaRouter tidak menambah overhead yang signifikan; panggilan API dioptimalkan untuk latensi minimal.
Kekuatan utamanya adalah kombinasi kecepatan tinggi, biaya rendah, dan kemampuan menangani konteks yang sangat panjang. Untuk tugas-tugas di mana jawabannya ada dalam teks yang disediakan, model ini dapat mengekstraknya secara efisien tanpa biaya yang lebih tinggi dari GPT-4o. Model ini juga mewarisi kepatuhan instruksi yang kuat dari GPT-4o-mini. Namun, model ini mungkin tidak cocok dengan penalaran yang bernuansa, kreativitas, atau akurasi faktual dari model yang lebih besar seperti GPT-4o atau GPT-4 Turbo. Dalam tugas penalaran yang kompleks, model yang lebih besar sering kali berkinerja lebih baik, tetapi dengan latensi dan biaya yang lebih tinggi.
Sebagai pratinjau, model mungkin memiliki bug yang belum ditemukan atau perilaku yang tidak konsisten. Model ini belum diuji secara seluas rilis stabil. Penyetelan pencarian dapat menyebabkan keluaran yang tidak terduga ketika masukan tidak mengandung informasi yang cukup, yang berpotensi menyebabkan halusinasi. Model tidak dapat menggunakan alat eksternal atau menjelajah web kecuali Anda memberikan konten yang relevan. Jika tugas Anda memerlukan hasil pencarian web yang terkini, Anda perlu menyuntikkannya secara manual ke dalam perintah. Selain itu, model ini tidak mendukung gambar atau audio, sehingga membatasi penggunaannya dalam skenario multimodal.
OrcaRouter meneruskan harga penyedia tanpa markup. Untuk openai/gpt-4o-mini-search-preview-2025-03-11, biayanya $0.15 per 1 juta token input dan $0.60 per 1 juta token output. Token input mencakup seluruh prompt (pesan sistem, pesan pengguna, dan riwayat apa pun). Token output adalah teks yang dihasilkan. Tidak ada biaya tambahan dari OrcaRouter. Ini membuat model ini sangat terjangkau untuk penggunaan volume besar, terutama saat memproses konteks panjang.
Tidak ada diskon caching khusus yang disebutkan untuk model ini di OrcaRouter. Harga bersifat per-token, bayar sesuai pemakaian. Beberapa penyedia menawarkan caching prompt yang mengurangi biaya untuk prefiks yang berulang, tetapi belum dikonfirmasi untuk pratinjau ini. Biasanya, OpenAI mungkin menawarkan caching untuk model tertentu di API mereka, tetapi pratinjau ini mungkin tidak memenuhi syarat. Periksa dokumentasi OpenAI untuk kebijakan caching terbaru. Di OrcaRouter, Anda dikenakan tarif yang sama terlepas dari pola penggunaan.
Dengan $0.15 input / $0.60 output per juta token, harganya identik dengan GPT-4o-mini standar. Itu membuatnya jauh lebih murah daripada GPT-4o ($2.50 input / $10 output) dan GPT-4 Turbo ($10 input / $30 output). Harganya lebih mahal daripada model lama seperti GPT-3.5 Turbo ($0.50/$1.50 per juta?). Namun, nilainya berasal dari konteks besar dan penyetelan pencarian. Jika Anda membutuhkan konteks penuh, keuntungan biaya dibandingkan model yang lebih besar sangat substansial.
Untuk menggunakan model, atur URL basis API Anda ke https://api.orcarouter.ai/v1, kunci API Anda (dari OrcaRouter), dan ID model ke persis "openai/gpt-4o-mini-search-preview-2025-03-11". Contoh klien Python OpenAI standar: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) Semua parameter chat completions standar didukung, termasuk temperature, max_tokens, top_p, frequency_penalty, presence_penalty, dan urutan stop. Streaming tersedia menggunakan stream=True.
Model mendukung parameter yang sama dengan OpenAI Chat Completions API. Parameter kunci: temperature (bawaan 1.0, rentang 0-2), top_p (bawaan 1.0), max_tokens (bawaan bervariasi, dapat diatur hingga 16384), stop (daftar string), frequency_penalty (bawaan 0), presence_penalty (bawaan 0), dan logit_bias. Anda juga dapat meneruskan user_id untuk pemantauan. Belum ada dukungan asli untuk skema response_format; jika Anda memerlukan keluaran terstruktur, gunakan instruksi prompt. Model menghormati pesan sistem untuk mengatur konteks.
Migrasi tidak memerlukan perubahan kode pada struktur permintaan selain memperbarui ID model. Dalam panggilan API Anda, ganti string model dengan "openai/gpt-4o-mini-search-preview-2025-03-11". Pastikan URL dasar Anda mengarah ke OrcaRouter (https://api.orcarouter.ai/v1) jika Anda belum menggunakannya. Karena ini adalah pratinjau, uji secara menyeluruh: respons mungkin berbeda dalam gaya atau akurasi. Anda dapat secara kondisional beralih antar model di aplikasi Anda dengan menyimpan ID model dalam konfigurasi. Pantau kinerja dan biaya untuk memastikan pratinjau memenuhi kebutuhan Anda sebelum peluncuran penuh.
Kedua model memiliki arsitektur dasar dan harga yang sama. GPT-4o-mini standar adalah model serbaguna tanpa penyesuaian pencarian khusus. Versi pratinjau dirancang untuk meningkatkan kinerja pada tugas-tugas yang melibatkan ekstraksi dan sintesis informasi dari konteks teks besar, seperti analisis hasil pencarian. Dalam praktiknya, versi pratinjau mungkin menangani prompt panjang dengan banyak fakta secara lebih akurat, sementara versi standar mungkin lebih baik untuk percakapan terbuka, penulisan kreatif, atau tugas-tugas yang tidak memerlukan perilaku pencarian. Jika aplikasi Anda sudah bekerja dengan GPT-4o-mini standar, menguji versi pratinjau memiliki risiko rendah karena API yang identik.
GPT-4o adalah model multimodal unggulan OpenAI dengan kemampuan penalaran yang lebih tinggi, pemahaman gambar, dan jendela konteks yang lebih besar (juga 128k token). Namun, harganya jauh lebih mahal ($2.50/$10 per juta token) dan lebih lambat. Pratinjau pencarian GPT-4o-mini mengorbankan beberapa kedalaman penalaran demi kecepatan dan biaya. Untuk tugas yang murni berbasis teks dan tidak memerlukan penalaran multi-langkah yang kompleks, pratinjau mungkin sudah cukup dengan biaya yang lebih murah. Untuk tugas yang memerlukan input multimodal atau akurasi yang lebih tinggi, GPT-4o tetap unggul.
Claude 3 Haiku (Anthropic) dan Gemini 1.5 Flash (Google) juga merupakan model yang cepat dan murah dengan konteks yang besar. Haiku memiliki konteks 200k token, Flash hingga 1M. Harga bervariasi. Pratinjau pencarian GPT-4o-mini unik karena merupakan pratinjau varian yang disetel untuk pencarian dari OpenAI. Tanpa perbandingan tolok ukur langsung, sulit untuk mengatakan mana yang terbaik. Ketiganya sangat baik untuk tugas pengambilan informasi. Pilihan mungkin tergantung pada kompatibilitas ekosistem, gaya prompt, dan kinerja spesifik pada data Anda. OrcaRouter menyediakan akses terpadu ke semuanya, memungkinkan pengujian A/B dengan mudah.
Pilih model ini jika kebutuhan utama Anda adalah efisiensi biaya, waktu respons cepat, dan Anda bekerja dengan input teks saja yang tidak memerlukan penalaran tingkat lanjut. Model ini ideal untuk aplikasi volume tinggi di mana konteks setiap permintaan besar (misalnya, memproses dokumen panjang) tetapi outputnya relatif pendek. Jika Anda memerlukan akurasi setinggi mungkin, terutama pada pertanyaan yang ambigu atau kompleks, atau jika Anda perlu memproses gambar, maka GPT-4o adalah pilihan yang lebih baik. Model pratinjau juga cocok untuk pembuatan prototipe dan pengujian sebelum beralih ke model dengan biaya lebih tinggi.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| Input / 1M token | $0.150 |
| Output / 1M token | $0.600 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11Buka @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11