Embedding teks berkualitas tinggi melalui OrcaRouter dengan harga $0.13/M token, markup nol, hingga 3072 dimensi.
OpenAI text-embedding-3-large adalah model embedding skala besar dari generasi ketiga dari rangkaian embedding teks OpenAI. Model ini mengonversi masukan teks menjadi representasi vektor padat yang…
text-embedding-3-large unggul dalam kesamaan semantik, klasifikasi teks, pengelompokan, dan pengambilan informasi. Output berdimensi tingginya memungkinkan pembedaan halus antara teks serupa. Ini adalah pilihan populer untuk membangun basis data vektor untuk RAG, di mana kualitas pengambilan bergantung pada akurasi embedding. Model ini juga berkinerja baik dalam inferensi bahasa alami dan deteksi duplikat. Namun, model ini tidak dirancang untuk tugas generatif seperti penyelesaian teks atau dialog—gunakan GPT-4 atau model bahasa lainnya untuk tugas-tugas tersebut.
Model dapat menghasilkan embedding dengan dimensi antara 256 dan 3072. Dimensi diatur melalui parameter `dimensions` dalam permintaan API. Menggunakan dimensi yang lebih rendah mengurangi penyimpanan dan komputasi downstream, tetapi dapat kehilangan beberapa ketepatan semantik. Dimensi default adalah 3072, yang memberikan daya diskriminatif tertinggi. Tidak ada dimensi yang didukung di luar rentang ini. Untuk sebagian besar tugas pengambilan, dimensi antara 1024 hingga 2048 merupakan keseimbangan yang baik antara akurasi dan biaya.
Jika aplikasi Anda sensitif terhadap latensi atau Anda menyematkan miliaran teks, biaya $0.13 per 1M token dapat bertambah. Pertimbangkan text-embedding-3-small ($0.02/M token) atau model sumber terbuka seperti embeddings berbasis BERT untuk anggaran yang lebih rendah. text-embedding-3-large adalah yang terbaik ketika akurasi pengambilan sangat penting, seperti dalam pencarian hukum, medis, atau ilmiah, di mana dokumen relevan yang terlewat memiliki konsekuensi besar.
OpenAI saat ini tidak menawarkan fine-tuning untuk seri text-embedding-3. Model ini digunakan sebagai fixed encoder. Untuk mengadaptasinya ke domain tertentu, Anda dapat menggunakan strategi retrieval augmentation, seperti menambahkan bagian teks spesifik domain ke basis data vektor Anda. Alternatifnya, Anda dapat menggunakan embeddings sebagai fitur untuk classifier hilir yang dilatih pada data berlabel Anda. Alur kerja ini umum dalam pengaturan perusahaan.
text-embedding-3-large mencapai hasil mutakhir pada Massive Text Embedding Benchmark (MTEB) di berbagai tugas seperti pengelompokan, klasifikasi, dan pemeringkatan ulang. Meskipun skor pasti tidak diberikan di sini, model ini secara konsisten berada di peringkat teratas di antara model embedding yang tersedia untuk publik. Versi 3072 dimensi menawarkan akurasi tertinggi, sementara dimensi yang lebih rendah mengorbankan sedikit penurunan performa demi pengurangan penyimpanan dan komputasi. Model ini mengungguli pendahulunya, text-embedding-ada-002, pada sebagian besar tugas.
Latensi tergantung pada jumlah token masukan dan beban model. Untuk satu teks pendek (di bawah 100 token), model biasanya merespon dalam waktu di bawah 200ms melalui OrcaRouter. Teks yang lebih panjang (8000 token) mungkin memakan waktu 1-2 detik. Konkurensi dan ukuran batch memengaruhi throughput—permintaan batch (beberapa teks dalam satu panggilan API) dapat mencapai throughput yang lebih tinggi. OrcaRouter tidak menambahkan overhead di luar waktu respons penyedia.
Model ini tidak dirancang untuk dukungan multibahasa selain bahasa Inggris (meskipun dapat menangani beberapa bahasa lain, kinerjanya lebih rendah). Ia juga tidak memiliki kemampuan mengikuti instruksi bawaan—model ini murni merupakan encoder. Batas token 8192 berarti dokumen yang sangat panjang harus dipecah-pecah. Selain itu, embeddings dapat menyandikan bias demografis yang ada dalam data pelatihan, sehingga aplikasi hilir harus diuji untuk keadilan. Terakhir, model ini tidak menyediakan kemampuan penjelasan untuk penilaian kemiripannya.
text-embedding-3-large secara signifikan mengungguli model ada-002 yang lebih lama pada tolok ukur MTEB, terutama pada tugas-tugas yang memerlukan perbedaan yang sangat terperinci. Model yang lebih baru ini juga memperkenalkan parameter `dimensions`, yang memungkinkan pengurangan ukuran vektor tanpa perlu pelatihan ulang. Harganya sedikit lebih tinggi ($0,13 vs $0,10 per 1M token untuk ada-002), tetapi peningkatan akurasi sering kali sepadan dengan biaya untuk skenario pencarian berisiko tinggi. Untuk kasus penggunaan sederhana, ada-002 tetap menjadi alternatif yang lebih murah dan layak.
Harga adalah $0.13 per 1 juta token input, ditagih berdasarkan tarif penyedia tanpa markup. Token output juga $0.13 per 1M token, meskipun untuk model embedding, token output dapat diabaikan karena model mengembalikan vektor. Token input mencakup teks yang Anda kirim. Tidak ada biaya tambahan untuk menggunakan API OrcaRouter. Ini membuat total biaya persis sama dengan yang dikenakan OpenAI, tanpa biaya tersembunyi atau biaya tambahan untuk batas tarif.
The $0.13 per 1M token rate is the standard provider price. OrcaRouter does not offer discounts on top of provider pricing. However, using smaller output dimensions (e.g., 1024) does not affect token counts—you pay per input token regardless of dimension. For very high-volume users, OpenAI may offer committed use discounts through custom agreements, which you can take advantage of independently.
OrcaRouter tidak menyimpan cache respons embedding. Setiap permintaan diteruskan ke penyedia secara real-time dan ditagih sesuai. Jika Anda berulang kali me-embed teks yang identik, Anda akan dikenakan biaya setiap kali. Untuk menghemat biaya, terapkan lapisan cache Anda sendiri di sisi klien, dengan menyimpan embedding untuk kueri yang sering muncul. Ini sangat efektif untuk kumpulan data statis seperti deskripsi produk atau konten FAQ.
OrcaRouter meneruskan permintaan ke penyedia tanpa pembatasan buatan, tetapi penyedia menerapkan batas kecepatannya sendiri. Untuk text-embedding-3-large, batas tipikalnya sekitar 3000–5000 permintaan per menit untuk tingkat standar. Anda dapat meningkatkan batas dengan menghubungi OpenAI secara langsung. OrcaRouter secara otomatis mencoba ulang pada kesalahan 429, tetapi percobaan ulang yang berlebihan dapat menimbulkan biaya tambahan. Pantau penggunaan Anda agar tetap dalam batas.
Kirim permintaan POST ke https://api.orcarouter.ai/v1/embeddings dengan parameter model diatur ke "openai/text-embedding-3-large". Sertakan string input atau array dari string. Secara opsional, atur parameter `dimensions` ke nilai antara 256 dan 3072. Anda dapat menyediakan kunci API pengguna di header Authorization (token Bearer). Respons mengikuti struktur yang sama dengan API Embeddings milik OpenAI, berisi daftar objek dengan embeddings dan jumlah token penggunaan.
Parameter utama adalah `model` (wajib: "openai/text-embedding-3-large"), `input` (string atau array string, masing-masing hingga 8192 token), dan `dimensions` (integer, opsional, default 3072). OrcaRouter juga mendukung parameter `user` untuk melacak penggunaan per pengguna akhir. Parameter lain dari API OpenAI Embeddings seperti `encoding_format` (float atau base64) juga didukung. Lihat dokumentasi OpenAI untuk kumpulan lengkapnya.
Ubah base URL dari https://api.openai.com/v1 menjadi https://api.orcarouter.ai/v1 dan perbarui ID model dari "text-embedding-3-large" menjadi "openai/text-embedding-3-large". Kode Anda yang sudah ada menggunakan klien Python OpenAI atau pustaka HTTP seharusnya tetap berfungsi tanpa modifikasi lain. API OrcaRouter sepenuhnya kompatibel, jadi tidak diperlukan perubahan pada format body permintaan. Pastikan Anda memiliki kunci API OrcaRouter.
Ya. Lewatkan larik string sebagai parameter `input`. API akan mengembalikan larik embeddings dalam urutan yang sama. Ini lebih efisien daripada mengirimkan permintaan individual karena overhead yang lebih rendah. Untuk throughput optimal, kumpulkan teks dengan panjang yang serupa untuk mengurangi waktu idle. Model ini mendukung hingga 2048 string per batch (periksa batas penyedia) dan total token input di seluruh batch tidak boleh melebihi 2048000 token per menit.
Varian kecil hanya menggunakan 512 dimensi dan berbiaya $0.02 per 1M token—sekitar 6.5× lebih murah. Ini lebih cepat dan lebih efisien dalam penyimpanan tetapi mengorbankan akurasi, terutama pada tugas semantik yang terperinci. Untuk pengelompokan sederhana atau pencarian berdasarkan kemiripan tingkat topik, model kecil mungkin sudah memadai. text-embedding-3-large direkomendasikan untuk pengambilan berisiko tinggi di mana recall sangat penting.
all-MiniLM-L6-v2 adalah model gratis yang dihosting secara lokal dengan 384 dimensi dan kecepatan tinggi. Model ini berkinerja baik pada banyak tugas tetapi kurang unggul dibandingkan text-embedding-3-large pada benchmark kompleks seperti MTEB. Pertukaran yang terjadi adalah biaya vs kualitas: model open-source memiliki biaya per token nol namun memerlukan perangkat keras komputasi. text-embedding-3-large menawarkan akurasi yang unggul sementara biaya $0.13/M tokens mungkin dapat dibenarkan untuk sistem produksi yang mengutamakan kualitas pengambilan.
Model Cohere embed-v3 juga mendukung dimensi variabel dan kemampuan multibahasa. Mereka sebanding dalam tolok ukur bahasa Inggris, tetapi mungkin menangani teks non-Inggris dengan lebih baik. Harganya serupa (kira-kira $0,10–0,15 per 1M token). Pilihan sering bergantung pada preferensi ekosistem dan kebutuhan multibahasa spesifik. text-embedding-3-large memiliki jendela konteks yang lebih besar (8192 vs 512 untuk Cohere) dan lebih terintegrasi dengan alat OpenAI.
Pertimbangkan alternatif jika kasus penggunaan Anda memerlukan dukungan multibahasa di luar bahasa Inggris, memerlukan penyebaran di tempat (on-premise) untuk privasi data, atau menuntut latensi yang sangat rendah pada throughput tinggi. Untuk tugas seperti pembuatan teks, gunakan GPT-4. Untuk penyematan teks-gambar (image-text embeddings), gunakan CLIP atau model multimodal. text-embedding-3-large adalah penyandi bahasa Inggris serba guna; jika domain Anda sangat terspesialisasi, jelajahi model sumber terbuka yang disetel halus.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1dimensionsencoding_format| Input / 1M token | $0.130 |
|---|---|
| Output / 1M token | $0.130 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
Yang dibicarakan developer minggu ini
GET /api/public/models/openai/text-embedding-3-largeBuka @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large