Model embeddings teks yang hemat biaya dari OpenAI, ideal untuk pencarian semantik dan pengelompokan, diakses melalui OrcaRouter tanpa markup.
openai/text-embedding-3-small adalah model embedding yang dirilis oleh OpenAI pada Januari 2024. Model ini menghasilkan representasi vektor dari teks yang menangkap makna semantik, memungkinkan…
Model ini bekerja dengan baik pada tugas-tugas yang memerlukan penangkapan makna secara keseluruhan dibandingkan detail yang halus. Model ini banyak digunakan untuk pencarian semantik, di mana kueri di-embed dan dicocokkan dengan korpus embedding dokumen. Model ini juga bekerja dengan baik untuk pengelompokan—mengelompokkan teks serupa tanpa label eksplisit—dan untuk klasifikasi ketika embedding dimasukkan ke dalam pengklasifikasi linear. Dalam pipeline retrieval-augmented generation (RAG), model ini secara efisien menyandikan kueri maupun dokumen, memungkinkan pengambilan berbasis kesamaan yang cepat. Konteks 8,192-token-nya memungkinkan pemrosesan bagian yang lebih panjang, seperti abstrak penelitian atau umpan balik pelanggan, dalam satu panggilan embedding.
Jika kasus penggunaan Anda melibatkan teks yang sangat pendek (misalnya kata atau frasa tunggal) atau Anda memprioritaskan kecepatan di atas akurasi, Anda mungkin dapat menjelajahi model yang lebih ringan dari penyedia lain yang tersedia di OrcaRouter, seperti model dengan dimensionalitas lebih rendah atau yang dikhususkan untuk bahasa tertentu. Selain itu, jika tugas Anda sangat kasar—misalnya hanya membedakan beberapa kategori luas—model yang lebih sederhana mungkin sudah memadai. Namun, openai/text-embedding-3-small sudah menjadi salah satu opsi paling terjangkau dari OpenAI. Untuk aplikasi di mana kualitas embedding secara langsung memengaruhi kinerja downstream (misalnya, peringkat untuk pencarian), biaya tambahan yang kecil sering kali sepadan dengan hasil yang lebih baik dibandingkan alternatif gratis.
OpenAI's text-embedding-3-small telah menunjukkan kemampuan lintas bahasa yang kuat, dengan kinerja yang baik pada tolok ukur multibahasa seperti subset multibahasa MTEB. Model ini dapat menyematkan teks dalam puluhan bahasa dan menghasilkan vektor yang sebanding untuk konten serupa di berbagai bahasa. Hal ini membuatnya berguna untuk aplikasi global seperti rekomendasi produk internasional atau perutean tiket dukungan multibahasa. Namun, untuk domain khusus (misalnya, hukum, medis, kode), model penyematan yang diadaptasi domain mungkin menghasilkan akurasi yang lebih tinggi. Jika data Anda sangat teknis, Anda mungkin ingin melakukan benchmark model ini terhadap alternatif untuk memastikan kinerja optimal.
Menurut hasil yang tersedia untuk umum, openai/text-embedding-3-small mencapai skor rata-rata sekitar 62% pada benchmark MTEB (Massive Text Embedding Benchmark). Ini mencerminkan kinerja yang solid di berbagai tugas termasuk klasifikasi, pengelompokan (clustering), klasifikasi pasangan, dan perangkingan ulang. Meskipun ketinggalan dari varian yang lebih besar text-embedding-3-large (yang mendapat skor sekitar 65%), biaya per tokennya kira-kira sepersepuluh dari varian besar tersebut. Kinerja model ini sangat kuat pada tugas pengelompokan (clustering) dan kesamaan semantik. Untuk tugas yang membutuhkan presisi tinggi dalam STS (Semantic Textual Similarity), model kecil ini masih berkinerja kompetitif.
Latensi untuk permintaan embedding tergantung pada panjang input dan beban konkurensi. Di OrcaRouter, model dilayani melalui infrastruktur OpenAI, sehingga latensi tipikal sebanding dengan panggilan API OpenAI langsung. Untuk satu kueri dengan panjang rata-rata (100-200 token), waktu respons umumnya di bawah 200ms. Throughput dapat ditingkatkan dengan melakukan batch terhadap beberapa teks dalam satu panggilan API. Model mendukung pemrosesan batch, dan OrcaRouter meneruskan parameter batch yang sama seperti API OpenAI. Untuk beban kerja volume tinggi, biaya rendah per token memungkinkan embedding jutaan catatan tanpa melampaui anggaran.
Meskipun memiliki kelebihan, openai/text-embedding-3-small memiliki keterbatasan. Vektor default 512-dimensi dapat kehilangan beberapa nuansa dibandingkan dengan varian besar 1.536-dimensi, terutama untuk perbedaan semantik yang halus. Kinerja model pada tugas yang membutuhkan pengetahuan domain mendalam atau penanganan dokumen yang sangat panjang (mendekati 8.192 token) dapat menurun jika teksnya berisik atau tidak terstruktur dengan baik. Selain itu, karena model ini bersifat serbaguna, kinerjanya mungkin kurang optimal pada tugas-tugas khusus seperti pencarian kode atau ekstraksi konsep biomedis dibandingkan dengan model khusus. OrcaRouter menyediakan akses ke model lain untuk kebutuhan spesifik tersebut.
openai/text-embedding-3-small dibanderol dengan harga $0,02 per juta token masukan dan $0,02 per juta token keluaran. Karena model hanya menghasilkan embeddings (token keluaran adalah representasi vektor, bukan teks), jumlah token keluaran sebanding dengan masukan. Dalam praktiknya, Anda ditagih untuk token masukan dan keluaran dengan tarif yang sama. OrcaRouter meneruskan tarif persis dari penyedia tanpa markup, sehingga total biaya tepat $0,02 per juta token masukan dan $0,02 per juta token keluaran. Tidak ada biaya platform tambahan atau biaya tersembunyi. Hal ini menjadikan model ini salah satu opsi yang paling hemat biaya untuk menyematkan teks dalam skala besar.
Dibandingkan dengan text-embedding-3-large milik OpenAI ($0,13 per 1 juta token masukan), model kecil ini 6,5x lebih murah. Untuk banyak aplikasi, penurunan kinerjanya cukup kecil, sehingga model kecil menawarkan nilai yang lebih baik. Dibandingkan dengan legacy ada-002 (kini tidak digunakan lagi), model kecil lebih murah dan lebih mumpuni. Di OrcaRouter, Anda juga dapat menemukan model embedding pihak ketiga dengan harga yang lebih rendah; namun, model tersebut mungkin tidak menawarkan kualitas atau kompatibilitas yang sama dengan ekosistem OpenAI. Model tanpa markup dari OrcaRouter memastikan Anda hanya membayar sesuai harga langsung, tanpa tambahan biaya premium.
OrcaRouter dapat menerapkan mekanisme caching untuk mengurangi panggilan API yang redundan. Jika Anda mengirim teks input yang sama beberapa kali, platform mungkin mengembalikan embedding yang telah di-cache tanpa menimbulkan biaya token tambahan. Namun, kebijakan caching tidak dijelaskan secara rinci dalam fakta yang diberikan. Untuk meminimalkan biaya, Anda dapat menerapkan lapisan caching sendiri di sisi klien menggunakan vektor embedding yang dikembalikan. Karena biaya token sudah sangat rendah, caching memberikan penghematan yang marjinal kecuali Anda memiliki kueri yang sangat repetitif. Hubungi dukungan OrcaRouter untuk detail tentang perilaku caching di sisi server.
Untuk menggunakan openai/text-embedding-3-small melalui OrcaRouter, atur URL dasar ke https://api.orcarouter.ai/v1 dan tentukan ID model sebagai 'openai/text-embedding-3-small'. API ini sepenuhnya kompatibel dengan titik akhir embedding OpenAI, sehingga Anda dapat menggunakan pustaka Python OpenAI atau klien HTTP apa pun dengan format permintaan yang sama. Misalnya, dalam Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). Respons berisi vektor embedding dan detail penggunaan.
API ini mendukung parameter yang sama seperti endpoint embedding OpenAI. Wajib: 'model' diatur ke 'openai/text-embedding-3-small' dan 'input' (string atau array of strings). Opsional: 'dimensions' (integer, 128 hingga 512, default 512) untuk mengurangi ukuran vektor output. Dimensi yang lebih kecil mempercepat pemrosesan hilir dan mengurangi penyimpanan sambil mempertahankan sebagian besar informasi semantik. Parameter 'user' dapat digunakan untuk pembatasan laju per pelanggan. OrcaRouter juga menerima header standar seperti Authorization dan Content-Type. Untuk permintaan batch, berikan array string sebagai input; API akan mengembalikan daftar embedding dalam urutan yang sesuai.
Jika Anda saat ini menggunakan API embedding OpenAI, migrasi ke OrcaRouter sangatlah mudah. Ubah URL dasar dari https://api.openai.com/v1 menjadi https://api.orcarouter.ai/v1, dan perbarui nama model menjadi 'openai/text-embedding-3-small'. Tidak ada perubahan kode lain yang diperlukan. Pustaka klien yang ada (Python, Node.js, curl, dll.) akan berfungsi secara identik. OrcaRouter mendukung skema autentikasi yang sama menggunakan kunci API. Peralihan ini memungkinkan Anda mendapatkan manfaat dari harga tanpa markup tanpa harus mengubah ulang pipeline embedding Anda. Pastikan kunci Anda memiliki akses ke model di OrcaRouter.
Perbedaan utamanya adalah ukuran, biaya, dan performa. text-embedding-3-large menghasilkan 1.536 dimensi (default) dibandingkan 512 untuk versi kecil, dan berharga $0,13 per 1M token input—6,5 kali lebih mahal. Pada tolok ukur MTEB, skor large sekitar 65%, small sekitar 62%. Untuk sebagian besar aplikasi, model small menawarkan rasio nilai terhadap biaya yang lebih baik. Model large mungkin lebih diutamakan ketika Anda memerlukan akurasi setinggi mungkin untuk tugas seperti pencarian kemiripan yang terperinci atau ketika Anda tidak bisa menoleransi penurunan recall. OrcaRouter menyediakan kedua model, sehingga Anda dapat menguji keduanya pada data Anda sendiri.
OpenAI's previous embedding model, text-embedding-ada-002, kini sudah tidak digunakan lagi dan tidak lagi tersedia melalui saluran resmi. Dibandingkan dengan ada-002, text-embedding-3-small menawarkan kinerja rata-rata yang lebih baik pada MTEB (62% vs ~61%), mendukung konteks yang lebih besar (8.192 vs 2.048 token), dan biayanya jauh lebih rendah ($0,02 vs $0,10 per 1M token masukan) pada harga saat ini. Model baru ini juga memperkenalkan parameter dimensions, yang memungkinkan optimalisasi biaya dan penyimpanan lebih lanjut. Jika Anda memiliki alur kerja yang masih menggunakan ada-002, Anda harus migrasi ke text-embedding-3-small untuk kualitas yang lebih baik dan biaya yang lebih rendah.
OrcaRouter menghosting model embedding dari berbagai penyedia, yang bervariasi dalam harga, dimensi, dan kualitas. Misalnya, beberapa model menawarkan tingkatan gratis atau biaya per token yang lebih rendah. Namun, model-model tersebut sering kali memiliki jendela konteks yang lebih kecil (misalnya, 512 token) atau skor tolok ukur yang lebih rendah. openai/text-embedding-3-small menyeimbangkan biaya, panjang konteks, dan kualitas. Jika data Anda sangat spesifik domain, model khusus (misalnya, khusus kode atau hukum) mungkin dapat mengunggulinya. Katalog OrcaRouter memungkinkan Anda membandingkan kinerja dan harga. Model kecil adalah pilihan default yang andal untuk tugas-tugas bahasa Inggris dan multibahasa tujuan umum.
Model embedding open-source (misalnya dari Hugging Face) dapat di-host sendiri, yang berpotensi mengurangi biaya pada volume yang sangat tinggi. Namun, model tersebut memerlukan infrastruktur, pemeliharaan, dan keahlian untuk mencapai latensi dan keandalan yang sebanding dengan API OpenAI. openai/text-embedding-3-small, yang diakses melalui OrcaRouter, menawarkan tanpa beban infrastruktur, waktu aktif yang konsisten, dan kompatibilitas dengan ekosistem OpenAI. Untuk beban kerja skala kecil hingga menengah, API terkelola seringkali lebih ekonomis jika mempertimbangkan waktu rekayasa. Untuk penerapan skala sangat besar (miliaran embedding), model yang di-host sendiri mungkin menjadi lebih murah, meskipun kesetaraan kualitas tidak terjamin.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1dimensionsencoding_format| Input / 1M token | $0.020 |
|---|---|
| Output / 1M token | $0.020 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
Yang dibicarakan developer minggu ini
GET /api/public/models/openai/text-embedding-3-smallBuka @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small