OpenAIのコスト効率の良いテキスト埋め込みモデル。セマンティック検索とクラスタリングに最適で、OrcaRouterを経由してマークアップゼロでアクセスできます。
openai/text-embedding-3-smallは、OpenAIが2024年1月にリリースした埋め込みモデルです。このモデルは、テキストの意味を捉えたベクトル表現を生成し、比較や類似性計算を可能にします。テキストのみ対応で、最大8,192トークンの入力を受け付けます。デフォルトの出力次元は512ですが、精度と速度・ストレージのトレードオフを考慮して、256や128までの任意の小さい次元を…
このモデルは、細かい詳細ではなく全体的な意味を捉える必要があるタスクにおいて高いパフォーマンスを発揮します。セマンティック検索に広く使用されており、クエリが埋め込まれ、文書埋め込みのコーパスと照合されます。また、クラスタリング(明示的なラベルなしで類似テキストをグループ化する)や、埋め込みを線形分類器に入力する分類にも適しています。検索拡張生成(RAG)パイプラインでは、クエリと文書の両方を効率的にエンコードし、類似性に基づく高速な検索を可能にします。8,192トークンのコンテキストにより、研究の要約や顧客からのフィードバックなどの長いパッセージを1回の埋め込み呼び出しで処理できます。
あなたのユースケースが非常に短いテキスト(例:単一の単語やフレーズ)を扱う場合、または精度よりも速度を優先する場合は、OrcaRouter上で利用可能な他のプロバイダからの、より軽量なモデル(次元数の低いものや特定の言語に特化したものなど)を検討してもよいでしょう。また、タスクが非常に粗く、少数の大まかなカテゴリのみを区別するような場合には、よりシンプルなモデルで十分かもしれません。ただし、openai/text-embedding-3-smallは、OpenAIの中でもすでに最も手頃なオプションの1つです。埋め込み品質がダウンストリームのパフォーマンス(検索のランキングなど)に直接影響を与えるアプリケーションでは、無料層の代替と比較して、わずかな追加費用でより良い結果が得られることがよくあります。
OpenAIのtext-embedding-3-smallは、強いクロスリンガル能力を示しており、MTEBの多言語サブセットなどの多言語ベンチマークで良好なパフォーマンスを発揮しています。このモデルは、数十の言語でテキストを埋め込み、言語をまたいで類似したコンテンツに対して同等のベクトルを生成できます。これにより、国際的な製品推薦や多言語サポートチケットルーティングなどのグローバルアプリケーションに有用です。ただし、専門分野(例:法律、医療、コード)においては、ドメイン適応型の埋め込みモデルの方が高い精度を発揮する可能性があります。データが高度に技術的なものである場合は、このモデルを代替モデルとベンチマークして最適なパフォーマンスを確保することを検討してください。
公開されている結果によると、openai/text-embedding-3-smallはMTEBベンチマーク(Massive Text Embedding Benchmark)で平均スコア約62%を達成しています。これは分類、クラスタリング、ペア分類、再ランキングなど様々なタスクで堅実な性能を示しています。より大規模なtext-embedding-3-large(約65%のスコア)には劣るものの、トークンあたりのコストは大規模バージョンの約10分の1です。このモデルは特にクラスタリングや意味的類似性タスクで優れた性能を発揮します。STS(Semantic Textual Similarity)において高い精度が求められるタスクでも、smallバージョンは競争力のある性能を維持しています。
埋め込みリクエストのレイテンシは、入力長と同時負荷に依存します。OrcaRouterでは、モデルはOpenAIのインフラストラクチャを介して提供されるため、典型的なレイテンシは直接のOpenAI API呼び出しと同等です。平均的な長さ(100〜200トークン)の単一クエリの場合、応答時間は通常200ms未満です。スループットは、1回のAPI呼び出しで複数のテキストをバッチ処理することで向上できます。モデルはバッチ処理をサポートしており、OrcaRouterはOpenAI APIと同じバッチパラメータを渡します。大量のワークロードの場合、トークンあたりの低コストにより、予算を超えることなく数百万のレコードを埋め込むことが可能です。
その強みにもかかわらず、openai/text-embedding-3-small には限界があります。512次元のデフォルトベクトルは、特に細かい意味の区別において、1,536次元のlargeバリアントと比較して微妙なニュアンスを失う可能性があります。このモデルは、深いドメイン知識や非常に長いドキュメント(約8,192トークン)の処理を必要とするタスクでは、テキストがノイズが多いか構造が不十分な場合に性能が低下することがあります。また、汎用モデルであるため、コード検索や生医学的概念抽出などの専門的なタスクでは、専用モデルに比べて性能が劣る場合があります。OrcaRouter は、こうした特定のニーズに応じて他のモデルへのアクセスを提供します。
openai/text-embedding-3-small の価格は、入力トークン100万あたり0.02ドル、出力トークン100万あたり0.02ドルです。このモデルは埋め込みのみを生成するため(出力トークンはテキストではなくベクトル表現です)、出力トークン数は入力に比例します。実際には、入力トークンと出力トークンの両方が同じレートで課金されます。OrcaRouter はプロバイダーのレートをそのまま適用し、マークアップは一切ありません。そのため、総コストは入力トークン100万あたり0.02ドル、出力トークン100万あたり0.02ドルとなります。追加のプラットフォーム料金や隠れた費用はありません。これにより、このモデルはテキスト埋め込みを大規模に行う際に最もコスト効率の高い選択肢の一つとなっています。
OpenAIのtext-embedding-3-large(100万入力トークンあたり$0.13)と比較すると、小規模モデルは6.5倍安価です。多くのアプリケーションではパフォーマンスの低下はわずかであり、小規模モデルの方がコストパフォーマンスに優れています。従来のada-002(現在は非推奨)と比べても、小規模モデルは安価でありながら性能も向上しています。OrcaRouterでは、さらに低価格のサードパーティ製埋め込みモデルも見つけられますが、OpenAIのエコシステムと同等の品質や互換性を提供するとは限りません。OrcaRouterのゼロマークアップモデルは、プレミアムなしで直接支払う金額のみを保証します。
OrcaRouterは、冗長なAPI呼び出しを減らすためにキャッシュ機構を実装する場合があります。同じ入力テキストを複数回送信すると、プラットフォームは追加のトークンコストを発生させることなく、キャッシュされた埋め込みを返す可能性があります。ただし、キャッシュポリシーは提供された事実に明示的に詳述されていません。コストを最小限に抑えるために、返された埋め込みベクトルを使用してクライアント側に独自のキャッシュ層を実装できます。トークンコストはすでに非常に低いため、非常に反復的なクエリがない限り、キャッシュによる節約はわずかです。サーバー側のキャッシュ動作の詳細については、OrcaRouterサポートにお問い合わせください。
openai/text-embedding-3-smallをOrcaRouter経由で使用するには、ベースURLをhttps://api.orcarouter.ai/v1に設定し、モデルIDとして'openai/text-embedding-3-small'を指定します。このAPIはOpenAIの埋め込みエンドポイントと完全に互換性があるため、OpenAI Pythonライブラリや任意のHTTPクライアントを同じリクエスト形式で使用できます。例えばPythonの場合: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here')。レスポンスには埋め込みベクトルと使用量の詳細が含まれます。
このAPIは、OpenAIの埋め込みエンドポイントと同じパラメータをサポートしています。必須: 'model'を'openai/text-embedding-3-small'に設定し、'input'(文字列または文字列の配列)。オプション: 'dimensions'(整数、128から512、デフォルト512)で出力ベクトルサイズを縮小します。次元を小さくすると、ほとんどのセマンティック情報を保持しながら、後続の処理が高速化され、ストレージが削減されます。'user'パラメータは顧客ごとのレート制限に使用できます。OrcaRouterはAuthorizationやContent-Typeなどの標準ヘッダも受け入れます。バッチリクエストの場合は、入力として文字列の配列を渡します。APIは対応する順序で埋め込みのリストを返します。
現在OpenAIの埋め込みAPIを使用している場合、OrcaRouterへの移行は簡単です。ベースURLをhttps://api.openai.com/v1 から https://api.orcarouter.ai/v1 に変更し、モデル名を 'openai/text-embedding-3-small' に更新してください。その他のコード変更は必要ありません。既存のクライアントライブラリ(Python、Node.js、curlなど)はそのまま動作します。OrcaRouterはAPIキーを使用した同じ認証方式をサポートしています。この切り替えにより、埋め込みパイプラインを再構築することなく、ゼロマークアップの価格設定のメリットを得られます。キーがOrcaRouter上のモデルにアクセスできることを確認してください。
主な違いはサイズ、コスト、パフォーマンスです。text-embedding-3-largeはデフォルトで1,536次元を出力するのに対し、small版は512次元で、入力トークン100万あたり0.13ドルと6.5倍高価です。MTEBベンチマークでは、largeが約65%、smallが約62%のスコアです。ほとんどのアプリケーションでは、smallモデルの方がコストパフォーマンスに優れています。largeモデルは、高精度な類似性検索など最高の精度が必要な場合や、再現率の低下が許容できない場合に適しています。OrcaRouterでは両方のモデルを提供しているため、各自のデータで両方をテストできます。
OpenAIの以前の埋め込みモデルであるtext-embedding-ada-002は、現在非推奨となり、公式チャネルでは利用できなくなりました。ada-002と比較して、text-embedding-3-smallはMTEBでの平均パフォーマンスが向上し(62%対約61%)、より大きなコンテキスト(8,192対2,048トークン)をサポートし、現在の価格では大幅に低コストです(1M入力トークンあたり$0.02対$0.10)。新しいモデルはまた、dimensionsパラメータを導入しており、さらなるコストとストレージの最適化を可能にします。まだada-002を使用しているワークフローがある場合は、品質向上と低コストのためにtext-embedding-3-smallに移行する必要があります。
OrcaRouterは、複数のプロバイダーからの埋め込みモデルをホストしており、価格、次元、品質が異なります。たとえば、無料枠やトークンあたりの低コストを提供するモデルもあります。しかし、それらのモデルは多くの場合、コンテキストウィンドウが小さい(例:512トークン)か、ベンチマークスコアが低くなります。openai/text-embedding-3-smallは、コスト、コンテキスト長、品質のバランスが取れています。データが特定のドメインに特化している場合、カスタムモデル(例:コード専用や法律専用)の方が優れたパフォーマンスを発揮する可能性があります。OrcaRouterのカタログでは、パフォーマンスと価格を比較できます。smallモデルは、汎用的な英語および多言語タスクにおいて信頼性の高いデフォルトです。
オープンソースの埋め込みモデル(例:Hugging Faceのもの)はセルフホスティングが可能で、非常に大量の利用ではコストを削減できる可能性がある。しかし、OpenAIのAPIと同等のレイテンシと信頼性を実現するには、インフラ、メンテナンス、専門知識が必要となる。OrcaRouterを介してアクセスするopenai/text-embedding-3-smallは、インフラのオーバーヘッドがゼロで、一貫したアップタイムとOpenAIエコシステムとの互換性を提供する。小規模から中規模のワークロードでは、エンジニアリング時間を考慮すると、マネージドAPIの方が経済的であることが多い。超大規模なデプロイメント(数十億の埋め込み)の場合、セルフホスト型モデルの方が安価になる可能性があるが、品質の同等性は保証されない。
OpenAI 互換——今お使いの SDK のまま
https://api.orcarouter.ai/v1dimensionsencoding_format| 入力 / 1M tokens | $0.020 |
|---|---|
| 出力 / 1M tokens | $0.020 |
| 通貨 | USD |
表示価格に基づく概算
見積もりのみ — 実際のトークン数はプロバイダーのトークナイザーに依存します。
今週の開発者の声
@misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small