高品質文字嵌入透過 OrcaRouter,每百萬 tokens $0.13,零加價,最高 3072 維度。
OpenAI text-embedding-3-large 是 OpenAI 文字嵌入系列第三代的大型嵌入模型。它將文字輸入轉換為捕捉語義意義的密集向量表示。該模型支援從 256 到 3072 的維度,讓使用者可以選擇符合其下游任務和計算預算的輸出大小。預設維度為 3072。其輸入上下文視窗為 8192 個…
text-embedding-3-large 在語意相似度、文本分類、聚類和資訊檢索方面表現出色。其高維度輸出能夠對相似文本進行細微區分。它是為 RAG 構建向量資料庫的熱門選擇,其中檢索品質取決於嵌入向量的準確性。該模型在自然語言推論和重複檢測方面也表現良好。然而,它並非為文本補全或對話等生成任務而設計——這些任務應使用 GPT-4 或其他語言模型。
該模型可以輸出維度介於256到3072之間的嵌入向量。維度透過API請求中的`dimensions`參數進行設定。使用較低的維度可以減少儲存空間及下游計算資源,但可能會損失部分語意精確度。預設維度為3072,可提供最高的區辨能力。此範圍之外的維度不受支援。對於大多數檢索任務而言,維度設定在1024到2048之間,是在準確度與成本之間的良好平衡。
如果您的應用程式對延遲敏感,或者您正在嵌入數十億個文字,那麼每 1M tokens 0.13 美元的成本可能會累積。考慮使用 text-embedding-3-small(每 M tokens 0.02 美元)或開源模型(如基於 BERT 的嵌入)以節省預算。當檢索準確性至關重要時(例如在法律、醫療或科學搜索中,錯過相關文件會造成重大後果),text-embedding-3-large 是最佳選擇。
OpenAI 目前並未提供 text-embedding-3 系列模型的微調功能。該模型作為固定編碼器使用。若要將其適應特定領域,您可以採用檢索增強策略,例如將領域相關的段落加入您的向量資料庫。或者,您也可以將嵌入向量作為下游分類器的特徵,該分類器則使用您的標記資料進行訓練。此工作流程在企業環境中相當常見。
text-embedding-3-large 在大量文本嵌入基準測試(MTEB)中的聚類、分類和重新排序等任務上達到了最先進的結果。雖然此處未提供確切分數,但該模型在公開可用的嵌入模型中始終位列頂尖梯隊。其 3072 維版本提供了最高準確度,而較低維度則以少量性能下降換取更低的儲存和計算需求。在大多數任務上,它超越了前代產品 text-embedding-ada-002。
延遲取決於輸入token數量與模型負載。對於單一簡短文字(少於100個token),模型通常能在200ms內透過OrcaRouter回應。較長文字(8000個token)可能需要1-2秒。並發數與批次大小會影響吞吐量——批次請求(單次API呼叫中包含多個文字)可達到更高吞吐量。OrcaRouter不會在供應商回應時間之外增加額外延遲。
此模型並非設計用於支援英語以外的多語言環境(儘管它能處理某些其他語言,但表現較差)。此外,它缺乏內建的指令遵循能力——它嚴格來說是一個編碼器。8192 token 的限制意味著極長的文檔必須分割處理。此外,嵌入向量可能編碼訓練資料中存在的人口統計偏見,因此下游應用應測試其公平性。最後,它不為其相似性判斷提供可解釋性。
text-embedding-3-large 在 MTEB benchmark 上顯著優於舊版的 ada-002 模型,特別是在需要細緻區分的任務中。新版模型還引入了 `dimensions` 參數,允許在不重新訓練的情況下縮減向量大小。定價略高(每 1M tokens $0.13 vs $0.10 的 ada-002),但在高風險的檢索場景中,準確度的提升往往能攤平這項成本。對於簡單的使用案例,ada-002 仍是可行的低成本替代方案。
定價為每100萬個輸入Token $0.13,依供應商費率計費且無加成。輸出Token同樣為每100萬個Token $0.13,不過對於嵌入模型,輸出Token可忽略不計,因為模型回傳的是向量。輸入Token包含您所傳送的文字。使用OrcaRouter API無需額外費用。這使得總成本完全等同於OpenAI的收費,無隱藏費用或費率限制加價。
$0.13 每 1M token 的費率是提供商的標準價格。OrcaRouter 不會在提供商的定價上提供折扣。然而,使用較小的輸出維度(例如 1024)不會影響 token 數量——無論維度大小,您都需按輸入 token 付費。對於極高用量的用戶,OpenAI 可能透過自訂協議提供承諾用量折扣,您可以自行利用這些優惠。
OrcaRouter 不會快取嵌入回應。每次請求都會即時轉發給提供者,並按此計費。如果您重複嵌入相同的文字,每次都會被收費。為了節省成本,請在客戶端實作自己的快取層,儲存頻繁查詢的嵌入結果。這對於靜態資料集(如產品描述或常見問題內容)特別有效。
OrcaRouter 會直接將請求傳遞給提供商,不會進行人為限流,但提供商本身會執行其費率限制。以 text-embedding-3-large 為例,標準層級的典型限制約為每分鐘 3000 到 5000 個請求。您可以通過直接聯繫 OpenAI 來提高限制。OrcaRouter 會自動在遇到 429 錯誤時重新嘗試,但過多的重試可能導致額外費用。請監控您的用量以保持在限制範圍內。
將 POST 請求發送至 https://api.orcarouter.ai/v1/embeddings,並將 model 參數設為 "openai/text-embedding-3-large"。包含一個輸入字串或字串陣列。可選地將 `dimensions` 參數設為介於 256 到 3072 之間的值。您可以在 Authorization 標頭(Bearer token)中提供使用者 API 金鑰。回應的結構與 OpenAI 的 Embeddings API 相同,包含一個帶有嵌入向量與使用 token 計數的物件清單。
主要參數為 `model`(必填:"openai/text-embedding-3-large")、`input`(字串或字串陣列,每個最多 8192 個 tokens)以及 `dimensions`(整數,可選,預設為 3072)。OrcaRouter 也支援用於追蹤每位終端使用者使用情況的 `user` 參數。其他 OpenAI Embeddings API 參數,如 `encoding_format`(float 或 base64)亦受支援。完整清單請參閱 OpenAI 的文檔。
將基礎 URL 從 https://api.openai.com/v1 改為 https://api.orcarouter.ai/v1,並將模型 ID 從 "text-embedding-3-large" 更新為 "openai/text-embedding-3-large"。你現有的使用 OpenAI Python 客戶端或 HTTP 庫的代碼無需其他修改即可正常運行。OrcaRouter 的 API 完全相容,因此請求主體格式無需更改。請確保你擁有 OrcaRouter API 金鑰。
是的。將一個字串陣列作為 `input` 參數傳入,API 會以相同順序回傳一個嵌入向量陣列。由於開銷較低,這比單獨發送請求更有效率。為達到最佳吞吐量,請批次處理長度相近的文字,以減少閒置時間。該模型每批次最多支援 2048 個字串(請查閱提供商限制),且每分鐘批次內的總輸入 token 數不得超過 2048000 個 token。
小型變體僅使用512維度,每1M tokens成本為$0.02——約便宜6.5倍。它更快且儲存效率更高,但犧牲了準確度,特別是在細粒度語義任務上。對於簡單的聚類或基於主題層級相似度的搜索,小型模型可能足夠。text-embedding-3-large 建議用於召回率至關重要的高風險檢索場景。
all-MiniLM-L6-v2 是一個免費、本機託管的模型,具有 384 維度且速度極快。它在許多任務上表現良好,但在複雜基準測試(如 MTEB)上不如 text-embedding-3-large。這是成本與品質之間的取捨:開源模型的每個 token 成本為零,但需要運算硬體。text-embedding-3-large 提供卓越的準確性,而每百萬 token 0.13 美元的費用對於以檢索品質為優先的生產系統而言可能是合理的。
Cohere 的 embed-v3 模型也支援可變維度與多語言能力,在英文基準測試中表現相近,但可能對非英文文本處理得更好。定價相似(約每 1M tokens $0.10–0.15)。選擇通常取決於生態系統偏好及特定多語言需求。text-embedding-3-large 擁有更大的上下文窗口(8192 對比 Cohere 的 512),並且與 OpenAI 工具整合得更佳。
考慮替代方案,若您的使用情境需要支援英文以外的多語言、為了資料隱私需採就地部署,或要求在高吞吐量下達到極低延遲。對於文字生成任務,請使用 GPT-4。對於圖文嵌入,請使用 CLIP 或多模態模型。text-embedding-3-large 是一款通用英文編碼器;若您的領域高度專業,請探索經過微調的開源模型。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| 輸入 / 1M tokens | $0.130 |
|---|---|
| 輸出 / 1M tokens | $0.130 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
本週開發者的討論
@misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large