通过OrcaRouter实现高质量文本嵌入,价格为$0.13/M tokens,零加价,最高3072维。
OpenAI text-embedding-3-large 是 OpenAI 文本嵌入系列第三代中的大规模嵌入模型。它将文本输入转换为捕捉语义含义的密集向量表示。该模型支持从256到3072的维度,使用户能够根据下游任务和计算预算选择输出大小。默认维度为3072。其输入上下文窗口为8192个令牌,使其能够一次性处理更长的文档。该模型专为语义相似度、聚类和排序任务的高精度设计。
text-embedding-3-large 在语义相似度、文本分类、聚类和信息检索方面表现出色。其高维输出能够对相似文本进行精细区分。它是构建 RAG 向量数据库的热门选择,因为检索质量取决于嵌入的准确性。该模型在自然语言推理和重复检测方面也表现良好。然而,它不适用于文本补全或对话等生成式任务——这些任务应使用 GPT-4 或其他语言模型。
该模型可以输出维度在256到3072之间的嵌入向量。维度通过API请求中的`dimensions`参数设置。使用较低的维度可减少存储和下游计算开销,但可能会损失部分语义保真度。默认维度为3072,能提供最高的判别能力。此范围外的维度不受支持。对于大多数检索任务,1024至2048维度是准确性与成本之间的良好平衡。
如果您的应用对延迟敏感,或者需要处理数十亿条文本,每100万token $0.13的成本可能会显著增加。预算有限时,可以考虑text-embedding-3-small($0.02/百万 token)或基于BERT的开源嵌入模型。当检索准确性至关重要时(例如法律、医学或科学搜索领域,漏掉相关文档会带来严重后果),text-embedding-3-large是最优选择。
OpenAI 目前不提供对 text-embedding-3 系列的微调支持。该模型用作固定编码器。若要将其适配到特定领域,你可以采用检索增强策略,例如在向量数据库中添加特定领域的段落。或者,你可以将嵌入作为特征,用于基于标注数据训练的下游分类器。这种工作流在企业环境中很常见。
text-embedding-3-large 在 Massive Text Embedding Benchmark (MTEB) 上实现了最先进的成果,涵盖聚类、分类和重排序等任务。虽然此处未提供具体得分,但该模型在公开可用的嵌入模型中始终位居前列。其 3072 维版本提供了最高的准确率,而较低维度则以微小的性能下降换取存储和计算的减少。它在大多数任务上超越了前代模型 text-embedding-ada-002。
延迟取决于输入token数量和模型负载。对于单个短文本(100 token以下),模型通常通过OrcaRouter在200毫秒内响应。较长文本(8000 token)可能需要1-2秒。并发和批处理大小影响吞吐量——批处理请求(在单个API调用中包含多个文本)可实现更高吞吐量。OrcaRouter不会在提供商的响应时间之外增加额外开销。
该模型仅针对英文提供多语言支持(虽然也能处理其他语言,但性能较低)。它缺乏内置的指令遵循能力——严格来说只是一个编码器。8192个token的限制意味着超长文档必须进行分块处理。此外,嵌入向量可能编码训练数据中存在的人口统计偏见,因此下游应用应测试其公平性。最后,该模型无法为其相似性判断提供可解释性。
text-embedding-3-large 在 MTEB 基准测试上显著优于较旧的 ada-002 模型,尤其是在需要精细区分的任务上。新模型还引入了 `dimensions` 参数,允许在不重新训练的情况下减小向量尺寸。定价略高(ada-002 每百万 tokens 为 $0.10,新模型为 $0.13),但对于高风险的检索场景,准确性的提升往往能证明该成本的合理性。对于简单的使用场景,ada-002 仍然是一个可行的低成本替代方案。
定价为每100万个输入令牌0.13美元,按供应商费率计费,无加价。输出令牌同样为每100万个令牌0.13美元,不过对于嵌入模型,因返回的是向量,输出令牌可忽略不计。输入令牌包括您发送的文本。使用OrcaRouter的API不收取额外费用。这使得总成本与OpenAI收取的费用完全相同,无隐藏费用或速率限制附加费。
每百万Token $0.13 的价格是标准供应商定价。OrcaRouter 在供应商定价基础上不提供折扣。不过,使用较小的输出维度(例如1024)不会影响Token数量——无论维度如何,您都按输入Token付费。对于用量极大的用户,OpenAI 可能通过定制协议提供承诺用量折扣,您可以自行利用这些折扣。
OrcaRouter不会缓存嵌入响应。每个请求都会实时转发给提供商并按相应计费。如果你重复嵌入相同的文本,每次都会被收费。为了节省成本,请在客户端实现自己的缓存层,存储频繁查询的嵌入。这对于静态数据集(如产品描述或常见问题解答内容)尤其有效。
OrcaRouter将请求传递给提供商时不会进行人工限流,但提供商会执行自身的速率限制。对于text-embedding-3-large,标准层的典型限制约为每分钟3000–5000次请求。您可以直接联系OpenAI来提高限制。OrcaRouter会自动重试429错误,但过度重试可能会产生额外费用。请监控您的使用情况以保持在限制内。
发送一个POST请求到https://api.orcarouter.ai/v1/embeddings,将模型参数设置为"openai/text-embedding-3-large"。包含一个输入字符串或字符串数组。可选地设置`dimensions`参数为256到3072之间的值。您可以在Authorization头(Bearer令牌)中提供用户API密钥。响应遵循与OpenAI的Embeddings API相同的结构,包含一个包含嵌入和使用量令牌计数的对象列表。
主要参数包括 `model`(必需:"openai/text-embedding-3-large")、`input`(字符串或字符串数组,每个最多8192个token)和 `dimensions`(整数,可选,默认3072)。OrcaRouter 还支持用于按终端用户追踪使用情况的 `user` 参数。其他 OpenAI Embeddings API 参数如 `encoding_format`(float 或 base64)也受支持。有关完整参数集,请参阅 OpenAI 的文档。
更改基础 URL 从 https://api.openai.com/v1 到 https://api.orcarouter.ai/v1,并将模型 ID 从 "text-embedding-3-large" 更新为 "openai/text-embedding-3-large"。您现有的使用 OpenAI Python 客户端或 HTTP 库的代码无需其他修改即可正常工作。OrcaRouter 的 API 完全兼容,因此无需更改请求体格式。请确保您拥有 OrcaRouter API 密钥。
是的。将字符串数组作为 `input` 参数传入。API 将按相同顺序返回一个嵌入向量数组。由于开销更低,这比逐个发送请求更高效。为了达到最佳吞吐量,请将长度相似的文本分批处理,以减少空闲时间。该模型每批次最多支持 2048 个字符串(请检查提供商限制),且整个批次的输入 token 总数每分钟不得超过 2048000 个 token。
小型变体仅使用512维度,每100万个token仅需0.02美元——成本约为6.5倍更低。它速度更快、存储效率更高,但牺牲了准确性,尤其是在细粒度语义任务上。对于基于主题相似度的简单聚类或搜索,小型模型可能足够。对于召回率至关重要的高风险检索场景,建议使用text-embedding-3-large。
all-MiniLM-L6-v2 是一个免费、本地部署的模型,具有384维向量和高速性能。它在许多任务上表现良好,但在复杂基准测试(如MTEB)上不如text-embedding-3-large。权衡在于成本与质量:开源模型每token成本为零,但需要计算硬件。text-embedding-3-large提供卓越的准确性,每百万token 0.13美元的成本对于以检索质量为优先的生产系统而言可能是值得的。
Cohere 的 embed-v3 模型也支持可变维度与多语言能力。它们在英语基准测试中表现相当,但可能对非英语文本处理更好。定价类似(大约每 1M tokens $0.10–$0.15)。选择通常取决于生态系统偏好和具体的多语言需求。text-embedding-3-large 具有更大的上下文窗口(8192 对比 Cohere 的 512),并且与 OpenAI 工具集成更优。
如果您的使用场景需要除英语之外的多语言支持、出于数据隐私考虑需要本地部署,或者要求在高吞吐量下实现极低延迟,请考虑其他替代方案。对于文本生成任务,请使用 GPT-4。对于图像-文本嵌入,请使用 CLIP 或多模态模型。text-embedding-3-large 是一个通用的英语编码器;如果您的领域高度专业化,建议探索经过微调的开源模型。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| 输入 / 1M tokens | $0.130 |
|---|---|
| 输出 / 1M tokens | $0.130 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
本周开发者的讨论
@misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large