来自OpenAI的高性价比文本嵌入模型,非常适合语义搜索和聚类,通过OrcaRouter以零加价方式访问。
openai/text-embedding-3-small 是 OpenAI 于 2024 年 1 月发布的嵌入模型。它能生成文本的向量表示,捕获语义含义,从而支持比较和相似度计算。该模型仅处理文本,且最多接受 8,192 个 token 的输入。默认输出维度为 512,但你也可以请求更小的维度(最低至 256 或 128),以在精度与速度和存储之间权衡。它被设计为较大模型…
该模型在需要捕捉整体含义而非细微细节的任务上表现出色。它被广泛用于语义搜索,其中查询被嵌入并与文档嵌入库进行匹配。在聚类方面(即无需显式标签即可将相似文本分组)以及将嵌入输入线性分类器进行分类时,该模型同样表现良好。在检索增强生成(RAG)流水线中,它能高效编码查询和文档,支持基于相似度的快速检索。其8,192令牌的上下文窗口允许在单次嵌入调用中处理更长的文本段落,例如研究摘要或客户反馈。
如果你的使用场景涉及非常短的文本(如单个词汇或短语),或者你更优先考虑速度而非准确性,你可以探索OrcaRouter上其他提供商提供的更轻量级模型,例如维度更低或专注于特定语言的模型。此外,如果你的任务极其粗糙——比如仅需区分少数几个大类——简单的模型可能就足够了。然而,openai/text-embedding-3-small已经是OpenAI最经济实惠的选项之一。在嵌入质量直接影响下游任务性能(如检索排序)的应用中,相比免费替代方案,略微增加的成本通常能换来显著更好的结果。
OpenAI的text-embedding-3-small展现了强大的跨语言能力,在MTEB多语言子集等多语言基准测试中表现优异。它能够嵌入数十种语言的文本,并为跨语言的相似内容生成可比的向量。这使得它在全球应用中非常有用,例如国际产品推荐或多语言支持工单路由。然而,对于专业领域(如法律、医疗、代码),领域适配的嵌入模型可能会带来更高的准确性。如果你的数据高度专业化,你可能需要将该模型与替代方案进行基准测试,以确保最佳性能。
根据公开的结果,openai/text-embedding-3-small 在 MTEB 基准测试(大规模文本嵌入基准)上的平均得分约为 62%。这反映了它在分类、聚类、配对分类和重排序等多种任务上的稳健表现。虽然它落后于更大的 text-embedding-3-large(得分约为 65%),但其每 token 成本仅为大模型的十分之一左右。该模型在聚类和语义相似性任务上表现尤为出色。对于需要高精度的 STS(语义文本相似性)任务,小模型仍具备竞争力。
嵌入请求的延迟取决于输入长度和并发负载。在OrcaRouter上,模型通过OpenAI的基础设施提供服务,因此典型延迟与直接调用OpenAI API相当。对于平均长度(100-200个token)的单个查询,响应时间通常低于200毫秒。通过在一个API调用中批量处理多个文本可以提高吞吐量。该模型支持批量处理,OrcaRouter传递与OpenAI API相同的批处理参数。对于高容量工作负载,每个token的低成本使得在不超出预算的情况下嵌入数百万条记录成为可能。
尽管有其优势,openai/text-embedding-3-small 仍存在局限性。其默认的512维向量与1,536维的大版本相比,可能会丢失一些细微差别,尤其是在细粒度语义区分方面。该模型在需要深度领域知识或处理较长文档(接近8,192个token)的任务中,如果文本存在噪声或结构不当,性能可能会下降。此外,由于它是一个通用模型,与专用模型相比,在代码搜索或生物医学概念提取等专业任务上可能表现不佳。OrcaRouter 为这些特定需求提供了其他模型的访问途径。
openai/text-embedding-3-small的定价为每百万输入token $0.02,每百万输出token $0.02。由于该模型仅生成嵌入向量(输出token为向量表示,而非文本),输出token数量与输入成比例。实际上,系统按相同费率对输入和输出token收费。OrcaRouter以零加价方式直接传递提供商费率,因此总费用正好是每百万输入token $0.02,每百万输出token $0.02,无任何额外平台费用或隐藏收费。这使得该模型成为大规模嵌入文本时最具成本效益的选择之一。
与OpenAI的text-embedding-3-large(每100万个输入token收费0.13美元)相比,小模型便宜6.5倍。对于许多应用而言,性能下降幅度较小,使小模型更具性价比。相比已弃用的旧版ada-002,小模型既更便宜也更强。在OrcaRouter上,你还可以找到价格更低的第三方嵌入模型;然而,这些模型可能无法提供与OpenAI生态系统相同的质量或兼容性。OrcaRouter的零加价模型确保你仅支付直接成本,没有任何溢价。
OrcaRouter 可能实现缓存机制以减少冗余的 API 调用。如果您多次发送相同的输入文本,平台可能返回缓存的嵌入,而不会产生额外的令牌成本。然而,所提供的资料中并未详细说明缓存策略。为了最小化成本,您可以在客户端自行实现缓存层,使用返回的嵌入向量。由于令牌成本已经非常低,除非您的查询高度重复,否则缓存带来的节省有限。请联系 OrcaRouter 支持以了解服务器端缓存行为的具体细节。
要通过OrcaRouter使用openai/text-embedding-3-small,请将基础URL设置为https://api.orcarouter.ai/v1,并将模型ID指定为'openai/text-embedding-3-small'。该API与OpenAI的嵌入端点完全兼容,因此您可以使用OpenAI Python库或任何HTTP客户端,请求格式相同。例如,在Python中:client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here')。响应中包含嵌入向量和使用详情。
该API支持与OpenAI嵌入端点相同的参数。必需参数:'model' 设置为 'openai/text-embedding-3-small','input'(字符串或字符串数组)。可选参数:'dimensions'(整数,128至512,默认512)用于缩减输出向量大小。较小的维度可加速下游处理、减少存储,同时保留大部分语义信息。'user' 参数可用于按客户进行速率限制。OrcaRouter 还接受标准头信息,如 Authorization 和 Content-Type。对于批量请求,将字符串数组作为输入传入;API将按对应顺序返回嵌入列表。
如果您当前使用OpenAI的嵌入API,迁移到OrcaRouter十分简便。只需将基础URL从 https://api.openai.com/v1 改为 https://api.orcarouter.ai/v1,并将模型名称更新为 'openai/text-embedding-3-small'。无需修改任何其他代码。您现有的客户端库(Python、Node.js、curl等)将完全保持相同的工作方式。OrcaRouter支持相同的API密钥认证方式。这一切换使您能够享受零加价定价,而无需重新调整嵌入管道。请确保您的密钥拥有在OrcaRouter上访问该模型的权限。
主要区别在于大小、成本和性能。text-embedding-3-large 输出 1536 维(默认),而小版本为 512 维,成本为每 100 万输入 tokens 0.13 美元——贵了 6.5 倍。在 MTEB 基准测试中,large 得分约为 65%,small 约为 62%。对于大多数应用,小模型的性价比更高。当您需要最高精度(例如细粒度相似性搜索)或无法承受召回率下降时,可能会更倾向于大模型。OrcaRouter 提供这两种模型,因此您可以在自己的数据上测试两者。
OpenAI之前的嵌入模型text-embedding-ada-002现已弃用,不再通过官方渠道提供。与ada-002相比,text-embedding-3-small在MTEB上的平均性能更好(62%对~61%),支持更大的上下文(8,192 tokens对2,048 tokens),并且在当前定价下成本显著降低(每100万输入tokens $0.02对$0.10)。新模型还引入了dimensions参数,可以进一步优化成本和存储。如果你还有使用ada-002的工作流程,应该迁移到text-embedding-3-small以获得更好的质量和更低的成本。
OrcaRouter托管来自多个提供商的嵌入模型,这些模型在价格、维度和质量上各不相同。例如,有些模型提供免费套餐或更低的每token成本。然而,这些模型通常具有较小的上下文窗口(例如512个token)或较低的基准测试分数。openai/text-embedding-3-small在成本、上下文长度和质量之间取得了平衡。如果你的数据高度特定于领域,那么定制模型(例如代码或法律专用模型)可能会表现更优。OrcaRouter的目录让你可以比较性能和定价。小模型对于通用英语和多语言任务是一个可靠的默认选择。
开源嵌入模型(如来自Hugging Face的模型)可以自行托管,在极高使用量下可能降低成本。然而,它们需要基础设施、维护和专业技术才能达到与OpenAI API相当的延迟和可靠性。通过OrcaRouter访问的openai/text-embedding-3-small提供零基础设施开销、一致的正常运行时间以及与OpenAI生态系统的兼容性。对于中小规模工作负载,考虑到工程时间,托管API通常更经济。对于极大规模部署(数十亿次嵌入),自托管模型可能变得更便宜,但质量对等性无法保证。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| 输入 / 1M tokens | $0.020 |
|---|---|
| 输出 / 1M tokens | $0.020 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
本周开发者的讨论
@misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small