Incorporações de texto de alta qualidade via OrcaRouter a $0,13/M tokens, margem zero, até 3072 dimensões.
OpenAI text-embedding-3-large é um modelo de incorporação em larga escala da terceira geração da série de incorporação de texto da OpenAI. Ele converte entrada de texto em representações vetoriais…
text-embedding-3-large é excelente para similaridade semântica, classificação de texto, clustering e recuperação de informações. Sua saída de alta dimensionalidade permite uma distinção refinada entre textos semelhantes. É uma escolha popular para construir bancos de dados vetoriais para RAG, onde a qualidade da recuperação depende da precisão da incorporação. O modelo também tem bom desempenho em inferência de linguagem natural e detecção de duplicatas. No entanto, não foi projetado para tarefas generativas, como conclusão de texto ou diálogo — use GPT-4 ou outros modelos de linguagem para essas tarefas.
O modelo pode gerar embeddings com dimensões entre 256 e 3072. A dimensão é definida através do parâmetro `dimensions` na requisição da API. Usar uma dimensão menor reduz o armazenamento e o processamento downstream, mas pode perder alguma fidelidade semântica. A dimensão padrão é 3072, que oferece o maior poder discriminativo. Não há dimensão suportada fora desse intervalo. Para a maioria das tarefas de recuperação, uma dimensão de 1024 a 2048 é um bom equilíbrio entre precisão e custo.
Se sua aplicação for sensível à latência ou se você estiver incorporando bilhões de textos, o custo de $0,13 por 1M de tokens pode se acumular. Considere o text-embedding-3-small ($0,02/M tokens) ou modelos de código aberto como embeddings baseados em BERT para orçamentos mais baixos. O text-embedding-3-large é melhor quando a precisão da recuperação é fundamental, como em buscas jurídicas, médicas ou científicas, onde um documento relevante perdido tem grandes consequências.
Atualmente, a OpenAI não oferece ajuste fino para a série text-embedding-3. O modelo é usado como um codificador fixo. Para adaptá-lo a um domínio específico, você pode empregar estratégias de aumento de recuperação, como adicionar passagens específicas do domínio ao seu banco de dados vetorial. Alternativamente, você pode usar as incorporações como recursos para um classificador downstream treinado em seus dados rotulados. Esse fluxo de trabalho é comum em ambientes empresariais.
O text-embedding-3-large alcança resultados de ponta no Massive Text Embedding Benchmark (MTEB) em tarefas como agrupamento, classificação e reordenação. Embora as pontuações exatas não sejam fornecidas aqui, o modelo se classifica consistentemente entre os principais níveis dos modelos de embedding disponíveis publicamente. Sua versão de 3072 dimensões oferece a maior precisão, enquanto as dimensões menores trocam uma pequena queda de desempenho por armazenamento e computação reduzidos. Ele supera seu predecessor, text-embedding-ada-002, na maioria das tarefas.
A latência depende da contagem de tokens de entrada e da carga do modelo. Para um único texto curto (menos de 100 tokens), o modelo normalmente responde em menos de 200ms via OrcaRouter. Textos mais longos (8000 tokens) podem levar de 1 a 2 segundos. A concorrência e o tamanho do lote afetam a taxa de transferência — solicitações em lote (vários textos em uma única chamada de API) podem alcançar maior taxa de transferência. O OrcaRouter não adiciona sobrecarga além do tempo de resposta do provedor.
O modelo não foi projetado para suporte multilíngue além do inglês (embora lide com alguns outros idiomas, o desempenho é inferior). Também não possui capacidade intrínseca de seguir instruções — é estritamente um codificador. O limite de 8192 tokens significa que documentos extremamente longos devem ser fragmentados. Além disso, as embeddings podem codificar vieses demográficos presentes nos dados de treinamento, portanto, as aplicações downstream devem ser testadas quanto à imparcialidade. Por fim, ele não fornece explicabilidade para seus julgamentos de similaridade.
O modelo text-embedding-3-large supera significativamente o modelo mais antigo ada-002 no benchmark MTEB, especialmente em tarefas que exigem distinção de granularidade fina. O modelo mais recente também introduz o parâmetro `dimensions`, permitindo um tamanho de vetor reduzido sem necessidade de retreinamento. O preço é ligeiramente mais alto ($0,13 vs $0,10 por 1M de tokens para ada-002), mas a melhoria na precisão muitas vezes justifica o custo para cenários de recuperação de alto risco. Para casos de uso simples, o ada-002 continua sendo uma alternativa viável de menor custo.
Preço é $0.13 por 1 milhão de tokens de entrada, cobrado à taxa do provedor com margem zero. Tokens de saída também são $0.13 por 1M tokens, embora para modelos de embedding os tokens de saída sejam insignificantes, pois o modelo retorna um vetor. Tokens de entrada incluem o texto que você envia. Não há taxas adicionais para usar a API do OrcaRouter. Isso torna o custo total exatamente o que a OpenAI cobra, sem encargos ocultos ou sobretaxas de limite de taxa.
A tarifa de $0,13 por 1 milhão de tokens é o preço padrão do provedor. A OrcaRouter não oferece descontos sobre o preço do provedor. No entanto, usar dimensões de saída menores (por exemplo, 1024) não afeta a contagem de tokens — você paga por token de entrada independentemente da dimensão. Para usuários de volume muito alto, a OpenAI pode oferecer descontos por uso comprometido por meio de acordos personalizados, dos quais você pode aproveitar de forma independente.
O OrcaRouter não armazena em cache respostas de embeddings. Cada solicitação é encaminhada ao provedor em tempo real e cobrada de acordo. Se você incorporar repetidamente textos idênticos, será cobrado a cada vez. Para economizar custos, implemente sua própria camada de cache no lado do cliente, armazenando embeddings para consultas frequentes. Isso é especialmente eficaz para conjuntos de dados estáticos, como descrições de produtos ou conteúdo de FAQ.
OrcaRouter passa solicitações ao provedor sem limitação artificial, mas o provedor impõe seus próprios limites de taxa. Para text-embedding-3-large, os limites típicos são de cerca de 3000–5000 solicitações por minuto para o nível padrão. Você pode aumentar os limites entrando em contato diretamente com a OpenAI. O OrcaRouter tenta novamente automaticamente em erros 429, mas tentativas excessivas podem gerar custos adicionais. Monitore seu uso para permanecer dentro dos limites.
Envie uma requisição POST para https://api.orcarouter.ai/v1/embeddings com o parâmetro model definido como "openai/text-embedding-3-large". Inclua uma string de entrada ou um array de strings. Opcionalmente, defina o parâmetro `dimensions` para um valor entre 256 e 3072. Você pode fornecer uma chave de API de usuário no cabeçalho Authorization (token Bearer). A resposta segue a mesma estrutura da API de Embeddings da OpenAI, contendo uma lista de objetos com embeddings e contagens de tokens de uso.
Os parâmetros principais são `model` (obrigatório: "openai/text-embedding-3-large"), `input` (uma string ou array de strings, cada uma com até 8192 tokens) e `dimensions` (inteiro, opcional, padrão 3072). O OrcaRouter também suporta o parâmetro `user` para rastrear o uso por usuário final. Outros parâmetros da API OpenAI Embeddings, como `encoding_format` (float ou base64), são suportados. Consulte a documentação da OpenAI para obter o conjunto completo.
Altere a URL base de https://api.openai.com/v1 para https://api.orcarouter.ai/v1 e atualize o ID do modelo de "text-embedding-3-large" para "openai/text-embedding-3-large". Seu código existente que utiliza o cliente Python da OpenAI ou a biblioteca HTTP funcionará sem outras modificações. A API do OrcaRouter é totalmente compatível, portanto não são necessárias alterações no formato do corpo da requisição. Certifique-se de ter uma chave da API do OrcaRouter.
Sim. Passe uma matriz de strings como o parâmetro `input`. A API retornará uma matriz de embeddings na mesma ordem. Isso é mais eficiente do que enviar solicitações individuais devido à menor sobrecarga. Para obter a taxa de transferência ideal, agrupe textos de comprimento semelhante para reduzir o tempo ocioso. O modelo suporta até 2048 strings por lote (verifique os limites do provedor) e o total de tokens de entrada em todo o lote não deve exceder 2048000 tokens por minuto.
A variante pequena usa apenas 512 dimensões e custa $0,02 por 1M de tokens — cerca de 6,5× mais barato. É mais rápida e mais eficiente em armazenamento, mas sacrifica precisão, especialmente em tarefas semânticas de granularidade fina. Para clustering simples ou busca por similaridade em nível de tópico, o modelo pequeno pode ser suficiente. O text-embedding-3-large é recomendado para recuperação de alto risco onde a revocação é mais importante.
all-MiniLM-L6-v2 é um modelo gratuito e hospedado localmente com 384 dimensões e alta velocidade. Ele tem bom desempenho em muitas tarefas, mas fica aquém do text-embedding-3-large em benchmarks complexos como o MTEB. O trade-off é custo versus qualidade: modelos de código aberto têm custo zero por token, mas exigem hardware de computação. O text-embedding-3-large oferece precisão superior, enquanto o custo de $0.13/M tokens pode ser justificado para sistemas de produção onde a qualidade de recuperação é uma prioridade.
Os modelos embed-v3 da Cohere também suportam dimensões variáveis e capacidades multilíngues. Eles são comparáveis em benchmarks em inglês, mas podem lidar melhor com textos em outros idiomas. Os preços são similares (aproximadamente $0.10–0.15 por 1M tokens). A escolha frequentemente depende da preferência do ecossistema e de requisitos multilíngues específicos. text-embedding-3-large tem uma janela de contexto maior (8192 vs 512 para Cohere) e é melhor integrado às ferramentas da OpenAI.
Considere alternativas se seu caso de uso exigir suporte multilíngue além do inglês, precisar de implantação on-premise para privacidade de dados ou demandar latência extremamente baixa em alta vazão. Para tarefas como geração de texto, use GPT-4. Para embeddings de imagem-texto, use CLIP ou modelos multimodais. text-embedding-3-large é um codificador de inglês de uso geral; se seu domínio for altamente especializado, explore modelos open-source ajustados.
Compatível com OpenAI — mantenha seu SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Entrada / 1M tokens | $0.130 |
|---|---|
| Saída / 1M tokens | $0.130 |
| Moeda | USD |
Estimativa com base no preço de tabela
Apenas uma estimativa — a contagem real de tokens depende do tokenizador do provedor.
Do que os desenvolvedores estão falando esta semana
GET /api/public/models/openai/text-embedding-3-largeAbrir @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large