Экономичная модель встраивания текста от OpenAI, идеальная для семантического поиска и кластеризации, доступная через OrcaRouter с нулевой наценкой.
openai/text-embedding-3-small — это модель эмбеддингов, выпущенная OpenAI в январе 2024 года. Она создает векторные представления текста, которые улавливают семантическое значение, позволяя проводить…
Эта модель показывает высокую производительность в задачах, требующих улавливания общего смысла, а не мелких деталей. Она широко используется для семантического поиска, где запросы преобразуются в эмбеддинги и сопоставляются с корпусом эмбеддингов документов. Она также хорошо подходит для кластеризации — группировки похожих текстов без явных меток — и для классификации, когда эмбеддинги подаются на вход линейному классификатору. В конвейерах генерации с расширенным поиском (RAG) она эффективно кодирует как запросы, так и документы, обеспечивая быстрый поиск по сходству. Контекст в 8 192 токена позволяет обрабатывать длинные отрывки, такие как аннотации исследований или отзывы клиентов, за один вызов эмбеддинга.
Если ваш вариант использования включает очень короткие тексты (например, отдельные слова или фразы) или вы ставите скорость выше точности, вы можете рассмотреть еще более легковесные модели от других провайдеров, доступные на OrcaRouter, например, с меньшей размерностью или специализированные для конкретных языков. Кроме того, если ваша задача крайне грубая — например, различение лишь нескольких широких категорий — более простая модель может подойти. Однако openai/text-embedding-3-small уже является одним из самых доступных вариантов от OpenAI. Для приложений, где качество эмбеддингов напрямую влияет на производительность последующих этапов (например, ранжирование для поиска), небольшая дополнительная стоимость часто оправдывает лучшие результаты по сравнению с бесплатными альтернативами.
Модель text-embedding-3-small от OpenAI продемонстрировала высокие кросс-языковые способности, показав хорошие результаты на многоязычных эталонах, таких как многоязычные подмножества MTEB. Она может создавать эмбеддинги текста на десятках языков и генерировать сопоставимые векторы для схожего контента на разных языках. Это делает её полезной для глобальных приложений, таких как международные рекомендации товаров или маршрутизация многоязычных запросов в службу поддержки. Однако для специализированных областей (например, юридической, медицинской, кода) модель эмбеддингов, адаптированная под конкретную область, может обеспечить более высокую точность. Если ваши данные имеют высокую техническую специфику, возможно, стоит провести бенчмаркинг этой модели по сравнению с альтернативами, чтобы обеспечить оптимальную производительность.
Согласно общедоступным результатам, openai/text-embedding-3-small достигает среднего балла около 62% на бенчмарке MTEB (Massive Text Embedding Benchmark). Это свидетельствует о стабильной производительности в различных задачах, включая классификацию, кластеризацию, парную классификацию и реранжирование. Хотя он уступает более крупной модели text-embedding-3-large (которая набирает около 65%), его стоимость за токен примерно в десять раз ниже, чем у крупного варианта. Производительность модели особенно высока в задачах кластеризации и семантического сходства. Для задач, требующих высокой точности в STS (Semantic Textual Similarity), малая модель все еще демонстрирует конкурентоспособные результаты.
Задержка при отправке запросов на встраивание зависит от длины входных данных и одновременной нагрузки. В OrcaRouter модель обслуживается через инфраструктуру OpenAI, поэтому типичные задержки сопоставимы с прямыми вызовами API OpenAI. Для одного запроса средней длины (100–200 токенов) время ответа обычно составляет менее 200 мс. Пропускную способность можно увеличить, объединяя несколько текстов в одном вызове API. Модель поддерживает пакетную обработку, и OrcaRouter передает те же параметры пакетной обработки, что и API OpenAI. Для высоконагруженных рабочих нагрузок низкая стоимость за токен позволяет встраивать миллионы записей, не выходя за рамки бюджета.
Несмотря на свои сильные стороны, openai/text-embedding-3-small имеет ограничения. Его 512-мерный вектор по умолчанию может потерять часть нюансов по сравнению с большой версией с 1536 измерениями, особенно при тонких семантических различиях. Производительность модели на задачах, требующих глубоких предметных знаний или обработки очень длинных документов (около 8192 токенов), может снижаться, если текст зашумлён или плохо структурирован. Кроме того, поскольку это модель общего назначения, она может уступать специализированным моделям в таких задачах, как поиск кода или извлечение биомедицинских понятий. OrcaRouter предоставляет доступ к другим моделям для этих конкретных нужд.
openai/text-embedding-3-small оценивается в $0.02 за миллион входных токенов и $0.02 за миллион выходных токенов. Поскольку модель создает только эмбеддинги (выходные токены являются векторным представлением, а не текстом), количество выходных токенов пропорционально входным. На практике вы оплачиваете как входные, так и выходные токены по одинаковой ставке. OrcaRouter передает точную ставку провайдера без наценки, поэтому общая стоимость составляет ровно $0.02 за миллион входных токенов и $0.02 за миллион выходных токенов. Никаких дополнительных платформных сборов или скрытых платежей не взимается. Это делает модель одним из самых экономически эффективных вариантов для эмбеддинга текста в масштабе.
По сравнению с моделью text-embedding-3-large от OpenAI ($0.13 за 1 млн входных токенов), маленькая модель в 6,5 раз дешевле. Для многих приложений снижение производительности незначительно, что делает маленькую модель более выгодной. По сравнению с устаревшей ada-002 (теперь не поддерживается), маленькая модель одновременно дешевле и мощнее. На OrcaRouter вы также можете найти сторонние модели эмбеддингов с еще более низкими ценами; однако они могут не обеспечивать такого же качества или совместимости с экосистемой OpenAI. Модель с нулевой наценкой от OrcaRouter гарантирует, что вы платите только то, что заплатили бы напрямую, без какой-либо премии.
OrcaRouter может реализовывать механизмы кэширования для сокращения избыточных вызовов API. Если вы отправляете один и тот же входной текст несколько раз, платформа может вернуть кэшированные эмбеддинги без дополнительных затрат на токены. Однако политики кэширования не описаны подробно в предоставленных данных. Чтобы минимизировать затраты, вы можете реализовать собственный слой кэширования на стороне клиента, используя возвращаемые векторы эмбеддингов. Поскольку стоимость токенов уже очень низкая, кэширование дает незначительную экономию, если только у вас нет чрезвычайно повторяющихся запросов. Свяжитесь со службой поддержки OrcaRouter для получения информации о поведении кэширования на стороне сервера.
Чтобы использовать openai/text-embedding-3-small через OrcaRouter, установите базовый URL на https://api.orcarouter.ai/v1 и укажите идентификатор модели как 'openai/text-embedding-3-small'. API полностью совместим с эмбеддинг-эндпоинтом OpenAI, поэтому вы можете использовать библиотеку OpenAI Python или любой HTTP-клиент с тем же форматом запроса. Например, на Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). Ответ содержит вектор эмбеддинга и информацию об использовании.
API поддерживает те же параметры, что и конечная точка эмбеддингов OpenAI. Обязательные: 'model' установлен в 'openai/text-embedding-3-small' и 'input' (строка или массив строк). Необязательные: 'dimensions' (целое число, от 128 до 512, по умолчанию 512) для уменьшения размера выходного вектора. Меньшая размерность ускоряет последующую обработку и сокращает объем хранилища, сохраняя при этом большую часть семантической информации. Параметр 'user' можно использовать для ограничения скорости по каждому клиенту. OrcaRouter также принимает стандартные заголовки, такие как Authorization и Content-Type. Для пакетных запросов передайте массив строк в качестве входных данных; API вернет список эмбеддингов в соответствующем порядке.
Если вы в настоящее время используете API embeddings от OpenAI, миграция на OrcaRouter проста. Измените базовый URL с https://api.openai.com/v1 на https://api.orcarouter.ai/v1, и обновите название модели на 'openai/text-embedding-3-small'. Никаких других изменений кода не требуется. Ваша существующая клиентская библиотека (Python, Node.js, curl и т.д.) будет работать идентично. OrcaRouter поддерживает ту же схему аутентификации с использованием API-ключа. Этот переход позволяет вам воспользоваться ценообразованием без наценки, не перенастраивая ваш конвейер эмбеддингов. Убедитесь, что ваш ключ имеет доступ к модели на OrcaRouter.
Основные различия — размер, стоимость и производительность. text-embedding-3-large генерирует 1536 измерений (по умолчанию) против 512 у маленькой версии, и стоит $0,13 за 1M входных токенов — в 6,5 раз дороже. В тесте MTEB большая модель показывает около 65%, маленькая — около 62%. Для большинства приложений маленькая модель предлагает лучшее соотношение цены и качества. Большая модель может быть предпочтительна, когда требуется максимально возможная точность для задач вроде поиска по мелкозернистому сходству или когда нельзя допустить снижения полноты. OrcaRouter предоставляет обе модели, так что вы можете протестировать обе на своих данных.
Предыдущая модель эмбеддингов OpenAI, text-embedding-ada-002, теперь устарела и больше не доступна через официальные каналы. По сравнению с ada-002, text-embedding-3-small обеспечивает лучшую среднюю производительность на MTEB (62% против ~61%), поддерживает больший контекст (8 192 против 2 048 токенов) и стоит значительно меньше ($0,02 против $0,10 за 1M входных токенов) по текущим ценам. Новая модель также вводит параметр dimensions, позволяющий дополнительно оптимизировать затраты и хранение. Если у вас есть рабочие процессы, всё ещё использующие ada-002, вам следует перейти на text-embedding-3-small для улучшения качества и снижения стоимости.
OrcaRouter размещает модели векторных представлений от разных провайдеров, которые различаются по цене, размерности и качеству. Например, некоторые модели предлагают бесплатные тарифы или более низкую стоимость за токен. Однако такие модели часто имеют меньший размер контекстного окна (например, 512 токенов) или более низкие показатели в бенчмарках. openai/text-embedding-3-small обеспечивает баланс между стоимостью, длиной контекста и качеством. Если ваши данные узкоспециализированы, специализированная модель (например, для кода или юридических текстов) может превзойти её. Каталог OrcaRouter позволяет сравнивать производительность и цены. Маленькая модель — надёжный выбор по умолчанию для задач на английском и многоязычных задач общего назначения.
Модели встраивания с открытым исходным кодом (например, из Hugging Face) могут размещаться самостоятельно, что потенциально снижает затраты при очень больших объемах. Однако они требуют инфраструктуры, обслуживания и экспертизы для достижения задержки и надежности, сопоставимых с API OpenAI. openai/text-embedding-3-small, доступный через OrcaRouter, предлагает нулевые накладные расходы на инфраструктуру, постоянную доступность и совместимость с экосистемой OpenAI. Для рабочих нагрузок малого и среднего масштаба управляемый API часто оказывается более экономически выгодным с учетом затрат времени инженеров. Для чрезвычайно масштабных развертываний (миллиарды эмбеддингов) самостоятельно размещенные модели могут стать дешевле, хотя паритет качества не гарантируется.
Совместимо с OpenAI — оставьте свой SDK
https://api.orcarouter.ai/v1dimensionsencoding_format| Ввод / 1M токенов | $0.020 |
|---|---|
| Вывод / 1M токенов | $0.020 |
| Валюта | USD |
Оценка по прайс-листу
Только оценка — фактическое число токенов зависит от токенизатора провайдера.
Сравните ежемесячные расходы на модели в калькуляторе стоимости LLM
О чём говорят разработчики на этой неделе
GET /api/public/models/openai/text-embedding-3-smallОткрыть @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small