OpenAI GPT-4o-mini превью с расширенным контекстом для генерации текста, ориентированной на поиск, при низкой стоимости.
Эта модель является предварительной версией GPT-4o-mini от OpenAI, оптимизированной для генерации текста, ориентированного на поиск. Она принимает только текстовые входные данные и предлагает…
Модель отлично справляется с пониманием и генерацией текста на основе больших контекстов (до 128 тысяч токенов) и может выдавать результаты объёмом до 16 384 токенов. Она сохраняет ключевые преимущества GPT-4o-mini: быстрый вывод, хорошее следование инструкциям и экономическую эффективность. Тонкая настройка с предварительным поиском, вероятно, улучшает её способность извлекать релевантные фрагменты, сравнивать информацию и отвечать на вопросы, требующие сканирования длинных отрывков. Модель может использоваться для суммаризации, ответов на вопросы, извлечения информации и многоходовых диалогов, если ввод остаётся текстовым. По умолчанию она не поддерживает вызовы функций или использование инструментов, хотя вы можете включить внешние результаты поиска в свой запрос.
Исходя из своей конструкции, эта модель лучше всего подходит для задач, где пользователь предоставляет длинный текстовый блок, содержащий информацию, необходимую для генерации ответа. Такие сценарии включают: анализ набора результатов поиска (предоставленных в виде текста), сравнение описаний товаров, извлечение ключевых фактов из научных статей или обобщение стенограмм встреч. Контекст в 128k позволяет обрабатывать целые книги или коллекции из нескольких документов за один запрос. Однако она может быть не оптимальна для творческого письма, генерации кода или задач, требующих мультимодального понимания. Для них рассмотрите стандартные модели GPT-4o-mini или GPT-4o.
Если ваша задача очень проста — например, короткий вопрос-ответ или классификация — и не требует большого окна контекста или специфической настройки для поиска, то более дешевая модель, такая как GPT-4o-mini (без preview) или даже GPT-3.5 Turbo, может подойти. Цена модели preview идентична цене GPT-4o-mini, поэтому стоимость не является отличительным фактором. Однако, если приоритетом является задержка, GPT-4o-mini уже является одной из самых быстрых моделей; версия preview должна иметь схожую скорость. Если вам не нужна направленность на поиск, стандартная GPT-4o-mini может быть более широко протестирована и стабильна.
Максимальное количество выходных токенов на один запрос составляет 16 384. Входной контекст может содержать до 128 000 токенов. Это щедрые лимиты, которые позволяют создавать длинные ответы и очень длинные контексты. Однако, поскольку модель работает только с текстом, все токены должны быть текстовыми. Нет встроенной поддержки структурированных данных, таких как принудительное соблюдение схемы JSON, хотя вы можете указать модели выводить JSON. В предварительной версии могут действовать ограничения скорости; при использовании OrcaRouter эти ограничения зависят от вашего тарифного плана и доступности бэкенд-провайдера.
OpenAI не опубликовала отдельные результаты тестов для этой конкретной предварительной модели. Однако базовый GPT-4o-mini, как известно, достигает высоких результатов по многим бенчмаркам NLP, при этом работая значительно быстрее и дешевле, чем GPT-4o. Пользователям следует ожидать аналогичной общей производительности, с потенциально лучшими результатами на задачах, связанных с поиском информации или длинным контекстом благодаря настройке на поиск. При отсутствии официальных тестов рекомендуется оценить модель на собственном наборе данных, чтобы определить её эффективность для вашей области.
GPT-4o-mini — одна из самых быстрых моделей семейства GPT-4, и эта предварительная версия должна иметь сопоставимую задержку. Типичное время до первого токена невелико, что делает её подходящей для интерактивных приложений. Точная задержка зависит от размера запроса, длины вывода и текущей нагрузки провайдера. Контекст на 128k может увеличить время до первого токена по сравнению с более короткими контекстами, но как только начинается потоковая передача, токены генерируются быстро. OrcaRouter не добавляет значительных накладных расходов; вызовы API оптимизированы для минимальной задержки.
Основное преимущество — сочетание высокой скорости, низкой стоимости и способности обрабатывать очень длинные контексты. Для задач, где ответ содержится в предоставленном тексте, эта модель может извлечь его эффективно без более высоких затрат на GPT-4o. Она также наследует сильную приверженность инструкциям от GPT-4o-mini. Однако она может уступать более крупным моделям, таким как GPT-4o или GPT-4 Turbo, в тонком рассуждении, креативности или фактической точности. В сложных задачах рассуждения более крупные модели часто показывают лучшие результаты, но с более высокой задержкой и стоимостью.
В качестве предварительного просмотра модель может иметь необнаруженные ошибки или непоследовательное поведение. Она не прошла такое же широкое тестирование, как стабильные версии. Настройка поиска может вызывать неожиданные результаты, когда входные данные не содержат достаточной информации, что потенциально может привести к галлюцинациям. Модель не может использовать внешние инструменты или просматривать веб-страницы, если вы не предоставите соответствующий контент. Если ваша задача требует актуальных результатов веб-поиска, вам нужно будет вручную вставить их в подсказку. Кроме того, она не поддерживает изображения или аудио, что ограничивает её использование в мультимодальных сценариях.
OrcaRouter пропускает цены провайдера без наценки. Для openai/gpt-4o-mini-search-preview-2025-03-11 стоимость составляет $0,15 за 1 миллион входных токенов и $0,60 за 1 миллион выходных токенов. Входные токены включают весь промпт (системное сообщение, сообщения пользователей и любую историю). Выходные токены — это сгенерированный текст. Никаких дополнительных комиссий со стороны OrcaRouter нет. Это делает модель очень доступной для больших объемов использования, особенно при обработке длинных контекстов.
Для этой модели в OrcaRouter не упоминаются специальные скидки за кэширование. Ценообразование осуществляется за токен, по мере использования. Некоторые провайдеры предлагают кэширование запросов, что снижает стоимость для повторяющихся префиксов, но для этой предварительной версии это не подтверждено. Обычно OpenAI может предлагать кэширование для определенных моделей в своем API, но эта предварительная версия может не соответствовать требованиям. Проверьте документацию OpenAI на предмет последних политик кэширования. В OrcaRouter вы платите по одной ставке независимо от схемы использования.
При $0.15 за вход / $0.60 за выход на миллион токенов это идентично стандартному GPT-4o-mini. Это делает его значительно дешевле, чем GPT-4o ($2.50 за вход / $10 за выход) и GPT-4 Turbo ($10 за вход / $30 за выход). Он дороже старых моделей, таких как GPT-3.5 Turbo ($0.50/$1.50 за миллион?). Однако ценность заключается в большом контексте и поисковой настройке. Если вам нужен полный контекст, преимущество в стоимости по сравнению с более крупными моделями является значительным.
Чтобы использовать модель, установите базовый URL API на https://api.orcarouter.ai/v1, ваш ключ API (от OrcaRouter) и идентификатор модели точно как "openai/gpt-4o-mini-search-preview-2025-03-11". Пример стандартного клиента OpenAI на Python: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) Поддерживаются все стандартные параметры завершения чата, включая temperature, max_tokens, top_p, frequency_penalty, presence_penalty и stop sequences. Потоковая передача доступна с помощью stream=True.
Модель поддерживает те же параметры, что и OpenAI Chat Completions API. Ключевые параметры: temperature (по умолчанию 1.0, диапазон 0-2), top_p (по умолчанию 1.0), max_tokens (по умолчанию варьируется, можно установить до 16384), stop (список строк), frequency_penalty (по умолчанию 0), presence_penalty (по умолчанию 0) и logit_bias. Вы также можете передавать user_id для мониторинга. Пока нет встроенной поддержки схемы response_format; если вам нужен структурированный вывод, используйте инструкции в промпте. Модель учитывает системные сообщения для задания контекста.
Миграция не требует изменения структуры запроса, кроме обновления идентификатора модели. В вашем API-вызове замените строку модели на "openai/gpt-4o-mini-search-preview-2025-03-11". Убедитесь, что ваш базовый URL указывает на OrcaRouter (https://api.orcarouter.ai/v1), если вы еще не используете его. Поскольку это предварительная версия, тщательно протестируйте: ответы могут отличаться по стилю или точности. Вы можете условно переключаться между моделями в своем приложении, сохраняя идентификатор модели в конфигурации. Отслеживайте производительность и затраты, чтобы убедиться, что предварительная версия соответствует вашим потребностям перед полным развертыванием.
Обе модели имеют одинаковую базовую архитектуру и ценообразование. Стандартная GPT-4o-mini — это модель общего назначения без специальной настройки поиска. Превью предназначена для улучшения производительности при задачах, связанных с извлечением и синтезом информации из больших текстовых контекстов, таких как анализ результатов поиска. На практике превью может более точно обрабатывать длинные подсказки со множеством фактов, в то время как стандартная версия может быть лучше для открытых диалогов, творческого письма или задач, где поведение поиска не требуется. Если ваше приложение уже работает со стандартной GPT-4o-mini, тестирование превью сопряжено с низким риском из-за идентичного API.
GPT-4o — это флагманская мультимодальная модель OpenAI с более высокими способностями к рассуждению, пониманием изображений и большим контекстным окном (также 128k токенов). Однако она значительно дороже ($2.50/$10 за миллион токенов) и медленнее. Поисковое предварительное представление GPT-4o-mini обменивает некоторую глубину рассуждений на скорость и стоимость. Для задач, которые являются исключительно текстовыми и не требуют сложного многоэтапного рассуждения, превью может быть достаточным за небольшую часть стоимости. Для задач, требующих мультимодального ввода или более высокой точности, GPT-4o остается превосходной.
Claude 3 Haiku (Anthropic) и Gemini 1.5 Flash (Google) — это тоже быстрые, дешёвые модели с большим контекстом. У Haiku контекст 200k токенов, у Flash — до 1M. Цены различаются. Поисковый превью GPT-4o-mini уникален, поскольку это превью поисково-адаптированной версии от OpenAI. Без прямых бенчмарков сложно сказать, какая модель лучшая. Все три отлично подходят для задач извлечения информации. Выбор может зависеть от совместимости экосистемы, стиля промптов и специфической производительности на ваших данных. OrcaRouter предоставляет унифицированный доступ ко всем трём моделям, что упрощает A/B-тестирование.
Выберите эту модель, если вашим основным требованием являются экономическая эффективность, быстрое время ответа и вы работаете только с текстовыми данными, не требующими продвинутых рассуждений. Она идеально подходит для приложений с большим объёмом запросов, где контекст каждого запроса велик (например, обработка длинных документов), но выходные данные относительно коротки. Если вам нужна максимально возможная точность, особенно для неоднозначных или сложных запросов, или если необходимо обрабатывать изображения, то GPT-4o будет лучшим выбором. Превью-модель также подходит для прототипирования и тестирования перед переходом на более дорогую модель.
Совместимо с OpenAI — оставьте свой SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| Ввод / 1M токенов | $0.150 |
| Вывод / 1M токенов | $0.600 |
| Валюта | USD |
Оценка по прайс-листу
Только оценка — фактическое число токенов зависит от токенизатора провайдера.
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11Открыть @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11