Moonshot Kimi K2 (0905 baseline) — чат-модель MoE с 1 трлн параметров, 32 млрд активных на проход, контекст 256k, сбалансированная производительность.
Kimi K2.5 — это мультимодальная языковая модель, созданная провайдером Kimi. Она принимает как текстовые, так и графические входные данные и предназначена для обработки задач с длинным контекстом,…
Kimi K2.5 превосходно справляется с пониманием длинных контекстов благодаря окну в 262K токенов. Она может обрабатывать целые документы за один проход, что позволяет решать такие задачи, как обобщение, ответы на вопросы и извлечение информации из длинных текстов. Поддержка ввода изображений обеспечивает мультимодальные рассуждения — например, описание диаграммы, чтение текста с фотографии или объединение визуальных и текстовых данных для ответа на сложные вопросы. Высокий показатель τ²-Bench (95,9) свидетельствует о сильной производительности в использовании инструментов и многошаговых рассуждениях, таких как вызов API, выполнение вычислений или просмотр данных.
Вам следует выбирать Kimi K2.5, когда ваша задача требует большого окна контекста (более 32 тыс. токенов) или когда вам нужно обрабатывать изображения. Если ваша задача чисто текстовая и укладывается в окно от 4K до 32K токенов, меньшая модель может быть более экономичной. Сильные стороны Kimi K2.5 в рассуждениях с использованием инструментов (что подтверждается его оценкой τ²-Bench) делают его хорошим выбором для агентских рабочих процессов, где модель должна вызывать внешние инструменты, обрабатывать многошаговые взаимодействия или следовать сложным инструкциям. Для простой генерации или классификации текста может быть достаточно более дешевой модели.
Задачи, которые выигрывают больше всего, включают: анализ длинных документов (например, проверка контрактов, реферирование научных статей), мультимодальные рассуждения (например, создание подписей к изображениям, визуальные вопросы-ответы), агентные сценарии работы (например, веб-автоматизация, генерация кода с несколькими шагами) и задачи, требующие согласованного контекста на протяжении многих раундов (например, чат-боты поддержки клиентов, обрабатывающие обширную историю). Сочетание большого контекста и ввода изображений делает его особенно полезным для таких областей, как здравоохранение (анализ отчетов и изображений), юриспруденция (проверка документов) и исследования (обработка графиков и публикаций).
Конкретные ограничения не указаны, но, будучи большой моделью, она может иметь более высокую задержку по сравнению с меньшими моделями. Цена за токен выше, чем у некоторых компактных альтернатив, поэтому она может быть неэффективной по затратам для очень коротких запросов. Обработка изображений может потреблять много токенов, увеличивая стоимость. Производительность модели на задачах, не охваченных бенчмарком τ²-Bench, не проверена. Пользователям следует тестировать на собственных данных, чтобы подтвердить пригодность. Доступ к модели осуществляется через OrcaRouter, который добавляет стандартный слой API, но не наценку на цены провайдера.
τ²-Bench — это эталон, предназначенный для оценки ИИ-агентов в задачах рассуждения с использованием инструментов в реальном мире. Он проверяет способность модели понимать инструкции, планировать шаги, использовать внешние инструменты (например, калькуляторы, поисковые системы) и получать правильные результаты. Результат 95.9 указывает на то, что Kimi K2.5 показывает очень высокие результаты в этих практических задачах рассуждения. Однако это единственное число не отражает производительность по другим аспектам, таким как креативность, фактическая точность или поддержка нескольких языков. Этот эталон является полезным ориентиром для сравнения моделей, оптимизированных для агентских рабочих процессов.
Единственная публично предоставленная цифра теста для Kimi K2.5 — это его показатель τ²-Bench, равный 95,9. Никаких других цифр тестов (например, MMLU, HumanEval) в исходных данных не приводится. Поэтому на основании только этих данных невозможно провести прямые сравнения. В целом, высокий показатель τ²-Bench позволяет предположить, что Kimi K2.5 конкурентоспособна с другими моделями, предназначенными для использования инструментов и выполнения многошаговых рассуждений. Пользователям следует провести собственное тестирование на конкретных сценариях использования, чтобы определить, соответствует ли модель их требованиям к производительности. OrcaRouter предоставляет доступ к этой модели без дополнительной наценки.
Для Kimi K2.5 не указаны конкретные показатели задержки или количества токенов в секунду. Как большая модель с контекстным окном в 262K токенов, время вывода обычно будет больше, чем у моделей меньшего размера, особенно для длинных запросов или большого количества выходных токенов. Задержка также зависит от оборудования, используемого провайдером (Kimi), и текущей нагрузки на API OrcaRouter. Для приложений реального времени пользователям следует тестировать модель с типичными размерами запросов, чтобы определить приемлемое время отклика. Ценообразование — за токен, а не за запрос, поэтому дополнительные сборы за скорость не взимаются.
Kimi K2.5 стоит $0,60 за 1 миллион входных токенов и $3,00 за 1 миллион выходных токенов. Эти тарифы выставляются по ставке провайдера без наценки, то есть OrcaRouter передает точную стоимость от Kimi. Никаких дополнительных комиссий или многоуровневых цен. Входные токены включают как текстовые, так и токены изображений. Выходные токены — это сгенерированный ответ. Ценообразование ведется за токен, поэтому общая стоимость зависит от длины запроса и ответа. Нет отдельной платы за обработку изображений, помимо учета токенов.
Предоставленные факты не упоминают никаких механизмов кэширования или специальных ценовых скидок для Kimi K2.5. Стандартный API OrcaRouter в настоящее время не включает автоматическое кэширование подсказок. Пользователи могут оптимизировать затраты, тщательно управляя длиной подсказок и сокращая ненужные токены. Для повторяющихся задач группировка нескольких запросов в один может снизить общее использование токенов. Поскольку наценки на цены провайдера отсутствуют, стоимость модели напрямую связана с потреблением токенов. Рассмотрите возможность использования меньшей модели для задач, которые укладываются в более короткий контекст, чтобы сэкономить деньги.
Основной компромисс — между производительностью и стоимостью. Цена Kimi K2.5 за выходной токен ($3.00/1M) выше, чем у многих более маленьких моделей. Для задач, требующих длинных выходных данных (например, генерация полного документа), затраты могут быстро накапливаться. Однако большой контекстный окно может снизить необходимость в множественных API-вызовах для обработки длинных входных данных, потенциально экономя общие расходы. Возможность обработки изображений добавляет потребление токенов, но может устранить необходимость в отдельных конвейерах обработки изображений. Пользователям следует оценить ожидаемые объемы токенов и сравнить с альтернативами через OrcaRouter, чтобы найти наилучшее соответствие.
Kimi K2.5 доступен через совместимый с OpenAI API OrcaRouter. Базовый URL: https://api.orcarouter.ai/v1. В запросах необходимо использовать идентификатор модели 'kimi/kimi-k2.5'. Аутентификация выполняется с помощью API-ключа, полученного от OrcaRouter. API поддерживает те же конечные точки, что и Chat Completions API от OpenAI, включая завершения чата и потоковую передачу. Пример: POST к /chat/completions с model: 'kimi/kimi-k2.5', массивом messages (содержимое может включать текст и URL изображений) и необязательными параметрами, такими как temperature, max_tokens (до 32768) и stream.
Модель поддерживает стандартные параметры из OpenAI Chat API: 'model', 'messages' (массив с role и content), 'max_tokens' (значение по умолчанию варьируется, макс. 32768), 'temperature' (по умолчанию 0.7), 'top_p', 'stop', 'stream' (логический), а также 'frequency_penalty' и 'presence_penalty'. Ввод изображений обрабатывается через части содержимого типа 'image_url' в сообщении пользователя. Модель соблюдает контекстный лимит в 262144 токена, поэтому prompt+max_tokens не должны превышать это значение. Все остальные параметры OpenAI могут быть приняты, но их эффект зависит от базовой модели Kimi.
Миграция проста, поскольку API OrcaRouter совместим с OpenAI. Просто измените базовый URL на https://api.orcarouter.ai/v1, ваш API-ключ на ключ OrcaRouter и обновите имя модели на 'kimi/kimi-k2.5'. Если ваш существующий код использует библиотеку openai Python, вы можете задать openai.api_base и openai.api_key. Для chat completions формат сообщений остается тем же; если вы ранее использовали ввод изображений с GPT-4V, формат части 'image_url' идентичен. При необходимости измените max_tokens, если он превышает 32768. Для базового функционала других изменений не требуется.
Основываясь на предоставленных фактах, Kimi K2.5 предлагает контекстное окно в 262 144 токена, что больше, чем у типичных моделей, таких как GPT-4 (32K), но сопоставимо с другими моделями с длинным контекстом, например Gemini 1.5 Pro (лимит 1M) или Claude 3.5 Sonnet (200K). Его цены $0.60/$3.00 за 1M токенов являются конкурентоспособными, а нулевая наценка от OrcaRouter обеспечивает предсказуемость затрат. Показатель τ²-Bench в 95,9 указывает на сильные способности рассуждения при использовании инструментов, однако без дополнительных тестов полное сравнение производительности невозможно. Пользователям следует оценивать модель на собственных задачах.
Меньшие модели на OrcaRouter (например, gpt-4o-mini или другие компактные модели) обычно имеют более низкую стоимость за токен, более быструю задержку и более короткие контекстные окна. Они подходят для простых задач, классификации или коротких запросов. Kimi K2.5 с его контекстом в 262K и поддержкой изображений лучше подходит для сложных рассуждений, длинных документов и мультимодальных входных данных. Компромисс — более высокая стоимость за токен и потенциально более медленное время ответа. Если ваша задача не требует большого контекста или мультимодальных возможностей, более дешевая модель будет более эффективной. OrcaRouter позволяет легко переключаться между моделями для различных случаев использования.
Kimi K2.5 подходит для продакшена, если её возможности соответствуют вашим требованиям. Модель доступна через OrcaRouter, который обеспечивает надёжную API-инфраструктуру и стандартную совместимость с OpenAI. Ценообразование по тарифам провайдера без наценок прозрачно. Однако, как и в случае с любой сторонней моделью, следует протестировать её на согласованность, задержки и обработку ошибок под нагрузкой. Показатель τ²-Bench указывает на высокую производительность в сценариях с использованием инструментов, но готовность к продакшену также зависит от таких факторов, как аптайм, лимиты запросов и поддержка со стороны OrcaRouter. Для получения подробной информации о SLA и доступности обращайтесь к OrcaRouter.
Совместимо с OpenAI — оставьте свой SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="kimi/kimi-k2.5",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltyinclude_reasoningmax_completion_tokensmax_tokensnpresence_penaltyprompt_cache_keyreasoningresponse_formatsafety_identifierstopstreamstream_optionstemperaturethinkingtoolstop_p| Ввод / 1M токенов | $0.600 |
| Вывод / 1M токенов | $3.00 |
| Чтение кэша / 1M | $0.100 |
| Валюта | USD |
Оценка по прайс-листу
Только оценка — фактическое число токенов зависит от токенизатора провайдера.
GET /api/public/models/kimi/kimi-k2.5Открыть @misc{orcarouter_kimi_k2_5,
title = {kimi/kimi-k2.5 API},
author = {kimi},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/kimi/kimi-k2.5}
}kimi. (n.d.). kimi/kimi-k2.5 API. OrcaRouter. https://www.orcarouter.ai/models/kimi/kimi-k2.5