Moonshot Kimi K2 (0905 baseline) — 1T-param MoE 채팅 모델, 패스당 32B 활성화, 256k 컨텍스트, 균형 잡힌 성능.
Kimi K2.5는 제공자 Kimi가 만든 다중 모드 언어 모델입니다. 텍스트와 이미지 입력을 모두 수용하며, 262,144개의 토큰으로 구성된 컨텍스트 윈도우를 통해 긴 컨텍스트 작업을 처리하도록 설계되었습니다. 이 모델은 단일 응답에서 최대 32,768개의 토큰을 생성할 수 있습니다. OrcaRouter의 OpenAI 호환 API를 통해 기본 URL…
Kimi K2.5는 262K 토큰 윈도우를 갖춘 긴 맥락 이해에 뛰어납니다. 한 번에 전체 문서를 처리할 수 있어 긴 텍스트에서 요약, 질문 응답, 정보 추출과 같은 작업을 가능하게 합니다. 이미지 입력 기능은 멀티모달 추론을 가능하게 합니다—예를 들어, 차트 설명, 사진에서 텍스트 읽기, 시각 및 텍스트 데이터를 결합하여 복잡한 질문에 답하는 것 등이 있습니다. 높은 τ²-Bench 점수(95.9)는 API 호출, 계산 수행, 데이터 탐색과 같은 도구 사용 및 다단계 추론 작업에서 강력한 성능을 나타냅니다.
작업에 큰 컨텍스트 윈도우(32K 토큰 이상)가 필요하거나 이미지를 처리해야 할 경우 Kimi K2.5를 선택해야 합니다. 작업이 순수 텍스트 기반이며 4K~32K 토큰 윈도우에 적합하다면 더 작은 모델이 비용 효율적일 수 있습니다. Kimi K2.5의 도구 사용 추론 능력(τ²-Bench 점수로 입증됨)은 모델이 외부 도구를 호출하고, 다중 턴 상호작용을 처리하거나, 복잡한 지침을 따라야 하는 에이전트 워크플로우에 적합합니다. 간단한 텍스트 생성이나 분류에는 더 저렴한 모델로 충분할 수 있습니다.
가장 큰 이점을 제공하는 작업은 장문 문서 분석(예: 계약서 검토, 학술 논문 요약), 멀티모달 추론(예: 이미지 캡셔닝, 시각적 질의 응답), 에이전트 워크플로우(예: 웹 자동화, 여러 단계의 코드 생성), 그리고 많은 턴에 걸쳐 일관된 맥락이 필요한 작업(예: 방대한 기록을 처리하는 고객 지원 챗봇)입니다. 대규모 컨텍스트와 이미지 입력의 조합은 의료(보고서 및 이미지 분석), 법률(문서 검토), 연구(차트 및 출판물 처리)와 같은 분야에서 특히 유용합니다.
구체적인 제한 사항은 제공되지 않지만, 대형 모델인 만큼 소형 모델에 비해 지연 시간이 더 길 수 있습니다. 토큰당 가격은 일부 소형 대안보다 높기 때문에 매우 짧은 프롬프트에는 비용 효율적이지 않을 수 있습니다. 이미지 입력 처리는 많은 토큰을 소비하여 비용을 증가시킬 수 있습니다. τ²-Bench 벤치마크에서 다루지 않는 작업에 대한 모델 성능은 검증되지 않았습니다. 사용자는 자체 데이터로 테스트하여 적합성을 확인해야 합니다. 이 모델은 OrcaRouter를 통해 액세스되며, 이는 표준 API 계층을 추가하지만 제공업체 가격에 추가 마크업은 없습니다.
τ²-Bench는 실제 도구 사용 추론 작업에서 AI 에이전트의 성능을 평가하기 위해 설계된 벤치마크입니다. 명령 이해, 단계 계획, 외부 도구(예: 계산기, 검색 엔진) 사용 및 올바른 결과 도출 능력을 테스트합니다. 95.9점은 Kimi K2.5가 이러한 실용적인 추론 작업에서 매우 강력한 성능을 보임을 나타냅니다. 그러나 이 하나의 수치는 창의성, 사실 정확성 또는 다국어 지원과 같은 다른 차원의 성능을 포착하지는 않습니다. 이 벤치마크는 에이전트 워크플로에 최적화된 모델을 비교하는 데 유용한 참고 자료를 제공합니다.
Kimi K2.5의 공개적으로 제공된 유일한 벤치마크 수치는 τ²-Bench 점수 95.9입니다. 출처 사실에는 다른 벤치마크 수치(예: MMLU, HumanEval)가 제공되지 않습니다. 따라서 이 데이터만으로는 직접적인 비교가 불가능합니다. 일반적으로 높은 τ²-Bench 점수는 Kimi K2.5가 도구 사용 및 다단계 추론 작업을 위해 설계된 다른 모델들과 경쟁력이 있음을 시사합니다. 사용자는 특정 사용 사례에 대해 자체 평가를 수행하여 성능 요구 사항을 충족하는지 확인해야 합니다. OrcaRouter는 추가 마크업 없이 이 모델에 대한 액세스를 제공합니다.
Kimi K2.5에 대한 특정 지연 시간이나 초당 토큰 수 수치는 제공되지 않습니다. 262K 토큰 컨텍스트 윈도우를 가진 대형 모델로서, 추론 시간은 일반적으로 소형 모델보다 길며, 특히 긴 프롬프트나 높은 출력 토큰 수의 경우 더욱 그렇습니다. 지연 시간은 또한 제공자(Kimi)가 사용하는 하드웨어와 OrcaRouter API의 현재 부하에 따라 달라집니다. 실시간 애플리케이션의 경우 사용자는 일반적인 프롬프트 크기로 모델을 테스트하여 허용 가능한 응답 시간을 결정해야 합니다. 가격은 요청당이 아닌 토큰당이므로 추가 속도 요금이 적용되지 않습니다.
Kimi K2.5는 입력 토큰 100만 개당 $0.60, 출력 토큰 100만 개당 $3.00에 책정되어 있습니다. 이 요금은 제공업체 요율로 청구되며 마크업이 전혀 없으므로, OrcaRouter는 Kimi의 정확한 비용을 그대로 전달합니다. 추가 수수료나 계층별 가격 책정은 없습니다. 입력 토큰에는 텍스트 토큰과 이미지 토큰이 모두 포함됩니다. 출력 토큰은 생성된 응답입니다. 가격은 토큰 단위로 책정되므로 총 비용은 프롬프트와 응답 길이에 따라 달라집니다. 이미지 처리에 대한 별도의 요금은 토큰 수 외에는 부과되지 않습니다.
제공된 정보에는 Kimi K2.5에 대한 캐싱 메커니즘이나 특별 가격 할인이 언급되어 있지 않습니다. OrcaRouter의 표준 API는 현재 자동 프롬프트 캐싱을 포함하지 않습니다. 사용자는 프롬프트 길이를 신중하게 관리하고 불필요한 토큰을 줄여 비용을 최적화할 수 있습니다. 반복적인 작업의 경우 여러 쿼리를 하나의 요청으로 배치 처리하면 총 토큰 사용량을 줄일 수 있습니다. 제공업체 가격에 마크업이 없으므로 모델 비용은 토큰 소비에 직접적으로 연결됩니다. 더 짧은 컨텍스트에 적합한 작업에는 더 작은 모델을 사용하여 비용을 절약하는 것을 고려하세요.
주요 트레이드오프는 성능과 비용 사이입니다. Kimi K2.5의 출력 토큰당 가격($3.00/1M)은 많은 소형 모델보다 높습니다. 긴 출력이 필요한 작업(예: 전체 문서 생성)의 경우 비용이 빠르게 누적될 수 있습니다. 그러나 큰 컨텍스트 윈도우는 긴 입력을 처리하기 위해 여러 API 호출이 필요할 가능성을 줄여 잠재적으로 전체 비용을 절약할 수 있습니다. 이미지 입력 기능은 토큰 소비를 증가시키지만 별도의 이미지 처리 파이프라인이 필요하지 않을 수 있습니다. 사용자는 예상 토큰 양을 평가하고 OrcaRouter를 통해 대안과 비교하여 최적의 방안을 찾아야 합니다.
Kimi K2.5는 OrcaRouter의 OpenAI 호환 API를 통해 접근할 수 있습니다. 베이스 URL은 https://api.orcarouter.ai/v1입니다. 요청 시 모델 식별자로 'kimi/kimi-k2.5'를 사용해야 합니다. 인증은 OrcaRouter에서 받은 API 키를 통해 이루어집니다. 이 API는 OpenAI의 Chat Completions API와 동일한 엔드포인트를 지원하며, 여기에는 채팅 완성 및 스트리밍이 포함됩니다. 예: POST /chat/completions에 모델: 'kimi/kimi-k2.5', messages 배열 (내용에는 텍스트 및 이미지 URL 포함 가능), 선택적 매개변수(temperature, max_tokens(최대 32768), stream)를 포함합니다.
이 모델은 OpenAI Chat API의 표준 파라미터를 지원합니다: 'model', 'messages' (role과 content를 포함하는 배열), 'max_tokens' (기본값은 다양하며, 최대 32768), 'temperature' (기본값 0.7), 'top_p', 'stop', 'stream' (부울), 'frequency_penalty', 'presence_penalty'. 이미지 입력은 사용자 메시지의 'image_url' 유형의 콘텐츠 부분을 통해 처리됩니다. 이 모델은 262144 토큰 컨텍스트 제한을 준수하므로, prompt+max_tokens가 이를 초과해서는 안 됩니다. 다른 모든 OpenAI 파라미터는 허용될 수 있지만, 그 효과는 기본 Kimi 모델에 따라 달라집니다.
마이그레이션은 OrcaRouter의 API가 OpenAI와 호환되기 때문에 간단합니다. 기본 URL을 https://api.orcarouter.ai/v1로, API 키를 OrcaRouter 키로 변경하고, 모델 이름을 'kimi/kimi-k2.5'로 업데이트하기만 하면 됩니다. 기존 코드가 openai Python 라이브러리를 사용하는 경우, openai.api_base와 openai.api_key를 설정할 수 있습니다. 채팅 완성의 경우 메시지 형식은 동일하게 유지됩니다. 이전에 GPT-4V와 함께 이미지 입력을 사용했다면, 'image_url' 부분 형식도 동일합니다. max_tokens가 32768을 초과하는 경우 조정하십시오. 기본 기능을 위해 다른 변경 사항은 필요하지 않습니다.
제공된 사실에 기반하여, Kimi K2.5는 262,144 토큰의 컨텍스트 윈도우를 제공하며, 이는 GPT-4(32K)와 같은 일반적인 모델보다 크지만 Gemini 1.5 Pro(1M 제한) 또는 Claude 3.5 Sonnet(200K)과 같은 다른 긴 컨텍스트 모델과 비교할 수 있습니다. 백만 토큰당 $0.60/$3.00의 가격은 경쟁력이 있으며, OrcaRouter의 제로 마크업은 비용을 예측 가능하게 유지합니다. τ²-Bench 점수 95.9는 강력한 도구 사용 추론을 시사하지만, 추가 벤치마크 없이는 전체 성능 비교가 불가능합니다. 사용자는 자신의 작업에 대해 평가해야 합니다.
OrcaRouter의 소형 모델(예: gpt-4o-mini 또는 기타 작은 모델)은 일반적으로 토큰당 비용이 낮고, 지연 시간이 빠르며, 컨텍스트 창이 더 짧습니다. 이러한 모델은 간단한 작업, 분류 또는 짧은 쿼리에 적합합니다. Kimi K2.5는 262K 컨텍스트와 이미지 지원을 통해 복잡한 추론, 긴 문서, 멀티모달 입력에 더 적합합니다. 그 대가로 토큰당 비용이 높고 응답 시간이 느려질 수 있습니다. 작업에 큰 컨텍스트나 멀티모달 기능이 필요하지 않다면, 더 저렴한 모델이 더 효율적입니다. OrcaRouter를 사용하면 다양한 사용 사례에 맞춰 모델을 쉽게 전환할 수 있습니다.
Kimi K2.5은 요구 사항과 기능이 일치할 경우 프로덕션에 적합합니다. 이 모델은 안정적인 API 인프라와 표준 OpenAI 호환성을 제공하는 OrcaRouter를 통해 액세스할 수 있습니다. 제공업체 요율로 마크업 없는 투명한 가격 책정이 이루어집니다. 그러나 다른 서드파티 모델과 마찬가지로 부하 상태에서 일관성, 지연 시간, 오류 처리를 테스트해야 합니다. τ²-Bench 점수는 도구 사용 시나리오에서 강력한 성능을 시사하지만, 프로덕션 준비 상태는 가동 시간, 속도 제한, OrcaRouter의 지원과 같은 요소에도 의존합니다. 구체적인 SLA 및 가용성 세부 사항은 OrcaRouter에 문의하십시오.
OpenAI 호환 — 쓰던 SDK 그대로
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="kimi/kimi-k2.5",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltyinclude_reasoningmax_completion_tokensmax_tokensnpresence_penaltyprompt_cache_keyreasoningresponse_formatsafety_identifierstopstreamstream_optionstemperaturethinkingtoolstop_p| 입력 / 1M tokens | $0.600 |
| 출력 / 1M tokens | $3.00 |
| 캐시 읽기 / 1M | $0.100 |
| 통화 | USD |
정가 기준 추정치
추정치일 뿐입니다 — 실제 토큰 수는 제공자의 토크나이저에 따라 달라집니다.
@misc{orcarouter_kimi_k2_5,
title = {kimi/kimi-k2.5 API},
author = {kimi},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/kimi/kimi-k2.5}
}kimi. (n.d.). kimi/kimi-k2.5 API. OrcaRouter. https://www.orcarouter.ai/models/kimi/kimi-k2.5