Moonshot Kimi K2 (0905 baseline) — model czatu MoE 1T-param z 32B aktywnymi na przejście, kontekstem 256k, zrównoważoną wydajnością.
Kimi K2.5 to multimodalny model językowy stworzony przez dostawcę Kimi. Akceptuje zarówno tekst, jak i obrazy i został zaprojektowany do obsługi zadań z długim kontekstem, z oknem kontekstowym…
Kimi K2.5 wyróżnia się w rozumieniu długiego kontekstu dzięki oknu tokenów o wielkości 262K. Może przetwarzać całe dokumenty w jednym przebiegu, umożliwiając zadania takie jak podsumowanie, odpowiadanie na pytania i ekstrakcja informacji z długich tekstów. Możliwość wprowadzania obrazów umożliwia multimodalne wnioskowanie — na przykład opisywanie wykresu, odczytywanie tekstu ze zdjęcia lub łączenie danych wizualnych i tekstowych w celu odpowiedzi na złożone pytania. Wysoki wynik τ²-Bench (95.9) wskazuje na silną wydajność w zadaniach korzystania z narzędzi i wieloetapowego wnioskowania, takich jak wywoływanie API, wykonywanie obliczeń czy przeglądanie danych.
Powinieneś wybrać Kimi K2.5, gdy twoje zadanie wymaga dużego okna kontekstowego (ponad 32K tokenów) lub gdy potrzebujesz przetwarzać obrazy. Jeśli twoje zadanie jest wyłącznie tekstowe i mieści się w oknie od 4K do 32K tokenów, mniejszy model może być bardziej opłacalny. Siła Kimi K2.5 w rozumowaniu z użyciem narzędzi (co potwierdza jego wynik τ²-Bench) sprawia, że nadaje się on do przepływów pracy agentowej, gdzie model musi wywoływać zewnętrzne narzędzia, obsługiwać interakcje wieloetapowe lub postępować zgodnie ze złożonymi instrukcjami. W przypadku prostego generowania tekstu lub klasyfikacji może wystarczyć tańszy model.
Zadania, które najbardziej na tym korzystają, to: analiza długich dokumentów (np. przegląd umów, streszczanie artykułów naukowych), rozumowanie multimodalne (np. opisywanie obrazów, wizualne QA), przepływy pracy agentowej (np. automatyzacja stron internetowych, generowanie kodu w wielu krokach) oraz zadania wymagające spójnego kontekstu przez wiele tur (np. chatboty obsługi klienta radzące sobie z obszernymi historiami rozmów). Połączenie dużego kontekstu i wejścia obrazowego czyni go szczególnie przydatnym w takich dziedzinach jak opieka zdrowotna (analiza raportów i obrazów), prawo (przegląd dokumentów) i badania naukowe (przetwarzanie wykresów i publikacji).
Określone ograniczenia nie zostały podane, ale jako duży model może mieć większe opóźnienia w porównaniu z mniejszymi modelami. Cena za token jest wyższa niż w przypadku niektórych kompaktowych alternatyw, dlatego może nie być opłacalny dla bardzo krótkich zapytań. Przetwarzanie obrazów wejściowych może zużywać wiele tokenów, zwiększając koszt. Wydajność modelu w zadaniach nieobjętych benchmarkiem τ²-Bench nie jest zweryfikowana. Użytkownicy powinni przetestować na własnych danych, aby potwierdzić przydatność. Model jest dostępny za pośrednictwem OrcaRouter, który dodaje standardową warstwę API, ale bez dodatkowej marży na ceny dostawcy.
τ²-Bench to benchmark zaprojektowany do oceny agentów AI w zadaniach wnioskowania dotyczących rzeczywistego użycia narzędzi. Testuje zdolność modelu do rozumienia instrukcji, planowania kroków, korzystania z zewnętrznych narzędzi (np. kalkulatorów, wyszukiwarek) oraz uzyskiwania poprawnych wyników. Wynik 95,9 wskazuje, że Kimi K2.5 radzi sobie bardzo dobrze w tych praktycznych zadaniach wnioskowania. Jednak ta pojedyncza liczba nie oddaje wydajności w innych wymiarach, takich jak kreatywność, dokładność faktograficzna czy wsparcie wielojęzyczne. Benchmark stanowi użyteczne odniesienie do porównywania modeli zoptymalizowanych pod kątem przepływów pracy agentów.
Jedynym publicznie dostępnym wynikiem benchmarku dla Kimi K2.5 jest wynik τ²-Bench wynoszący 95,9. W podanych faktach źródłowych nie ma innych liczb z benchmarków (np. MMLU, HumanEval). Dlatego na podstawie wyłącznie tych danych nie można dokonywać bezpośrednich porównań. Ogólnie rzecz biorąc, wysoki wynik τ²-Bench sugeruje, że Kimi K2.5 jest konkurencyjny w stosunku do innych modeli zaprojektowanych do korzystania z narzędzi i rozumowania wieloetapowego. Użytkownicy powinni przeprowadzić własne oceny w konkretnych przypadkach użycia, aby określić, czy model spełnia ich wymagania dotyczące wydajności. OrcaRouter zapewnia dostęp do tego modelu bez dodatkowych narzutów.
Nie podano konkretnych wartości opóźnienia ani tokenów na sekundę dla Kimi K2.5. Jako duży model z oknem kontekstowym 262K tokenów, czas wnioskowania będzie ogólnie dłuższy niż w przypadku mniejszych modeli, szczególnie w przypadku długich promptów lub dużej liczby tokenów wyjściowych. Opóźnienie zależy również od sprzętu używanego przez dostawcę (Kimi) oraz bieżącego obciążenia API OrcaRouter. W przypadku aplikacji czasu rzeczywistego użytkownicy powinni przetestować model z typowymi rozmiarami promptów, aby określić akceptowalne czasy odpowiedzi. Cennik jest oparty na tokenach, a nie na żądaniach, więc nie obowiązują dodatkowe opłaty za szybkość.
Kimi K2.5 kosztuje 0,60 USD za 1 milion tokenów wejściowych i 3,00 USD za 1 milion tokenów wyjściowych. Stawki te są rozliczane według ceny dostawcy bez marży, co oznacza, że OrcaRouter przekazuje dokładny koszt od Kimi. Nie ma żadnych dodatkowych opłat ani stawek warstwowych. Tokeny wejściowe obejmują zarówno tokeny tekstowe, jak i obrazkowe. Tokeny wyjściowe to wygenerowana odpowiedź. Ceny są naliczane za token, więc całkowity koszt zależy od długości promptu i odpowiedzi. Nie ma osobnej opłaty za przetwarzanie obrazów poza liczbą tokenów.
Przedstawione fakty nie wspominają o żadnych mechanizmach buforowania ani specjalnych zniżkach cenowych dla Kimi K2.5. Standardowe API OrcaRouter nie obejmuje obecnie automatycznego buforowania promptów. Użytkownicy mogą optymalizować koszty, starannie zarządzając długością promptów i redukując niepotrzebne tokeny. W przypadku powtarzalnych zadań, grupowanie wielu zapytań w jedno żądanie może zmniejszyć całkowite zużycie tokenów. Ponieważ nie ma narzutów na ceny dostawców, koszt modelu jest bezpośrednio powiązany z zużyciem tokenów. Rozważ użycie mniejszego modelu do zadań, które mieszczą się w krótszym kontekście, aby zaoszczędzić pieniądze.
Głównym kompromisem jest równowaga między wydajnością a kosztem. Cena Kimi K2.5 za token wyjściowy ($3.00/1M) jest wyższa niż w przypadku wielu mniejszych modeli. W przypadku zadań wymagających długich wyników (np. generowania pełnych dokumentów) koszty mogą szybko narastać. Jednak duże okno kontekstowe może zmniejszyć potrzebę wielokrotnych wywołań API do obsługi długich danych wejściowych, potencjalnie oszczędzając ogólne wydatki. Możliwość przetwarzania obrazów zwiększa zużycie tokenów, ale może wyeliminować potrzebę oddzielnych potoków przetwarzania obrazów. Użytkownicy powinni ocenić przewidywane wolumeny tokenów i porównać z alternatywami za pomocą OrcaRouter, aby znaleźć najlepsze dopasowanie.
Kimi K2.5 jest dostępny poprzez API OrcaRouter kompatybilne z OpenAI. Bazowy URL to https://api.orcarouter.ai/v1. W swoich żądaniach musisz użyć identyfikatora modelu 'kimi/kimi-k2.5'. Uwierzytelnianie odbywa się za pomocą klucza API uzyskanego z OrcaRouter. API obsługuje te same punkty końcowe co API Chat Completions OpenAI, w tym kompletacje czatu i strumieniowanie. Przykład: POST do /chat/completions z modelem: 'kimi/kimi-k2.5', tablicą messages (zawartość może zawierać tekst i adresy URL obrazów) oraz opcjonalnymi parametrami, takimi jak temperature, max_tokens (do 32768) i stream.
Model obsługuje standardowe parametry z OpenAI Chat API: 'model', 'messages' (tablica z rolą i treścią), 'max_tokens' (domyślnie różna, maksymalnie 32768), 'temperature' (domyślnie 0.7), 'top_p', 'stop', 'stream' (boolean) oraz 'frequency_penalty' i 'presence_penalty'. Dane wejściowe obrazu są obsługiwane za pomocą części treści typu 'image_url' w wiadomości użytkownika. Model przestrzega limitu kontekstu 262144 tokenów, więc prompt+max_tokens nie może przekroczyć tej wartości. Wszystkie inne parametry OpenAI mogą być akceptowane, ale ich efekt zależy od bazowego modelu Kimi.
Migracja jest prosta, ponieważ API OrcaRouter jest kompatybilne z OpenAI. Wystarczy zmienić podstawowy URL na https://api.orcarouter.ai/v1, klucz API na klucz OrcaRouter, a nazwę modelu na 'kimi/kimi-k2.5'. Jeśli istniejący kod korzysta z biblioteki openai w Pythonie, można ustawić openai.api_base i openai.api_key. W przypadku czatów format wiadomości pozostaje taki sam; jeśli wcześniej używano obrazów wejściowych z GPT-4V, format 'image_url' jest identyczny. Dostosuj max_tokens, jeśli przekracza 32768. Do podstawowej funkcjonalności nie są wymagane żadne inne zmiany.
Na podstawie podanych faktów, Kimi K2.5 oferuje okno kontekstu o wielkości 262 144 tokenów, co jest więcej niż w typowych modelach takich jak GPT-4 (32K), ale porównywalne z innymi modelami długiego kontekstu, takimi jak Gemini 1.5 Pro (limit 1M) czy Claude 3.5 Sonnet (200K). Jego cena na poziomie 0,60 $ / 3,00 $ za 1 milion tokenów jest konkurencyjna, a zerowa marża OrcaRouter utrzymuje koszty przewidywalnymi. Wynik τ²-Bench wynoszący 95,9 sugeruje silne rozumowanie w zakresie korzystania z narzędzi, ale bez dodatkowych benchmarków nie jest możliwe pełne porównanie wydajności. Użytkownicy powinni samodzielnie ocenić model na swoich zadaniach.
Mniejsze modele na OrcaRouter (np. gpt-4o-mini lub inne kompaktowe modele) mają zazwyczaj niższy koszt na token, krótszy czas odpowiedzi i węższe okna kontekstowe. Są odpowiednie do prostych zadań, klasyfikacji lub krótkich zapytań. Kimi K2.5, z oknem kontekstowym o pojemności 262 tys. i obsługą obrazów, sprawdza się lepiej w przypadku złożonego rozumowania, długich dokumentów oraz wejść multimodalnych. Kosztem są wyższe ceny za token i potencjalnie wolniejszy czas odpowiedzi. Jeśli Twoje zadanie nie wymaga dużego kontekstu ani możliwości multimodalnych, tańszy model będzie bardziej efektywny. OrcaRouter ułatwia przełączanie między modelami w zależności od przypadku użycia.
Kimi K2.5 nadaje się do produkcji, jeśli jego możliwości odpowiadają Twoim wymaganiom. Model jest dostępny przez OrcaRouter, który zapewnia niezawodną infrastrukturę API i standardową zgodność z OpenAI. Przejrzysta jest cena według stawki dostawcy, bez marży. Jednak, jak w przypadku każdego modelu zewnętrznego, należy przetestować go pod kątem spójności, opóźnień i obsługi błędów pod obciążeniem. Wynik τ²-Bench sugeruje wysoką wydajność w scenariuszach użycia narzędzi, ale gotowość produkcyjna zależy również od takich czynników, jak czas działania, limity szybkości i wsparcie ze strony OrcaRouter. Skontaktuj się z OrcaRouter, aby uzyskać szczegółowe informacje o SLA i dostępności.
Zgodne z OpenAI — zostań przy swoim SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="kimi/kimi-k2.5",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltyinclude_reasoningmax_completion_tokensmax_tokensnpresence_penaltyprompt_cache_keyreasoningresponse_formatsafety_identifierstopstreamstream_optionstemperaturethinkingtoolstop_p| Wejście / 1M tokenów | $0.600 |
| Wyjście / 1M tokenów | $3.00 |
| Odczyt cache / 1M | $0.100 |
| Waluta | USD |
Szacunek na podstawie cennika
Tylko szacunek — rzeczywista liczba tokenów zależy od tokenizatora dostawcy.
GET /api/public/models/kimi/kimi-k2.5Otwórz @misc{orcarouter_kimi_k2_5,
title = {kimi/kimi-k2.5 API},
author = {kimi},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/kimi/kimi-k2.5}
}kimi. (n.d.). kimi/kimi-k2.5 API. OrcaRouter. https://www.orcarouter.ai/models/kimi/kimi-k2.5