Moonshot Kimi K2 (0905 baseline) — mô hình trò chuyện MoE 1T tham số với 32B hoạt động mỗi lần truyền, ngữ cảnh 256k, hiệu suất cân bằng.
Kimi K2.5 là một mô hình ngôn ngữ đa phương thức do nhà cung cấp Kimi tạo ra. Mô hình này chấp nhận cả đầu vào văn bản và hình ảnh, được thiết kế để xử lý các tác vụ ngữ cảnh dài với cửa sổ ngữ cảnh…
Kimi K2.5 vượt trội trong khả năng hiểu ngữ cảnh dài với cửa sổ 262K token. Nó có thể xử lý toàn bộ tài liệu trong một lần, cho phép thực hiện các tác vụ như tóm tắt, trả lời câu hỏi và trích xuất thông tin trên các văn bản dài. Khả năng nhập hình ảnh cho phép suy luận đa phương thức—ví dụ: mô tả biểu đồ, đọc văn bản từ ảnh, hoặc kết hợp dữ liệu hình ảnh và văn bản để trả lời các câu hỏi phức tạp. Điểm τ²-Bench cao (95.9) cho thấy hiệu suất mạnh mẽ trong các tác vụ sử dụng công cụ và suy luận đa bước, chẳng hạn như gọi API, thực hiện tính toán hoặc duyệt dữ liệu.
Bạn nên chọn Kimi K2.5 khi tác vụ của bạn yêu cầu một cửa sổ ngữ cảnh lớn (trên 32K token) hoặc khi bạn cần xử lý hình ảnh. Nếu tác vụ của bạn thuần túy dựa trên văn bản và nằm trong cửa sổ token từ 4K đến 32K, một mô hình nhỏ hơn có thể tiết kiệm chi phí hơn. Điểm mạnh của Kimi K2.5 trong suy luận sử dụng công cụ (được chứng minh qua điểm τ²-Bench) khiến nó phù hợp cho các quy trình tác nhân nơi mô hình phải gọi các công cụ bên ngoài, xử lý các tương tác nhiều lượt, hoặc tuân theo các hướng dẫn phức tạp. Đối với tạo văn bản hoặc phân loại đơn giản, một mô hình rẻ hơn có thể đủ.
Các tác vụ hưởng lợi nhiều nhất bao gồm: phân tích tài liệu dài (ví dụ: xem xét hợp đồng, tóm tắt bài báo học thuật), suy luận đa phương thức (ví dụ: chú thích hình ảnh, QA trực quan), quy trình tác nhân (ví dụ: tự động hóa web, tạo mã nhiều bước) và các tác vụ yêu cầu ngữ cảnh nhất quán qua nhiều lượt (ví dụ: chatbot hỗ trợ khách hàng xử lý lịch sử dài). Sự kết hợp giữa ngữ cảnh lớn và đầu vào hình ảnh làm cho nó đặc biệt hữu ích cho các lĩnh vực như chăm sóc sức khỏe (phân tích báo cáo và hình ảnh), pháp lý (xem xét tài liệu) và nghiên cứu (xử lý biểu đồ và ấn phẩm).
Các hạn chế cụ thể không được cung cấp, nhưng với tư cách là một mô hình lớn, nó có thể có độ trễ cao hơn so với các mô hình nhỏ hơn. Giá mỗi token cao hơn một số phương án thay thế nhỏ gọn, do đó có thể không hiệu quả về chi phí đối với các lời nhắc rất ngắn. Xử lý đầu vào hình ảnh có thể tiêu thụ nhiều token, làm tăng chi phí. Hiệu suất của mô hình trên các tác vụ không được đề cập trong chuẩn τ²-Bench chưa được xác minh. Người dùng nên kiểm tra trên dữ liệu của riêng mình để xác nhận tính phù hợp. Mô hình được truy cập thông qua OrcaRouter, thêm một lớp API tiêu chuẩn nhưng không có phụ phí nào trên giá của nhà cung cấp.
τ²-Bench là một tiêu chuẩn đánh giá được thiết kế để đánh giá các tác tử AI trên các tác vụ suy luận sử dụng công cụ trong thế giới thực. Nó kiểm tra khả năng của mô hình trong việc hiểu hướng dẫn, lập kế hoạch các bước, sử dụng các công cụ bên ngoài (ví dụ: máy tính, công cụ tìm kiếm) và tạo ra kết quả chính xác. Điểm số 95.9 cho thấy Kimi K2.5 hoạt động rất mạnh trên các tác vụ suy luận thực tế này. Tuy nhiên, con số này không phản ánh hiệu năng trên các khía cạnh khác như tính sáng tạo, độ chính xác thực tế hay hỗ trợ đa ngôn ngữ. Tiêu chuẩn này cung cấp một tài liệu tham khảo hữu ích để so sánh các mô hình được tối ưu hóa cho các quy trình làm việc tác tử.
Chỉ số benchmark công khai duy nhất được cung cấp cho Kimi K2.5 là điểm τ²-Bench đạt 95,9. Không có số liệu benchmark nào khác (ví dụ: MMLU, HumanEval) trong dữ liệu nguồn. Do đó, không thể thực hiện so sánh trực tiếp chỉ dựa trên dữ liệu này. Nhìn chung, điểm τ²-Bench cao cho thấy Kimi K2.5 có tính cạnh tranh với các mô hình khác được thiết kế cho các tác vụ sử dụng công cụ và suy luận đa bước. Người dùng nên tự đánh giá trên các trường hợp sử dụng cụ thể để xác định xem mô hình có đáp ứng yêu cầu hiệu suất của họ hay không. OrcaRouter cung cấp quyền truy cập vào mô hình này mà không có bất kỳ khoản phụ phí nào.
Không có số liệu cụ thể về độ trễ hoặc số token mỗi giây được cung cấp cho Kimi K2.5. Là một mô hình lớn với cửa sổ ngữ cảnh 262K token, thời gian suy luận thường sẽ lâu hơn so với các mô hình nhỏ hơn, đặc biệt là đối với các prompt dài hoặc số lượng token đầu ra cao. Độ trễ cũng phụ thuộc vào phần cứng được nhà cung cấp (Kimi) sử dụng và tải hiện tại trên API của OrcaRouter. Đối với các ứng dụng thời gian thực, người dùng nên kiểm tra mô hình với kích thước prompt điển hình của họ để xác định thời gian phản hồi chấp nhận được. Giá được tính theo token, không phải theo yêu cầu, vì vậy không có phí tốc độ bổ sung nào được áp dụng.
Kimi K2.5 có giá $0.60 cho 1 triệu token đầu vào và $3.00 cho 1 triệu token đầu ra. Các mức giá này được tính theo giá của nhà cung cấp mà không có phụ phí, nghĩa là OrcaRouter chuyển tiếp chi phí chính xác từ Kimi. Không có phí bổ sung hoặc giá theo bậc. Token đầu vào bao gồm cả token văn bản và token hình ảnh. Token đầu ra là phản hồi được tạo ra. Giá được tính theo từng token, vì vậy tổng chi phí phụ thuộc vào độ dài của lời nhắc và phản hồi. Không có khoản phí riêng cho xử lý hình ảnh ngoài số lượng token.
Các dữ kiện được cung cấp không đề cập đến bất kỳ cơ chế lưu trữ đệm nào hay chiết khấu giá đặc biệt cho Kimi K2.5. API tiêu chuẩn của OrcaRouter hiện không bao gồm tính năng lưu trữ đệm prompt tự động. Người dùng có thể tối ưu hóa chi phí bằng cách quản lý cẩn thận độ dài prompt và giảm bớt các token không cần thiết. Đối với các tác vụ lặp lại, việc gộp nhiều truy vấn vào một yêu cầu duy nhất có thể giảm tổng lượng token sử dụng. Vì không có phụ phí trên giá của nhà cung cấp, chi phí của mô hình liên quan trực tiếp đến mức tiêu thụ token. Cân nhắc sử dụng mô hình nhỏ hơn cho các tác vụ phù hợp với ngữ cảnh ngắn hơn để tiết kiệm tiền.
Sự đánh đổi chính là giữa hiệu suất và chi phí. Giá mỗi token đầu ra của Kimi K2.5 ($3.00/1M) cao hơn so với nhiều mô hình nhỏ hơn. Đối với các tác vụ yêu cầu đầu ra dài (ví dụ: tạo toàn bộ tài liệu), chi phí có thể tích lũy nhanh chóng. Tuy nhiên, cửa sổ ngữ cảnh lớn có thể giảm nhu cầu gọi API nhiều lần để xử lý đầu vào dài, có khả năng tiết kiệm tổng chi phí. Khả năng nhập ảnh làm tăng mức tiêu thụ token nhưng có thể loại bỏ nhu cầu về các pipeline xử lý ảnh riêng biệt. Người dùng nên đánh giá khối lượng token dự kiến và so sánh với các lựa chọn thay thế thông qua OrcaRouter để tìm ra phương án phù hợp nhất.
Kimi K2.5 có thể truy cập qua API tương thích OpenAI của OrcaRouter. URL cơ sở là https://api.orcarouter.ai/v1. Bạn phải sử dụng mã định danh mô hình 'kimi/kimi-k2.5' trong các yêu cầu của mình. Xác thực được thực hiện qua khóa API lấy từ OrcaRouter. API hỗ trợ các endpoint giống như API Chat Completions của OpenAI, bao gồm chat completions và streaming. Ví dụ: POST tới /chat/completions với model: 'kimi/kimi-k2.5', mảng messages (nội dung có thể bao gồm văn bản và URL hình ảnh), và các tham số tùy chọn như temperature, max_tokens (tối đa 32768), và stream.
Mô hình hỗ trợ các tham số tiêu chuẩn từ OpenAI Chat API: 'model', 'messages' (mảng với role và content), 'max_tokens' (mặc định thay đổi, tối đa 32768), 'temperature' (mặc định 0.7), 'top_p', 'stop', 'stream' (boolean), và 'frequency_penalty' và 'presence_penalty'. Đầu vào hình ảnh được xử lý qua các phần content loại 'image_url' trong tin nhắn của người dùng. Mô hình tôn trọng giới hạn ngữ cảnh 262144 token, do đó prompt+max_tokens không được vượt quá con số đó. Tất cả các tham số OpenAI khác có thể được chấp nhận nhưng tác dụng của chúng phụ thuộc vào mô hình Kimi bên dưới.
Việc di chuyển rất đơn giản vì API của OrcaRouter tương thích với OpenAI. Chỉ cần thay đổi base URL thành https://api.orcarouter.ai/v1, khóa API của bạn thành khóa OrcaRouter, và cập nhật tên model thành 'kimi/kimi-k2.5'. Nếu mã hiện tại của bạn sử dụng thư viện openai Python, bạn có thể đặt openai.api_base và openai.api_key. Đối với chat completions, định dạng tin nhắn vẫn giữ nguyên; nếu trước đây bạn sử dụng đầu vào hình ảnh với GPT-4V, định dạng phần 'image_url' hoàn toàn giống nhau. Điều chỉnh max_tokens nếu vượt quá 32768. Không cần thay đổi nào khác cho chức năng cơ bản.
Dựa trên các dữ kiện được cung cấp, Kimi K2.5 cung cấp cửa sổ ngữ cảnh 262.144 token, lớn hơn so với các mô hình điển hình như GPT-4 (32K) nhưng tương đương với các mô hình ngữ cảnh dài khác như Gemini 1.5 Pro (giới hạn 1M) hoặc Claude 3.5 Sonnet (200K). Mức giá $0,60/$3,00 mỗi 1 triệu token của nó có tính cạnh tranh, và chênh lệch giá bằng không từ OrcaRouter giúp chi phí có thể dự đoán được. Điểm số τ²-Bench 95,9 cho thấy khả năng suy luận sử dụng công cụ mạnh, nhưng nếu không có các điểm chuẩn bổ sung, không thể so sánh hiệu suất đầy đủ. Người dùng nên đánh giá trên các tác vụ riêng của mình.
Các mô hình nhỏ hơn trên OrcaRouter (ví dụ: gpt-4o-mini hoặc các mô hình nhỏ gọn khác) thường có chi phí mỗi token thấp hơn, độ trễ nhanh hơn và cửa sổ ngữ cảnh ngắn hơn. Chúng phù hợp cho các tác vụ đơn giản, phân loại hoặc truy vấn ngắn. Kimi K2.5, với ngữ cảnh 262K và hỗ trợ hình ảnh, phù hợp hơn cho các suy luận phức tạp, tài liệu dài và đầu vào đa phương thức. Sự đánh đổi là chi phí mỗi token cao hơn và có thể chậm hơn về thời gian phản hồi. Nếu tác vụ của bạn không yêu cầu ngữ cảnh lớn hoặc khả năng đa phương thức, một mô hình rẻ hơn sẽ hiệu quả hơn. OrcaRouter giúp dễ dàng chuyển đổi giữa các mô hình cho các trường hợp sử dụng khác nhau.
Kimi K2.5 phù hợp cho sản xuất nếu khả năng của nó đáp ứng yêu cầu của bạn. Mô hình được truy cập qua OrcaRouter, nơi cung cấp hạ tầng API đáng tin cậy và khả năng tương thích OpenAI tiêu chuẩn. Giá cả theo tỷ lệ nhà cung cấp với mức chênh lệch bằng không là minh bạch. Tuy nhiên, như với bất kỳ mô hình của bên thứ ba nào, bạn nên kiểm tra tính nhất quán, độ trễ và xử lý lỗi dưới tải. Điểm τ²-Bench cho thấy hiệu suất mạnh mẽ trong các tình huống sử dụng công cụ, nhưng mức độ sẵn sàng sản xuất cũng phụ thuộc vào các yếu tố như thời gian hoạt động, giới hạn tốc độ và hỗ trợ từ OrcaRouter. Liên hệ OrcaRouter để biết chi tiết về SLA và tính khả dụng cụ thể.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="kimi/kimi-k2.5",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltyinclude_reasoningmax_completion_tokensmax_tokensnpresence_penaltyprompt_cache_keyreasoningresponse_formatsafety_identifierstopstreamstream_optionstemperaturethinkingtoolstop_p| Đầu vào / 1M tokens | $0.600 |
| Đầu ra / 1M tokens | $3.00 |
| Đọc cache / 1M | $0.100 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/kimi/kimi-k2.5Mở @misc{orcarouter_kimi_k2_5,
title = {kimi/kimi-k2.5 API},
author = {kimi},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/kimi/kimi-k2.5}
}kimi. (n.d.). kimi/kimi-k2.5 API. OrcaRouter. https://www.orcarouter.ai/models/kimi/kimi-k2.5