Mô hình nhỏ của ScaleDown cho các tác vụ thường ngày trong ứng dụng: Phân loại, Trích xuất, Tóm tắt

Vào ngày 13 tháng 10 năm 2026, ScaleDown đã vén màn ba mô hình nhỏ chuyên biệt theo tác vụ mà hãng đang bán như một ý tưởng duy nhất: Classify, Extract và Summarize, mỗi mô hình được xây dựng cho công việc lặp đi lặp lại xoay quanh một lệnh gọi LLM trong môi trường sản xuất chứ không phải để hội thoại. Cả ba đều nhận đầu vào 1M token, cả ba đều chấp nhận văn bản hoặc hình ảnh, và cả ba đều có thể truy cập qua API riêng của ScaleDown — đây chính là chỗ câu hỏi về giá trở nên thú vị, vì ba mô hình này có cấu trúc chi phí hoàn toàn khác nhau. Mô hình thứ tư trong họ này, ScaleDown Compress, được liệt kê trong tài liệu của nhà cung cấp như một công cụ cắt gọt ngữ cảnh chứ không phải một trong ba mô hình mới. Phần tiếp theo là những gì nhà cung cấp ghi trong tài liệu, được tách riêng khỏi những gì chưa ai tái lập được.

Điều gì thực sự đã được phát hành vào ngày 13 tháng 10

ScaleDown đã vận hành một endpoint Decisions trong một thời gian — một giao diện chấm điểm có cấu trúc, nhận một đối tượng trạng thái cùng một ánh xạ các câu hỏi có kiểu và trả về các xác suất đã hiệu chỉnh. Thông báo ngày 13 tháng 10 là thời điểm công ty bắt đầu bán các mô hình nền tảng như những sản phẩm độc lập thay vì như một endpoint duy nhất, và cũng là lúc công ty bắt đầu mô tả chúng như những thành phần đa dụng cho công việc trong ứng dụng.

Ba mô hình và các hợp đồng của chúng, như nhà cung cấp ghi lại trong tài liệu:

• ScaleDown Classify — gán văn bản vào một tập nhãn do người gọi cung cấp. Mỗi nhãn mang một tên và một rubric, mà tài liệu gọi là "một câu hỏi có/không mà mô hình dùng để chấm điểm nhãn", và tài liệu mô tả đây là phần quan trọng nhất của yêu cầu. Chế độ một nhãn trả về phân phối softmax có tổng bằng 1.0 cùng một nhãn hàng đầu; chế độ nhiều nhãn chấm điểm từng nhãn một cách độc lập dựa trên ngưỡng do người gọi đặt.

• ScaleDown Extract — rút trích các trường có cấu trúc ra khỏi văn bản phi cấu trúc. Trong tài liệu của dòng sản phẩm này, đây là mô hình biến một tài liệu thành bản ghi mà mã của bạn có thể lập chỉ mục.

• ScaleDown Summarize — bản tóm tắt trừu tượng ngắn gọn cho đầu vào dài, đây chính là công việc mà cửa sổ 1M token nhắm tới một cách rõ ràng nhất.

Điểm chung giữa cả ba là phần đáng để ghi lại. Một triệu token đầu vào mỗi yêu cầu là khoảng một bậc độ lớn vượt xa mức mà các API tầm trung phổ biến chấp nhận, và đó chính là con số khiến Summarize và Extract trở nên khả thi cho việc xử lý toàn bộ tài liệu mà không cần lớp chia nhỏ. Đầu vào dạng văn bản hoặc hình ảnh đặc biệt quan trọng với Extract: một hóa đơn được quét hoặc ảnh chụp màn hình của một biểu mẫu được đưa vào, các trường dữ liệu được trả ra, và không có bước OCR nào xen giữa. Cả ba đều được phục vụ từ API riêng của ScaleDown, với tài liệu ghi base URL là span>api.scaledown.xyz/span> và nói rõ rằng span>api.scaledown.ai/span> không phải là máy chủ API.

Con số duy nhất không giống những con số còn lại

Về giá cả, đây chính là điểm mà ba mô hình này không còn có thể thay thế cho nhau. Classify được niêm yết ở mức 0,05 USD cho mỗi triệu token đầu vào và 0 USD cho mỗi triệu token đầu ra, và danh mục niêm yết của mô hình trên các catalogue của bên thứ ba cho thấy mức giá tương tự với ưu đãi giảm giá đôi khi được áp dụng; mức giảm giá này không phải là cam kết của ScaleDown và không nên lấy đó làm căn cứ để lập kế hoạch. Mức giá đầu ra bằng 0 không phải là chiêu trò tiếp thị — một bộ phân loại được chấm điểm theo rubric chỉ đưa ra nhãn và xác suất, chứ không tạo sinh văn bản, nên không có gì để tính phí. Extract và Summarize thì có tạo sinh đầu ra, vì vậy cấu trúc chi phí của chúng không thể so sánh với Classify và nên được lấy giá trực tiếp từ nhà cung cấp thay vì suy ra từ mức giá của bộ phân loại.

Chi tiết thanh toán của Classify khó suy luận hơn so với mức giá được nêu ở tiêu đề. Ở chế độ đơn nhãn, mọi nhãn cùng rubric của nó đều đi vào một lần gọi mô hình, nên mỗi nhãn bạn thêm vào sẽ làm tăng số token đầu vào bị tính phí; nếu yêu cầu một câu giải thích cho lựa chọn đó, chúng sẽ được gửi lại với mức 2x, và tài liệu nói thẳng rằng phần giải thích được tạo ra sau khi nhãn đứng đầu đã được cố định, nên nó biện minh cho câu trả lời thay vì chất vấn lại câu trả lời. Ở chế độ đa nhãn, mỗi nhãn là một lần gọi mô hình riêng, và mỗi chunk được chấm điểm riêng. Do đó, một taxonomy sáu mươi nhãn với chế độ lập luận được bật không phải là một thao tác $0.05 mỗi triệu token theo nghĩa mà người đọc giả định; nó là mức giá đó nhân với tập nhãn, rồi nhân đôi nếu chế độ lập luận được bật. Các giới hạn trần được tài liệu ghi rõ — 20 nhãn mỗi yêu cầu, 16 ở chế độ đa nhãn, 50 chunk mỗi batch — chính là những ràng buộc thực tế cần tính đến khi thiết kế.

Còn một hành vi được tài liệu ghi rõ nữa, và nó quan trọng hơn bất kỳ giới hạn nào trong số này. Bộ phân loại "luôn trả về một kết quả thắng", ngay cả khi không có nhãn nào phù hợp. Việc lọc theo độ tin cậy hoàn toàn thuộc về phía bên gọi. Với một yêu cầu gồm 10 nhãn, điểm cao nhất 0.4 vẫn có thể là câu trả lời đúng, vì các điểm số mang tính tương đối trong tập nhãn chứ không phải tuyệt đối. Mọi ứng dụng thực tế của mô hình này đều cần một chính sách ngưỡng riêng, và một nhãn bao quát tất cả — tài liệu gợi ý đặt tên cho nó là span>/span> — là điều không thể bỏ qua trên thực tế.

Tại sao cửa sổ 1M token trên một bộ phân loại lại là phần thú vị

Các mô hình phân loại thường nhận đầu vào ngắn. Lý do mang tính cơ học: một bộ phân loại chấm điểm theo rubric phải cân toàn bộ đầu vào so với câu hỏi có/không của từng nhãn, và chi phí để chấm điểm một tài liệu một trăm nghìn token với hai mươi rubric là hai mươi lượt chạy đầy đủ trên tài liệu đó. Câu trả lời của ScaleDown là cửa sổ 1M cộng với lớp xử lý theo lô — tối đa 50 chunk được chấm điểm dựa trên một hồ sơ dùng chung trong một yêu cầu duy nhất — và tuyên bố của nhà cung cấp là việc hiệu chỉnh theo từng chunk là như nhau dù bạn gửi một chunk hay năm mươi chunk, với khác biệt duy nhất là hồ sơ dùng chung chỉ được tính phí một lần cho mỗi yêu cầu.

Đó là tuyên bố cần được kiểm chứng trước khi bạn xây dựng dựa trên nó. Đó cũng là tuyên bố khiến mô hình trở nên thú vị: lý do chính để phân loại bên trong ứng dụng thay vì ở biên là quyết định có thể nhìn thấy toàn bộ ngữ cảnh — toàn bộ chuỗi hỗ trợ, toàn bộ hợp đồng, toàn bộ tài liệu được truy xuất — thay vì một cửa sổ bị cắt ngắn. Nếu cửa sổ 1M đáp ứng được với kích thước đầu vào của bạn, thì câu hỏi kiến trúc ("tôi có cần một sơ đồ phân đoạn và bỏ phiếu không?") phần lớn sẽ biến mất. Nếu không, bạn có một bộ phân loại đầu vào ngắn rất rẻ và một vấn đề thứ hai cần giải quyết.

Những yêu cầu cần ý kiến thứ hai

Lập luận marketing của ScaleDown cho rằng các mô hình ngôn ngữ nhỏ chuyên biệt theo tác vụ đánh bại các mô hình tiên tiến về chi phí, tốc độ và độ chính xác đối với công việc lặp đi lặp lại với khối lượng lớn, và dẫn ra các con số bao gồm một mô hình khoảng nửa tỷ tham số đạt 91,7% trong một tác vụ phân loại đơn giản, so với 88,6% của một mô hình 72 tỷ tham số. Đó là những con số do chính nhà cung cấp đưa ra và chúng chưa được tái lập một cách độc lập: ScaleDown Classify hiện chưa có điểm trên các bảng xếp hạng công khai, và không có dòng đánh giá chuẩn nào từ bên thứ ba được công bố. Hãy coi lập luận về độ chính xác như một giả thuyết với cơ chế hợp lý — khoảng cách về hiệu quả mẫu giữa một mô hình nhỏ được huấn luyện chuyên dụng và một mô hình lớn đa dụng trên một hệ phân loại hẹp là có thật và được ghi nhận đầy đủ — chứ không phải như một kết quả đã được khẳng định.

Con số đầu vào 1M token cũng do nhà cung cấp công bố. Các danh mục niêm yết của bên thứ ba dành cho mô hình này thể hiện độ dài ngữ cảnh là không áp dụng thay vì lặp lại con số một triệu token; đây là một hạn chế của danh mục chứ không phải một mâu thuẫn, nhưng điều đó quả thực có nghĩa là cửa sổ này chưa được kiểm chứng bên ngoài tài liệu của ScaleDown.

Điều này phù hợp ở đâu nếu bạn đã đang chạy một pipeline

Kiểu mẫu mà ba mô hình này nhắm tới là một vòng lặp, chứ không phải một lệnh gọi đơn lẻ: truy xuất một tài liệu, phân loại tài liệu đó, trích xuất các trường, tóm tắt tài liệu, rồi chuyển bản tóm tắt cho một mô hình sinh để viết câu trả lời. Bước thứ tư là bước tốn kém nhất tính theo từng token, và đó chính là bước mà OrcaRouter đảm nhiệm — hơn 200 mô hình nằm sau một khóa tương thích OpenAI với mức giá niêm yết của nhà cung cấp được chuyển nguyên với 0% phụ phí, kèm cơ chế tự động chuyển đổi dự phòng khi một đường phục vụ bị suy giảm. Chúng tôi không tự vận hành ScaleDown Classify, Extract hay Summarize; chúng không có trong danh mục của chúng tôi và không phải là đích chat-completions, còn lớp định tuyến ở đây là nửa sinh của kiểu mẫu chứ không phải nửa chấm điểm.

Sự phân chia đó đáng được nói rõ ràng vì phép so sánh chi phí mà người ta sẽ vội viện đến là gây hiểu nhầm. Một bộ phân loại được chấm điểm theo rubric với giá vài xu cho mỗi triệu token đầu vào và một mô hình sinh với giá vài đô la cho mỗi triệu token không phải là đối thủ cạnh tranh; chúng là những khoản mục chi phí khác nhau, và lý do để đặt một mô hình nhỏ vào bước phân loại là nó cho phép bạn đủ khả năng chi trả cho một mô hình tốt hơn ở bước thực sự viết ra nội dung.

Điều gì sẽ thay đổi đánh giá này?

Ba điều, theo thứ tự mức độ chúng sẽ tác động đến cục diện. Một đánh giá độc lập về tác vụ phân loại được chấm theo rubric trên một bộ đánh giá chuẩn công khai sẽ biến lập luận về độ chính xác từ tuyên bố của nhà cung cấp thành một điểm dữ liệu. Một con số độ trễ được công bố — nhà cung cấp có tài liệu về các yếu tố chi phối chi phí nhưng không có độ trễ phục vụ — sẽ định đoạt liệu cửa sổ 1M có dùng được trong vận hành thông lượng hay chỉ trong xử lý theo lô. Và việc một bên thứ ba tái lập tuyên bố hiệu chỉnh theo từng chunk sẽ quyết định liệu một lô năm mươi chunk là tối ưu hóa chi phí hay là một mô hình khác. Cho đến khi ít nhất một trong số đó thành hiện thực, tóm tắt trung thực là ScaleDown đã phát hành ba mô hình với các hợp đồng rõ ràng đến bất thường và giới hạn đầu vào lớn đến bất thường, ở mức giá khiến một tầng phân loại dựa trên ngưỡng trở nên đủ rẻ để cân nhắc, và rằng những con số hỗ trợ chúng là do chính nhà cung cấp đưa ra.

Phiên bản ngắn

Nếu bạn có một giai đoạn phân loại hoặc trích xuất khối lượng lớn với một hệ thống phân loại ổn định và đầu vào văn bản hoặc hình ảnh, ba mô hình của ScaleDown đáng để đánh giá chuẩn trên dữ liệu của chính bạn trong tuần này, vì hợp đồng đơn giản và giới hạn đầu vào hào phóng. Hãy dự trù cho việc nhân nhãn và phụ phí suy luận gấp đôi trước khi bạn cam kết với một hệ thống phân loại, và hãy chuẩn bị viết ngưỡng tin cậy của riêng bạn. Nếu nhiệm vụ của bạn là tạo sinh mở, thì không có điều nào ở đây hướng đến bạn.

Lựa chọn mô hình cũng là một câu hỏi về những gì đã từng sai trước đây: các sự cố AI và thất bại của agent đã được ghi nhận đằng sau các mô hình thuộc lớp này được tập hợp trong OrcaRouter AI Incident Archive , nơi mỗi mục đều đi kèm nguồn riêng, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp.