โมเดลขนาดเล็กของ ScaleDown สำหรับงานประจำภายในแอป: จำแนกประเภท สกัดข้อมูล สรุปความ

เมื่อวันที่ 13 ตุลาคม 2026 ScaleDown ได้เปิดตัวโมเดลขนาดเล็กที่เจาะจงงานเฉพาะสามตัว ซึ่งบริษัทขายให้เป็นแนวคิดเดียว ได้แก่ Classify, Extract และ Summarize โดยแต่ละตัวถูกสร้างขึ้นสำหรับงานซ้ำ ๆ ที่ล้อมรอบการเรียก LLM ในงานโปรดักชัน มากกว่าจะเพื่อการสนทนา ทั้งสามรับอินพุตขนาด 1M โทเคน ทั้งสามรับข้อความหรือรูปภาพ และทั้งสามเข้าถึงได้ผ่าน API ของ ScaleDown เอง — ซึ่งตรงนี้แหละที่คำถามเรื่องราคาน่าสนใจ เพราะทั้งสามมีรูปแบบต้นทุนที่แตกต่างกันโดยสิ้นเชิง โมเดลตัวที่สี่ในตระกูลนี้ คือ ScaleDown Compress ถูกระบุในเอกสารของผู้ให้บริการว่าเป็นเครื่องมือตัดทอนบริบท มากกว่าจะเป็นหนึ่งในสามตัวใหม่ เนื้อหาต่อไปนี้คือสิ่งที่เอกสารของผู้ให้บริการระบุ โดยแยกออกจากสิ่งที่ยังไม่มีใครจำลองซ้ำได้

สิ่งที่ส่งมอบจริง ๆ ในวันที่ 13 ตุลาคม

ScaleDown ได้ดำเนินการเอนด์พอยต์ Decisions มาระยะหนึ่งแล้ว — ซึ่งเป็นอินเทอร์เฟซการให้คะแนนแบบมีโครงสร้างที่รับออบเจ็กต์สถานะพร้อมแผนที่ของคำถามที่มีการระบุชนิด และส่งคืนค่าความน่าจะเป็นที่ปรับเทียบแล้ว การประกาศเมื่อวันที่ 13 ตุลาคมเป็นจุดที่บริษัทเริ่มขายโมเดลพื้นฐานเป็นผลิตภัณฑ์ในตัวเอง แทนที่จะเป็นเอนด์พอยต์เพียงหนึ่งเดียว และเป็นจุดที่เริ่มอธิบายว่าโมเดลเหล่านี้เป็นคอมโพเนนต์อเนกประสงค์สำหรับงานภายในแอป

โมเดลทั้งสามและสัญญาของโมเดลเหล่านั้น ตามที่ผู้ขายจัดทำเอกสารไว้:

• ScaleDown Classify — กำหนดข้อความให้กับชุดป้ายกำกับที่ผู้เรียกจัดหาให้ แต่ละป้ายกำกับมีชื่อและเกณฑ์การให้คะแนน ซึ่งเอกสารเรียกว่า "คำถามแบบใช่/ไม่ใช่ที่โมเดลใช้ให้คะแนนป้ายกำกับ" และเอกสารอธิบายว่าเป็นส่วนที่สำคัญที่สุดของคำขอ โหมดป้ายกำกับเดี่ยวจะคืนค่าการแจกแจงแบบซอฟต์แมกซ์ที่ผลรวมเท่ากับ 1.0 พร้อมป้ายกำกับอันดับต้น ส่วนโหมดหลายป้ายกำกับจะให้คะแนนแต่ละป้ายกำกับอย่างอิสระเทียบกับเกณฑ์ที่ผู้เรียกกำหนด

• ScaleDown Extract — ดึงฟิลด์ที่มีโครงสร้างออกจากข้อความที่ไม่มีโครงสร้าง ในเอกสารของตระกูลนี้ นี่คือโมเดลที่เปลี่ยนเอกสารให้เป็นเรกคอร์ดที่โค้ดของคุณสามารถจัดทำดัชนีได้

• ScaleDown Summarize — สรุปใจความสั้นแบบนามธรรมของข้อมูลนำเข้าที่ยาว ซึ่งเป็นงานที่หน้าต่างขนาด 1M โทเค็นถูกออกแบบมาเพื่อรองรับอย่างชัดเจนที่สุด

สัญญาร่วมกันในทั้งสามบริการคือส่วนที่ควรค่าแก่การจดบันทึก หนึ่งล้านโทเคนของอินพุตต่อคำขอเป็นประมาณหนึ่งลำดับขนาดที่เกินกว่าที่ API ขนาดกลางทั่วไปจะรองรับ และเป็นตัวเลขที่ทำให้ Summarize และ Extract เป็นไปได้สำหรับงานทั้งเอกสารโดยไม่ต้องมีเลเยอร์การแบ่งส่วน อินพุตแบบข้อความหรือรูปภาพมีความสำคัญโดยเฉพาะกับ Extract: ใบแจ้งหนี้ที่สแกนหรือภาพหน้าจอของแบบฟอร์มจะถูกป้อนเข้าไป ฟิลด์ต่างๆ จะถูกส่งออกมา และไม่มีขั้นตอน OCR คั่นกลาง ทั้งสามให้บริการจาก API ของ ScaleDown เอง ซึ่งเอกสารระบุ base URL ว่า span>api.scaledown.xyz/span> และระบุอย่างชัดเจนว่า span>api.scaledown.ai/span> ไม่ใช่โฮสต์ API

ตัวเลขเดียวที่ไม่เหมือนตัวอื่น

เรื่องราคาคือจุดที่ทั้งสามนี้ไม่สามารถใช้แทนกันได้อีกต่อไป Classify ถูกระบุราคาไว้ที่ $0.05 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ $0 ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น และการระบุรายการของโมเดลในแค็ตตาล็อกของบุคคลที่สามแสดงอัตราเดียวกันนี้โดยบางครั้งมีการใช้ส่วนลดโปรโมชัน ส่วนลดนี้ไม่ใช่ข้อผูกพันของ ScaleDown และไม่ควรนำมาวางแผนโดยยึดเป็นหลัก ราคาเอาต์พุตที่เป็นศูนย์ไม่ใช่กลเม็ดการตลาด — ตัวจำแนกประเภทที่ให้คะแนนตามรูบริกจะส่งออกป้ายกำกับและความน่าจะเป็น ไม่ใช่ข้อความที่สร้างขึ้น ดังนั้นจึงไม่มีอะไรให้เรียกเก็บเงิน Extract และ Summarize มีการสร้างเอาต์พุต ดังนั้นโครงสร้างต้นทุนของทั้งสองจึงไม่สามารถเปรียบเทียบกับของ Classify ได้ และควรคิดราคาจากผู้ขายโดยตรงแทนที่จะอนุมานจากอัตราของตัวจำแนกประเภท

รายละเอียดการคิดค่าบริการของ Classify นั้นยากที่จะทำความเข้าใจเชิงเหตุผลได้มากกว่าอัตราที่โฆษณาไว้ ในโหมดป้ายเดียว ทุกป้ายและหลักเกณฑ์ของมันจะถูกส่งเข้าไปในการเรียกใช้โมเดลเพียงครั้งเดียว ดังนั้นแต่ละป้ายที่คุณเพิ่มจะทำให้โทเค็นอินพุตที่ถูกเรียกเก็บเงินเพิ่มขึ้น; การขอคำอธิบายหนึ่งประโยคเกี่ยวกับตัวเลือกจะส่งพวกมันซ้ำอีกครั้งด้วยราคา 2 เท่า และเอกสารประกอบระบุไว้อย่างชัดเจนว่าคำอธิบายนั้นถูกสร้างขึ้นหลังจากที่ป้ายสูงสุดถูกกำหนดแล้ว ดังนั้นมันจึงเป็นเหตุผลยืนยันคำตอบมากกว่าที่จะตั้งคำถามกับมัน ในโหมดหลายป้าย ป้ายแต่ละป้ายจะเป็นการเรียกใช้โมเดลแยกกัน และแต่ละชังก์จะถูกให้คะแนนแยกกัน ดังนั้นอนุกรมวิธาน 60 ป้ายที่เปิดใช้การให้เหตุผลจึงไม่ใช่การดำเนินการที่ราคา $0.05 ต่อล้านโทเค็นในความหมายที่ผู้อ่านสันนิษฐาน; มันคืออัตรานั้นคูณด้วยชุดป้าย แล้วคูณสองอีกครั้งหากเปิดใช้การให้เหตุผล ขีดจำกัดสูงสุดที่ระบุไว้ในเอกสาร — 20 ป้ายต่อคำขอ, 16 ในโหมดหลายป้าย, 50 ชังก์ต่อแบตช์ — เป็นข้อจำกัดในทางปฏิบัติที่ต้องนำมาพิจารณาในการออกแบบ

ยังมีพฤติกรรมที่บันทึกไว้อีกอย่างหนึ่งซึ่งสำคัญกว่าขีดจำกัดเหล่านี้ทั้งหมด ตัวจำแนก "จะคืนค่าผู้ชนะเสมอ" แม้ว่าจะไม่มีป้ายกำกับใดเข้ากันพอดี การกรองตามความเชื่อมั่นถูกปล่อยให้ผู้เรียกเป็นผู้ตัดสินใจทั้งหมด ในคำขอที่มี 10 ป้ายกำกับ คะแนนสูงสุด 0.4 ก็ยังอาจเป็นคำตอบที่ถูกต้องได้ เพราะคะแนนเป็นค่าสัมพัทธ์ภายในชุดป้ายกำกับ ไม่ใช่ค่าสัมบูรณ์ การใช้งานจริงของโมเดลนี้ทุกกรณีจำเป็นต้องมีนโยบายเกณฑ์ขั้นต่ำของตัวเอง และป้ายกำกับที่ครอบคลุมทุกอย่าง — เอกสารแนะนำให้ตั้งชื่อว่า span>other/span

ทำไมหน้าต่าง 1M โทเคนบนตัวจำแนกประเภทจึงเป็นส่วนที่น่าสนใจ

โมเดลตัวจำแนกประเภทโดยทั่วไปรับอินพุตแบบสั้น เหตุผลเป็นเชิงกลไก: ตัวจำแนกที่ให้คะแนนด้วยรูบริกต้องชั่งน้ำหนักอินพุตทั้งหมดเทียบกับคำถามใช่/ไม่ใช่ของแต่ละเลเบล และค่าใช้จ่ายในการให้คะแนนเอกสารขนาดหนึ่งแสนโทเคนเทียบกับรูบริกยี่สิบชุดคือการไล่ผ่านเอกสารนั้นเต็ม ๆ ยี่สิบรอบ คำตอบของ ScaleDown คือหน้าต่าง 1M บวกกับเลเยอร์การแบตช์ — สูงสุด 50 ชังก์ที่ถูกให้คะแนนเทียบกับโปรไฟล์ที่ใช้ร่วมกันหนึ่งโปรไฟล์ในคำขอเดียว — และคำกล่าวอ้างของผู้ขายคือการปรับเทียบต่อชังก์นั้นเหมือนกันไม่ว่าคุณจะส่งหนึ่งชังก์หรือห้าสิบชังก์ โดยความแตกต่างเพียงอย่างเดียวคือโปรไฟล์ที่ใช้ร่วมกันจะถูกคิดค่าบริการหนึ่งครั้งต่อคำขอ

ข้อกล่าวอ้างนั้นคือสิ่งที่ต้องทดสอบก่อนที่คุณจะสร้างต่อยอดจากมัน มันยังเป็นข้อกล่าวอ้างที่ทำให้โมเดลนี้น่าสนใจ: เหตุผลทั้งหมดที่ต้องจำแนกภายในแอปพลิเคชันแทนที่จะทำที่ edge คือการตัดสินใจสามารถมองเห็นบริบททั้งหมด — เธรดสนับสนุนทั้งหมด สัญญาทั้งฉบับ เอกสารที่ดึงมาทั้งหมด — แทนที่จะเป็นหน้าต่างที่ถูกตัดทอน หากหน้าต่าง 1M ยังใช้ได้ที่ขนาดอินพุตของคุณ คำถามด้านสถาปัตยกรรม ("ฉันจำเป็นต้องมีกลไกการแบ่งชิ้นส่วนและการลงคะแนนหรือไม่?") ก็แทบจะหายไป หากไม่เป็นเช่นนั้น คุณก็มีตัวจำแนกอินพุตสั้นที่ราคาถูกมาก และมีปัญหาที่สองให้แก้

ข้อกล่าวอ้างที่ต้องการความเห็นที่สอง

การตลาดของ ScaleDown โต้แย้งว่าโมเดลภาษาขนาดเล็กที่เฉพาะงานจะเหนือกว่าโมเดลระดับแนวหน้าในด้านต้นทุน ความเร็ว และความแม่นยำสำหรับงานซ้ำ ๆ ปริมาณมาก และอ้างตัวเลขซึ่งรวมถึงโมเดลขนาดประมาณครึ่งพันล้านพารามิเตอร์ที่ทำได้ 91.7% ในงานจำแนกประเภทง่าย ๆ เทียบกับ 88.6% ของโมเดลขนาด 72 พันล้านพารามิเตอร์ ตัวเลขเหล่านี้เป็นตัวเลขของผู้ขายเองและยังไม่ได้รับการทำซ้ำโดยอิสระ: ปัจจุบัน ScaleDown Classify ยังไม่ถูกให้คะแนนบนลีดเดอร์บอร์ดสาธารณะ โดยไม่มีแถวผลการวัดมาตรฐานจากบุคคลที่สามเผยแพร่ ควรถือข้อโต้แย้งเรื่องความแม่นยำเป็นสมมติฐานที่มีกลไกน่าเชื่อถือ — ช่องว่างประสิทธิภาพการใช้ตัวอย่างระหว่างโมเดลขนาดเล็กที่ฝึกมาเพื่อวัตถุประสงค์เฉพาะกับโมเดลขนาดใหญ่เอนกประสงค์บนอนุกรมวิธานแคบ ๆ นั้นมีอยู่จริงและมีเอกสารยืนยันอย่างดี — ไม่ใช่ผลลัพธ์ที่ยอมรับกันแล้ว

ตัวเลขอินพุต 1M โทเคนก็เป็นข้อมูลที่ผู้ขายระบุเช่นกัน รายการแคตตาล็อกของบุคคลที่สามสำหรับโมเดลนี้แสดงความยาวบริบทว่าไม่เกี่ยวข้อง แทนที่จะสะท้อนตัวเลขหนึ่งล้านโทเคน ซึ่งเป็นข้อจำกัดของแคตตาล็อกมากกว่าจะเป็นความขัดแย้ง แต่ก็หมายความว่าหน้าต่างนี้ยังไม่ได้รับการยืนยันจากภายนอกเอกสารของ ScaleDown

เรื่องนี้เข้ากับตรงไหนหากคุณกำลังรันไปป์ไลน์อยู่แล้ว

รูปแบบที่โมเดลทั้งสามนี้มุ่งเป้าไปที่นั้นเป็นลูป ไม่ใช่การเรียกครั้งเดียว: ดึงเอกสารมาจัดประเภท แยกฟิลด์ สรุปมัน แล้วส่งบทสรุปนั้นให้โมเดลแบบสร้างข้อความที่เขียนคำตอบ ขั้นตอนที่สี่คือขั้นตอนที่แพงในแง่ต่อโทเคน และเป็นขั้นตอนที่ OrcaRouter ครอบคลุม — โมเดลกว่า 200 รายการภายใต้คีย์เดียวที่เข้ากันได้กับ OpenAI ในราคา ราคาตามรายการของผู้ให้บริการที่ส่งผ่านโดยไม่บวกเพิ่ม 0% พร้อมการสลับเส้นทางอัตโนมัติเมื่อเส้นทางการให้บริการเสื่อมประสิทธิภาพลง เราไม่ได้โฮสต์ ScaleDown Classify, Extract หรือ Summarize; พวกมันไม่อยู่ในแคตตาล็อกของเราและไม่ใช่เป้าหมายของ chat-completions และเลเยอร์การกำหนดเส้นทางตรงนี้เป็นครึ่งหนึ่งด้านการสร้างของรูปแบบนี้ ไม่ใช่ครึ่งหนึ่งด้านการให้คะแนน

ความแตกต่างนี้ควรพูดให้ตรง ๆ เพราะการเปรียบเทียบต้นทุนที่ผู้คนมักหยิบมาใช้ทำให้เข้าใจผิด ตัวจำแนกประเภทที่ให้คะแนนตามเกณฑ์ในราคาไม่กี่เซนต์ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น กับโมเดลเจเนอเรทีฟในราคาไม่กี่ดอลลาร์ต่อหนึ่งล้านโทเค็น ไม่ใช่คู่แข่งกัน แต่เป็นรายการคนละบรรทัด และเหตุผลที่ควรเอาโมเดลเล็กมาใช้ในขั้นตอนการจำแนกคือ มันทำให้คุณจ่ายไหวสำหรับโมเดลที่ดีกว่าในขั้นตอนที่เขียนอะไรบางอย่างจริง ๆ

อะไรจะทำให้การประเมินนี้เปลี่ยนไป

สามสิ่ง เรียงตามลำดับว่าแต่ละอย่างจะเปลี่ยนภาพได้มากน้อยเพียงใด การประเมินอิสระของงานจำแนกประเภทที่ให้คะแนนตามเกณฑ์บนเบนช์มาร์กสาธารณะ จะเปลี่ยนข้อโต้แย้งเรื่องความแม่นยำจากคำกล่าวอ้างของผู้ขายให้กลายเป็นข้อมูลจุดหนึ่ง ตัวเลขความหน่วงที่เผยแพร่ — ผู้ขายจัดทำเอกสารเกี่ยวกับปัจจัยขับเคลื่อนต้นทุน แต่ไม่ได้ระบุความหน่วงในการให้บริการ — จะช่วยตัดสินว่า 1M window ใช้งานได้ที่ throughput หรือเฉพาะแบบ batch และการทำซ้ำโดยบุคคลที่สามของการกล่าวอ้างเรื่องการปรับเทียบต่อ chunk จะตัดสินว่าแบตช์ 50 chunk เป็นการปรับต้นทุนให้เหมาะสมหรือเป็นโมเดลที่แตกต่างออกไป จนกว่าอย่างน้อยหนึ่งในนั้นจะเป็นจริง สรุปที่ซื่อตรงคือ ScaleDown ได้เปิดตัวโมเดลสามรุ่นที่มีสัญญาชัดเจนผิดปกติและขีดจำกัดอินพุตขนาดใหญ่ผิดปกติ ในราคาที่ทำให้ขั้นตอนการจำแนกประเภทตามค่า threshold มีราคาถูกพอที่จะพิจารณา และตัวเลขที่สนับสนุนสิ่งเหล่านั้นเป็นของผู้ขายเอง

เวอร์ชันสั้น

หากคุณมีขั้นตอนการจำแนกประเภทหรือการสกัดข้อมูลที่มีปริมาณมากพร้อมระบบหมวดหมู่ที่มั่นคง และมีอินพุตเป็นข้อความหรือรูปภาพ สามโมเดลของ ScaleDown คุ้มค่าที่จะทดสอบวัดประสิทธิภาพกับข้อมูลของคุณเองในสัปดาห์นี้ เพราะข้อตกลงนั้นเรียบง่ายและขีดจำกัดอินพุตก็ใจกว้าง เตรียมงบสำหรับการคูณจำนวนป้ายกำกับและค่าธรรมเนียมส่วนเพิ่มสำหรับการให้เหตุผลแบบ 2 เท่าไว้ก่อนที่คุณจะตัดสินใจเลือกระบบหมวดหมู่ และคาดว่าจะต้องเขียนเกณฑ์ความเชื่อมั่นของคุณเอง หากงานของคุณเป็นการสร้างแบบเปิดกว้าง ทั้งหมดนี้ไม่ได้มุ่งเป้าไปที่คุณ

การเลือกโมเดลยังขึ้นอยู่กับว่าอะไรเคยผิดพลาดมาก่อนด้วย: เหตุการณ์ด้าน AI และความล้มเหลวของเอเจนต์ที่มีการบันทึกไว้ซึ่งอยู่เบื้องหลังโมเดลในระดับนี้ ถูกรวบรวมไว้ในthe OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้งเป็นของตัวเอง