Tiny Aya Base 32K เทียบกับ Tiny Aya En-Thinker: แม่และลูก ไม่ใช่คู่แข่ง

ที่เก็บ Hugging Face สองแห่ง แฟ้ม safetensors สี่ชาร์ดต่อแห่ง และขนาดชาร์ดตรงกันทุกไบต์ — 1,998,698,496 / 1,996,494,056 / 1,996,494,088 / 708,852,792 Tiny Aya Base 32K และ Tiny Aya En-Thinker ไม่ใช่คำตอบของสองห้องแล็บต่อคำถามเดียวกัน พวกมันคือสถาปัตยกรรม Cohere2 ขนาด 3.35B เดียวกันในสองขั้นตอนที่ต่างกัน และการ์ดโมเดลของ Cohere Labs เองก็ระบุไว้ตรง ๆ ว่า: เช็กพอยต์ฐาน "ถูกใช้เป็นโมเดลฐานสำหรับ Tiny Aya L2-Thinker และ Tiny Aya En-Thinker"

นั่นทำให้การวางกรอบแบบเทียบกันตรง ๆ ตามปกติผิดไป คุณไม่ได้กำลังเลือกระหว่างโมเดลหลายภาษาขนาด 3B สองตัวที่แข่งขันกัน แต่คุณกำลังเลือกระหว่างจุดเริ่มต้นกับเวอร์ชันที่เสร็จสมบูรณ์ — และคำถามที่น่าสนใจคือ ขั้นตอนหลังการฝึกระหว่างทั้งสองให้อะไรกลับมาจริง ๆ และแลกมาด้วยต้นทุนเท่าไร และไม่ว่าตัวใดตัวหนึ่งจะใช้กับสิ่งที่คุณคิดไว้ได้หรือไม่ เมื่อพิจารณาว่าทั้งคู่อยู่ภายใต้ใบอนุญาตแบบไม่ใช่เพื่อการพาณิชย์ฉบับเดียวกัน และทั้งคู่ไม่มีเบนช์มาร์กที่เผยแพร่แม้แต่รายการเดียว

ประโยคเดียวที่ตัดสินความสัมพันธ์

โดยปกติแล้ว บทความแบบ "vs" ต้องอนุมานความสัมพันธ์ระหว่างเช็กพอยต์สองตัวจากสถาปัตยกรรมและจำนวนพารามิเตอร์ แต่ในกรณีนี้คุณไม่จำเป็นต้องทำเช่นนั้น

การ์ดของ Tiny Aya Base 32K ระบุไว้อย่างตรงไปตรงมา และคุ้มค่าที่จะอ่านอย่างพินิจพิเคราะห์ เพราะตำแหน่งที่ประโยคนั้นวางอยู่ — ไม่ใช่ในเชิงอรรถ แต่เป็นในส่วนสรุปของโมเดล ระหว่างคำอธิบายของเช็กพอยต์กับเครดิตผู้พัฒนา:

"นี่คือโมเดล base pretrained ที่ยังไม่ผ่านการปรับแต่งด้วยคำสั่ง (instruction-tuned) หรือการจัดแนวตามความชอบ (preference-aligned) เช็กพอยต์นี้ถูกใช้เป็นโมเดลฐานสำหรับ Tiny Aya L2-Thinker และ Tiny Aya En-Thinker"

สิ่งที่ทำให้เรื่องนี้ควรค่าแก่การเขียนเป็นย่อหน้าคือความไม่สอดคล้องที่มันเปิดเผย การ์ดของ En-Thinker เองไม่ได้ระบุชื่อ Base 32K บรรทัดปิดท้ายของมันส่งผู้อ่านไปยัง "tiny-aya-global, tiny-aya-base, tiny-aya-l2-thinker" — และ tiny-aya-baseคือเช็กพอยต์เดือนกุมภาพันธ์ ที่มีเอกสารระบุบริบท 8K ไม่ใช่เวอร์ชัน 32K ที่บอกว่ามันเป็นโมเดลแม่ของ En-Thinker En-Thinker อ้างว่า 32K บนการ์ดของตัวเอง โมเดลไม่สามารถถูกปรับแต่งหลังการฝึกให้มีหน้าต่างที่กว้างกว่าหน้าต่างที่มันถูกพรีเทรนมาถึงสี่เท่าได้ ดังนั้นฐาน 8K จึงไม่มีทางเป็นคำตอบ และข้ออ้างของฐาน 32K สอดคล้องกับการคำนวณ ในขณะที่การอ้างอิงของ En-Thinker เองไม่สอดคล้อง

คำอธิบายที่น่าจะเป็นไปได้นั้นเป็นเรื่องธรรมดา ๆ: Base 32K ถูกอัปโหลดเมื่อวันที่ 8 กันยายน 2026 หกวันหลังจาก The Thinkers ดังนั้นการ์ดของ En-Thinker จึงถูกเขียนขึ้นก่อนที่รุ่นแม่ของมันจะมีอยู่ และไม่ได้รับการอัปเดตตั้งแต่นั้นเป็นต้นมา นั่นเป็นการอนุมานจากเวลาที่บันทึกไว้ ไม่ใช่คำแถลงจากผู้ขาย — แต่เป็นการตีความที่ต้องตั้งสมมติฐานน้อยที่สุด และหมายความว่าเอกสารที่ใหม่ที่สุดในตระกูลนี้เป็นเอกสารที่ให้ข้อมูลมากที่สุด

ทีละมิติ

ทั้งหมดด้านล่างนี้คือสิ่งที่การ์ดทั้งสองใบระบุ โดยตัดส่วนที่ซ้ำซ้อนออก — ทั้งสองเป็น 3.35B, BF16, แบบข้อความเท่านั้น, Cohere2ForCausalLM, CC-BY-NC-4.0, แบบจำกัดการเข้าถึง และยังไม่ได้รับการ benchmark

• ขั้นตอน — Tiny Aya Base 32K เป็นโมเดลฐานที่ผ่านการฝึกมาก่อน "ไม่ได้ปรับจูนตามคำสั่งหรือปรับให้สอดคล้องกับความชอบ"; Tiny Aya En-Thinker ได้รับการฝึกภายหลังด้วยข้อมูลการให้เหตุผลแบบหลายภาษาโดยมีร่องรอยการให้เหตุผลเป็นภาษาอังกฤษ

• เทมเพลตแชต — Base 32K ไม่มี chat_template.jinja เลย; En-Thinker มีมาให้ และบนการ์ดของมันมีส่วนหนึ่งเต็ม ๆ ที่อธิบายว่ามันเรนเดอร์เทิร์นอย่างไร

• รูปแบบการพรอมป์ต์ — ตัวอย่างของ Base 32K เองคือการเติมข้อความให้สมบูรณ์ (prompt = "The capital of Spain is"); En-Thinker คาดหวังให้ใช้ apply_chat_template() พร้อมกับรายการข้อความ

• โหมดการให้เหตุผล — Base 32K ไม่มีโหมดการให้เหตุผล; En-Thinker เป็นแบบสองโหมด โดยจะต่อท้ายด้วย /think ตามค่าเริ่มต้นและแสดงร่องรอยการคิดเป็นภาษาอังกฤษ หรือ /no_think พร้อมกับ enable_thinking=False เพื่อให้ได้คำตอบโดยตรง

• ขอบเขตภาษา — การ์ดของ Base 32K อ้างว่าฝึกบน 70+ ภาษา และระบุชื่อไว้อย่างชัดเจน 67 ภาษา; En-Thinker ครอบคลุม "44 ภาษาบวกภาษาอังกฤษ" ด้วยร่องรอยการใช้เหตุผลภาษาอังกฤษ ขยายไปยังอีก 20+ ภาษาผ่านข้อมูลคำสั่งแบบไม่เน้นการใช้เหตุผลเพิ่มเติม

• ขนาดโครงสร้างสถาปัตยกรรม — เหมือนกันทุกประการ ขนาดชาร์ดทั้งสี่เท่ากัน จำนวนพารามิเตอร์เท่ากัน ความยาวไฟล์คอนฟิกเท่ากัน

• บริบท — อินพุต 32K บวกเอาต์พุตบนการ์ดทั้งสองใบ ทั้งคู่ตรวจสอบไม่ได้: คอนฟิกทั้งสองอยู่หลังด่านสิทธิ์การใช้งาน

• เบนช์มาร์ก — ไม่มีบนการ์ดใดเลย ไม่มีการประเมินจากบุคคลที่สามสำหรับโมเดลใดเลย

• กระแสตอบรับ — Base 32K แสดงจำนวนดาวน์โหลดเป็นศูนย์และมีหนึ่งไลก์; En-Thinker แสดงเจ็ดดาวน์โหลดและสองไลก์ ทั้งสองไม่ปรากฏในแค็ตตาล็อกของผู้ให้บริการ Inference

สิ่งที่ขั้นตอนหลังการฝึกนำมาให้

สามเรื่อง ทั้งหมดเป็นเรื่องของพฤติกรรมมากกว่าโครงสร้าง

อันแรกคืออินเทอร์เฟซที่ใช้งานได้ เช็กพอยต์ที่ไม่มีเทมเพลตแชตไม่ใช่โมเดลที่คุณพรอมป์ต์ แต่เป็นโมเดลที่คุณต่อข้อความเอง ทุกบทสนทนาที่คุณมีกับ Base 32K จะต้องถูกทำให้เป็นข้อความด้วยตัวคุณเอง และการ์ดก็ระบุไว้เช่นนั้น: "พรอมป์ต์ควรใช้การเติมข้อความมากกว่าเทมเพลตแชต แนะนำให้ทำ post-training เพิ่มเติมก่อนนำไปใช้งานเป็นผู้ช่วยสนทนา" En-Thinker ได้ตัดสินใจเรื่องนั้นแทนคุณแล้ว ลงรายละเอียดจนถึงการจัดวางโทเคน

ประการที่สองคือการใช้เหตุผลในฐานะสวิตช์ ของ En-Thinker /think และ /no_think โหมดเหล่านี้ทำให้เวตชุดเดียวกันสามารถสร้างสายการคิดที่มองเห็นได้ระหว่างแท็ก thinking หรือตอบโดยตรง และการ์ดได้บันทึกการส่งบล็อกการคิดก่อนหน้ากลับเข้าสู่บทสนทนาในฐานะเทิร์นของผู้ช่วย นั่นคืออาร์ติแฟกต์จากกระบวนการฝึกหลังการฝึก — ไม่มีสิ่งใดในเช็คพอยต์พื้นฐานที่ตอบสนองต่อมัน

ประการที่สามคือการเดิมพันเชิงออกแบบที่เป็นหัวใจของ En-Thinker: ว่าการให้เหตุผลเกิดขึ้นเป็นภาษาอังกฤษ แม้คำถามและคำตอบจะเป็นภาษาอื่น การ์ดระบุชัดเจนว่าสิ่งนี้ทำให้มันแตกต่างจาก Tiny Aya L2-Thinker “ซึ่งคิดในภาษาเดียวกับพรอมป์ต์” ว่าการวางแผนในภาษาที่มีทรัพยากรสูงแล้วตอบในภาษาที่มีทรัพยากรต่ำจะช่วยได้จริงหรือไม่นั้นเป็นคำถามวิจัยที่ยังเปิดอยู่ และ En-Thinker มีอยู่เพื่อให้ผู้คนทดสอบเรื่องนี้ มากกว่าจะเพื่อยุติข้อถกเถียง Base 32K ซึ่งไม่มีโหมดการให้เหตุผลเลย ไม่ได้ให้คำตอบต่อคำถามนี้ — ซึ่งนั่นแหละคือเหตุผลที่มันเป็นตัวควบคุมที่เหมาะสมสำหรับใครก็ตามที่พยายามตอบคำถามนี้

ค่าใช้จ่ายของขั้นตอนหลังการฝึกคือเท่าไร

คำตอบที่ตรงไปตรงมาคือ ไม่มีใครสามารถวัดปริมาณมันได้ เพราะทั้งสองโมเดลยังไม่ได้รับการประเมินกับสิ่งใดเลย แต่การ์ดทั้งสองใบเมื่ออยู่ด้วยกันบอกใบ้ถึงจุดที่การแลกเปลี่ยนนั้นอยู่ และมันไม่ใช่จุดที่คุณคาดไว้

ไม่ใช่เรื่องความครอบคลุมของภาษา ขอบเขตการให้เหตุผลที่แคบซึ่งครอบคลุม 44 ภาษาบวกภาษาอังกฤษของ En-Thinker นั้นเป็นคุณสมบัติของข้อมูลการฝึกด้านการให้เหตุผลของมัน และการ์ดระบุว่าความครอบคลุมขยายไปยังอีกกว่า 20 ภาษา "ผ่านข้อมูลคำสั่งที่ไม่ใช่การให้เหตุผลเพิ่มเติม" — ดังนั้นโมเดลจึงยังจัดการกับภาษาเหล่านั้นได้ เพียงแต่ไม่มีเส้นทางการคิดเท่านั้น ทั้งยังไม่ใช่หน้าต่างบริบทอีกด้วย ทั้งสองอ้างว่า 32K

มันคือความกว้างของพฤติกรรม การ์ดของ Base 32K ระบุ "การฝึกอบรมล่วงหน้าต่อเนื่อง การปรับแต่งด้วยคำสั่ง และการวิจัยเกี่ยวกับการสร้างแบบจำลองภาษาที่หลากหลายภาษาและบริบทที่ยาว" เป็นการใช้งานที่ตั้งใจไว้ โดยที่การสร้างข้อความหลายภาษา การสรุปความ การแปล และการปรับตัวข้ามภาษา ล้วนถูกระบุเป็นแอปพลิเคชันปลายน้ำ การ์ดของ En-Thinker แคบกว่า: "งานด้านคณิตศาสตร์ วิทยาศาสตร์ และการให้เหตุผลทั่วไป ตลอดจนการทำตามคำสั่งและการสร้างแบบเปิดกว้างหลากหลายภาษา" เช็คพอยต์ที่ผ่านการฝึกหลังการฝึกมีความเอนเอียงในแบบที่เช็คพอยต์ฐานไม่มี และข้อจำกัดที่การ์ดของ Base 32K ระบุ — "งานการให้เหตุผลแบบลูกโซ่ความคิด เช่น คณิตศาสตร์หลายภาษา อ่อนกว่าเมื่อเทียบกัน" — คือจุดอ่อนที่การฝึกหลังการฝึกตั้งใจจะแก้ไข

ดังนั้น ตระกูลนี้อ่านได้ว่าเป็นการแบ่งงานกันทำ มากกว่าที่จะเป็นการแข่งขัน ตัว base นั้นกว้างและยังไม่สมบูรณ์; En-Thinker แคบและสมบูรณ์แล้ว; และข้อความบนการ์ด base เองก็เรียกมันตามที่มันเป็น — สารตั้งต้นที่ Thinker ทั้งสองถูกปั้นขึ้นมาจาก

สัญญาอนุญาตคือข้อจำกัดที่มีผลผูกพันจริง

โมเดลทั้งสองใช้สัญญาอนุญาต CC-BY-NC-4.0 โดยมี Acceptable Use Policy ของ Cohere Labs ซ้อนทับอยู่ด้านบน ทั้งคู่อยู่หลังด่านเดียวกันที่ขอให้คุณยอมรับเงื่อนไขและลงทะเบียนก่อนที่ไฟล์จะดาวน์โหลด และทั้งคู่ส่งคำถามด้านการค้าไปที่ Cohere Sales

สิ่งนี้ควรกล่าวไว้ก่อนการเปรียบเทียบทางเทคนิคใด ๆ เพราะมันชี้ขาดคำถามนี้สำหรับผู้อ่านจำนวนมาก หากแผนคือผลิตภัณฑ์เชิงพาณิชย์ ทั้งสอง checkpoint ต่างก็ไม่ใช่ตัวเลือก หากไม่มีการหารือกับ Cohere และไม่ว่าพฤติกรรมแบบบริบทยาวหรือความยืดหยุ่นของโหมดให้เหตุผลจะมีมากเพียงใด ก็ไม่เปลี่ยนข้อนี้ ในกรณีที่การใช้งานที่ไม่ใช่เชิงพาณิชย์เป็นเรื่องที่ยอมรับได้จริง ๆ — งานวิชาการ งานวิจัยภายใน โครงทดสอบ benchmark หรือการเปรียบเทียบกับโมเดลของคุณเอง — ใบอนุญาตไม่มีความสำคัญ และการเลือกทางเทคนิคคือการตัดสินใจทั้งหมด

ทั้งคู่ยังไม่ได้รับการทดสอบประสิทธิภาพ นี่คือวิธีเลือกแม้จะเป็นเช่นนั้น

การที่ไม่มีตัวเลขนั้นเป็นเรื่องจริง และมันจะไม่ถูกแก้ไขด้วยการอ่านให้ละเอียดยิ่งขึ้น การ์ดทั้งสองใบไม่มีการกล่าวอ้างเรื่องประสิทธิภาพเลยแม้แต่ข้อเดียว ไม่มีลีดเดอร์บอร์ดใดจัดอันดับโมเดลใดจากสองตัวนี้ และไม่มีผู้ให้บริการอินเฟอเรนซ์อยู่เบื้องหลังทั้งคู่ — หมายความว่าไม่มีผู้ให้บริการรายใดเปิดเผยอัตราการประมวลผลหรือราคา ซึ่งมักใช้แทนผลเบนช์มาร์กได้ สิ่งที่คุณทำได้คือจับประเด็นที่โครงสร้าง ซึ่งหลักฐานในส่วนนั้นหนักแน่น

• เลือก Tiny Aya Base 32K หากคุณกำลังจะฝึก การพรีเทรนต่อเนื่อง การปรับแต่งด้วยคำสั่ง หรือการปรับให้เข้ากับโดเมนบนโมเดลหลายภาษา 3.35B คือสิ่งที่การ์ดโมเดลระบุว่าเหมาะสำหรับ และการเริ่มจากเช็กพอยต์ฐานหมายความว่าคุณไม่ต้องต่อสู้กับกระบวนการหลังการฝึกที่คุณไม่ได้เลือกเอง หน้าต่าง 32K ยังรองรับงานวิจัยบริบทยาวที่ 8K February base ทำไม่ได้

• เลือก Tiny Aya En-Thinker หากคุณต้องการพรอมต์อะไรบางอย่างในวันนี้ มันเป็นตัวเดียวในสองตัวนี้ที่สนทนาโต้ตอบได้ และเป็นตัวเดียวที่มีโหมดการให้เหตุผลอยู่เลย

• เลือกทั้งคู่หากคำถามเป็นเชิงวิทยาศาสตร์มากกว่าเชิงปฏิบัติ คู่นี้เป็นการเปรียบเทียบแบบควบคุม — สถาปัตยกรรมเดียวกัน ขนาดเดียวกัน หน้าต่างบริบทเดียวกัน โดยส่วนใหญ่ต่างกันตรงที่มีการทำ post-training หรือไม่ — เพื่อถามว่าร่องรอยการให้เหตุผลภาษาอังกฤษช่วยให้คำตอบหลายภาษาดีขึ้นหรือไม่ นั่นคือคำถามที่ En-Thinker ถูกปล่อยออกมาเพื่อให้ผู้คนได้ทดสอบ และตัวแม่ของมันเองคือ baseline ที่สะอาดที่สุด

ข้อควรทราบในทางปฏิบัติข้อหนึ่งในการประเมินทั้งสองตัวนี้: ทั้งคู่เป็นเช็กพอยต์งานวิจัยที่ยังไม่ผ่านการพิสูจน์และไม่มีประวัติการนำไปใช้งานจริง และการดาวน์โหลด BF16 ขนาด 6.7 GB บวกกับเวลา GPU ถือเป็นต้นทุนจริงที่ต้องเสียไปกับโมเดลที่ไม่เคยมีใครรันทดสอบอย่างอิสระเลย การรันการเปรียบเทียบนั้นผ่านเอนด์พอยต์เดียว แทนที่จะตั้งค่าเวตสำหรับผู้สมัครแต่ละรายนั้นถูกกว่า — OrcaRouter ให้บริการ195 โมเดลหลัง API เดียวโดยมีมาร์กอัป 0% จากราคาตามรายการของผู้ให้บริการและมีการสลับสำรองระหว่างผู้ให้บริการโดยอัตโนมัติ ดังนั้นเช็กพอยต์งานวิจัยที่คุณเพียงแค่กำลังทดสอบอยู่จึงไม่ถูกวางไว้บนเส้นทางโปรดักชันเลย Tiny Aya ไม่ได้อยู่ในนั้น และเราไม่ได้โฮสต์มัน ประเด็นมีเพียงว่าโมเดลที่คุณจะนำมาทดสอบมันเทียบกับส่วนใหญ่ก็อยู่บนนั้น

อะไรจะยุติเรื่องนี้ได้

สองสิ่ง และทั้งสองอย่างนั้นถูกสำหรับ Cohere Labs ที่จะเผยแพร่ แต่แพงสำหรับคนอื่นที่จะผลิตขึ้นมา

ประการแรกคือเกณฑ์มาตรฐาน — เกณฑ์มาตรฐานใดก็ได้ การประเมินการใช้เหตุผลแบบหลายภาษาครั้งเดียวที่รันบนเช็กพอยต์ทั้งสองจะเปลี่ยนทั้งตระกูลจาก "ระบุไว้บนการ์ด" ให้กลายเป็น "วัดได้จริง" และจะตอบคำถามได้ทันทีว่าการออกแบบที่คิดเป็นภาษาอังกฤษนั้นเอาชนะโมเดลเดียวกันที่ไม่ได้ผ่านการฝึกภายหลังการฝึก (post-training) หรือไม่ ซึ่งนั่นคือคำถามวิจัยที่เป็นแกนกลางของการเปิดตัวครั้งนี้

อันที่สองคือไฟล์คอนฟิก คำกล่าวอ้างเรื่อง 32K บนการ์ดทั้งสองใบนั้นตรวจสอบไม่ได้ตราบใดที่รีโปยังถูกจำกัดการเข้าถึง และความแตกต่างระหว่างการฝึกพรีเทรนด้วยบริบทยาวจริง ๆ กับการขยาย positional encoding ที่นำไปใช้กับเช็กพอยต์ 8K นั้นมีมากในทางปฏิบัติ แม้ว่าทั้งสองวิธีจะให้โมเดลที่รับโทเค็น 32K ได้ก็ตาม การเปิดไฟล์คอนฟิกทั้งสองไฟล์จะช่วยปิดช่องว่างนั้นได้ในแบบที่ข้อความการตลาดใด ๆ ทำไม่ได้

จนกว่าจะถึงตอนนั้น คำตอบที่แม่นยำสำหรับคำถามว่า "Tiny Aya Base 32K หรือ Tiny Aya En-Thinker" ก็คือ การเปรียบเทียบนั้นมีจริง แต่การแข่งขันไม่มี น้ำหนักเดียวกัน หน้าต่างบริบทเดียวกัน สัญญาอนุญาตเดียวกัน และความเงียบแบบเดียวกันจากทุกคนที่ยังไม่ได้ดาวน์โหลดมัน — ตัวหนึ่งแค่มีเทมเพลตแชตกับแท็กการคิด ส่วนอีกตัวคือสิ่งที่มันถูกสร้างขึ้นมา