การเปรียบเทียบแบบสองการ์ดที่สร้างขึ้น โดยมีหัวข้อว่า “UserRepGen-4B vs Intern-Decision-4B - ฐานเดียวกัน ผลลัพธ์ตรงกันข้าม” เหนือพาดหัวว่า “ทั้งคู่เป็น Qwen3.5-4B ที่ผ่านการไฟน์จูน ไม่มีตัวใดเขียนงานชนิดเดียวกัน” การ์ดซ้าย UserRepGen-4B ระบุว่า เปิดตัวเงียบ ๆ เมื่อ 14 ตุลาคม 2026 ส่งคืน JSON ของ task และ user_behavior การสร้างสูงสุด 1,024 โทเคน คณิตศาสตร์ที่เผยแพร่ ไม่มี เพดานอินพุต 8,192 โทเคนพรอมป์ต์ ประกาศ ไม่มี การ์ดขวา Intern-Decision-4B ระบุว่า เปิดตัวเงียบ ๆ เมื่อ 26 กันยายน 2026 ส่งคืนความน่าจะเป็นต่อตัวเลือก การสร้าง ไม่มีในการส่งผ่านไปข้างหน้าหนึ่งครั้ง คณิตศาสตร์ที่เผยแพร่ Brier 0.347 และ ECE 0.065 เพดานอินพุตปฏิเสธเมื่อเกิน 8,192 ประกาศ ไม่มี ส่วนท้ายระบุว่า “ตัวเลขทั้งสองชุดเป็นของผู้ขายเอง” โลโก้ OrcaRouter ถูกคอมโพสิตไว้มุมขวาล่าง
Engineering & Research

RepGen-4B vs Intern-Decision-4B: สองทีมไฟน์จูนโมเดลฐาน 4B เดียวกัน แต่กลับไม่เห็นตรงกันแม้แต่เรื่องเดียว

ผู้เขียน

Magnus Corvin

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

การเปิดตัวเงียบ ๆ สองครั้ง ห่างกันห้าสัปดาห์ โดยแตกแขนงจากเช็กพอยต์เดียวกัน microsoft/UserRepGen-4Bถูกอัปโหลดขึ้นบน Hugging Face เมื่อวันที่ 14 ตุลาคม 2026 เป็นรีโพซิทอรี bfloat16 ขนาด 9.1 GB โดยไม่มีการประกาศ; internlm/Intern-Decision-4Bปรากฏเมื่อวันที่ 26 กันยายน 2026 เวลา 05:36:37 UTC ภายในช่วงเวลา 40 วินาที ซึ่งยังสร้างรุ่น 0.8B และ 2B ออกมาด้วย โดยไม่ประกาศเช่นกัน ทั้งสองเป็น LoRA ไฟน์จูนของ Qwen3.5-4B, ทั้งสองเป็นแบบข้อความล้วนแม้จะพกทาวเวอร์ด้านภาพที่มันไม่เคยใช้ ทั้งสองคืนค่ากลับเป็นโครงสร้างตายตัวแทนที่จะเป็นคำตอบ — และทั้งสองเห็นต่างกันมากที่สุดเท่าที่จะเป็นไปได้ว่าโมเดลนี้มีไว้เพื่ออะไร Intern-Decision-4B ไม่เคยเขียนโทเคนเลย UserRepGen-4B ไม่เขียนสิ่งใดนอกจากโทเคน ทุกอย่างอื่นในการเปรียบเทียบนี้ล้วนต่อเนื่องจากจุดแยกเพียงหนึ่งเดียวนี้

คนหนึ่งเป็นผู้ทำคะแนน อีกคนเป็นนักเขียน

การ์ดของ InternLM ตรงไปตรงมาอย่างผิดปกติเกี่ยวกับกลไกของตัวเอง: "API นี้ทำการให้คะแนนตัวเลือกแบบมีโครงสร้าง มันไม่เรียก generate() หรือสุ่มข้อความแบบอิสระ" คุณส่งสถานะ สคีมาของคำถามที่มีชื่อ และชุดคำตอบที่เป็นตัวเลือกให้มัน มันแมปตัวเลือกไปยังสัญลักษณ์โทเคนเดียว รัน forward pass เชิงสาเหตุหนึ่งครั้ง อ่านค่า logits ณ ตำแหน่งก่อนหน้าตัวยึดตำแหน่งแต่ละตัวโดยตรง ใช้อุณหภูมิที่ปรับมาแล้ว 1.99241824 และคืนค่าความน่าจะเป็นที่ปรับเทียบแล้วต่อตัวเลือก หนึ่งรอบ ไม่มีการสุ่ม ไม่มีลูปถอดรหัส ไม่มีข้อความ

UserRepGen-4B กลับทิศทางมัน คุณป้อนบทสนทนาที่เสร็จสมบูรณ์ให้มัน มันปล่อยความเรียงไม่เกิน 1,024 โทเคนในสองฟิลด์ JSON — คำอธิบายงาน และคำอธิบาย user_behavior — และการ์ดก็ตรงไปตรงมาไม่แพ้กันในอีกทางหนึ่ง: โมเดลนี้ "สร้างการแทนค่า ไม่ใช่เทิร์นผู้ใช้จำลอง" มันไม่ได้รันงานของผู้ใช้ และมันไม่ใช่ตัวจำลอง

เอาทั้งสองวางเคียงกัน แล้วผลกระทบทางวิศวกรรมก็ปรากฏขึ้นทันที

• คุณค่าของผลลัพธ์ — Intern-Decision-4B ส่งคืนตัวเลขที่คุณสามารถนำไปตั้งเกณฑ์ หาค่าเฉลี่ย และตรวจสอบได้ ส่วน UserRepGen-4B ส่งคืนย่อหน้าหนึ่งย่อหน้าที่มีเพียงผู้ตัดสินที่เป็น LLM เท่านั้นจึงจะให้คะแนนคุณภาพได้ ซึ่งเป็นวิธีที่ Microsoft ใช้ประเมินมันจริง ๆ

• ค่าใช้จ่ายต่อการเรียก — การทำฟอร์เวิร์ดพาสหนึ่งครั้งบนพรอมต์คงที่ เทียบกับโทเค็นที่สร้างขึ้นสูงสุด 1,024 โทเค็น นั่นคือความแตกต่างระหว่างประมาณ 44 มิลลิวินาทีกับการรันถอดรหัสเต็มรูปแบบ และนั่นคือเหตุผลที่โมเดลตัดสินใจสามารถอยู่ในลูปที่โมเดลแทนค่าไม่สามารถทำได้

• ความหมายอยู่ที่ไหน — InternLM ตัดสินใจว่าคำตอบควรแจกแจงได้อยู่แล้วในพรอมป์ต์ ดังนั้นโมเดลเพียงต้องจัดอันดับ Microsoft ตัดสินใจว่าคำตอบแฝงอยู่ในบทสนทนา ดังนั้นโมเดลจึงต้อง เขียนมัน การจัดอันดับมีขอบเขตจำกัดและตรวจสอบได้ การเขียนเปิดกว้างและต้องมีผู้ตัดสิน

A generated two-column scoreboard headed "UserRepGen-4B vs Intern-Decision-4B - the scoreboard", titled "A scorer and a writer, from one checkpoint". The UserRepGen-4B column reads: output type two-field JSON prose; decoding up to 1,024 new tokens; calibration not published; latency claim not published; input limit 8,192 prompt tokens; eval scale 1-10 LLM judge. The Intern-Decision-4B column reads: output type calibrated distribution; decoding none, one forward pass; calibration Brier 0.347 and ECE 0.065; latency claim 44.16 ms mean on an RTX 4090; input limit refuses above 8,192; eval scale seven suites with a 90.02 average. A footer reads "Vendor-reported; no independent evaluation of either." The OrcaRouter logo is composited bottom-right.

เพดานอินพุต และสิ่งที่มันบอกคุณเกี่ยวกับการเดิมพัน

การ์ดทั้งสองใบเผยแพร่ขีดจำกัดแบบตายตัว และการเปรียบเทียบทั้งสองใบเป็นวิธีที่เร็วที่สุดในการดูว่าสองทีมกำหนดขอบเขตโมเดลฐานเดียวกันแตกต่างกันเพียงใด

Intern-Decision-4B ปฏิเสธงานที่ยาวเกิน 8,192 โทเคน นั่นคือการปฏิเสธ ไม่ใช่การตัดทอน — เป็นทางเลือกในการออกแบบที่บอกว่าโมเดลนี้เหมาะสำหรับการตัดสินใจที่กระชับพอจะระบุได้ครบถ้วนในพรอมต์

UserRepGen-4B ถูกฝึกบนลำดับ 9,216 โทเค็น: พรอมต์สูงสุด 8,192 โทเค็นที่ครอบคลุมบทสนทนา บวกกับโทเค็นที่สร้างขึ้น 1,024 โทเค็นสำหรับการแทนค่า การ์ดระบุเพิ่มเติมว่าการใช้บริบทแบบขยายเกินความยาวนั้น "ไม่ได้รับการสนับสนุนในเวอร์ชันนี้" และประสิทธิภาพบริบทแบบยาวไม่เคยถูกวัดผลแยกต่างหาก ดังนั้นเพดาน 8,192 โทเค็นเดียวกันจึงปรากฏขึ้นทั้งสองฝ่าย โดยได้มาโดยอิสระ จากสองทีมซึ่งสันนิษฐานว่าไม่สามารถมองเห็นงานของกันและกันได้

การลู่เข้าหากันนั้นคือข้อค้นพบที่มีประโยชน์ การไฟน์จูนขนาด 4B บนฐานนี้ ในช่วงกลางปี 2026 เป็นคอมโพเนนต์ที่ออกแบบขนาดมาสำหรับพรอมป์ต์เดียวที่จัดรูปแบบดี — ไม่ใช่เอนจินสำหรับบริบทขนาดยาว ทั้งสองเวอร์ชันที่เปิดตัวตรงไปตรงมาเรื่องนี้ ไม่มีเวอร์ชันใดปกปิดมันไว้เบื้องหลังหน้าต่างที่โฆษณาไว้ใหญ่กว่า

ทั้งคู่เผยแพร่เรื่องราวการสอบเทียบ และมันไม่ใช่เรื่องราวเดียวกัน

A headless-browser capture of the Hugging Face model card for internlm/Intern-Decision-4B, showing the InternLM organisation, 86 likes, the image-text-to-text pipeline tag, the qwen3_5 and decision-making tags, and the card's opening line that Intern-Decision-4B is a multimodal structured decision model fine-tuned from Qwen3.5-4B which accepts a shared state, a schema of named questions and optional images and returns an answer distribution for every question in one forward pass. The numbered "How inference works" steps are visible below it.

นี่คือจุดที่การจัดหาแหล่งข้อมูลเริ่มละเอียดอ่อน เนื่องจากการประเมินทั้งสองไม่สามารถเทียบเคียงกันได้ และไม่มีอันใดที่ได้รับการทำซ้ำนอกห้องแล็บของตนเอง

Intern-Decision-4B เผยแพร่เกณฑ์มาตรฐานเจ็ดชุดโดยได้คะแนนเฉลี่ย 90.02 — ซึ่งเป็นแถวที่ดีที่สุดในตารางของตัวเอง นำหน้า Intern-Decision-2B ที่ 84.68 และ Intern-Decision-0.8B ที่ 79.38 ทั้งหมดวัดบนชุดทดสอบของ InternLM นอกจากนี้ยังเผยแพร่การสอบเทียบ: คะแนน Brier 0.347 และค่าความคลาดเคลื่อนการสอบเทียบที่คาดหวัง 0.065 การทดลองนำร่อง 96 กรณีที่แยกต่างหากโดยใช้การแจกแจงอ้างอิงที่แน่นอนเปลี่ยนจาก Brier 0.628 และ ECE 0.213 เป็น 0.550 และ 0.089 หลังจากใช้อุณหภูมิที่ปรับให้พอดีแล้ว ทุกตัวเลขเหล่านั้นเป็นของผู้ขายเอง และไม่มีใครนอก InternLM ตรวจสอบพวกมัน

UserRepGen-4B เผยแพร่ตารางความเที่ยงตรงโดยใช้มาตรวัดการตัดสินตั้งแต่ 1 ถึง 10 — 4.95 สำหรับแบบ best-of-1 และ 6.02 สำหรับแบบ best-of-3 เทียบกับ 3.90 และ 4.90 ของ GPT-5.5 ที่ใช้แบบพร้อมสำเร็จ และ 3.41 กับ 4.42 ของฐานที่ยังไม่ได้ปรับจูน ตัวเลขทุกตัวเป็นของ Microsoft เอง ทั้งหมดสร้างขึ้นโดยให้ GPT-5.4 mini ทำหน้าที่เป็นตัวจำลอง ผู้ช่วย และผู้ตัดสินพร้อมกัน และไม่มีใครนอก Microsoft ตรวจสอบตัวเลขเหล่านี้เลย

ความไม่สมมาตรที่สำคัญไม่ใช่คะแนน — พวกมันวัดคนละสิ่งบนคนละสเกล แต่คือข้อที่ว่า Intern-Decision-4B เผยแพร่ proper scoring rule เทียบกับ known reference distributions ซึ่งพิสูจน์ว่าเป็นเท็จได้โดยโครงสร้าง ขณะที่ UserRepGen-4B เผยแพร่คะแนนจาก LLM-judge ซึ่งพิสูจน์ว่าเป็นเท็จได้เพียงด้วยการรันผู้ตัดสินอีกตัวหนึ่ง InternLM สร้างโมเดลที่ตรวจสอบได้ด้วยเลขคณิต Microsoft สร้างโมเดลที่ต้องตรวจสอบด้วยโมเดลอีกตัว เมื่อทั้งคู่ต่างอ้างว่าพิชิต baseline ได้ ความแตกต่างในความสามารถในการตรวจสอบนั้นเป็นส่วนจริงของสิ่งที่คุณกำลังเลือกระหว่าง

ข้อค้นพบด้านความเป็นส่วนตัวที่มีเพียงหนึ่งในนั้นพิมพ์ออกมา

การ์ดของ Intern-Decision-4B ไม่มีส่วนความเป็นส่วนตัวที่มีนัยสำคัญ การ์ดของ UserRepGen-4B มีตัวเลขที่ควรทำให้ทีมใดๆ ต้องหยุดคิด: จากผู้ใช้กว่า 147 คน ตัวคัดเลือกที่ถูกขอให้เลือกว่าบทสนทนาใดในสี่บทสนทนามาจากบุคคลเดียวกัน ทำคะแนนได้ 51.02% เมื่อใช้คำอธิบายพฤติกรรมของโมเดล เทียบกับ 44.22% เมื่อใช้บทสนทนาดิบแบบเต็ม และ 25% เมื่อสุ่ม การแทนค่าแบบบีบอัดระบุตัวบุคคลได้ดีกว่าข้อมูลต้นทางที่ใช้สร้างมันขึ้นมา

Microsoft จัดสิ่งนี้เป็นความเสี่ยงด้านการเชื่อมโยงข้อมูล และระบุอย่างตรงไปตรงมาว่า representation ไม่ใช่ข้อมูลนิรนาม นั่นคือการจัดการที่ถูกต้อง และเป็นข้อควรระวังที่ใช้ได้กับโมเดลทั้งกลุ่ม — รวมถึงโมเดลการตัดสินใจ ซึ่งอินพุตของโมเดลเองก็คือบทสนทนาเกี่ยวกับสถานการณ์ของผู้คน ความแตกต่างมีเพียงว่าการ์ดใบหนึ่งบอกเช่นนั้น แต่อีกใบไม่บอก ซึ่งไม่เหมือนกับว่าโมเดลหนึ่งปลอดภัย

ทั้งสองไม่ใช่ API แต่พื้นฐานที่ทั้งคู่ใช้ร่วมกันคือ

A headless-browser capture of OrcaRouter's own model page for qwen/qwen3.5-flash, showing the Qwen3.5 Flash heading, Vision, Tools, JSON and Reasoning badges, a description of it as a multimodal chat model optimised for cost with 1M context, prices of $0.10 and $0.40 per million tokens, a 1M-token context with 65k maximum output, and a p50 TTFT of 1.50 seconds.

ทั้งสองอย่างนี้เป็นไฟล์ดาวน์โหลด ไม่ใช่เอนด์พอยต์ Intern-Decision-4B ถูกส่งมอบเป็นคลาส Python DecisionEngine ที่โหลดครั้งเดียวแล้วนำกลับมาใช้ซ้ำ Space สาธิตของมันตอบกลับ 401 และลิงก์ GitHub ของมันขึ้น 404; UserRepGen-4B ถูกส่งมอบเป็นไฟล์ safetensors ที่ไม่ได้ควอนไทซ์หนึ่งไฟล์และ example.py OrcaRouter ไม่มีทั้งสองอย่าง หากคุณกำลังบอกว่าอย่างใดอย่างหนึ่งพร้อมใช้งานผ่าน API ที่โฮสต์ไว้ในวันนี้ คุณกำลังอธิบายแผน ไม่ใช่ข้อเท็จจริง

สิ่งที่เรียกใช้ได้จริงคือเช็กพอยต์ที่ทั้งสองตัวแยกสาขาออกมา ตระกูลของ Qwen3.5-4B มีอยู่ในแค็ตตาล็อกของเรา — Qwen3.5-Flash รองรับคอนเท็กซ์มากกว่าหนึ่งล้านโทเคน ในราคา $0.10 ต่ออินพุตหนึ่งล้านโทเคน และ $0.40 ต่อเอาต์พุตหนึ่งล้านโทเคน Qwen3.5-35B-A3B ที่ราคา $0.057 และ $0.459 Qwen3.5-27B ที่ราคา $0.086 และ $0.688 — ทั้งหมดใช้คีย์เดียวกัน ทั้งหมดในราคาตามรายการของผู้ให้บริการโดยไม่มีการบวกเพิ่มใด ๆ สิ่งนี้มีประโยชน์สำหรับส่วนของไปป์ไลน์ที่ไม่ใช่สองโมเดลนี้: ด้านผู้ช่วยของการจำลอง หรือขั้นตอนการให้เหตุผลรอบการเรียกเพื่อตัดสินใจ สามารถรันผ่านเอนด์พอยต์เดียวได้ขณะที่คุณประเมิน fine-tune ในเครื่อง

วิธีการเลือก

หากปัญหาของคุณเป็นคำถามที่มีขอบเขตจำกัดและมีคำตอบที่แจกแจงได้ และคุณต้องการค่าตัวเลขที่ผ่านการปรับเทียบหนึ่งหมื่นครั้งต่อวินาที Intern-Decision-4B คือโมเดลเดียวในที่นี้ที่ทำได้ และการที่มันไม่สุ่มตัวอย่างเลยถือเป็นคุณสมบัติ ไม่ใช่ข้อจำกัด หากปัญหาของคุณคือคุณต้องการตัวจำลองที่ประพฤติเหมือนผู้ใช้จริง UserRepGen-4B คือโมเดลเดียวในที่นี้ที่ถูกฝึกมาเพื่อสิ่งนั้น และขนาดของส่วนที่รายงานว่าดีกว่า GPT-5.5 คือเหตุผลที่ควรให้ความสนใจ ไม่มีใครควรเลือกตัวใดตัวหนึ่งโดยอาศัยตัวเลขของอีกตัว เพราะทั้งสองไม่เคยวัดสิ่งเดียวกัน สิ่งที่จะยุติการเปรียบเทียบได้คือการตรวจสอบจากภายนอกเพียงชิ้นเดียวบนการ์ดของตัวใดตัวหนึ่ง — และสำหรับการเปิดตัวสองครั้งที่ออกมาอย่างเงียบสนิท ห่างกันหลายสัปดาห์ ไม่มีตัวใดเลยที่เคยได้รับการตรวจสอบใด ๆ

การเปิดตัวแบบเงียบ ๆ สองครั้งยังเป็นเครื่องเตือนใจว่าโมเดลระดับนี้จำนวนมากถูกปล่อยออกมาโดยไม่มีเอกสารกำกับ และความล้มเหลวที่ตามมานั้นถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive ซึ่งแต่ละรายการจะระบุแหล่งอ้างอิง ระดับความรุนแรง เกรดความเชื่อมั่น และสถานะข้อโต้แย้งของตนเอง

การเปรียบเทียบในบทความนี้1

ตรวจพบจากบทความนี้ · เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน

© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

providers@orcarouter.ai

เข้าร่วมคอมมูนิตี้ของเรา

Discordsupport@orcarouter.aiXGitHubYouTube