Aion-1.0-Instruct-2.3B 대 Qwen 3.8 비교를 위한 타이틀 카드로, 2.3B 온디바이스 Windows 모델과 27B 오픈 웨이트 비전-언어 모델을 대조합니다.
Guides & Insights

Aion-1.0-Instruct-2.3B 대 Qwen 3.8: Windows 구성 요소가 27B 주력 모델을 만나다

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

2026년 11월 18일, Aion-1.0-Instruct-2.3B라는 리포지토리가 "Duplicate from asgmodels/Aion-Instruct-v1"이라는 단일 커밋과 함께 Microsoft의 Hugging Face 조직에 나타났습니다. 블로그 글도, 모델 카드 공지도, 보도자료도, 언론 보도도 없었습니다. 모델 카드에는 이것이 온디바이스 Windows 작업을 위한 기반 소형 언어 모델이라고 설명되어 있으며, Microsoft의 콘텐츠 모더레이션 모델과 함께 제공되는 이 모델의 추가 최적화 버전이 2027년 1월 말까지 Windows OS SLM이 될 것이라고 덧붙입니다. 이를 Q​wen3.8-27B, 2026년 8월에 A​libaba가 공개한 오픈 가중치 27B 비전-언어 모델 및 그 위의 호스팅된 Q​wen3.8-Flash 및 Q​wen3.8-Max 티어와 비교하면, 비교는 금세 품질에 관한 것이 아니게 됩니다. 하나는 노트북에 맞춘 크기의 구성 요소입니다. 다른 하나는 백만 토큰 단위로 임대하는 범용 모델입니다. 벤치마크 표가 알려줄 거의 모든 것은 핵심과 무관합니다. Q​wen3.8-27B는 qwen/qwen3.8-27b로 OrcaRouter의 카탈로그에서 Q​wen3.8-Flash 및 Q​wen3.8-Max 티어와 동일한 키 및 엔드포인트로 제공됩니다.

Aion 저장소에 실제로 포함된 것

확인 가능한 것부터 시작하세요. 목록이 짧기 때문입니다. 리포지토리는 2026년 11월 18일 17:05 UTC에 생성되었으며 그 이후로 수정되지 않았습니다. 좋아요는 세 개이고, 작성 시점 기준 다운로드는 0회입니다. 가중치는 단일 4.58 GB BF16 safetensors 파일이며, 파라미터당 2바이트 기준으로 2.3B라는 이름과 일치합니다. 어휘 크기는 200,029 토큰입니다. 라이선스는 MIT입니다.

아키텍처는 크기가 시사하는 것보다 더 이례적입니다. 28개 레이어는 하이브리드 패턴으로 교대로 배열되는데 — 21개는 2,048토큰 창을 사용하는 슬라이딩 윈도 어텐션을 쓰고 7개는 전체 어텐션을 사용합니다 — 전체 어텐션 레이어에는 16× YaRN 확장이 적용됩니다. 그룹화된 쿼리 어텐션은 24개의 쿼리 헤드 대 8개의 키-값 헤드이고, 임베딩은 공유되며, 모델 카드에서는 사용자 정의 모델링 코드로 실행하라고 안내하며, 이는 trust_remote_code를 통해 이루어집니다. 저장소는 기성 아키텍처에 매핑하는 대신 자체 transformers 구현을 제공합니다.

출처는 확인되지 않은 부분입니다. 커밋에 따르면 이 저장소는 asgmodels/Aion-Instruct-v1의 복제본이며, 라이선스 링크는 해당 저장소의 LICENSE 파일을 가리킵니다. 다음 두 저장소, 즉 asgmodels/Aion-Instruct-v1와 이름이 다음과 같은 형제 Microsoft 저장소 Aion-Instruct-Preview-Sample는 익명 API 요청에 인증 오류를 반환하므로 비공개이거나 접근이 제한되어 있습니다. Microsoft가 체크포인트를 공개 저장소에 복사한 것은 확인할 수 있습니다. 원본에 무엇이 들어 있었는지, 누가 어떤 데이터로 훈련했는지, 또는 조직 이름이 왜 asgmodels인지는 확인할 수 없습니다. 이 모델의 훈련을 설명하는 사람은 누구나 추측하는 것입니다.

Screenshot of the microsoft/Aion-1.0-Instruct-2.3B model card on Hugging Face, showing the Microsoft Windows Applied Sciences Group attribution, the on-device SLM description, the January 2027 Windows OS SLM target, and the note that only the unquantised model is published first.

카드에 적힌 숫자, 그리고 그 숫자들이 지닌 가치

모델 카드에는 11개 벤치마크가 공개되어 있습니다. MMLU 55.15, MMLU-Pro 33.35, MMMLU 45.51, GPQA 28.18, GSM8K 74.91, GSMPlus 49.56, MATH-500 48.00, IFEval 83.90, IFBench 32.00, Multi-IF 64.70, chrF++ 43.18입니다. 방법론 문구에 따르면, 작업 구현이 존재하는 경우에는 EleutherAI의 lm-evaluation-harness를, 그렇지 않은 경우에는 해당 벤치마크 자체 저장소를 사용해 실행했으며, 심사 채점으로 표시된 작업에서는 GPT-4o를 심사자로 사용했습니다. 점수는 백분율입니다.

이 모든 것은 공급업체가 보고한 것이며, 그중 어느 것도 재현되지 않았습니다. 하지만 이 정도로 작은 모델에서는 표에 나타난 패턴이 어떤 단일 수치보다 더 많은 정보를 줍니다. 2.3B 매개변수에서 MMLU 55.15는 괜찮은 수준입니다. MMLU-Pro 33.35와 GPQA 28.18은 그렇지 않습니다. 이들은 더 어렵고 추론 비중이 높은 지식 테스트이며, 한계를 분명히 보여줍니다. 느슨한 매칭 기준의 GSM8K 74.91은 같은 수치를 엄격한 매칭 기준으로 본다면 실질적으로 더 약한 결과입니다. IFEval 83.90은 카드에서 상대적으로 가장 강한 결과입니다. 이 모델은 크기에 비해 형식이 지정된 지시를 잘 따르며, 이는 운영체제 어시스턴트에게 정확히 필요한 능력입니다.

카드에 분명히 명시되어 있지만 놓치기 쉬운 두 번째 주의 사항이 있습니다. 공개된 체크포인트는 양자화되지 않은 모델이며, 카드에는 양자화 버전이 뒤이어 나올 것이라고 적혀 있습니다. ONNX 빌드는 이미 별도로 존재합니다. Microsoft는 BF16 저장소가 공개된 지 약 3분 후에 Aion-1.0-Instruct-2.3B-ONNX-WebGPU를 공개했는데, 약 1.3GB이며 선형 레이어에는 블록 크기 32, 임베딩에는 블록 크기 64의 INT4 블록 단위 양자화 인식 학습을 적용하고, FP16 활성화와 KV 캐시를 사용하며, ONNX Runtime GenAI를 통해 WebGPU를 대상으로 합니다. 이것이 중요한 배포 아티팩트이며, 대부분의 사람들이 가장 먼저 다운로드하게 될 파일과는 다른 파일입니다.

Q​wen3.8-27B가 왜 다른 종류의 객체인가

Qwen3.8-27B는 총 55.6GB에 달하는 18개의 BF16 샤드로 구성된 278억 개 매개변수 모델이며, 이미지 및 비디오 입력을 위한 비전 타워를 갖추고 있습니다. 64개 레이어는 3개의 Gated DeltaNet 선형 어텐션 레이어 대 1개의 완전한 Gated Attention 레이어로 이루어진 16개의 반복 블록으로 배치되어 있고, 히든 크기는 5,120이며 선형 어텐션 경로에는 48개의 value 헤드가, 16개의 query-key 헤드가 있습니다. 컨텍스트는 기본 262,144 토큰이며 YaRN 사용 시 1,000,000 토큰입니다. 사고 모드는 기본적으로 켜져 있으며 최대 262,144개의 추론 토큰과 131,072개의 응답 토큰을 지원하고, 권장 샘플링 설정은 사고 모드와 비사고 모드에서 다릅니다. 라이선스는 Apache 2.0입니다.

중요한 격차는 파라미터가 아니다. 55.6GB 체크포인트가 Aion 모델이 설계된 기기에서 실행되지 않는다는 점이다. Aion 모델의 전체 설계 — 2,048토큰 슬라이딩 윈도, INT4 양자화 인식 학습, 1.3GB의 ONNX WebGPU 빌드 — 는 누군가 이미 보유한 기기의 메모리에 무엇이 들어가는지에 대한 논거다. Q​wen3.8-27B의 설계는 서빙 클러스터를 전제한다. 점수판을 보고 둘 중 하나를 고르는 것이 아니다. 한쪽이 다른 쪽의 작업에 후보가 아니기 때문에 선택하는 것이다.

숫자를 나란히 놓을 수 있는 곳과 그럴 수 없는 곳

여기에는 정말로 유용한 상호 참조가 하나 있는데, 그것은 어느 벤더의 카드에도 없습니다. Artificial Analysis는 Q​wen3.8-27B를 Intelligence Index v5.0.1에서 측정하며, 이 지수는 아홉 가지 평가를 결합합니다: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2, Terminal-Bench-Sci. 이 지수에서 Q​wen3.8-27B는 20점을 기록했으며, 비교 가능한 모델들의 중앙값은 10입니다. 같은 측정에서 입력 토큰 100만 개당 $0.50, 출력 토큰 100만 개당 $3.00, 작업당 $3.53, 지수 작업당 38.7분(중앙값 11.5분), 그리고 지수 전체에서 소비된 토큰 1억 2,800만 개(중앙값 7,780만 개)로 나타났습니다. 이 모델은 경쟁 모델들보다 느리고 더 장황하며, 토큰당 가격이 낮은데도 작업당 비용에서 그 대가를 치릅니다.

Comparison scoreboard for Aion-1.0-Instruct-2.3B and Qwen3.8-27B, contrasting parameters, context window, modality, licence, footprint and evaluation status.

Aion에 해당하는 것은 없습니다. 2026년 11월 19일 현재 Artificial Analysis에는 어떤 Aion 모델에 대한 항목도 없고, 독립적인 하네스가 실행 결과를 공개한 적도 없습니다. 따라서 정직한 점수판에는 구멍이 하나 있으며, 그 구멍은 더 새로운 모델 쪽에 있습니다.

• 파라미터 — Aion-1.0-Instruct-2.3B: 약 2.3B, 4.58GB BF16 파일 하나. Qwen3.8-27B: 27.8B, 18개 샤드, 55.6GB BF16.

• 컨텍스트 — Aion-1.0-Instruct-2.3B: ONNX 빌드의 카드에 따르면 32,768토큰; BF16 카드에는 수치가 명시되어 있지 않습니다. Q​wen3.8-27B: 네이티브 262,144, YaRN 사용 시 1,000,000.

• 모달리티 — Aion-1.0-Instruct-2.3B: 텍스트 전용. Qwen3.8-27B: 텍스트, 이미지 및 비디오 입력, 텍스트 출력.

• 라이선스 — Aion-1.0-Instruct-2.3B: MIT. Q​wen3.8-27B: Apache 2.0. 둘 다 상업적 사용을 허용하며, MIT 쪽이 두 라이선스 중 제약이 더 적습니다.

• 실행 가능한 풋프린트 — Aion-1.0-Instruct-2.3B: WebGPU용 1.3GB INT4 ONNX 또는 4.58GB BF16. Q​wen3.8-27B: 55.6GB BF16, 추가 서빙 메모리 포함.

• 독립 평가 — Aion-1.0-Instruct-2.3B: 없음. Qwen3.8-27B: v5.0.1에서 Intelligence Index 20, 그리고 벤더 카드에는 LiveCodeBench v6 90.3, GPQA Diamond 89.2, Terminal-Bench 2.1 73.0, SWE-bench Pro 61.7 및 HLE 30.8이 보고됨.

• 공개일 — Aion-1.0-Instruct-2.3B: 2026년 11월 18일, 공개된 지 하루 된 미발표 상태. Qwen3.8-27B: 2026년 8월 3일 발표, 2026년 8월 14일 가중치 공개.

비교가 실제로 결정하는 것

데스크톱 애플리케이션을 만들면서 네트워크 왕복 없이 텍스트 분류, 정해진 형식 따르기, 문서 요약, 운영 체제 요청 라우팅이 필요하다면, Aion 모델은 후보에 오르지만 Q​wen3.8-27B는 그렇지 않다. 32K 창은 문서 요약에는 충분하지만 저장소 전체에 걸친 코딩 작업에는 턱없이 부족하다. MIT 라이선스는 법률 검토를 없애 준다. ONNX WebGPU 빌드는 55.6GB 체크포인트가 갈 수 없는 곳에서 실행된다.

긴 컨텍스트 전반에서 작동하고, 스크린샷을 읽고, 대규모 코드베이스에 맞춰 코드를 작성하거나 다단계 도구 루프를 실행하는 에이전트가 필요하다면, 그 반대가 성립합니다. Qwen3.8-27B에는 컨텍스트와 모달리티, 독립적인 측정이 갖춰져 있으며, 그 약점인 지연 시간과 토큰 장황함은 가격을 매길 수 있는 알려진 값입니다. Aion 모델은 독립적인 실행 결과가 전혀 없으며, 이는 실제로 중요한 무엇에도 손대기 전에 당신이 직접 자신의 작업에서 평가를 수행해야 한다는 뜻입니다.

대부분의 팀에게 아마 정답일 세 번째 선택지가 있습니다: 선택하지 않는 것입니다. 2.3B 온디바이스 모델과 27B 호스팅 모델은 상호 보완적이며, 둘 다 사용하는 아키텍처 — 빈번하고 저렴하며 지연에 민감한 호출에는 작은 로컬 모델을, 드물고 비싸며 어려운 호출에는 대형 호스팅 모델을 — 가 청구서와 맞닥뜨려도 살아남는 아키텍처입니다. Q​wen3.8-27B는 OrcaRouter를 통해 qwen/qwen3.8-27b를 백만 입력 토큰당 $0.33, 백만 출력 토큰당 $2.40에 이용할 수 있으며, Q​wen3.8-Flash 및 Q​wen3.8-Max 티어와 동일한 키와 엔드포인트에서 제공되고, 제공자 간 자동 장애 조치가 이루어지며 제공자 정가 대비 토큰당 마크업은 없습니다. 우리가 해당 가중치를 직접 운영하므로 공급업체 가격 변경은 재가격 주기 후가 아니라 같은 날 여기에 반영됩니다. Aion-1.0-Instruct-2.3B는 OrcaRouter에 없습니다 — 직접 실행하는 다운로드이며, 둘은 서로를 알지 못한 채 같은 애플리케이션에 함께 있을 수 있습니다.

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, showing the Qwen3.8 27B listing with its 262K-token context, text and image and video input, text output, and pricing.

주목해야 할 점, 그리고 이 글을 바꿔 놓을 만한 것

세 가지가 상황을 실질적으로 바꿀 수 있으며, 아직 그중 하나도 일어나지 않았다. 마이크로소프트가 발표문을 내거나, 훈련 세부 정보가 담긴 모델 카드를 공개하거나, 회사 자체 하네스 밖에서 벤치마크를 실행하는 것. Artificial Analysis가 Aion 항목을 추가하는 것, 그러면 더 새로운 모델이 이미 Qwen이 가진 독립적인 대항마를 갖게 될 것이다. 또는 양자화된 BF16 대 INT4 이야기가 공개된 정확도 차이로 귀결되는 것, 그것이 이 아키텍처에서 온디바이스 양자화가 실제로 견디는지를 결정하는 수치다.

그때까지는 Aion-1.0-Instruct-2.3B를 저장소가 보여주는 그대로 다루십시오. 작고, 관대한 라이선스가 적용되며, 텍스트 전용이고 Windows 지향이며, 별다른 요란 없이 공개되어 이제 하루 된 모델로, 공급업체 벤치마크 표는 있지만 그에 대한 독립적 검증은 없습니다. Q​wen3.8-27B는 제3자 측정치가 공개되어 있고 컨텍스트 창이 8배 더 크며 그에 걸맞은 서빙 비용이 따르는, 이미 알려진 모델로 다루십시오. 잘못된 질문은 둘 중 어느 쪽이 이기느냐입니다. 올바른 질문은 그 두 대상 중 무엇이 당신의 애플리케이션에 빠져 있느냐입니다.