
Aion-1.0-Instruct-2.3B 대 Gemma 4 12B: 다섯 배의 가중치와 열 배의 증거
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 188 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 205 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 87 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 97 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 77 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 124 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 210 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 110 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 168 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
놓고 보면Aion-1.0-Instruct-2.3B옆에Gemma 4 12B매개변수 격차는 두 모델에서 가장 덜 흥미로운 부분입니다. Microsoft의 체크포인트는 매개변수 22억 9천만 개이며 2026년 11월 18일 Hugging Face에 별도 발표 없이 올라왔습니다. Google DeepMind의 체크포인트는 119억 5천만 개이고 Apache 2.0이며, 전체 평가 표를 표시하는 모델 카드와 이미 가중치를 백만 번 넘게 내려받은 커뮤니티를 갖춘 채 2026년 5월부터 내려받을 수 있었습니다. 흥미로운 격차는 이 모델들 중 하나는 외부인들이 검토했고, 다른 하나는 아무도 검토하지 않았다는 점입니다.
두 API가 아니라 두 오픈 릴리스의 비교이므로, 아래의 모든 주장은 무언가를 다운로드해 확인할 수 있습니다. Aion-1.0-Instruct-2.3B 수치는 모델 카드와 해당 저장소의 config.json에서 가져온 것이며, 둘 다 오늘 직접 읽었습니다. Gemma 4 12B 수치는 Google의 모델 카드에서 가져왔고, 벤치마크 수치는 벤더 자체의 값, 즉 보고된 값이지 독립적으로 재현된 값은 아닙니다. 이는 여기서 두 모델 모두에 중요한 구분입니다.
누구도 공평하게 채울 수 없는 비교표
여섯 개의 차원, 양쪽 모두, 그리고 한쪽이 해당 셀에 넣을 것이 전혀 없는 경우를 위한 표기.
• 파라미터 — Aion-1.0-Instruct-2.3B는 tied embeddings를 사용하는 약 2.29B 규모의 dense 모델이고; Gemma 4 12B는 48개 레이어에 걸쳐 11.95B 규모의 dense 모델입니다.
• 라이선스 — Aion은 MIT, Gemma는 Apache 2.0입니다. 상업적 측면에서 두 라이선스 모두 사실상 제한이 없으며, MIT는 고려해야 할 특허 허여 조항이 없어 준수하기가 약간 더 간단합니다.
• 컨텍스트 — 32,768 토큰 대 256K, 전체 저장소가 하나의 프롬프트에 들어갈 수 있는지를 결정하는 8배 차이.
• 입력 — 텍스트만 사용하는 경우 대 텍스트, 이미지, 오디오를 함께 사용하는 경우. Gemma 4 12B의 결정적 비결은 별도 인코더가 없다는 점입니다: 이미지 패치와 오디오 파형이 디코더의 임베딩 공간으로 곧장 투영됩니다.
• 언어 — Aion은 8개(영어, 독일어, 스페인어, 포르투갈어, 이탈리아어, 프랑스어, 중국어, 일본어)이며, 다국어 데이터는 학습의 약 6%입니다. Gemma는 140개 이상이라고 주장합니다.
• 공개된 평가 — Aion: 명명된 하네스에서 11개 벤치마크, 전부 벤더가 직접 실행. Gemma: 15개 이상의 벤치마크에 더해 비전, 오디오, 롱컨텍스트 항목까지, 전부 벤더가 직접 실행.
마이크로소프트의 열한 가지 숫자가 말해주는 것
Aion 카드는 대부분의 조용한 출시보다 더 솔직합니다. 이 카드는 과제 구현이 존재하는 경우에는 EleutherAI의 lm-evaluation-harness에서, 그렇지 않은 경우에는 각 벤치마크 자체 저장소에서 벤치마크를 실행했으며, 판정에 의존하는 벤치마크는 GPT-4o가 판정했다고 밝힌 뒤 점수를 표시합니다: MMLU 55.15, MMLU-Pro 33.35, MMMLU 45.51, GPQA 28.18, GSM8K 74.91, GSMPlus 49.56, MATH-500 48.00, IFEval 83.90, IFBench 32.00, Multi-IF 64.70, chrF++ 43.18.
그중 두 개는 비고 열에 수식어가 붙어 있습니다 — GSM8K는 "느슨한 매칭", IFBench는 "프롬프트 수준의 느슨함"입니다 — 그리고 카드는 이를 숨기지 않습니다. 이는 마케팅 팀이라면 제거하고 평가 팀이라면 남겨 둘 종류의 공개입니다. 또한 이는 숫자를 홍보용 수치가 아니라 하한으로 읽어야 한다는 뜻입니다: MMLU-Pro의 33.35와 GPQA의 28.18은 누구도 앞세워 내세울 만한 수치가 아닙니다.
모델 카드는 모델이 할 수 없는 일에 대해서도 똑같이 직설적이다. 한계 섹션에서는 이 규모의 소형 모델이 "세부 사항을 놓치거나, 잘못된 진술을 하거나, 복잡한 다단계 추론을 따르지 못하는 모습을 보일 수 있다"고 말한다. 그리고 권장 사항 섹션에서는 이 모델이 "세계 지식에 뛰어나도록 훈련되지 않았다"고 말한다. 이는 벤더의 표현이지 우리의 표현이 아니며, 점수와 모순되기보다는 일치한다.
Gemma의 추가 90억 개 매개변수는 실제로 어디로 가는가
Gemma 4 12B의 카드에는 MMLU Pro 77.2, GPQA Diamond 78.8, 도구 없이 AIME 2026 77.5, LiveCodeBench v6 72.0, Codeforces ELO 1659, 세 번의 실행 평균 Tau2 69.0, BigBench Extra Hard 53.0, MMMLU 83.4가 나열되어 있습니다. 또한 비전의 경우 MMMU Pro 69.1과 MATH-Vision 79.7을, 오디오의 경우 CoVoST 38.5와 FLEURS 0.069를, 128K에서 RULER 55.3을 표시합니다.
그것들을 Aion의 표와 직접 비교하는 것은 정직하지 않다. 벤치마크가 거의 공유되지 않고, 하네스도 다르며, 하나는 텍스트 전용 모델인데 서로 다른 훈련에 유리한 작업에서 멀티모달 모델과 맞붙어 채점되기 때문이다. 말할 수 있는 것은 방향성에 관한 것이며, 아주 노골적이다. 벤치마크 이름이 겹치는 두 행인 MMLU-Pro와 MMMLU에서 Gemma는 각각 43.8점과 37.9점 더 높은 점수를 보고한다. 그것은 채점상의 변덕이 아니다. 그것은 파라미터가 97억 개 더 많고 후속 학습이 7개월 더 많다는 점이 만들어내는 결과다.
더 유용한 관찰은 Gemma가 자신의 크기를 어떻게 활용하는가이다. 하이브리드 어텐션은 1,024 토큰 단위의 로컬 슬라이딩 윈도 레이어를 완전한 전역 어텐션과 교차 배치하며, 전역 레이어는 키와 값을 공유하고 비례 RoPE를 적용한다 — 긴 컨텍스트 메모리를 일정하게 유지하는 데 정면으로 겨냥한 엔지니어링이다. Aion은 28개 레이어 중 21개에 2,048 토큰 슬라이딩 윈도를 적용해 더 작은 규모로 같은 종류의 일을 한다. 두 모델 모두 같은 문제를 풀고 있다; 한쪽은 그것을 풀 예산이 다섯 배 더 많다.
풋프린트는 Aion이 완승하는 유일한 항목이다
bfloat16 기준으로 Aion-1.0-Instruct-2.3B는 약 4.6GB입니다. Gemma 4 12B는 양자화기를 적용하기 전에 대략 24GB라서, 워크스테이션 GPU나 고도로 양자화된 노트북에 올려야 하고 휴대폰에서는 완전히 벗어납니다. 이는 Gemma에 대한 비판이 아닙니다 — 애초에 휴대폰을 겨냥한 적이 없으니까요 — 하지만 Microsoft의 모델이 존재하는 이유는 바로 이것입니다. 이 카드가 내세우는 프레이밍은 온디바이스 Windows입니다: 텍스트 및 운영 체제 작업을 기기에서, 데이터가 결코 기기를 떠나지 않은 채로 처리하는 것입니다.
솔직히 말하자면, 주의할 점은 32K 창이 긴 학습이 아니라 스케일링을 통해 도달된다는 것입니다. 구성에는 original_max_position_embeddings가 2,048로 기록되어 있고, YaRN 계수 16은 full-attention 레이어에만 적용되며, 모델의 장문맥 평가는 공개된 적이 없습니다. 따라서 "32K"는 구성된 상한일 뿐, 입증된 능력이 아닙니다. Gemma의 256K에는 최소한 벤더가 실행한 55.3점의 RULER 행이 뒷받침하고 있습니다 — 소박하지만 존재합니다.
모델 결정이 아니라 팩토링 결정
이 둘은 같은 제품의 서로 다른 계층에 속하며, 보통 팀들은 결국 그렇게 이 둘을 사용하게 됩니다. Aion-1.0-Instruct-2.3B는 온디바이스 단계를 담당합니다: 민감 정보 삭제, 요약, 재작성, 분류, 문서를 로컬에 유지. Gemma 4 12B는 스크린샷 판독, 오디오 클립 전사, 100K 토큰 코드베이스의 컨텍스트 유지, 또는 Aion이 지원하는 8개 언어 밖의 언어가 필요한 경우를 처리합니다. 어느 쪽도 다른 쪽을 대체하지 않으며, 피해야 할 실수는 작은 모델이 무료로 다운로드된다는 이유로 큰 모델이 필요한 작업에 작은 모델을 고르는 것입니다.
둘 다 하나의 코드베이스에서 호출될 때, 운영 비용은 토큰이 아니라 두 번째 SDK, 두 번째 재시도 정책, 두 번째 자격 증명 세트입니다. 바로 여기서 라우터가 제 역할을 합니다. OrcaRouter는 200개 이상의 모델을 하나의 키로 0% 마크업으로 제공합니다. 이는 공급자 정가를 기준으로 하며, 자동 장애 조치와 요청을 하나의 모델이 아니라 모델 체인을 따라 보낼 수 있는 라우팅 DSL을 갖추고 있습니다. 오늘 우리 카탈로그에 무엇이 있고 무엇이 없는지 정확히 말하자면, Gemma 4 제품군은 일부만 있습니다. 26B A4B와 31B 변형은 등재되어 있지만 Gemma 4 12B와 Aion-1.0-Instruct-2.3B는 없습니다. 첫 번째는 자체 호스팅 가중치 릴리스이고 두 번째는 어디에도 호스팅 엔드포인트가 없기 때문입니다. 라우팅에 관한 논거는 이 두 체크포인트 자체가 아니라, 이 모델들과 함께 섞어 쓰게 되는 형제 모델이 무엇이든 그 모델들에 적용됩니다.
안전하게 실패하는 롤아웃 순서
이미 보유한 워크로드에서 Gemma 4 12B부터 시작하세요. 측정할 수 있기 때문입니다. 해당 카드는 분모를 제공하고, 가중치는 안정적이며, 보이는 모든 회귀는 3일 전 업로드의 부산물이 아니라 여러분의 회귀입니다.
그런 다음 Aion-1.0-Instruct-2.3B를 가져다가 온디바이스로 옮기려는 좁은 범위—예를 들어 이메일 스레드 요약이나 문서 내 민감 정보 삭제—에 대해 자체 데이터와 자체 정확도 기준을 사용해 실행해 보세요. 해당 작업의 대리 지표로 MMLU를 사용하지 마세요. 모델 자체의 카드에도 세계 지식용으로 학습되지 않았다고 경고되어 있으며, MMLU에서의 55.15점은 요약이 검토를 통과하는지보다 잡학 지식에 대해 더 많은 것을 알려줍니다.
그런 다음에야 로컬 패스가 호스티드 호출을 대체할지, 아니면 그 앞에 위치할지를 결정하세요. 효과적인 패턴은 지루한 쪽입니다. 작은 모델이 로컬에서 첫 패스를 수행하고, 신뢰도로 게이트하며, 어려운 사례는 더 큰 모델로 에스컬레이션합니다. 그러면 대부분의 트래픽에서 프라이버시 속성을 확보하고 품질 상한을 필요한 수준에 유지할 수 있습니다.

Google의 카드에는 Aion의 카드가 아직 공정하게 비교할 수 없는 수치들이 적혀 있습니다. MMLU Pro 77.2, GPQA Diamond 78.8, MMMU Pro 69.1, 그리고 256K 윈도우까지, 모두 벤더가 보고한 수치입니다.
이것을 다른 기사로 만들려면 무엇이 필요할까요?
Aion-1.0-Instruct-2.3B를 독립적인 하네스로 실행해 보면 확인될 것이다. 이 글을 쓰는 시점에 해당 저장소에는 좋아요가 세 개, 기록된 다운로드가 0회였으므로 커뮤니티 증거가 전혀 없다 — 포럼 스레드도, 양자화 빌드도, 제3자 평가도 없다. 모델 카드는 양자화 버전이 뒤따를 것이라고 약속한다. GGUF가 나오면 로컬 이야기는 더 이상 이론에 머물지 않고 다운로드 수가 의미를 갖기 시작한다.
그때까지는 이 비교가 현재 위치에 그대로 유지된다: Gemma 4 12B는 실제 비용이 따르는, 이미 검증된 모델이고, Aion-1.0-Instruct-2.3B는 아주 작고 아주 새로운, 솔직하게 문서화된 모델이며, 그 가장 가치 있는 특성은 네트워크가 닿지 않는 곳에서도 실행된다는 점이다.

Microsoft의 카드는 2.29B 파라미터 수, 지원되는 8개 언어, 2025-12 지식 컷오프의 출처입니다; 그 타임스탬프는 존재하는 유일한 출시 신호입니다.

나란히 놓고 보면: Aion이 우위를 점하는 차원(풋프린트)과 그렇지 않은 차원들(컨텍스트, 모달리티, 언어, 그리고 숫자 이면의 증거 깊이).
