생성된 타이틀 카드에는 'Aion-1.0-Instruct-2.3B vs LFM2.5 2.6B Base'라는 제목과 '크기는 거의 같지만 결과물은 완전히 다릅니다'라는 부제가 있으며, 그 아래에 두 개의 파이프라인 카드가 있습니다: LFM2.5 2.6B Base에는 '사전 학습 후 파인튜닝'과 '2.69B, 131K 컨텍스트, LFM Open License', Aion-1.0-Instruct-2.3B에는 '이미 인스트럭션 튜닝 완료'와 '2.29B, 32K 컨텍스트, MIT'가 있습니다.
Guides & Insights

Aion-1.0-Instruct-2.3B vs LFM2.5 2.6B Base: 거의 같은 크기, 완전히 다른 결과물

작성자

Elias Hawthorne

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

표면상 이것은 현재 소형 모델 분야에서 가장 박빙의 맞대결입니다. Aion-1.0-Instruct-2.3B는 22억 9천만 개의 파라미터를 갖고 있으며; LFM2.5 2.6B Base는 26억 9천만 개입니다. 둘 다 밀집 모델이고, 둘 다 텍스트 전용이며, 둘 다 오픈 웨이트이고, 둘 다 온디바이스 배포를 목표로 하며, 둘 다 출시 행사 없이 등장했습니다 — 마이크로소프트의 모델은 2026년 11월 18일, Liquid AI의 베이스 체크포인트는 2026년 8월 4일입니다. 사양만으로 나란히 놓고 보면 두 모델이 경쟁자라고 결론 내리게 될 것입니다.

그렇지 않습니다. 그중 하나는 완성되었습니다. 다른 하나는 의도적으로 완성되지 않은 출발점이며, Liquid AI도 카드에 그렇게 밝힙니다. Base 체크포인트는 "대규모 파인튜닝이 필요한 작업에만 권장됩니다." 이 한 문장이 이 비교의 나머지 모든 내용을 재정리합니다. 사전 학습된 베이스와 인스트럭션 튜닝된 어시스턴트는 같은 범주의 두 제품이 아니라, 같은 파이프라인의 두 단계를 별도로 판매하는 것이기 때문입니다.

아래 Aion-1.0-Instruct-2.3B 수치는 Microsoft의 모델 카드와 저장소 구성에서 직접 읽은 것입니다. LFM2.5 2.6B Base 수치는 Liquid AI의 모델 카드와 함께 제공된 블로그 게시물에서 가져왔습니다. 두 모델 모두 독립적인 평가가 없습니다. 수치가 공급업체 보고인 경우에는 그렇게 표시되어 있고, 수치가 아예 존재하지 않는 경우에는 채워 넣지 않고 그대로 명시합니다.

"Base"가 비교에서 제거하는 항목

LFM2.5 2.6B Base는 모든 LFM2.5 2.6B 변형이 만들어진 사전 학습 체크포인트입니다. 약 34조 개의 토큰으로 16개 언어에 걸쳐 학습되었으며, 명령을 따르기보다는 텍스트를 이어 씁니다. 명령 튜닝은 형제 체크포인트에 들어 있기 때문입니다. 이를 로드해 질문을 하면, 사후 학습을 거치지 않은 언어 모델이 하는 일을 합니다. 즉, 프롬프트를 그럴듯한 방향으로 확장합니다.

그러면 일반적인 비교의 약 절반이 무효가 된다. 어느 모델이 지시를 더 잘 따르는지 묻는 것은 의미가 없다. 둘 중 하나는 그렇게 하도록 학습되지 않았기 때문이다. 거부 행동이나 채팅 형식을 비교하는 것도 의미가 없다. 남는 것은 더 좁고 더 유용한 질문이다. 어시스턴트를 구매하는 대신 직접 만든다면, Microsoft의 완성된 2.29B가 Liquid AI의 가공되지 않은 2.69B보다 더 나은 출발점인가 — 아니면 원하지 않을 수도 있는 형태로 튜닝이 이미 고정해 버렸기 때문에 더 나쁜 출발점인가?

• 매개변수 — Aion은 타이드 임베딩을 사용한 2.29B, LFM2.5 2.6B Base는 2.69B입니다.

• 아키텍처 — Aion은 그룹화된 쿼리 어텐션(grouped-query attention)과 21개의 슬라이딩 + 7개의 전체 어텐션으로 구성된 하이브리드 패턴을 갖춘 일반적인 트랜스포머입니다. LFM2.5는 총 30개 레이어에 걸쳐 22개의 이중 게이트 단기 합성곱 블록과 8개의 GQA 레이어를 결합한 하이브리드입니다.

• 학습 규모 — Microsoft는 Aion의 토큰 수를 공개하지 않으며, Liquid AI는 LFM2.5에 대해 약 34조 개를 공개합니다.

• 컨텍스트 — Aion의 경우 32,768 토큰, LFM2.5 2.6B Base의 경우 131,072 토큰이며, 중간 학습 단계에서 전용 128K 장문 컨텍스트 확장 단계를 포함합니다.

• 어휘 — Aion은 200,029개, LFM2.5는 128,000개이며, 이전 세대 토크나이저에서 재훈련하지 않고 그 자리에서 두 배로 늘렸습니다.

• 라이선스 — Aion은 MIT, LFM2.5 2.6B Base는 LFM Open License v1.0이며, 이는 OSI 라이선스가 아니므로 배포 전에 반드시 읽어봐야 합니다.

• 포스트 트레이닝 — 채팅 템플릿과 도구 호출 형식을 갖춘 명령어 튜닝 모델을, 둘 다 없는 사전 학습된 체크포인트와 비교한 것.

컨텍스트 격차를 설명하는 아키텍처 선택

컨텍스트 창의 네 배 차이는 훈련 예산의 우연이 아니다. LFM2.5의 설계는 대부분의 어텐션 계층을 짧은 컨볼루션 블록으로 대체하는데, 이는 시퀀스 믹싱이 작동하는 데 모든 계층에서 전체 어텐션이 필요하지 않다는 베팅이며, 바로 그 베팅 덕분에 휴대폰에서 131K 창이 감당 가능해진다. Liquid AI의 블로그는 mid-training에 전용 128K 컨텍스트 확장 단계가 포함되었다고 분명히 밝히므로, 긴 창은 나중에 설정된 것이 아니라 훈련을 통해 얻어진 것이다.

Aion은 반대 방향으로 간다. Aion의 28개 레이어 중 21개는 2,048토큰 슬라이딩 윈도를 사용하고 7개만 전체 어텐션을 사용하며, 그 7개에는 16배 YaRN 스케일링이 적용된다. 공개된 컨텍스트는 32,768이며, 설정의 original_max_position_embeddings가 2,048이라는 점이 단서다. 즉 이 윈도는 짧은 네이티브 범위에서 위치 보간을 통해 도달한다. 이는 일반적인 기법이다. 또한 여기서는 측정되지 않았다. Microsoft는 긴 컨텍스트 평가를 공개하지 않았고, 이 모델은 나온 지 하루밖에 되지 않아 다른 누구도 아직 평가를 수행하지 않았다.

LFM2.5 2.6B Base는 문서화된 학습 단계와 대조하여 검증할 수 있는 긴 컨텍스트를 제공합니다. Aion은 짐작하지 말고 직접 테스트해 보아야 하는 더 짧은 컨텍스트를 제공합니다.

Aion이 제공하지만 기본 체크포인트는 제공할 수 없는 것

완성된 모델의 장점은 구체적이고 따분하며, 바로 그렇기에 나열할 가치가 있습니다. Aion-1.0-Instruct-2.3B는 기본 시스템 프리앰블이 포함된 채팅 템플릿, 그 뒤에 덧붙는 선택적 사용자 제공 시스템 메시지, 그리고 모델 정체성·지식 컷오프·현재 날짜를 위한 템플릿 변수를 제공합니다. 문서화된 도구 호출 형식도 제공합니다. Microsoft 표준에 맞춰 안전 정렬되었으며, 모델 카드는 개선하고자 하는 안전 지표로 XPIA, DIC, ECI를 보고합니다. 즉, 격차가 해소되었다고 주장하기보다 격차를 명시합니다.

또한 이름이 명시된 하네스에서 11개의 벤치마크 점수를 제공하며, 이는 LFM2.5 2.6B Base가 제공하는 것보다 많습니다. 베이스 카드에는 아키텍처와 학습 관련 사실만 기재되어 있고 평가 결과는 전혀 없는데, 이는 해당 체크포인트가 튜닝되지 않은 작업에서 평가받도록 의도되지 않았다는 점을 고려하면 올바른 선택입니다. 설계 문서에 넣을 수치가 필요하다면 Aion에 있습니다: IFEval 83.90, MMLU 55.15, GSM8K 74.91, MMLU-Pro 33.35, GPQA 28.18 등이며, 모두 벤더가 lm-evaluation-harness 또는 해당 벤치마크 자체 구현에서 실행한 결과입니다.

하지만 이를 성능의 한계로 받아들이기 전에 Aion 자체 카드에 있는 주의사항을 읽어 보라. 여기에는 이 모델이 "세계 지식에 뛰어나도록 훈련되지 않았다"고 되어 있고, 이 정도 규모의 모델은 "세부 사항을 놓치거나, 잘못된 진술을 하거나, 복잡한 다단계 추론을 따르지 못하는 모습을 보일 수 있다"고 되어 있으며, 다국어 데이터는 8개 언어에 걸쳐 훈련의 약 6%였고 언어별로 품질 편차가 있었다고 한다. 이는 이례적으로 솔직한 한계 설명 부분이며, 개방형 추론보다는 요약, 재작성, 채팅, 운영체제 작업에 맞춰 조정된 모델을 설명한다.

베이스 체크포인트가 튜닝된 모델은 제공할 수 없는 것

제어권, 그리고 깨끗한 초기 손실 표면. 제품이 하우스 스타일로 글을 쓰고, 도메인 어휘로 답하며, 엄격한 구조화 형식을 출력하는 모델을 필요로 한다면, 베이스 체크포인트에 대한 포스트트레이닝을 통해 다른 누군가의 정렬 패스와 씨름하지 않고도 그 목표에 도달할 수 있습니다. Liquid AI의 모델 카드는 의도된 용도를 분명히 밝힙니다: 집중적인 파인튜닝, 언어별 어시스턴트, 도메인별 어시스턴트, 독점 데이터로 학습, 그리고 새로운 포스트트레이닝 접근법 실험.

또한 상속받는 대신 직접 내려야 하는 라이선스 결정을 안겨줍니다. LFM2.5 2.6B Base는 LFM Open License v1.0에 따라 공개되었습니다. Apache 2.0도 MIT도 아닌 커스텀 라이선스입니다. 해당 모델 카드에는 라이선스가 이름 "lfm1.0"과 함께 "other"로 표시되어 있습니다. 그것이 문제인지 여부는 전적으로 배포 모델에 달려 있으며, 누구도 일찍 읽지 않으면 법무 검토 후반에야 드러나는 종류의 사안입니다. 반면 MIT는 라이선스로는 거의 가장 짧은 편입니다.

그리고 툴링 측면의 논거도 있습니다. LFM2.5는 Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio 전반에서 첫날부터 지원되며 출시되었고, Unsloth와 TRL용 파인튜닝 노트북도 공개되어 continued pre-training, SFT, DPO, GRPO를 다룹니다. Aion Instruct는 trust_remote_code=True와 transformers 5.x가 필요하며, 모델 카드에 GGUF가 형식으로 기재되어 있음에도 저장소에 GGUF 파일이 없고, 양자화 빌드는 공개된 것이 아니라 약속만 되어 있습니다. 파인튜닝할 모델이라면 그 주변의 생태계는 사소한 세부 사항이 아닙니다.

결국 같은 곳에 이르는 두 가지 방법

자체 데이터 코퍼스를 보유하면서 작은 온디바이스 어시스턴트를 원하는 팀이 고려할 수 있는 두 가지 현실적인 경로를 생각해 보세요.

첫 번째 경로: Aion-1.0-Instruct-2.3B를 출시된 그대로 여러분의 과제에서 평가하고, 성능이 부족할 때만 미세 조정하세요. 이미 작동하는 어시스턴트, 채팅 템플릿, 도구 호출 형식에서 시작하며, 모델이 전혀 못하는 게 아니라 이미 일을 형편없이 하고 있기 때문에 첫 실험은 저렴합니다. 위험은 처음부터 가르치는 것이 아니라 다른 사람의 정렬을 교정하는 것이라는 점이며, 2.29B에서는 교정할 용량이 많지 않습니다.

두 번째 경로: LFM2.5 2.6B Base를 선택해 도메인에 대해 지속 사전 학습을 실행한 다음 SFT를 수행합니다. 데이터에 맞춰 조정된 모델이 아니라 데이터가 그 형태를 결정한 모델을 얻으며, 처음부터 131K 창을 사용할 수 있고 학습 도구 체인도 잘 문서화되어 있습니다. 대가는 Microsoft가 이미 처리한 안전 동작을 포함해 전체 포스트 트레이닝 작업을 직접 떠안아야 한다는 점입니다.

세 번째 경로는 대부분의 팀이 실제로 택하는 방식입니다. 기준선을 확보하기 위해 경로 1로 시작하고, 기준선이 정체될 때만 경로 2로 전환하는 것입니다. 이는 합리적인 순서이며, 두 모델 모두에 자체 데이터를 직접 적용해 보기 전에는 어느 모델과도 장기 계약을 체결하지 말아야 한다는 근거이기도 합니다.

제품에 체크포인트가 두 개가 되면 운영 표면이 걷잡을 수 없이 넓어지기 시작합니다 — 서로 다른 서빙 구성, 서로 다른 장애 모드, 서로 다른 업그레이드 주기까지. 그 계층에서 OrcaRouter가 기여하는 단일 엔드포인트는 200개 이상의 모델을 0% 마크업으로, 공급자 정가를 그대로 전달하며, 공급자 간 자동 페일오버 및 하드코딩된 대상 대신 폴백 체인을 표현할 수 있는 라우팅 DSL을 제공합니다. Aion-1.0-Instruct-2.3B도 LFM2.5 2.6B Base도 그 카탈로그에 없습니다 — 둘 다 자체 호스팅 가중치이며, Aion은 어디에도 호스팅 API가 없습니다 — 따라서 이 라우터가 제공하는 것은 그 위의 계층, 즉 온디바이스 모델이 처리해서는 안 되는 요청을 보낼 곳입니다.

결정, 압축

이번 주에 바로 실행해 질문에 답하는 무언가를 원한다면 Aion-1.0-Instruct-2.3B를 선택하세요. 이 모델은 완성되었고, MIT 라이선스이며, bfloat16으로 4.6GB이고, 그 한계는 여러분이 직접 발견하는 것이 아니라 모델 자체의 말로 문서화되어 있습니다.

모델을 도입하기보다 직접 구축하려는 경우 LFM2.5 2.6B Base를 선택하세요. bfloat16 기준 5.4GB이며, 스케일링이 아니라 학습된 131K 창을 갖추고, 실제 파인튜닝 툴체인을 제공하며, 어시스턴트가 어떤 말투여야 하는지에 대한 의견이 없습니다. 그러한 의견이 주어지지 않았기 때문입니다.

당신이 해서는 안 되는 일은 파라미터 수가 비슷하다는 이유로 두 모델을 서로 바꿔 쓸 수 있는 것으로 취급하는 것입니다. 2.69B 베이스 모델과 2.29B 인스트럭트 모델은 대부분의 사양서에서는 반올림 오차보다 작은 차이지만, 실제로는 전체 포스트트레이닝 파이프라인만큼 차이가 나며, 이 둘 중 하나를 선택하는 것은 누가 그 일을 수행할 것인가에 대한 결정입니다.

A screenshot of Liquid AI's LFM2.5 2.6B Base model card, showing the 2.69B parameter count, 30 layers, roughly 34 trillion training tokens, a 131,072-token context with a dedicated 128K extension phase, the LFM Open License v1.0, and a statement that the base checkpoint is only recommended for tasks requiring heavy fine-tuning, with no evaluation table.

Liquid AI의 카드는 파인튜닝 대상에 중요한 수치들 — 2.69B 매개변수, 30개 레이어, 34조 훈련 토큰, 131,072토큰 윈도우 — 을 나열하며, 평가 표는 없습니다. 베이스 체크포인트는 파인튜닝되지 않은 작업에서 점수를 매기도록 만들어진 것이 아니기 때문입니다.

미해결 질문들

{{1}}Aion{{/1}}의 경우: Microsoft가 약속한 양자화 빌드가 도착할지, 롱 컨텍스트 창이 실제 니들 테스트에서 견딜지, 그리고 2027년 1월 말까지 {{2}}추가 최적화된 Windows 버전{{/2}}이 출시될 때 이 체크포인트가 어떻게 되는지. 이 카드는 이 업로드를 해당 모델의 프리뷰로 제시하는데, 이는 후속 모델이 이미 예정되어 있음을 뜻한다.

LFM2.5 2.6B Base의 경우: 커뮤니티가 이 모델 위에 충분히 구축해 자사의 파인튜닝 레시피가 기준 경로가 되게 할 수 있는지, 그리고 LFM Open License를 일반적인 허용 라이선스의 안전지대 밖에 있는 법무팀들이 어떻게 해석하는지입니다. 둘 다 시간이 지나면 답할 수 있는 질문이며, 어느 쪽도 벤치마크 표로는 답할 수 없습니다.

A screenshot of the Hugging Face model card for microsoft/Aion-1.0-Instruct-2.3B, showing the description as the foundational Small Language Model for on-device Windows tasks, the 32,768-token context, the eleven published benchmarks, the safety metrics XPIA, DIC and ECI, and the note that a further optimised version becomes the Windows OS SLM by the end of January 2027.

Aion 카드에는 의도된 용도가 한 줄로 명시되어 있습니다: 온디바이스 Windows 작업을 위한 기반 SLM이며, OS 통합은 2027년 1월로 잠정 예정되어 있습니다.

A generated two-column scoreboard comparing Aion-1.0-Instruct-2.3B, with 2.29B parameters, a 32,768-token context, MIT licence, an instruction-tuned checkpoint, no published training token count and 11 published benchmarks, against LFM2.5 2.6B Base, with 2.69B parameters, a 131,072-token context, the LFM Open License v1.0, a pretrained-only checkpoint, roughly 34 trillion training tokens and no published benchmarks. Footnoted that Aion figures come from Microsoft's card and LFM figures from Liquid AI's card, both vendor-reported and independently unreproduced.

파라미터 수는 거의 동일하지만 제공되는 것은 다릅니다. instruction-tuned 및 MIT 대 pretrained 및 custom-licensed이며, context window는 그 반대 방향입니다.