LFM3-1.7B-Base vs Granite 4.2 3B: 완성된 추론 모델에 맞선 원재료

채팅 템플릿을 함께 제공하는 베이스 모델은 대부분의 벤더가 피하는 모순입니다. LFM3-1.7B-Base는 2026년 10월 26일 공개되었으며, 완전한 채팅 템플릿을 포함하고 적용하면 기본적으로 추론을 켜지만, 자체 카드에는 대규모 파인튜닝에만 권장되며 채팅 트래픽은 다른 곳으로 안내한다고 적혀 있습니다. Granite 4.2 3B는 2026년 8월 25일 IBM이 공개한 Apache-2.0 추론 모델로, 정반대 성격의 결과물입니다: 포스트 트레이닝을 거쳤고 벤치마크도 마쳤으며, 세 가지 추론 모드, 도구 호출, 그리고 AIME 2025에서 78.33을 기록했다고 주장하는 카드까지 갖추고 있습니다. 흥미로운 질문은 어느 쪽이 더 나은가가 아닙니다. 절반만 완성된 쪽이 왜 완성된 것처럼 동작하는지, 그리고 그것이 어느 것을 다운로드해야 하는지에 대해 무엇을 말해 주는지입니다. 폴백 경로에 프리미엄 비용이 들어서는 안 됩니다. 정가 공급자 정가는 마크업 없이 그대로 적용됩니다.

특이한 것은 기본 모델이다

Liquid가 사고 흔적이 포함된 채팅 데이터와 포함되지 않은 채팅 데이터로 중간 학습을 진행하기로 한 결정이 이 비교를 단순한 규모 경쟁 이상으로 만드는 세부 사항이다. 체크포인트의 22조 사전 학습 토큰 중 마지막 3.5조 토큰은 에이전트 트레이스와 도구 호출로 큐레이션되었으며, 튜닝된 모델이 사용하는 것과 동일한 채팅 템플릿으로 포맷되었다. 그래서 베이스 저장소에 템플릿이 포함되어 있는 것이고, 단순하게 apply_chat_template을 호출하면 답변 앞에 사고 블록이 생성되는 것이다. 그 모델은 이 형식을 본 적이 있다. 하지만 그 형식 안에서 지시를 따르도록 학습되지는 않았다.

그 구분은 실제로 중요합니다. LFM3-1.7B-Base에서 시작하는 파인튜닝은 이미 대화 구조와 추론 구분자를 인식하는 모델을 물려받으므로 지도 학습 단계가 단축됩니다. 하지만 신뢰성, 거부 동작, 도구 호출 정확성까지 물려받는 것은 아닙니다. 그것들은 앞으로 수행할 포스트트레이닝에서 나오며, 이는 바로 카드에서 해당 체크포인트의 용도라고 설명하는 부분입니다.

Granite 4.2 3B가 실제로 무엇인지

IBM의 3B는 Granite 4.2 추론 패밀리의 엣지 멤버로, Granite-4.1-3B-Base에서 포스트 트레이닝되었습니다. 밀집형 텍스트 전용 모델이며 128K 네이티브 컨텍스트로 실행되고 512K까지 확장됩니다. 세 가지 추론 모드가 함께 제공됩니다 — 기본적으로 전체 사고, 저노력 모드, 끄기 — 그리고 OpenAI 호환 도구 호출과 다양한 양자화 형식 제품군도 제공됩니다. bfloat16에서는 6~8GB로 실행되고, 실용적인 양자화에서는 2GB 미만이며, Ollama에는 granite4.2:3b 빌드가 등록되어 있습니다.

해당 카드에는 전체 사고 모드에서 AIME 2025 78.33, GPQA 54.80, LiveCodeBench v6 69.71이 보고되어 있습니다. 이는 모두 IBM 자체 수치로, 가중치가 공개된 날 표기된 것이며 독립적으로 재현된 사례는 없습니다. 또한 3B는 8B 및 30B 형제 모델이 받은 에이전트형 강화 학습을 받지 않았기 때문에 SWE-Bench나 Terminal-Bench 점수를 보유하지 않습니다. 이는 에이전트 엔진이 아니라 추론 모델입니다.

LFM3 체크포인트가 실제로 무엇인지

1.73억 개 매개변수의 사전 학습된 텍스트 모델로, 262,144토큰 컨텍스트, 16개 언어에 걸친 128,000토큰 어휘, 3.46GB의 bfloat16 가중치를 갖습니다. 24개 층: 13개의 게이트형 짧은 합성곱, 5개의 슬라이딩 윈도 어텐션 블록, 6개의 전체 어텐션 블록. 4비트에서 약 1GB. LFM Open License v1.0으로, 연간 매출 1,000만 달러 미만이면 상업적 사용이 무료입니다. 카드에는 두 개의 TRL 노트북이 있으며, 하나는 구조화된 추출에 대한 지도 미세 조정용이고 다른 하나는 새로운 언어에 대한 지속 사전 학습용입니다. 어떤 종류의 벤치마크 표도 없습니다.

그들을 구분하는 다섯 개의 숫자

• 매개변수 — LFM3-1.7B-Base는 1.73B dense인 반면, Granite 4.2 3B는 약 3B입니다. 둘 다 전문가 혼합(MoE)이 아니며, 모든 토큰에서 모든 매개변수를 읽습니다.

• 사전 학습 토큰 — LFM3-1.7B-Base의 경우 22조 개입니다. IBM에 따르면 Granite 4.2 제품군은 거의 두 배 크기의 모델에 대해 다섯 단계에 걸쳐 약 15조 개를 학습했습니다. 더 작은 체크포인트가 더 많은 텍스트를 학습했습니다.

• 컨텍스트 — LFM3-1.7B-Base는 네이티브 262,144 토큰, Granite 4.2 3B는 네이티브 128K 및 확장 512K입니다. 기본 모델은 네이티브 길이에서 우세하고, 튜닝된 모델은 상한에서 우세합니다.

• 벤치마크 — LFM3-1.7B-Base에 대해서는 공개된 결과가 없습니다. Granite 4.2 3B의 AIME 2025 78.33, GPQA 54.80, LiveCodeBench v6 69.71은 모두 벤더가 보고한 수치이며 재현되지 않았습니다.

• 라이선스 — 매출 1,000만 달러 기준이 적용되는 LFM 오픈 라이선스 v1.0 vs. 상업적 트리거가 없는 Apache 2.0.

템플릿이 존재하는 이유와 그 가치

그 기이함 속에는 실질적인 엔지니어링 이점이 숨어 있습니다. 지속 사전 학습과 지도 미세 조정은 모두 모델이 실제로 서비스될 형식을 인식할 수 있어야 합니다. 채팅 마크업과 사고 구분자를 이미 본 체크포인트에서 시작한다는 것은, 지도 단계가 포맷팅이 아니라 행동에 그래디언트 예산을 쓴다는 뜻입니다. Granite 4.2 3B는 그런 출발점을 제공하지 않습니다. 대신 완성된 행동을 제공하며, 그런 다음 특화할 수 있지만, 그 특화는 이미 답변 방식에 대한 의견을 가진 모델에서 시작됩니다.

그것이 한 문장으로 요약한 트레이드오프입니다. LFM3-1.7B-Base는 익숙한 형태를 갖춘 더 깔끔한 출발점을 제공합니다. Granite 4.2 3B는 오늘 바로 문제에 투입할 수 있는 작동하는 추론 모델을 제공하며, 원한다면 이후에 미세 조정할 수도 있습니다 — 단, 데이터를 신중하게 구축하지 않으면 후속 학습된 추론 모델을 미세 조정하는 과정에서 애초에 대가를 치르고 얻은 추론 동작이 약화될 수 있다는 주의가 따릅니다.

아무도 테이블에 올리지 않는 예산 질문

추론은 이 비교에서 비용이 적게 드는 쪽이다. 두 모델 모두 노트북에서 실행되고, 둘 다 2GB 미만으로 양자화되며, 그 크기에서 1.73B와 3B의 차이는 실현 가능성보다 초당 토큰 수의 문제다. 비용이 많이 드는 쪽은 데이터다. 독점 과제에서 두 모델 중 하나를 미세 조정하려면 레이블된 예시, 평가 세트, 학습 루프가 필요하며, 그 비용은 3.46GB 다운로드와 6GB 다운로드의 차이를 압도한다.

크기가 달라지면서 바뀌는 것은 그 예산 중 얼마나 많은 부분이 기본 모델이 이미 갖고 있는 능력에 투입되는가이다. 22조 토큰으로 학습된 1.73B 트렁크는 긴 컨텍스트와 폭넓은 언어 혼합을 갖춘 작은 모델이 한 도메인을 빠르게 흡수할 수 있다는 의도적인 베팅이다. 3B 추론 모델은 일반 추론이 더 적은 데이터로 당신의 도메인에 전이된다는 베팅이다. 어느 베팅도 벤더의 수치로 결판나지 않는다. 두 벤더 모두 당신이 중요하게 여기는 작업에 대한 파인튜닝 결과를 공개하지 않았기 때문이다.

파인튜닝 모델이 존재하면 서빙 문제는 별개입니다. OrcaRouter의 라우팅 DSL을 사용하면 전문 모델과 범용 폴백을 하나의 호출 뒤에 둘 수 있으며, 자동 장애 조치 덕분에 소형 모델이 타임아웃되더라도 요청이 함께 실패하지 않습니다. 이는 대형 모델보다 1.73B 파인튜닝 모델에 더 중요합니다. 소형 전문 모델의 실패 방식은 잘못된 도메인에 대한 확신이며, 폴백은 이에 대한 가장 저렴한 방어책이기 때문입니다.

라이선스: 기업 도입을 결정짓는 조항

Apache 2.0은 조달에서 라이선스 논의가 가장 짧게 끝나는 라이선스입니다. Granite 4.2 3B는 이 라이선스로 제공되며, 매출 임계값도 상업적 트리거도 없습니다. LFM3-1.7B-Base는 LFM Open License v1.0으로 제공되는데, 이 라이선스는 연매출 1,000만 달러 미만에는 무료 상업적 사용을 허용하고 그 이상에는 상업용 라이선스를 요구합니다. 독립 개발자에게는 그 차이가 보이지 않습니다. 더 큰 회사 내부의 제품 팀에게 이 임계값은 첫 학습 실행 전에 이루어지는 법률 검토이며, 어느 방향으로든 파라미터 수 우위보다 더 중요할 수 있습니다.

어느 것을 다운로드해야 하나요?

이번 주에는 추론 모델이 필요합니다. Granite 4.2 3B. 완성되었고 문서화되었으며 양자화되었고 노트북에서 실행할 수 있을 만큼 작습니다. 벤더 수치는 재현되지 않았지만 모델은 실행되고 인터페이스는 표준입니다.

도메인 전문가를 구축 중이며 데이터를 확보한 상태입니다. LFM3-1.7B-Base. 22조 토큰 트렁크, 256K 컨텍스트, 16개 언어 어휘는 일부를 덮어쓰게 될 추론 모델보다 더 나은 출발점이며, 채팅 템플릿 덕분에 지도 학습 단계가 익숙한 형식에서 시작됩니다.

추론자와 전문가가 모두 필요합니다. 이들은 대체재가 아닙니다. Granite 4.2 3B는 일반적인 추론 경로를 처리하고, LFM3 파인튜닝은 좁고 대량인 경로를 처리합니다. 둘 다 하나의 엔드포인트 뒤에서 실행하는 것이 선택을 피하는 패턴입니다.

아직 무엇이 빠졌나요?

이 비교에서 격차는 숫자가 아니라 재현입니다. Granite 4.2 3B에는 벤더 벤치마크가 있고 독립적인 실행 결과는 없으며, LFM3-1.7B-Base에는 둘 다 없습니다. 누군가 공개 과제에서 Liquid 체크포인트를 파인튜닝하고 그 결과를 Granite 4.2 3B 기준선과 비교해 보고할 때까지, 선택은 어느 모델이 더 잘 수행하는지가 아니라 어떤 종류의 자산을 원하는지에 달려 있습니다. 템플릿은 기본 체크포인트를 실제보다 더 완성된 것처럼 보이게 합니다. 카드는 그 점을 솔직하게 밝히고 있으며, 바로 그 부분이 다운로드 전에 읽을 가치가 있는 부분입니다.