Gemma 4 12B: Google의 인코더 없는 12B 모델 들여다보기

Gemma 4 12B는 DeepMind의 Gemma 4 패밀리에서 중간 크기에 해당하는 모델이다. 텍스트, 이미지, 오디오, 비디오 프레임을 읽고 텍스트를 써 내는 119억 5천만 개 파라미터의 덴스 오픈 웨이트 모델이며, 이를 규정하는 엔지니어링 결정은 멀티모달 인코더를 전혀 탑재하지 않았다는 점이다. 엣지 중심의 Gemma 4 E4B와 더 크고 희소한 Gemma 4 26B A4B 사이에 자리한다. 출시 노트는 이 모델의 역할을 노트북으로 에이전트형 멀티모달 작업을 가져오는 것으로 규정한다. 즉 추론, 도구 사용, 코딩, 그리고 문서나 화면 이해를 종량제 연결이 아니라 바로 눈앞의 기기에서 실행하는 것이다. 또한 이 패밀리가 자사 사이트에서 차지하는 라이브 존재감 전체를 떠받치는 크기이기도 하다. 이 모델에 관한 비교 페이지가 세 개나 작성되어 있지만, 이 글에 이르기까지 모델 자체를 다룬 페이지는 없었다.

그 역전은 처음에 짚고 넘어갈 가치가 있습니다. 아래 모든 내용의 구조를 설명해 주기 때문입니다. 독자들이 Gemma 4 12B에 이르는 방식은 플래그십에 이르는 방식과 다릅니다. 그들은 옆길로 들어옵니다. 보통 매치업 페이지에서, 종종 진짜 질문은 Gemma 4의 어느 크기인지 — 그리고 다운로드에 시간을 쓰기 전에 비교의 왼쪽 항목이 실제로 무엇인지 알고 싶어 하기 때문입니다. 우리가 이 이름에 대해 측정하는 검색은 압도적으로 비교형입니다. 단독 용어 자체는 빈약합니다. 그래서 이것은 참조 페이지입니다: 12B가 무엇인지, 모델 카드에 무엇이 적혀 있는지, 실행에 무엇이 필요한지, 라이선스가 무엇을 허용하는지, 그리고 기존 세 가지 비교 중 어느 것이 이미 당신이 가지고 온 질문을 해결해 주는지.

이것은 출시 기사가 아니며, 그렇게 읽혀서도 안 됩니다. Gemma 4 12B는 2026년 6월 3일에 출시되었으며 — 이 페이지보다 132일 앞선 날짜입니다 — 발행 전 7일 동안 이 모델에는 아무런 변화도 없었습니다. 이 날짜는 벤더 자체의 릴리스 노트에서 비롯된 것으로, 여기서는 모델을 알리기 위해서가 아니라 모델의 시점을 밝히기 위해 사용됩니다.

12B가 무엇인지, 그리고 26B A4B와 어떻게 다른지

Gemma 4 제품군은 다섯 가지 크기를 갖고 있으며, 이들은 하나의 직선 위에 놓인 다섯 개의 점이 아닙니다. 모델 카드에는 이들을 다음과 같이 나열합니다: E2B, E4B, 12B Unified, 26B A4B 및 31B, 그리고 이들은 두 가지 아키텍처로 나뉩니다: 세 개의 덴스 모델과 하나의 전문가 혼합이며, E 크기 모델은 레이어별 임베딩을 사용하여 실제로 기기에서 실행되는 부분을 축소합니다.

Gemma 4 12B는 밀집 모델입니다. 모델 카드에 따르면 총 파라미터는 11.95B이고, 48개 레이어에 걸쳐 있으며, 1,024토큰 슬라이딩 윈도와 256K토큰 컨텍스트를 사용합니다. Gemma 4 26B A4B는 이와 대조적으로 이 제품군의 전문가 혼합(MoE) 모델입니다. 총 파라미터는 25.2B이지만 토큰당 활성 파라미터는 3.8B에 불과하며, 30개 레이어에 걸쳐 128개 중 8개 활성 전문가와 공유 전문가 1개로 구성되어 있습니다. 이름에서 "A"가 핵심인데, 이 모델은 26B의 가중치를 보유하면서 각 순전파마다 약 4B만 사용하므로, 모델 카드에서는 4B 모델만큼 거의 빠르게 실행되면서 훨씬 더 많은 지식을 보유한다고 설명합니다.

그래서 솔직히 한 줄로 구분하자면 이렇습니다. 26B A4B는 지연 시간 단위당 최대 성능을 원하면서 이를 올려둘 워크스테이션이나 서버가 있을 때 선택하는 크기입니다. 12B는 기기가 노트북이고 메모리 예산이 16GB일 때 선택하는 크기입니다. 출시 노트는 12B를 E4B와 26B A4B 사이의 가교로 규정하며, 사양표도 이를 뒷받침합니다.

더 흥미로운 차이는 아키텍처에 관한 것이며, 이것이 12B가 단순히 "Dense"가 아니라 "Unified"로 표시된 이유입니다. 이 패밀리의 다른 모든 멀티모달 모델은 이미지와 오디오를 전용 인코더를 통해 처리한 뒤 그 결과를 언어 모델에 넘깁니다 — 카드에는 E 크기에서 약 150M 비전 인코더와 약 300M 오디오 인코더가 나열되어 있고, 31B와 26B A4B 모두에서 약 550M 비전 인코더가 나열되어 있습니다. 12B에는 둘 다 없습니다. 12B의 비전 및 오디오 인코더 파라미터 열은 두 경우 모두 대시로 표시되어 있습니다.

그것들을 대체한 것은 규모가 작다. 출시 게시물은 비전을 경량 임베딩 모듈, 즉 단일 행렬 곱셈에 위치 임베딩과 정규화를 더한 것으로 설명하고, 오디오는 인코더를 완전히 제거하고 원시 신호를 텍스트 토큰과 같은 차원 공간으로 투영하는 것으로 설명한다. 원시 이미지 패치와 오디오 파형은 단일 디코더 전용 트랜스포머로 곧바로 들어간다. 제시된 이점은 멀티모달 지연 시간이 더 낮고, 인코더마다 하나씩이 아니라 단일 어댑터로 모든 모달리티에 걸쳐 전체를 한 번에 미세 조정할 수 있다는 것이다.

이것은 또한 12B가 네이티브 오디오 입력을 지원하는 첫 중형 Gemma인 이유이기도 합니다. 카드에서 "텍스트, 이미지, 오디오"는 E2B, E4B, 12B의 모달리티 행이며, 31B와 26B A4B는 "텍스트, 이미지"만 표시되어 있습니다.

모델 카드가 명시하는 바에 따른 명세

이 섹션의 모든 내용은 ai.google.dev에 있는 Gemma 4 모델 카드에서 가져온 것으로, 12B만이 아니라 전체 모델군을 다룹니다. 카드에서 다루지 않은 부분은 채워 넣지 않고, 그 사실을 명시해 두었습니다.

• 컨텍스트 길이 — 12B에서 256K 토큰. 카드에는 이 구분이 명시적으로 적혀 있습니다: 소형 모델(E2B, E4B)은 128K, 중형 모델(12B, 26B A4B, 31B)은 256K를 받습니다.

• 모달리티 — 텍스트, 이미지, 오디오 입력; 텍스트 출력. 이 카드는 비디오를 프레임 시퀀스로 처리되는 패밀리 기능으로 기재하고 있으며, 모든 크기에서 가변 종횡비와 해상도의 이미지 입력을 설명합니다.

• 총 파라미터 — 11.95B, 덴스, 48개 레이어. 이 카드에는 활성화할 전문가가 없으므로 활성 파라미터 수치가 표기되어 있지 않습니다.

• 슬라이딩 윈도우 — 1,024 토큰으로, E-sizes가 사용하는 512의 두 배입니다.

• 어휘 — 262K, 다섯 가지 크기 모두에서 공유

• 어텐션 — 로컬 슬라이딩 윈도우 어텐션과 완전한 전역 어텐션을 교차 배치하는 하이브리드이며, 마지막 레이어는 항상 전역입니다. 전역 레이어는 통합 키와 값에 비례 RoPE를 더해 긴 컨텍스트에서 메모리를 억제합니다.

• 언어 — 140개 이상의 언어로 사전 학습되었으며, 해당 카드에서는 35개 이상의 언어에 대해 별도 설정 없이 바로 사용 가능한 지원을 제공한다고 주장합니다.

조정해 볼 만한 두 숫자가 있는데, 서로 어긋나 보이지만 실제로는 그렇지 않다. 모델 카드에는 256K 토큰이라고 적혀 있고, Gemma 4 12B의 Artificial Analysis 모델 페이지에는 262k라고 적혀 있다. 이 둘은 같은 수치를 두 가지 방식으로 쓴 것일 뿐이며 — 262,144 토큰은 256K다 — 카드 근처에 있는 262K 어휘 수치 때문에 이 둘이 언뜻 모순돼 보이는 것이다.

벤치마크에서 이 카드는 인스트럭션 튜닝된 체크포인트에 대한 패밀리 표를 공개하며, 이 수치는 독립적인 것이 아니라 공급업체가 보고한 것입니다. 다음으로 Gemma 4 12B의 경우, 카드에는 MMLU Pro 77.2%, GPQA Diamond 78.8%, 도구 없이 AIME 2026 77.5%, LiveCodeBench v6 72.0%, Codeforces ELO 1659, MMMU Pro 69.1%, 128K에서 니들 8개로 MRCR v2 43.4%가 나열되어 있습니다. 같은 표에서는 Gemma 4 26B A4B를 MMLU Pro 82.6%, AIME 88.3%, LiveCodeBench 77.1%, MRCR 44.1%로 기록합니다 — 대부분의 행에서 앞서는데, 이는 더 큰 모델에서 기대할 수 있는 결과이며, 몇몇 항목에서는 충분히 근접해 있어 크기 차이가 전부는 아닙니다.

Artificial Analysis의 독립적인 분석은 하나의 헤드라인으로 요약됩니다: Intelligence Index 점수 14점, 비교 클래스에서 141개 모델 중 20위, 측정된 출력 속도 초당 110.9토큰, 그리고 백만 입력 토큰당 $0.10, 백만 출력 토큰당 $0.30의 혼합 비용입니다. 이 비용 수치는 오픈 웨이트를 제공하는 서드파티 플랫폼 전반의 중앙값이지, 공급업체의 정가가 아닙니다 — 이 점은 정확히 짚을 가치가 있는데, 공급업체는 모델 카드에 12B에 대한 토큰당 가격을 전혀 공개하지 않기 때문입니다.

실행할 때: 실제로 필요한 것

출시 글은 핵심 요구 사항을 직접 제시합니다: 12B는 "16GB의 VRAM 또는 통합 메모리만으로 로컬에서 실행할 수 있을 만큼 작습니다." 이를 위해 공개된 양자화 크기들이 그 점을 구체적으로 보여줍니다.

• 전체 정밀도 — Hugging Face의 인스트럭션 튜닝 체크포인트는 단일 23.92GB safetensors 파일입니다. bfloat16 기준으로 이는 KV 캐시를 제외한 순수 가중치 용량이므로, 16GB 머신에는 담을 수 없고 24GB 카드도 빠듯합니다.

• 벤더 자체의 양자화 빌드 — 12B가 단순한 사후 양자화기가 아니라 양자화 인식 학습과 함께 제공되었기 때문입니다. 벤더는 가중치용 약 6.98GB의 QAT GGUF와 0.18GB 멀티모달 프로젝션 파일을 공개하며, 10.26GB의 QAT compressed-tensors 빌드(w4a16)도 공개합니다. 또한 재양자화하기 전에 미세 조정할 기반으로 특별히 공개된 양자화되지 않은 QAT 체크포인트도 있습니다.

• 커뮤니티 GGUF — 널리 미러링된 Unsloth 빌드는 가장 공격적인 2비트에서 약 4.2GB부터 IQ4_XS의 6.38GB, Q4_K_M의 7.12GB, Q5_K_M의 8.41GB, Q8_0의 12.67GB까지 이릅니다. LM Studio 미러는 Q4_K_M을 7.38GB, Q6_K를 9.79GB, Q8_0을 12.67GB로 게시하며, 각각 동일한 0.18GB 프로젝션 파일을 포함합니다.

• MLX — Apple 실리콘용 8비트 양자화 빌드는 세 개의 파일에 걸쳐 약 12.7GB에 달하며, 코딩 파인튜닝의 4비트 커뮤니티 빌드는 약 6.7GB에 이릅니다.

함께 읽어 보면, 이것이 "이게 들어갈까?"에 대한 실질적인 답이다. 4비트 빌드의 경우, Gemma 4 12B의 약 7GB 버전이 공급업체가 주장하는 그대로 16GB 노트북에서 작동하게 해 주는 버전이다. 모델을 양자화하지 않으려면 목표는 24GB 카드 이상이고, 전체 256K 컨텍스트를 원한다면 가중치가 차지하는 용량에 더해 캐시를 위한 여유 공간이 필요하다.

출처가 여러분에게 주지 않고, 이 페이지도 지어내지 않을 두 가지가 있습니다. 로컬 추론에 대해 공급업체가 공개한 처리량 수치는 없습니다 — Artificial Analysis의 초당 110.9 토큰은 제3자 인프라에서의 호스팅 측정치이지 노트북 수치가 아니며, 이 둘은 서로 바꿔 쓸 수 없습니다. 그리고 양자화별로 공개된 최소 RAM 표도 없습니다. 위의 크기는 파일 크기이며, 이는 하한일 뿐 요구 사항이 아닙니다.

모델 카드가 실제로 문서화하는 것은 어떤 단일 공인 런타임이라기보다 그를 둘러싼 툴체인이다. 추론과 파인튜닝에는 Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM, Unsloth가 있고, 패키징된 로컬 경로로는 LM Studio, Ollama, LiteRT-LM이 있으며, 가중치는 Hugging Face와 Kaggle에 있다. 12B는 또한 별도의 assistant 체크포인트로 공개된 멀티 토큰 예측 드래프터와 함께 제공되는데, 이는 메모리를 더 쓰는 대신 지연 시간을 줄이는 작은 추가 다운로드다.

비교 페이지라면 모호하게 남겨두기 마련인 부분이기에, 라우팅에 관한 한 가지 사실을 분명히 밝힙니다: Gemma 4 12B는 OrcaRouter가 서비스하는 모델이 아닙니다. 어떤 표기로도 마찬가지입니다 — 이름만 단독으로 쓴 것도, 날짜가 붙은 변형도, 양자화된 버전도 아닙니다. 우리가 실제로 라우팅하는 Gemma 4 크기는 26B A4B와 31B입니다. 따라서 이 모델을 호출하고 싶다면 가중치를 직접 호스팅하거나 이를 제공하는 서드파티 호스트를 이용하는 것이 방법이고, 직접 운영하고 싶지 않다면 솔직한 다음 단계는 같은 패밀리의 다른 크기가 필요한 것을 제공해 주는지 확인하는 것입니다.

라이선스, 특히 이 크기용으로요.

Gemma 4 모델 카드는 라이선스를 Apache 2.0으로 명시하고 Gemma 4 라이선스 페이지로 연결하는데, 해당 페이지는 Apache 2.0 텍스트를 제공합니다. 이는 표준 Apache 라이선스로, 사용량 상한도, 월간 활성 사용자 기준도, 별도의 상업용 등급도 없습니다. 12B instruction-tuned 체크포인트용 Hugging Face 저장소도 메타데이터에 동일한 선언을 담고 있으며 같은 라이선스 URL을 가리킵니다. 따라서 이 규모에서는 라이선스 질문에 대한 답이 짧습니다: Apache 2.0 조건에 따라 상업적이든 아니든 사용하고, 수정하고, 재배포할 수 있습니다.

이와 함께 두 개의 부수 문서가 존재하는데, 이는 라이선스와 혼동하기보다는 알아 두는 것이 좋습니다. 벤더는 Gemma 이용 약관 페이지와 Gemma 금지 사용 정책을 게시합니다. 금지 사용 정책은 모델이 생성해서는 안 되는 출력 범주를 나열한 행위 지침 문서입니다. 그것은 정책이며, 가중치에 대한 라이선스 제한이 아닙니다 — 가중치 자체는 Apache 2.0이고, 바로 이 점이 이 모델의 커뮤니티 파생물을 애초에 가능하게 만듭니다. 만약 다음을 재배포한다면: Gemma 4 12B 또는 그 파인튜닝 버전 — 재배포를 규율하는 것은 라이선스이고, 허용 가능한 사용을 규율하는 것은 이 정책입니다.

그 구분은 누구의 행동을 특징지을 필요 없이, 커뮤니티 파생 생태계가 제기하는 질문에 답한다. 가중치가 허용적 라이선스 아래 공개되어 있기 때문에, 제3자는 12B의 파인튜닝과 양자화를 공개할 수 있고 실제로 공개한다 — abliterated 변형, 도메인 파인튜닝, 대체 양자화 레시피. 라이선스가 허용하는 것은 그러한 파생물의 재배포이며, 그 라이선스는 그것들이 존재하는 이유이기도 하다.

이 페이지가 뒤따르는 세 가지 비교

이 스템 아래의 세 라이브 페이지는 모두 매치업이며, 각 페이지는 이미 서로 다른 질문에 답하고 있습니다. 이 페이지는 그중 어느 것도 판정하지 않습니다 — 이 페이지는 그들이 설명하는 대상 그 자체입니다.

• Gemma 4 12B vs Gemini 3.5 Flash-Lite — 두 옵션이 모두 같은 공급업체의 것이고 비교 축이 지불 방식일 때 벌어지는 일을 정리한다: Apache 2.0에 따라 다운로드하는 모델 대 호스팅 API에서 가장 저렴한 종량제 등급.

• Gemma 4 12B vs GLM 5.2 — 극도로 비대칭적인 이 맞대결의 승부를 가린다: 노트북에 올려 쓰는 인코더 없는 12B 모델과, 가격이 몇 배나 더 높고 장기 지평 에이전트형 코딩을 위해 만들어진 744B 파라미터 오픈 웨이트 전문가 혼합 모델.

• Gemma 4 12B 대 Qwen3.8 Max — 온디바이스냐 임대냐 하는 문제를 정면으로 결판낸다: 책상 위에 놓인 기계 한 대 대, 같은 연구소의 플래그십을 토큰으로 제공받는 것.

만약 실제로 원하는 것이 또 다른 12B 비교가 아니라 다른 Gemma 4 크기 중 하나라면, 다섯 가지를 한 번에 다루는 페이지는 패밀리 허브이며, 여기에서 E2B, E4B, 26B A4B, 31B가 함께 설명됩니다. 그리고 12B가 적절한 크기가 아니라고 이미 결정했다면, 12B가 가장 자주 비교되는 모델들 — GLM 5.2, Qwen3.8 Max, Gemini 3.5 Flash-Lite — 은 모두 하나의 키로 OrcaRouter를 통해 이용할 수 있습니다.공급자 자체 정가에 0% 마크업으로, 벤더의 가격 인하가 발표되는 당일 바로 여기에 반영됩니다.

무엇이 아직 해결되지 않았나요?

두 가지 공백은 얼버무리기보다 분명히 짚고 넘어갈 가치가 있습니다. 위의 벤치마크 표는 벤더가 보고한 것입니다 — 벤더 자체의 모델 카드와 평가 설정에 따른 것이죠 — 그리고 Artificial Analysis가 이후 이 모델을 Intelligence Index 14로 독립적으로 평가하기는 했지만, 벤치마크별 수치에 대한 폭넓은 독립적 재현은 없으므로 행별 숫자는 주장으로 취급하십시오. 또한 12B에 대해 공개된 양자화별 메모리 표가 없는데, 이는 "16GB면 충분하다"는 문구가 이를 뒷받침하는 파일 크기가 있는 벤더의 주장일 뿐, 그대로 복사할 수 있는 측정된 구성은 아니라는 뜻입니다.

모델 자체는 자리매김하기 쉽습니다: Apache 2.0, 인코더 없는 12B 파라미터 멀티모달 모델로, 2026년 6월 3일자이며, 4비트로 노트북에서 실행되고 네이티브 오디오를 갖춘 가장 작은 Gemma 4 크기입니다. 이 모델이 아닌 것은 퍼스트파티 호스팅 요금이 있는 모델이라는 점이며, 이 때문에 이 모델을 둘러싼 실용적 결정은 하드웨어 결정이 먼저이고 가격 결정이 그다음입니다.

어떤 매치업에서 여기로 오셨는데 그 매치업이 필요한 것이 아니라면, 다음 페이지는 질문에 맞는 비교이며, 그마저도 아니면 더 넓은 Gemma 4 패밀리입니다 — 12B는 다섯 가지 크기 중 하나이고, 실제로 원하는 크기는 오늘 호출할 수 있는 26B A4B일 수도 있고 패밀리 범위의 최상단에서 실행할 수 있는 31B일 수도 있습니다.