'ZwZ2-4B, 출시 없이 배포되다'라는 제목의 생성된 타이틀 카드에는 '공지되지 않은 릴리스에 대한 대응'이라는 오버라인, '전체 모델 카드, 25개의 벤치마크 주장, 다운로드 0회'라는 부제, 그리고 '4.54B 파라미터', '다운로드 0회', '라이선스 파일 없음', '+5.38 벤더 보고'라고 적힌 네 개의 둥근 칩이 있습니다. 푸터에는 '수치는 2026년 10월 27일 Hugging Face 저장소에서 읽은 것입니다.'라고 적혀 있습니다. OrcaRouter 로고는 아트워크 아래의 흰색 띠에 합성되어 있습니다.
Guides & Insights

공식 출시 없이 배포된 ZwZ2-4B: 모델 카드가 말하는 것과 말하지 않는 것

작성자

Alistair Wren

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

해당 ZwZ2-4B 저장소는 2026년 10월 15일 06:11 UTC에 생성되었으며, 오늘 아침 기준으로 다운로드 0회, 좋아요 0개입니다. 아무도 공지하지 않은 체크포인트로서는 이례적인 일이 아닙니다. 이례적인 점은 이 저장소가 완전한 모델 카드도 함께 제공한다는 것입니다: 방법 섹션, 학습 데이터 설명, 퀵스타트 블록, 그리고 25개 벤치마크에서 5.38포인트 향상을 주장하는 대표 결과가 있습니다. 비교 대상은 Qwen3.5-4B이며, 이 모델이 파인튜닝된 원본 모델입니다. inclusionAI는 발표 없이 문서를 게시했습니다. 카드는 있고 보도자료는 없으며, 이 둘의 차이가 이 체크포인트의 전부입니다.

이 글은 주장하는 범위를 의도적으로 좁혀 두었다. 아래에서 저장소 사실로 표시된 모든 내용은 파일에서 직접 읽은 것이다 — 구성, 가중치 인덱스, 데이터셋 항목, 카드 자체. 벤더 주장으로 표시된 모든 내용은 inclusionAI 자체의 수치이며, 결과가 아니라 주장으로서 그대로 옮긴 것이다. ZwZ2-4B에 대한 독립적 평가는 존재하지 않으며, 그렇지 않다고 말하는 사람은 누구든 당신에게 카드 내용을 그대로 되읽어 주는 것뿐이다.

실제로 무엇이, 어떤 날짜에 도착했나요?

ZwZ2 패밀리는 약 23시간 30분의 시간 창 안에 크기 역순으로 등장했습니다. ZwZ2-4B가 10월 15일 06:11 UTC에 가장 먼저 나왔습니다. ZwZ2-9B는 10월 16일 03:42에 뒤따랐습니다. ZwZ2-27B가 같은 날 아침 05:42에 세트를 마무리했고, 학습 데이터셋인 inclusionAI/ZwZ2-RL-VQA는 사흘 뒤인 10월 19일에 등장했습니다. 세 리포지토리와 데이터셋, 패밀리 컬렉션 모두 오늘인 10월 27일의 타임스탬프를 담고 있습니다 — 아직 공개 발표가 붙지 않은 패밀리에 대해 가장 최근에 이루어진 유지보수 작업입니다.

일어나지 않은 일: inclusionAI의 블로그에는 게시물이 없었고 릴리스 스레드도 없었다. 세 체크포인트가 하나의 컬렉션을 공유하기는 한다, Zooming-without-Zooming-v2, 항목이 네 개나 되지만 컬렉션은 공지가 아니라 컨테이너일 뿐이다. 1세대 코드를 호스팅하는 GitHub 저장소는 전혀 업데이트되지 않았다 — 여전히 네 가지 모델, ZwZ-2B, ZwZ-4B, ZwZ-7B, ZwZ-8B를 나열하고 있으며, 모두 Qwen3-VL 백본을 기반으로 만들어졌다. v2 제품군은 그 안에 없다. ZwZ2-4B를 만들어낸 코드를 찾으러 가면 그 전신의 코드를 발견하게 될 것이고, 그곳의 README에는 당신이 들고 있는 모델이 언급되지 않을 것이다.

A screenshot of the Hugging Face model page for inclusionAI/ZwZ2-4B showing 0 likes, tags for Image-Text-to-Text, qwen3_5, zwz2 and arxiv:2602.11858, a Downloads last month figure shown as a dash, a model size of 5B params in BF16, the notice 'This model isn't deployed by any Inference Provider', a model tree running from Qwen3.5-4B-Base through Qwen3.5-4B to this checkpoint, the training dataset inclusionAI/ZwZ2-RL-VQA at 20.7k with 5 downloads, the collection Zooming-without-Zooming-v2 with 4 items, and card text reporting overall accuracy rising from 49.41 to 54.79.

주장으로서 진술된 그 주장

inclusionAI의 카드에는 기본 모델의 전체 정확도가 49.41, ZwZ2-4B가 54.79라고 보고되어 있으며, 이는 여섯 개 도메인으로 묶인 25개 벤치마크에서 측정한 값입니다. 카드에 따르면 모델은 해당 벤치마크 모두에서 개선되었고, 전체 및 도메인 평균은 각 벤치마크에 동일한 가중치를 부여합니다. 카드에서 명시한 여섯 도메인은 세밀한 지각, 공간 추론, 긴 문맥 이해, 멀티모달 에이전트 및 일반 시각 추론, 그리고 헤드라인 수치를 담당하는 세밀한 그룹입니다.

그 두 숫자가 이 모델에 대한 정량적 근거의 전부다. 벤치마크별 점수는 텍스트가 아니라 그림, 즉 PNG와 SVG로 페이지에 존재하므로, 대표 결과 8개와 전체 25개는 눈에 보이지만 기계 판독은 불가능하다. 산문으로 설명된 유일한 벤치마크 세트는 MMLongBench*이며, 그 시각적 핵심은 25개의 비 Counting 작업 전반에 걸쳐 V-RAG, Image MM-NIAH, VH-Multi로 나열된다. 이 카드는 또한 "고급 모델"의 이미지 해상도가 서빙 플랫폼에 의해 제한된다고 언급하는데, 이는 타당한 유의점이며 인식 점수가 부분적으로는 이미지가 모델에 어떻게 도달했는지에 대한 진술이라는 점을 상기시켜 준다.

4B급 모델에게 25개 벤치마크에서 +5.38 평균은 큰 주장입니다. 또한 이는 벤더가 가장 내세우기 쉽고 가장 검증하기 어려운 바로 그런 주장이기도 합니다. 벤치마크 세트와 가중치, 해상도를 벤더가 선택했기 때문입니다. 54.79는 계획의 기준으로 삼을 숫자가 아니라 재현해야 할 숫자로 취급하십시오.

방법: 단일 패스, 줌 없음, SFT 없음

학습 파이프라인은 EvidenceConnect라고 하며, 이는 연구소가 올해 초 "Zooming without Zooming"이라는 이름으로 발표한 아이디어의 2세대입니다. 전제는 세밀한 시각 인지가 보통 추론 시점에 해결된다는 것입니다 — 영역을 잘라내고, 질문을 다시 던지고, 반복하는 식이며, 이는 비용이 많이 들고 취약합니다. ZwZ2는 대신 모델이 단일 순전파 안에서 지역적 증거에 주의를 기울이도록 가르칩니다.

이 카드에서 설명하는 구성은 네 단계로 진행된다. 관련 영역들은 이미지당 3~7개씩 묶이며, SA-1B에서 가져온다. 질문은 해당 영역들의 특권적 확대 뷰를 기준으로 생성되므로, 질문 작성자는 정책 모델이 추론 시에는 결코 볼 수 없는 세부 정보를 볼 수 있다. 그런 다음 이 질문들은 두 번 필터링된다. 한 번은 교차 모델 합의에 의해, 또 한 번은 영역 하나를 제거했을 때 실제로 답이 바뀌는지 확인하는 드롭-원-리전 테스트에 의해. 검증된 질문은 네 개 선택지의 다지선다 과제가 되고, 모델은 GRPO로 훈련된다. 지도 미세 조정 단계는 전혀 없다.

추론 시 정책은 색상으로 표시된 영역 윤곽선이 그려진 전체 이미지를 봅니다. 특권적 크롭은 데이터 구성 중에만 존재합니다. 패밀리의 각 모델 크기는 대략 20,000개의 훈련 예시를 사용했습니다. 데이터셋 카드에는 정확한 수치가 20,662개의 객관식 질문, 다운로드 5회, 생성일 10월 19일로 기재되어 있습니다.

이 설계에는 이를 평가할 계획이 있는 사람이라면 누구나 주목할 만한 한 가지 가시적인 결과가 있습니다. 네 가지 선택지 객관식으로만 학습된 모델은 개방형 캡셔닝이나 자유형 시각 질의응답과는 전혀 다른 과제 형태에 맞춰 최적화되고 있습니다. 이미지에 대한 한 문단을 요구하는 작업이라면 이 체크포인트는 그런 작업으로 학습되지 않았으며, 카드의 한계 섹션에서도 그 점을 명시하고 있습니다: 환각된 세부 정보, 잘못 읽은 텍스트, 계수 오류, 공간 오류.

실험실과 무관하게 그 구성이 입증하는 것

공개된 파일에 대한 산술이기 때문에 굳이 믿을 필요가 없는 종류의 사실이 있습니다. ZwZ2-4B는 BF16 기준 매개변수 수가 4,539,265,536개이며, 단일 9.08GB safetensors 파일로 저장됩니다. Hugging Face 페이지는 이를 "5B"로 반올림하는데, 이는 후하게 잡은 편입니다. 인덱스에는 4.54B라고 나와 있습니다. 그 기반인 Qwen3.5-4B는 4,659,865,088개이므로, 파생 모델은 약 1억 2,060만 개의 매개변수가 더 적습니다.학습 원본 모델보다

그 차이는 config에서 명확히 설명된다. Qwen3.5-4B는 멀티 토큰 예측 레이어를 하나 선언하고, ZwZ2-4B는 0개를 선언한다. 추측 디코딩 헤드가 제거되었다. 4.6B 체크포인트에서 MTP 헤드를 제거하면 관측된 격차와 거의 정확히 일치한다. 이는 9B 형제 모델이 지닌 것과 동일한 편집이며, 이것이 이 모델들이 새로 학습된 모델이 아니라 후속 학습된 파생 모델이라는 가장 강력한 증거다.

스택의 나머지 부분은 베이스와 동일합니다:

• 깊이 — ZwZ2-4B와 Qwen3.5-4B 모두에서 32개 레이어

• 너비 — 은닉 크기 2,560, 중간 크기 9,216

• 어텐션 — 쿼리 헤드 16개 대 KV 헤드 4개, 헤드 차원 256, 선형 대 전체 3:1 스케줄(선형 레이어 24개, 전체 레이어 8개)

• 어휘 — 248,320개 토큰, 공유(tied) 임베딩

• 컨텍스트 — 262,144개 위치, 11/11/10 분할의 M-RoPE, 부분 회전 계수 0.25

• 비전 타워 — 은닉 차원 1,024에서 24개 레이어, 패치 크기 16, 2×2 공간 병합

• 런타임 — transformers 5.13.1, 아키텍처 식별자 Qwen3_5ForConditionalGeneration

A generated single-column scoreboard card titled 'ZwZ2-4B - the scoreboard' with six rows: Parameters 4.54B, Layers 32, Hidden size 2,560, Context 262,144, Vision tower 24 x 1,024 and Licence none declared. The footer reads 'Config figures read from the published repository; benchmark gains are vendor-reported.' The OrcaRouter logo is composited in the white strip below the artwork.

채팅 템플릿은 모델이 기본적으로 어떻게 동작하는지를 바꾸기 때문에 한 줄로 언급할 가치가 있습니다. 공개된 템플릿은 non-thinking 모드로 실행되며 모델에게 최종 답변을 <answer> 태그 안에 넣도록 지시합니다. 이를 자유 텍스트를 기대하는 일반적인 VLM 하네스로 로드하면 출력에 태그가 생겨서 왜 그런지 의아하게 될 것입니다.

카드가 당신에게 말해주지 않는 것

카드에 적힌 그 무엇보다 세 가지 격차가 더 중요하다.

첫 번째는 라이선스입니다. 해당 저장소에는 LICENSE 파일도, 라이선스 태그도 없습니다. 카드 자체의 문구는 "공개된 가중치와 함께 제공되는 라이선스 및 적용 가능한 백본 라이선스"에 따른다고 하지만, 정작 따라야 할 라이선스 파일이 함께 제공되지 않습니다. 백본인 Qwen3.5-4B는 Apache-2.0이므로, 가장 가능성 높은 해석은 파생물이 이를 상속한다는 것입니다. 그러나 '가능성이 높다'는 것은 '선언되었다'와 같지 않으며, 법무 검토에서는 존재하지 않는 파일을 가리키는 카드 문장을 받아들이지 않을 것입니다.

두 번째는 논문입니다. v2 방식, 즉 EvidenceConnect, drop-one-region 필터, GRPO 전용 학습은 공개된 문서가 없습니다. 카드의 논문 링크는 여전히 문자 그대로의 자리표시자 PAPER_URL입니다. 저장소에 연결된 유일한 arXiv 식별자 2602.11858은 1세대 논문으로, Qwen3-VL 백본에서의 region-to-image 증류를 설명합니다. 이는 다른 방식이고, 다른 기반 모델 계열이며, 다른 수치 집합입니다. 데이터셋 카드가 동일한 식별자를 물려받기 때문에, 그 태그가 불일치를 그대로 전파합니다.

세 번째는 독립적인 측정이 전혀 없다는 점이다. 어떤 리더보드도 ZwZ2-4B를 채점하지 않았고, 재현 사례도 없으며, 다운로드 카운터는 0에서 움직이지 않았다. 모델은 뛰어나면서 동시에 측정되지 않은 상태일 수 있다. 요점은 연구실 외부에서는 아직 54.79를 확인한 것이 아무것도 없다는 것뿐이다.

당신이 빠지게 될 이름 짓기의 함정

이 모델을 검색하면 먼저 다른 모델이 나옵니다. 1세대 ZwZ-4B는 Qwen3-VL-4B를 기반으로 구축된 실제 문서화된 체크포인트이며, 백본의 61.52 대비 평균 66.86을 기록하고 ZoomBench 점수는 55.74입니다. 이 수치들은 널리 인용되지만 ZwZ2-4B의 수치는 아닙니다. 이 수치들은 다른 기본 모델, 다른 훈련 레시피, 다른 벤치마크 세트에 속합니다.

두 이름은 한 글자만 다릅니다. 이 둘을 뒤섞은 비교 표는 내부적으로는 일관돼 보이지만 틀린 것입니다. 공급업체 페이지나 애그리게이터가 ZwZ2-4B를 66.86으로 표시한다면, 그것이 바로 지금 보고 있는 오류입니다.

이번 주에 작은 비전 모델이 필요하다면

ZwZ2-4B는 OrcaRouter 카탈로그에 없으며, 이 글은 그렇지 않은 척하지 않을 것입니다. 이것은 직접 다운로드해서 서빙하는 체크포인트입니다. Hugging Face 페이지가 인정하는 어디에도 호스팅 엔드포인트가 없고, 해당 페이지는 어떤 추론 제공자도 이것을 서빙하지 않는다고 명시합니다.

카탈로그에 실제로 있는 것은 같은 작업을 위한 실용적인 대안입니다: qwen/qwen3-vl-8b-instruct는 입력 토큰 100만 개당 $0.18, 출력 토큰 100만 개당 $0.70이고, 131K 컨텍스트를 갖추며, 다른 모든 것과 동일한 OpenAI 호환 엔드포인트를 통해 제공됩니다. 계획이 ZwZ2-4B를 호스팅된 비전 기준 모델과 비교 평가하는 것이었다면, 그것이 바로 그 기준 모델이며, 하나의 키로 둘 다 실행하면 두 개의 통합 대신 하나의 클라이언트 라이브러리와 하나의 청구서로 끝납니다. OrcaRouter는 200개 이상의 모델을 라우팅합니다 자동 장애 조치 기능을 갖추고 있어, 해당 엔드포인트를 기반으로 구축한 비전 경로는 단일 업스트림이 정상 상태를 유지하는지에 의존하지 않습니다.

A screenshot of the OrcaRouter model page for qwen/qwen3-vl-8b-instruct showing a 131K-token context, a 32K maximum output, text, image and video input with text output, an input price of $0.18 per million tokens and an output price of $0.70 per million tokens, a p95 time-to-first-token of 7.00 seconds, a Zero Data Retention badge, the model described as an 8B open-weight small vision-language model, and an OpenAI-compatible Python code sample.

다운로드가 0회이고 라이선스 파일도 없는 모델이라면, 이것이 정직한 권고입니다. 비교는 빌려 쓰고, 실험은 직접 소유하세요.

이 평가를 바꿀 수 있는 것은 무엇입니까

세 가지 사건을 중요도 내림차순으로 정리한다. 라이선스 파일, 이것은 법적 미지수를 법적 답으로 바꿔 줄 것이다. 공개 v2 논문, 이것은 누군가 EvidenceConnect 필터링의 누출 여부를 점검할 수 있게 해 줄 것이다 — drop-one-region 테스트는 좋은 아이디어이며, 좋은 아이디어야말로 바로 감사가 필요한 대상이다. 그리고 어떤 형태든 제3자 점수, 왜냐하면 중립적인 하네스에서의 재현 가능한 벤치마크 하나가 이 체크포인트에는 또 다른 천 단어짜리 카드보다 더 큰 도움이 될 것이기 때문이다.

그중 하나가 나오기 전까지, ZwZ2-4B는 잘 문서화되어 있지만 아직 발표되지 않았고 측정되지 않은 4.54B 지각 전문 모델이며, 자체 모델 카드에는 기본 모델보다 5.38점 더 우수하다고 적혀 있습니다. 그것은 진짜이면서 구체적인 주장입니다. 아직 결과는 아니며, 그 구분만이 이 저장소에서 가져올 가치가 있는 유일한 것입니다.