d1-Omni-2B vs MiniCPM5-2B: 의사결정 모델은 소형 채팅 모델이 아니다

둘 다 오픈 웨이트이고, 둘 다 약 20억 개 파라미터에 가깝으며, 둘 다 랙이 아니라 책상 위에 놓이는 하드웨어를 겨냥합니다. 닮은 점은 거기까지입니다. d1-Omni-2B는 상태 — 텍스트, JSON, 이미지, 비디오 프레임, 오디오 — 와 이름이 붙은 질문 세트를 입력받아, 단일 순방향 패스에서 보정된 확률이 포함된 타입 지정된 답변을 반환합니다. MiniCPM5-2B는 텍스트를 입력받아 더 많은 텍스트를 작성하며, 한 번에 토큰 하나씩 답에 이르도록 추론합니다. 하나를 다른 하나로 바꾸는 것은 모델 업그레이드도 다운그레이드도 아닙니다. 그것은 응답을 소비하는 모든 것을 다시 작성하는 일입니다. 그렇다면 해 볼 만한 비교는 어느 쪽이 더 높은 점수를 받는가가 아닙니다. 그것은 여러분의 파이프라인이 실제로 받아들일 수 있는 계약이 무엇인지, 그리고 그 계약을 지키기 위해 각각이 라이선스, 지연 시간, 배포 작업에서 여러분에게 무엇을 요구하는지입니다.

통화에서 실제로 무엇이 반환되나요?

d1 호출은 대화가 아니라 스키마처럼 보입니다. 여러분은 system_one에 상태와 질문 사전을 전달하며, 각 질문에는 유형이 있습니다 — 예/아니오, 단일 선택, 다중 선택, 순서형 점수, 텍스트 범위, 숫자, 날짜, 하나 또는 여러 개의 경계 상자 — 그러면 질문별로 확률이 함께 제공되는 값을 돌려받습니다. 모델 카드의 예시는 지원 티켓을 라우팅합니다: 환불 플래그, 두 가지 명명된 기준에서 도출한 팀 배정, 그리고 각 항목의 신뢰도입니다. 산문도, 대화 기록도, 방출되는 토큰도 없습니다. 카드에는 이렇게 명확히 적혀 있습니다: 채팅 모델이 아닙니다.

그 설계가 제품의 전부입니다. 디코딩하는 것이 없기 때문에 파싱 단계도, JSON 복구도, 답변을 사과문으로 감싼 모델을 위한 재시도 루프도 없습니다. 선택한 임계값에서 값이 반환되며, 옵션 집합에 해당하는 것이 없을 때는 기권 경로가 있습니다 — Liquid는 해당 기권 테스트에서 서면 78.5, 음성 75.8을 보고합니다. 다운스트림 코드에 큐 할당과 숫자가 필요하다면, 이것이 원하는 형태입니다.

MiniCPM5-2B는 반대 형태를 반환합니다. 이는 답하기 전에 생각하는 표준 Llama 아키텍처 디코더로, 4000억 토큰 규모의 딥싱킹 SFT 단계, 도메인 RL, 그리고 16명의 전문가 교사를 하나의 밀집 체크포인트로 접어 넣는 온폴리시 증류 단계 위에 구축되었습니다. 물론 구조화된 출력을 얻을 수 있습니다. 함수 호출 점수는 괜찮은 편이고 OpenBMB는 vLLM용 도구 파서를 제공합니다. 하지만 그것은 프롬프트에서 요청하고 디코더가 따르리라 신뢰함으로써 얻는 것입니다. 추론이 바로 기능입니다. 그것은 또한 매 호출마다 비용을 지불하는 대상이기도 합니다.

존재하지 않는 맞대결

이 두 모델을 모두 실행한 벤치마크는 없습니다. 이는 보고의 공백이 아니라, 위에서 설명한 분할의 결과입니다. d1-Omni-2B는 Liquid의 의사결정 스위트에만 등장합니다 — DecisionBench v1 76.4, decisionbench.ai v4 84.7, Decision Index public suite v0.3 49.0, ImajevBench v2.0-lite 72.3, 18개 벤치마크에 걸친 비가중 비전 평균 67.7. MiniCPM5-2B는 OpenBMB의 추론 및 에이전트 스위트에만 등장합니다: 34개 테스트 전반 평균 53.9, LiveCodeBench v6 69.1, AIME 2025 86.5, SWE-bench Verified 46.4, BFCL v4 66.6, 그리고 Humanity's Last Exam에서는 훨씬 낮은 8.9. 그 수치 중 어느 것도 첫 번째 목록의 어떤 수치와도 동일한 항목에서 동일한 채점자에 의해 측정되지 않았습니다.

누군가 이 점수들을 나란히 놓은 2열 표를 보여준다면 그것은 짜맞추기이며, 그 짜맞추기는 보기보다 더 나쁘다. 모든 d1-Omni-2B 수치는 벤더가 직접 실행한 것이고, 발표 시점 기준으로 독립적으로 재현된 적이 없다. OpenBMB의 대표 평균 역시 벤더가 직접 실행한 것이다. 이 회사는 학습 코퍼스와 RL 프레임워크를 공개했는데, 이는 대부분의 연구소가 하는 것보다 많은 일이지만 그것은 방법의 재현성이지 점수의 재현성이 아니다.

실제로 존재하는 독립적인 수치들은 주의 깊게 읽을 가치가 있습니다. 인덱스 버전이 달라지면 서로 일치하지 않기 때문입니다. Artificial Analysis는 9월 7일 출시를 다뤘을 때 자사의 v4.2 Intelligence Index에서 MiniCPM5-2B에 15점을 주었습니다. 현재 라이브 페이지에는 12로 표시됩니다. OpenBMB가 자체적으로 주장한 23은 v4.1.1에서 나온 것입니다. 이 세 숫자는 하락도 아니고 논쟁도 아닙니다 — 그 밑에서 인덱스가 바뀐 것이며, 서로 다른 버전의 점수는 비교할 수 없습니다. 방향을 취하고 숫자는 무시하십시오. Artificial Analysis에는 d1-Omni-2B나 그 형제 모델 d1-2B에 대한 페이지가 전혀 없으므로, 의사결정 모델에는 아직 어떤 종류의 독립적인 측정치도 없습니다.

전이 가능해 보이지만 실제로는 그렇지 않은 하나의 숫자: Liquid는 자사의 채팅 모델 LFM3-1.7B를 MiniCPM5-2B와 27개 테스트로 비교해 23대 4로 이겼습니다. 그 결과는 Liquid의 포스트 트레이닝된 디코더가 해당 테스트에서 OpenBMB의 디코더를 이긴다는 것을 말합니다. 그것은 그 실행에 전혀 포함되지 않았던 결정 헤드에 대해서는 아무것도 말하지 않으며, 이 조합을 판가름하는 데 차용되어서는 안 됩니다.

스펙이 실제로 갈리는 지점

• 출력 계약 — 확률이 있는 타입 지정 값과 출력 토큰 0개 대 암시적 추론 흔적이 있는 생성 텍스트. 이 목록의 나머지 모든 항목은 그로부터 파생됩니다.

• 크기 — 4.33GB BF16 체크포인트에 2.17B 파라미터인 반면, 총 2.52B, 비임베딩 1.98B로 BF16에서 약 5GB입니다. 차이가 충분히 작아 어느 쪽도 저장 공간만으로는 우위를 점하지 못합니다.

• 입력 — 텍스트 또는 JSON 상태, 이미지, 비디오 프레임 및 오디오를 한 요청에서 혼합할 수 있으며, 텍스트 전용과 대비됩니다. MiniCPM5-2B에는 비전 인코더도 오디오 경로도 없으므로, 상태에 파형이 포함되어 있다면 이 비교는 여기서 끝입니다. OpenBMB의 멀티모달 라인을 원하신다면, 그것은 서로 다른 트레이드오프를 가진 다른 패밀리인 MiniCPM-V 4.7입니다.

• 컨텍스트 — 131,072 대비 128,000 토큰입니다. 이는 같은 수치를 두 가지 방식으로 표기한 것으로, 어느 모델을 선택해야 할 이유가 되지 않습니다. 중요한 점은 두 모델 모두 긴 문서를 담을 수 있다는 것뿐이며, d1-Omni-2B의 제약은 창이 가득 차기 훨씬 전에 긴 음성 구간이 정확도를 떨어뜨린다는 것이고 카드에도 그렇게 명시되어 있습니다.

• 라이선스 — 연매출 1,000만 달러 기준이 있는 LFM Open License v1.0과, 아무런 조건도 없는 Apache-2.0의 대비입니다. 이는 표에서 가장 큰 단일 차이이며 모델 품질과는 아무 관련이 없습니다.

• 런타임 — 다음을 기반으로 하는 사용자 정의 모델링 코드: trust_remote_code, Transformers 5.19 이상, BF16 전용, 벤더 GGUF 없음, 문서화된 vLLM 또는 SGLang 경로 없음, 수정되지 않은 Llama 도구와 대조: vLLM, SGLang, llama.cpp, MLX, GPTQ, 저장소의 공식 GGUF 및 이미 유통 중인 양자화 빌드.

• 도입 — 10월 24일 저장소가 공개된 뒤 나흘 만에 다운로드 36회와 좋아요 10개를 기록했으며, 9월 6일 이후로는 다운로드 1,216,145회와 좋아요 1,823개를 기록했다. 단서: MiniCPM 수치는 7주라는 시간과 출시 게시물이 있었지만 d1 수치는 둘 다 없었으므로, 이는 판결이 아닌 성숙도 신호로 읽어야 한다.

생각 하나에 맞선 5밀리초

Liquid는 d1-Omni-2B의 웜 콜 지연 시간을 공개하는데, 이는 BF16에서 compile() 이후 측정한 20회 호출의 중앙값입니다. H100 PCIe에서는 질문 하나에 5.8ms, 질문 세 개에 7.7ms, 5,000토큰 상태에 52ms, 384픽셀 이미지에 12.1ms, 10초 분량의 오디오에 12.4ms가 걸립니다. 호출당 64개 상태로 배치 처리하면 초당 1,154개 상태를 처리하며, MI325X는 3.7ms와 초당 1,697개 상태로 더욱 빠릅니다. M5 Pro는 질문 하나에 21.1ms, 초당 110개 상태를 처리합니다. 데이터센터용 카드에 비하면 느리지만, 데스크톱 앱 안에서 즉각적으로 느껴질 만큼은 여전히 빠릅니다.

이것은 공정한 경쟁이 아닙니다. 상대편이 시간을 공개하지 않기 때문입니다. 구조적으로 말할 수 있는 것은 디코더의 지연 시간이 얼마나 많이 "생각"하는지에 비례한다는 점이며, MiniCPM5-2B는 생각하도록 만들어진 모델입니다. 정답이 네 개의 대기열 이름 중 하나인 라우팅 또는 트리아지 호출에서는 아무도 요청하지 않은 근거를, 그것도 토큰당 비용을 지불하며 얻는 셈입니다. Artificial Analysis는 이에 대한 수치를 제시합니다. Intelligence Index 실행 전반에서 이 모델은 7,400만 개의 출력 토큰을 생성했으며, 이는 비교 가능한 모델의 중앙값 6,700만 개와 대비됩니다. 해당 요약에서는 이를 "다소 장황함"이라고 부릅니다. 그것은 이 모델에 반대하는 논거가 아니라, d1-Omni-2B가 만들어진 역할에 이 모델을 사용하는 것에 반대하는 논거입니다.

d1 수치는 늘 그렇듯 주의해서 보세요. 이는 특정 하드웨어에서 컴파일 단계를 거쳐 측정한 벤더 측정값이며, 독립적으로 실행하면 거의 확실히 다른 결과가 나올 것입니다. 살아남는 부분은 규모, 즉 의사결정당 한 자릿수 밀리초입니다.

점수판보다 우선하는 라이선스 조항

MiniCPM5-2B는 Apache-2.0에 따라 배포됩니다. 이를 상업적으로 사용하고, 포크하고, 재배포하고, 제품에 내장할 수 있으며, 이에 대해 변호사와 상담할 필요가 전혀 없습니다. d1-Omni-2B는 LFM Open License v1.0에 따라 배포되며, 이 라이선스는 조직의 연간 매출이 10,000,000달러 미만인 동안에만 상업적 사용을 허용합니다. 해당 기준 이상에서는 라이선스에 상업적 사용이 "본 계약에 따라 라이선스되지 않음"이라고 명시되어 있습니다. 즉, Liquid AI와 별도의 합의를 해야 하거나, 모델을 배포하지 않아야 합니다.

양쪽 모두 재배포가 허용되며, LFM 측에는 조건이 있습니다. 라이선스를 함께 전달하고, 수정된 파일을 표시하고, 고지문을 유지해야 합니다. 리브랜딩 요구 사항은 없습니다. 연구팀, 프로토타입, 또는 기준선을 여유 있게 밑도는 기업에게 그 조항은 형식적인 사항입니다. 모델의 유효 수명 동안 임계값을 넘을 수 있는 기업의 제품팀에게 그것은 첫 벤치마크보다 먼저 도착하는 조달 질문이며 — 아키텍처가 확정된 뒤에 법무팀이 늦게 발견하는 종류의 일입니다.

비대칭성은 충분히 뚜렷하므로 완곡하게 말하지 않고 단언해야 한다: 라이선스만 놓고 보면 MiniCPM5-2B가 어떤 상업적 배포에서도 더 안전한 선택이며, d1-Omni-2B의 라이선스는 그것을 선택할 때 치르는 실질적 비용이지 각주가 아니다.

오늘 실제로 실행할 수 있는 것은 어느 것인가요?

MiniCPM5-2B는 배포가 지루할 정도로 순조롭습니다. 이 크기의 모델이 받을 수 있는 최고의 칭찬입니다. 표준 디코더라서 vLLM과 SGLang이 패치 없이 지원하고, llama.cpp와 LM Studio는 GGUF를 읽으며, MLX는 Apple silicon을 지원하고, Q4_K_M 빌드는 약 1.45GB입니다. 유일한 함정은 도구 호출입니다. 모델이 XML 스타일 호출을 내보내므로 vLLM에서는 minicpm5 도구 호출 파서를 활성화해야 하며, 그렇지 않으면 함수 호출이 산문으로 도착합니다.

d1-Omni-2B는 아직 지루하지 않습니다. 이를 로드하려면 최신 Transformers에서 trust_remote_code=True를 사용해야 하며, torch, torchvision, Pillow도 필요합니다; 리포지토리에는 BF16 safetensors만 포함되어 있고 다른 것은 없습니다. 벤더 제공 GGUF도 없고, 모델 카드에 병합된 vLLM 레시피도 없으며, Hugging Face는 이 모델에 대한 추론 제공자를 나열하지 않습니다 — 따라서 테스트할 호스팅 엔드포인트가 없고, 이는 견적을 제시할 호스팅 가격이 존재하지 않는 이유이기도 합니다. 대부분의 사람들이 택할 실용적인 경로는 Ollama 태그 d1-omni:2b, 동일한 가중치를 감싼 4.4GB 커뮤니티 패키징입니다. 이 방법은 잘 작동합니다. 또한 이것은 개발자가 한나절 만에 이 모델을 시험해 볼 수 있는 유일한 이유이며, Liquid의 작업이 아니라 제3자의 작업입니다.

두 모델 모두 토큰당 가격이 공개되어 있지 않습니다. 두 모델 모두 토큰 단위로 판매되지 않기 때문입니다. 어느 쪽이든 찾을 수 있는 백만 토큰당 수치는 공급업체가 제시한 것이 아니라 GPU 임대료 계산에서 도출된 것입니다. 비용으로 비교하고 있다면, 한 번의 결정이 GPU 시간 몇 초를 소비하는지로 비교하십시오. 그리고 의사결정 모델의 답은 호출이 반환되는 순간 완료되지만, 채팅 모델의 답은 사고를 멈출 때 완료된다는 점을 기억하십시오.

둘 다 사용하는 패턴

이 비교의 솔직한 결론은 이들이 경쟁자가 아니라는 것이며, 유용한 아키텍처는 그렇게 취급합니다. d1-Omni-2B는 저렴하고 대량이며 지연에 민감한 판단을 처리합니다: 어느 큐인지, 어느 팀인지, 같은 청구서인지, 얼마나 긴급한지, 이 열두 개 상자 중 어느 것인지. 로컬에서 실행되고, 임계값을 적용할 수 있는 숫자를 반환하며, 모를 때는 판단을 보류합니다.

MiniCPM5-2B는 언어가 필요한 부분, 즉 고객에게 결정을 설명하고, 답변 초안을 작성하고, 수정안을 작성하고, 체인에서 다음 도구를 호출하는 일을 처리합니다. 첫 번째 작업에는 더 약하고 두 번째 작업에는 더 강하며, 그 분리는 둘 사이의 함수 호출 하나만큼의 비용밖에 들지 않습니다. 즉, 저렴한 모델의 확신도가 설정한 임계값 아래로 떨어질 때만 비싼 모델로 에스컬레이션하는 경로입니다. 그 에스컬레이션 계층은 바로 라우팅 플랫폼이 존재하는 이유입니다. 200개 이상의 모델에 걸친 하나의 API 키를 제공하며, 제공업체 정가에 0% 마크업, 제공업체에 장애가 생기면 자동 페일오버, 그리고 여러 모델을 단일 호출 뒤에 구성할 수 있는 라우팅 DSL을 갖춥니다. d1-Omni-2B와 MiniCPM5-2B는 현재 OrcaRouter의 카탈로그에 없으므로, 이 패턴의 결정을 담당하는 절반은 당분간 자체 호스팅으로 남습니다. 하지만 더 나은 소형 모델이 나올 때마다 교체하고 싶어질 생성 담당 절반은 바로 하드코딩보다 라우팅할 가치가 있는 절반입니다.

누가 무엇을 골라야 할까요?

상태에 오디오나 비디오가 포함되어 있을 때, 문장이 아니라 확률이 필요할 때, 답이 바운딩 박스나 스팬, 또는 범위가 있는 숫자여야 할 때, 그리고 호출이 6ms와 78ms가 서로 다른 제품인 루프 안에 놓여 있을 때 d1-Omni-2B를 선택하세요. 라이선스 임계값이 당신에게 적용된다는 점, 배포는 커스텀 코드 영역이라는 점, 아직 독립적인 평가가 존재하지 않는다는 점을 알고 선택하세요 — Liquid 자체 카드는 오디오가 없는 사람들에게 d1-2B를 가리키는데, 이는 대부분의 공급업체가 자발적으로 제공하는 안내보다 더 정직한 안내입니다.

입력이 텍스트일 때, 출력을 사람이 읽어야 하거나 산문을 원하는 도구에 넣어야 할 때, 긴 문서 전반에 걸친 추론이 필요할 때, 그리고 Apache-2.0과 기본 Llama 배포 경로가 코드를 한 줄도 작성하기 전에 두 범주의 위험을 제거해 줄 때 MiniCPM5-2B를 선택하라. 벤더의 53.9 평균은 재현되지 않았고, 현재 지수에서 독립 점수는 12로 — 같은 크기 등급 모델의 중앙값 5를 크게 웃돌며 이전 버전에서 기록된 15나 23과는 비교할 수 없다 — 또한 공개된 가장 약한 결과인 Terminal-Bench 8.6과 SWE-bench Pro 14.4가 에이전트 작업에 가장 가까운 항목이며, 바로 그 부분에서 가장 많이 마케팅되고 있다는 점을 알고 선택하라.

그리고 정말로 원한 것이 볼 수 있는 소형 채팅 모델이었다면 둘 다 선택하지 마세요. MiniCPM5-2B는 그럴 수 없고, d1-Omni-2B는 채팅을 하지 않으며, 사람들이 검색창에 두 이름 중 하나를 입력할 때 보통 의미하는 모델은 같은 제품군에 속한 다른 모델입니다. 주목할 것은 d1-Omni-2B에 대한 첫 독립 오디오 평가입니다. 말로 된 언어 결과 — 43개 언어에 걸친 FLEURS에서 92.5지만, 짧은 상태(short states)에서는 쓰기 42.0이 듣기 22.8로 무너지고, 다국어 구절에서는 83.6에서 41.8로 — 는 언어를 식별하는 데는 탁월하지만 소리 내어 읽은 단락을 이해하는 데는 취약한 모델을 보여줍니다. Liquid 외부의 누군가가 그 격차를 측정하기 전까지, 음성 입력 사례는 숫자가 붙은 약속일 뿐 결과가 아닙니다.