Liquid AI d1-ultra vs Liquid AI d1-3B: 백만 토큰당 $0.042에 빌려 쓰는 엔드포인트, 아니면 직접 소유하는 2.87 GB 체크포인트

Liquid AI d1-ultra는 백만 입력 토큰당 $0.042로 청구되며, 남의 데이터 센터에 있는 남의 가속기에서 실행된다. Liquid AI d1-3B는 호출당 청구 금액이 0원이며, 책상 위의 Jetson Orin Nano에서 실행된다. 이 두 문장은 Liquid AI가 여드레 간격을 두고 출시한 모델들을 설명한다 — d1-3B는 2026년 10월 7일에 발표된 오픈 웨이트 체크포인트이고, d1-ultra는 10월 15일에 나온 API 전용 모델이다 — 그리고 두 문장은 동일한 작업을 설명한다. 모델에 텍스트, 이미지, 또는 둘 다로 이루어진 상태를 주고, 타입이 지정된 질문 세트를 주고, 출력 토큰을 단 하나도 생성하지 않은 채 단일 순전파로부터 보정된 답변을 돌려받는 것이다. 둘 다 산문을 쓰지 않는다. 둘 다 스트리밍하지 않는다. 두 모델의 차이는 추상적인 의미의 "어느 쪽이 더 똑똑한가"가 아니다. 왜냐하면 정직한 답은 하루에 몇 번이나 질문하느냐에 전적으로 달려 있기 때문이다. 실패 모드가 아직 문서화되지 않은 모델에게 유용한 대응물은 다른 곳에서 이미 무엇이 잘못되었는지에 대한 기록이다. 이 등급의 모델들과 관련해 문서화된 AI 사고와 에이전트 실패 사례는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그가 함께 제공된다.

그러한 프레이밍은 이 비교가 단순한 스펙 시트 이상의 가치를 지니는 이유입니다. d1-3B와 d1-ultra는 Liquid AI가 이제 자사 문서에서 명시적으로 밝힌 결정의 양 극단에 있습니다: 패밀리에서 가장 성능이 뛰어난 모델을 토큰당 임대하거나, 3.12B 매개변수 모델을 소유하고 대신 실리콘, 전기, 엔지니어링 시간으로 지불할 수 있습니다. 둘 다 현재 제품입니다. d1-ultra는 회사가 출시한 가장 최신 제품이며, d1-3B는 대부분의 독자가 아마도 시작하는 것이 좋을 모델입니다. 주어진 파이프라인에 어느 것이 적합한지는 실제 교차점이 있는 산술적 질문이며, 공개된 수치로 답할 수 있습니다. 이어지는 내용이 바로 그 답을 제시합니다.

숫자를 내놓기에 앞서 출처에 관한 메모를 하나 붙이겠다. 이는 그것을 어떻게 포맷하느냐보다 더 중요하기 때문이다. 아래 내용은 거의 대부분 Liquid AI 자체 보고이다: 모델 카드, 10월 7일 오픈 웨이트 게시물, 그리고 10월 15일 d1-ultra 게시물. 우리는 이 글을 위해 어떤 의사결정 모델 벤치마크도 독립적으로 재현하지 않았으며, 우리가 아는 한 다른 누구도 그렇게 하지 않았다. 어떤 수치가 누군가의 측정치가 아니라 공개된 숫자에 대한 우리의 계산인 경우에는, 그 수치를 담고 있는 문장에서 그렇게 밝히고 있다.

2026년 10월 중순 기준, 각 모델의 실제 정체

Liquid AI d1-3B는 LFM2.5-VL-3B에서 훈련된 오픈 웨이트, 31억 2천만 파라미터 의사결정 모델로, 디코더 전용 비전-언어 모델입니다. SigLIP2 NaFlex 400M 비전 인코더, 32,768토큰 컨텍스트 윈도우, 128,000토큰 어휘를 갖추고 있으며, 텍스트, JSON, 이미지 또는 이들의 혼합을 상태로 받아 하나 이상의 질문 — Choice, Score, 또는 0과 1 사이의 확률을 반환하는 예/아니오 기본 요소인 noul — 에 단일 포워드 패스로 답합니다. 가중치는 Hugging Face에 LFM Open License 아래 공개되어 있으며, 벤더는 연간 매출 1,000만 달러 미만이면 상업적 이용을 포함해 무료로 사용할 수 있다고 설명합니다. 첫날부터 llama.cpp 지원이 명시되어 있으며, Apple, AMD, Qualcomm, NVIDIA 전반에 걸친 NVFP4 빌드도 제공됩니다.

Liquid AI d1-ultra is the same shape of product pointed at a harder problem. It is API-only — there are no weights, no GGUF, no MLX or ONNX export, and the vendor's documentation index lists it in a row whose only downloadable artifact is the word "API". It was built, per the announcement, on "a larger open-weight model with a series of Liquid-specific heavy customizations," which is the entire architectural disclosure: no parameter count, no context window and no latency figure appear on the vendor's pages. Third-party gateway listings put the context window at 32,768 tokens and one listing has described it as roughly 8.3B total parameters with about 1.5B active per token, but those are catalogue entries, not vendor statements, and we treat them as unconfirmed. The model string is d1-ultra, on the same endpoint as d1: https://api.liquid.ai/decisions/v1/systemone.

그 문단들이 그토록 한쪽으로 치우친 이유는 편집상의 문제가 아니다. 그것은 비교 전체의 문제다. d1-3B는 무엇이든 다운로드하기 전에 하드웨어 규모를 산정할 수 있을 만큼 자세히 문서화되어 있다. d1-ultra는 호출할 수 있을 뿐 그 이상은 할 수 없을 정도로만 문서화되어 있다.

두 인덱스 번호는 같은 척도 위에 있지 않습니다.

이 두 수치에 관한 모든 2차 보도는 65를 48.57 옆에 나란히 놓고, 당신이 뻔한 결론을 내리도록 할 것이다. 먼저 라벨을 읽어라. 두 숫자는 서로 다른 측정 도구로 발표되었기 때문이다.

• d1-3B의 수치 — 48.57, 10월 7일 릴리스 게시글의 Decision Index v0.2.1 공개 스플릿 기준. 벤더는 추가로 이 모델이 10B 미만의 모든 모델보다 앞서며, 자신의 12배 크기인 Decider 35B-A3B와 동등하다고 밝혔습니다.

• d1-ultra의 수치 — 65. 10월 15일 게시물에서 최소 8점 차로 Artificial Analysis Decision Index를 선두한다고 설명했으며, d1-ultra가 모든 작업에서 Jev 1.14를 앞선다는 주장도 담고 있다. 이 발표를 보도한 언론들은 Jev 1.14를 57로 전했는데, 이는 8점 차 리드와 일치한다.

두 가지 사실이 있으며 분명히 말할 가치가 있습니다. 첫째, d1-ultra의 65 뒤에 있는 지수는 제3자의 것이지만, 그 수치는 Liquid AI의 자체 발표와 그에 대한 언론 기사를 통해 우리에게 전달되었습니다 — 우리가 직접 65를 보여주는 공개 표를 로드할 수 없었기 때문에 — 따라서 이 기사에서는 공급업체가 보고한 것입니다. 둘째, 버전 0.2.1 공개 분할 점수와 버전이 지정되지 않은 지수 점수가 동일한 척도에 있다고 보장할 수 없으며, v0.3 지수에는 공개 릴리스가 명시적으로 보고하지 않은 비공개 비전 분할이 있습니다. 격차를 방향성 있는 것으로 — 유료 모델이 의미 있게 더 낫다는 것으로 — 취급하되, 16.4점 측정으로 보지는 마십시오. 우리를 포함해 누구도 이 두 모델을 공통 하네스에 통과시키지 않았습니다.

레이턴시: 한 숫자는 공개되지만, 다른 하나는 공개되지 않는다.

오픈 모델의 속도는 이례적으로 잘 문서화되어 있어, 유료 모델에서의 누락이 더욱 두드러진다. d1-3B의 카드는 RTX 4090에서 단일 질문을 8ms, AMD MI325X에서 9ms, Jetson AGX Thor에서 16ms, Jetson AGX Orin 64GB에서 26ms, Apple M5 Pro에서 30ms, Jetson Orin Nano에서 50ms에 처리한다고 보고하며, 패킹된 처리량은 MI325X에서 초당 1,106개의 결정에 도달한다.

그것들은 이름이 명시된 하드웨어에서의 순전파 타이밍이지, 엔드투엔드 요청 타이밍이 아니며, 이 구분은 사소한 것이 아닙니다. Liquid AI가 의사결정 모델의 호스팅 지연 시간을 마지막으로 공개했던 때 — d1을 소개한 10월 5일 게시물 — 텍스트 의사결정의 경우 200~300ms였는데, 이는 큐잉과 네트워크를 포함한 API 왕복이며, 로컬 카드에서의 8ms 패스와는 비교할 수 없습니다. d1-ultra의 경우 벤더는 어느 형태로도 지연 시간 수치를 전혀 공개하지 않았습니다. 파이프라인이 정확도보다 지연 시간에 제약을 받는다면, 그 부재는 이 페이지에서 가장 중요한 단 하나의 사항입니다. 현재로서는 비싼 모델이 빠른지 알 수 없으며, 알아내는 유일한 방법은 직접 측정하는 것뿐입니다.

마케팅 페이지가 하지 않는 산수

여기서 두 제품이 진정으로 갈라지는데, 이는 냅킨에다 대고도 할 수 있는 계산입니다. 티켓당 noul 질문 하나를 던지는 지원 트리아지 게이트를 가정해 보죠. 한 달에 200,000건의 티켓, 질문당 입력 토큰은 작은 스크린샷 하나를 포함해 대략 1,200개입니다. 그러면 한 달에 2억 4,000만 입력 토큰이 되는데, 바로 이 수량이 백만 토큰당 요율을 눈에 들어오게 만드는 규모입니다.

• d1-ultra의 경우 입력 토큰 100만 개당 $0.042라면, 한 달에 약 $10.08입니다. d1-3B의 경우 호출당 요금이 0이라면, 한 달에 $0.00이며, 여기에 하드웨어 비용이 얼마가 들든 그만큼 더해집니다.

• 2.87 GB Q8_0 빌드는 Jetson Orin Nano에 여유 있게 들어갑니다. 그 장비를 특별히 이 워크로드용으로 구매한다면, 호스팅 엔드포인트 대비 투자 회수 기간은 몇 주가 아니라 몇 년으로 측정됩니다. 이것이 정직한 결론이며, 하드웨어 벤더가 인쇄할 법한 결론은 아닙니다.

• 규모를 뒤집어 보자. 월 2억 건의 질문 — 2,400억 입력 토큰 — d1-ultra의 청구서는 월 약 $10,080이고, 로컬 빌드는 여전히 같은 전력을 잡아먹고 있다. 바로 이 지점에서 체크포인트를 소유하는 일은 더 이상 철학적 선호가 아니라 하나의 비용 항목이 된다.

세 가지 주의사항이 있는데, 모두 같은 방향으로 작용합니다. 위의 모든 토큰 수는 우리가 선택한 값입니다. 여러분의 상태 길이와 이미지 수는 다를 것이고, 이미지는 32×32픽셀 패치당 1.5토큰으로 텍스트처럼 청구되므로 1024×1024 이미지 하나는 입력 토큰 1,536개입니다. 모든 질문은 해당 텍스트와 모든 이미지를 포함한 자체 프롬프트로 청구되므로, 같은 스크린샷에 세 가지 질문을 하면 그 스크린샷에 대한 비용을 세 번 내게 됩니다. 그리고 이 중 어느 것도 엔지니어링 비용을 가격에 반영하지 않습니다. 로컬 경로를 택하면 양자화 선택, 계속 최신으로 유지해야 하는 런타임, 그리고 3.12B의 가중치보다 먼저 메모리를 잡아먹는 비전 인코더가 따라옵니다. 한 달에 모델을 몇천 번 호출한다면, 호스티드 엔드포인트가 셀프 호스팅을 하기로 결정하는 회의보다 더 저렴합니다.

각각이 정답이기를 멈추는 지점

Liquid AI d1-3B는 다음 중 하나가 결정적 제약일 때 올바른 기본 선택입니다: 데이터가 구내나 장치를 떠날 수 없거나, 네트워크 홉이 용납되지 않거나, 호출당 가격이 지배적 비용이 될 만큼 볼륨이 많거나, 상태가 제3자에게 보내고 싶지 않은 라이브 카메라 프레임 또는 스크린샷인 경우입니다. 공급업체의 설명 자체도 그중 첫 번째를 뒷받침합니다 — 이 오픈 릴리스는 NVIDIA DGX, RTX 및 Jetson 하드웨어 전반의 엣지 및 온디바이스 배포를 명시적으로 겨냥하고 있으며 — 체크포인트가 첫 달에 기록한 17,820회 다운로드는 많은 사람이 빠르게 같은 결론에 도달했음을 시사합니다.

Liquid AI d1-ultra는 결정 자체가 어려운 부분일 때 올바른 답입니다. 지식 집약적인 질문, 실제 세계의 맥락과 대조해야 하는 시각적 주장 — 벤더 자체의 예로는 회로 기판 결함과 고객 사진에 대한 손상 청구 매칭이 있습니다 — 그리고 3B 모델의 확신을 도저히 믿을 수 없는 롱테일 사례에 적합합니다. Liquid AI가 이 모델에 대해 내세우는 구체적인 주장은 정확도뿐 아니라 캘리브레이션입니다. 대부분의 결정 모델은 과신한다고 그 글은 주장하며, d1-ultra는 그 확률이 의미를 갖도록 훈련되었습니다. 확률에 임계값을 적용해 argmax를 취하는 대신 0.8 이상은 자동 해결로 라우팅하고 나머지는 사람에게 넘긴다면, 캘리브레이션이 전부입니다. 그리고 이것은 이번 릴리스에서 외부인이 확인하기 가장 어려운 주장이기도 합니다.

둘 다 맞지 않는 경우도 짚고 넘어갈 가치가 있습니다. 답변이 자유 형식 텍스트, 다단계 추적, 또는 요약이라면, 의사결정 모델은 잘못된 도구이며 공급업체도 자체 문서에서 그렇게 말합니다. 상태에 텍스트와 이미지만이 아니라 오디오가 필요하다면, 이 패밀리의 세 번째 멤버인 d1-omni-600M이 그것을 담당합니다 — 그 작업에 d1-ultra를 쓰는 것은 업그레이드가 아니라 범주 오류입니다.

이미 운영 중인 스택에 이것을 통합하기

의사결정 모델이 파이프라인 전체인 경우는 거의 없습니다. 그것은 관문입니다. 티켓이 긴급한지, 사진이 결함인지, 도구 호출이 승인될지를 결정하는 것입니다. 그런데 답변을 작성할 무언가가 여전히 필요하고, 로컬 경로에서 그 '무언가'는 이제 직접 호스팅해야 하는 두 번째 모델입니다. 이것이 자체 호스팅으로 전환할 때 드는 실제 비용이며, 토큰당 비교에는 결코 나타나지 않는 비용입니다. 중소 규모 볼륨에서 실제로 작동하는 패턴은 고빈도 관문용 로컬 d1-3B와 드문 난제용 대여 엔드포인트를 조합하고, 그 결정들이 분기해 나가는 생성 모델들을 OrcaRouter 키로 감당하는 것입니다: 200개 이상의 모델을 아우르는 단일 API, 공급자 정가를 0% 마크업으로 그대로 적용, 그리고 공급자 전반에 걸친 자동 장애 조치 덕분에 업스트림 한 곳의 나쁜 하루가 트리아지 큐를 백로그로 만들지 않습니다. 이것이 무엇을 커버하고 무엇을 커버하지 않는지는 분명히 해둘 가치가 있습니다. 우리는 어떤 Liquid AI 모델도 호스팅하지 않으므로, 결정 호출 자체는 Liquid AI의 API나 로컬 체크포인트로 가며, 그 뒤에 위치하는 것이 OrcaRouter입니다.

결정 모델을 고정된 것으로 취급하기를 멈추는 순간, 비교는 더 이상 이분법적이지 않습니다. 라우팅 DSL을 사용하면 값싼 게이트와 값비싼 라이터를 하나의 호출로 구성할 수 있으며, 퓨전은 모델 패널이 함께 답하도록 해 줍니다 — 단일 모델 하나가 충분히 신뢰할 만하지 않을 때 말입니다. 이 둘 중 어느 것도 d1-3B 대신 d1-ultra를 선택해야 할 이유는 아닙니다. 둘 다 산술이 실제로 움직이는 볼륨에서 이 선택을 다시 검토해 볼 만한 이유입니다.

이 답변을 바꾸려면 무엇이 필요할까요?

가능성이 높은 순서대로 세 가지. d1-3B와 d1-ultra를 동일한 작업에서 동일한 하네스로 평가하는 독립적인 벤치마크 — 그 시점에서 48.57 대 65 격차는 방향성 추정이 아니라 측정값이 된다. d1-ultra의 공개된 지연 시간, 그것이 없다면 지연 시간에 민감한 모든 파이프라인은 호스팅 모델을 미지의 대상으로 취급하고 카나리 경로에서 먼저 측정해야 한다. 그리고 결국에는 더 큰 백본을 기반으로 한 오픈 웨이트 릴리스, 이는 이 패밀리의 역사를 보면 들리는 것보다 훨씬 그럴듯하다: 호스팅으로 시작한 다른 모든 d1 모델은 이틀 안에 다운로드 가능해졌다.

그때까지는 이 경험칙이 유효하다. d1-3B부터 시작하라. 무료로 시도해 볼 수 있고, 이미 가지고 있을 수 있는 하드웨어에서 빠르며, 본격적으로 결정하기 전에 규모를 제대로 산정할 수 있을 만큼 문서화가 잘되어 있기 때문이다. 설득력이 없다고 판명되는 특정 결정들은 d1-ultra로 옮겨라. 둘 사이의 격차는 실재한다. 다만 가격 차이가 시사하는 것보다 좁고, 버전 라벨 없이 나란히 인쇄된 지수 숫자들이 암시하는 것보다 훨씬 좁을 뿐이다.