Liquid AI d1-3B, Ollama에 출시: 결정 모델을 위한 조용한 로컬 엔드포인트

Ollama 라이브러리에 새로운 d1이 추가되었는데, 이는 채팅 모델이 아닙니다. 항목은 이를 한 줄로 설명합니다 — "LFM2.5-VL-3B를 기반으로 한 Liquid AI의 3B 결정 모델" — 그리고 그 한 문장에는 가장 중요한 두 가지 사실이 담겨 있습니다.Liquid AI d1-3B 위에 구축된 Liquid AI의 소형 모델인 Liquid AI LFM2.5-VL-3B는 2026년 10월 5일 오픈 웨이트로 공개되었으며, 이제 한 번의 pull로 자신의 머신에 설치되도록 패키징되었습니다. 그리고 기반 체크포인트가 그러하듯이, 여전히 생성된 텍스트가 아니라 타입이 지정된 질문에 대해 보정된 확률을 반환합니다. 파이프라인에 트리아지, 라우팅, 모데레이션 또는 게이팅 단계가 있다면, 이 특정 모델 패밀리가 API 키도, 호출당 비용도, 하드웨어를 떠나는 상태 텍스트도 없이 실행되는 데 단 한 명령어만 남은 것은 이번이 처음입니다.

"quiet"라는 단어는 여기서 실제로 중요한 역할을 하고 있지만, 이 이야기에서 어느 절반이 문서화되었고 어느 절반이 그렇지 않은지를 정확히 따져볼 가치가 있다. Liquid AI 자체 블로그는 Ollama를 언급한 적이 없다. 이 연구소의 가장 최근 게시물인 2026년 10월 13일 글은 LFM2.5 라인의 다른 모델을 다루고 있으며, 두 편의 d1 게시물 — 10월 5일의 비전 발표와 10월 7일의 "Open d1" 릴리스 — 은 가중치, API, 벤치마크 점수를 설명할 뿐 로컬 런타임은 설명하지 않는다. d1에 대한 Ollama 라이브러리 페이지에도 공지가 없고, 벤더 문서 색인에도 없는데, 이 색인은 GGUF를 Liquid AI d1-3B 및 오디오 지원이 가능한 형제 모델 Liquid AI d1-omni-600M에 사용 가능한 것으로 표시하면서 llama.cpp, Ollama, MLX를 일반적인 배포 옵션으로만 언급한다. 존재하는 것은 게시된 패키지, 검증할 수 있는 다이제스트가 있는 레지스트리 항목, 작동하는 readme, 그리고 이 글이 작성된 2026년 10월 15일 당시 10.4K를 기록한 다운로드 카운터다. 존재하지 않는 것은 "우리가 이걸 했다"라고 말하는 벤더의 문장이다.

등록 정보에 실제로 포함된 내용

세 개의 태그가 나열되어 있습니다 — d1:latest, d1:3b 그리고 d1:3b-q8_0 — 그리고 세 태그 모두 동일한 매니페스트 다이제스트인 8c2d9ddae441로 해석됩니다. 이것이 이 페이지에 대해 가장 먼저 이해해야 할 점입니다: 라이브러리의 "3 models" 카운터는 체크포인트 수가 아니라 태그 수입니다. 하나의 아티팩트, 세 개의 이름, 3.7 GB, 32K 컨텍스트 창, 그리고 텍스트 및 이미지 입력. 크기나 양자화를 고르고 싶었다면, 아직 고를 것이 없습니다.

페이지 뒤의 레지스트리는 페이지 자체보다 더 많은 정보를 제공합니다. 패키지의 config blob은 모델 패밀리가 lfm2, 모델 유형이 2.7B, 파일 유형이 Q8_0, 최소 런타임이 Ollama 0.40.4라고 보고합니다. 이 패키지는 두 개의 가중치 레이어로 제공됩니다: 2.87GB 생성 모델과 별도의 856MB 프로젝터입니다. 두 번째 레이어는 비전 인코더이며, 그 존재는 로컬 빌드가 d1을 텍스트만 남기고 잘라내지 않고 멀티모달 경로를 유지한다는 것을 알려줍니다 — 이 모델은 지원 티켓과 함께 사진을 읽고 둘 모두에 대해 질문에 답할 수 있습니다. 이 페이지에서 서로 맞지 않아 보이는 두 숫자 — 설명의 "3B"와 레지스트리의 "2.7B" — 는 본체와 전체로 읽는 것이 가장 좋습니다: Liquid AI의 모델 카드는 체크포인트를 400M 파라미터 비전 인코더를 포함한 3.12B 파라미터로 명시하고 있으며, 언어 본체는 더 작은 수치입니다. 그 계산은 벤더가 아니라 저희 것이며, 사양이라기보다 설명으로 제시됩니다.

라이브러리 페이지 어디에도 달력상의 날짜는 없습니다. 캡처 시점의 "2시간 전 업데이트됨" 같은 상대적 표시와 다운로드 카운터만 있을 뿐이므로, 이 목록이 처음 등장한 날이 언제인지는 목록 자체만으로는 알 수 없습니다. 날짜가 붙은 근거는 모두 Hugging Face와 벤더 쪽에 있습니다: Liquid AI d1-3B의 가중치 저장소는 2026년 10월 5일에 생성되었고, 동반 GGUF 저장소는 10월 6일, Liquid AI는 10월 7일에 릴리스 게시물을 올렸습니다. "이것이 언제부터 로컬에서 실행 가능해졌는가"에 날짜를 붙여야 한다면, 오늘 기준으로 정직한 답은 그 패키지가 존재하며 지금 당겨지고 있다는 것이고, Ollama 밖의 누구도 그것이 어느 아침에 올라왔는지는 말할 수 없다는 것입니다.

패키징 이벤트가 진짜 이벤트인 이유

Ollama는 2026년 9월 29일, 단일 순전파로 타입이 지정된 질문에 답하는 모델을 위한 /v1/systemone 엔드포인트와 --ask CLI 플래그를 출시하면서 의사결정 모델 카테고리를 열었다. Nimble과 Clef가 그 문을 통과한 첫 패밀리였다. 새로운 d1 패키지가 더하는 것은 새로운 벤치마크 행과는 다른 것이다. 그것은 지금까지 벤더링된 모델 클래스가 있는 Python 환경에 있거나 호스팅된 엔드포인트 뒤에 있던 모델을 가져와, 로컬 추론을 명령 하나로 만들어 준다.

이 계약은 다시 말할 가치가 있습니다. 대부분의 독자가 "모델을 실행한다"라고 할 때 의미하는 것과는 다르기 때문입니다. d1에 상태 — 문자열, JSON 객체, 배열, 또는 문자열과 이미지 — 와 이름이 지정된 질문 세트를 넘기면, 생성된 토큰이 전혀 없이 답변을 돌려받습니다. noul은 0과 1 사이의 단일 확률로 답변되는 예/아니오 질문입니다. choice는 선택된 레이블, 신뢰도, 그리고 옵션 전체에 대한 전체 확률 맵을 반환합니다. score는 상태를 2~10개 레벨의 정렬된 평가 기준에 배치하고 확률 가중 레벨과 각 레벨의 확률을 반환합니다. 하나의 상태, 최대 64개의 질문, 입력에 대한 한 번의 패스. 지원 티켓에 대한 Ollama 자체의 예시 응답은 usage.output_tokens: 0을 반환하는데, 이는 이 설계를 가장 명확하게 보여주는 표현입니다.

이미 파이프라인에서 HTTP를 통해 의사결정 모델을 호출하고 있는 사람이라면, 로컬 경로는 세 가지를 한꺼번에 바꿔 놓습니다. 지연 시간은 요청이 더 이상 머신 밖으로 나가지 않기 때문에, 비용은 호출당 과금이 없기 때문에, 그리고 데이터 처리는 분류 대상인 티켓 텍스트와 사진이 네트워크를 전혀 건너지 않기 때문에 달라집니다. 여러분이 다루는 상태가 고객의 메시지나 내부 문서라면, 보통 마지막 항목만으로도 제시해야 할 유일한 논거가 됩니다.

실행하기, 그리고 문서가 그 주위에 두는 제한

지원되는 진입 방법은 세 가지이며, 모두 라이브러리 페이지에 문서화되어 있습니다. CLI 경로는 ollama run d1 --ask "환불이 요청되고 있나요?"이며, state를 파일에서 파이프로 전달하고, 나머지 두 질문 유형에는 --choice 및 --level 플래그를 사용합니다. HTTP 경로는 model, state, 선택적 images 배열, questions 객체와 함께 http://localhost:11434/v1/systemone에 POST하는 것입니다. SDK 경로는 TypeSafe의 Python 클라이언트를 localhost로 지정하는 방식으로, 여기서 API 키는 무시되고 아무 자리 표시자 값이나 작동합니다.

이 제한은 Liquid AI가 아니라 Ollama의 엔드포인트 문서에서 비롯되며, 생성 모델의 제한보다 더 엄격합니다: 요청은 이미지가 없으면 64 KiB 이내, 이미지가 있으면 32 MiB 이내여야 하고, 스트리밍은 지원되지 않으며, 클라우드 호스팅 모델은 곧바로 거부되고, 이미지는 요청 본문에 담아 보내는 base64 PNG, JPEG 또는 WebP여야 합니다 — 원격 URL은 거부됩니다. 이미지는 한 요청의 모든 질문에서 공유되므로, 첫 번째 답변에서만 고려되길 원하는 그림은 별도의 호출로 보내야 합니다. 입력은 절대 잘리지 않으므로, 너무 큰 상태는 조용히 잘린 프롬프트가 아니라 오류입니다.

문서상 두 가지 세부 사항은 미해결 사항으로 표시해 둘 만하다. Ollama의 엔드포인트 레퍼런스는 choice 타입이 2~255개의 옵션 키를 받는다고 설명하는 반면, 결정 모델에 대한 기능 페이지는 2~26개라고 말한다 — 둘 중 하나는 오래된 내용이며, 어느 쪽인지 명확하지 않다. 그리고 그 기능 페이지는 지원 모델을 Nimble, Tev1, Clef, Clef Flash로 명시하고 d1은 언급하지 않지만, d1 패키지 자체의 readme에는 /v1/systemone 및 --ask를 통해 작동한다고 나와 있다. 이 패키지는 Ollama 0.40.4를 요구하며, 엔드포인트 자체에 문서화된 최소 버전은 0.35.0이다. 그중 어느 것도 모델을 pull하는 것을 막는 모순은 아니지만, 기능 가이드에 있는 버전이 아니라 패키지의 버전 요구 사항을 읽어라.

숫자들, 그리고 그 하나하나를 만들어낸 사람

이제 가장 주의가 필요한 부분입니다. 이 모델에 붙은 모든 성능 수치는 Liquid AI의 것이며, Liquid AI d1-3B에 대한 독립적인 평가는 우리가 찾을 수 있는 한 존재하지 않습니다. Ollama 페이지와 모델 카드에 반복된 벤더의 보고 결과는 다음과 같습니다:

• Decision Index 0.2.1 — d1-3B의 경우 48.57, Decider 35B-A3B의 47.11과 대비되며, Liquid는 이를 10B 미만 파라미터의 의사결정 모델 중 최고 점수라고 설명합니다. • 비전 — 11개 공개 이미지 벤치마크에서 평균 74.1로, 기반이 된 LFM2.5-VL-3B의 73.9와 대비됩니다. • 지연 시간 — RTX 4090에서 결정당 8ms, AMD MI325X에서 9ms, Apple M5 Pro에서 30ms. • 처리량 — 질문을 배치로 묶었을 때 4090에서 초당 475개 결정, MI325X에서 1,106개. • 어블레이션 — 동일한 질문 세트를 이미지 없이 답했을 때 45.1점을 기록하며, 이는 비전 경로가 얼마나 기여하는지에 대한 Liquid 자체의 측정치입니다.

비전 행은 기대를 낮춰 잡아야 하는 쪽이다. 일련의 이미지 벤치마크에서 베이스 모델 대비 0.2점 향상은 대부분의 벤치마크 보고에서 노이즈 범위에 들어간다. 결정 헤드가 무엇을 얻어 주든, 그것이 실질적으로 더 나은 이미지 인코더를 뜻하지는 않는다. 어블레이션 행은 다른 방향으로 더 흥미롭다 — 이미지를 추가했을 때 약 29점 변동 — 하지만 이는 같은 질문 세트의 두 버전이 아니라 서로 다른 두 질문 세트를 비교한 것이다. 그리고 Decision Index는 제3자 도구인데, Liquid는 자사 항목을 공개 순위에 제출하는 대신 이 도구에서 직접 채점했으므로, 48.57은 남의 자로 잰 벤더 주장으로 취급해야 한다. 속도 수치도 검증되지 않았다. 4090에서 8ms는 1회 순전파를 수행하는 3B 모델에 그럴듯한 수치이며, 아무도 자사가 소유하지 않은 실행 결과를 공개하지 않았다는 사실은 여전하다.

OrcaRouter가 적합한 경우와 그렇지 않은 경우

OrcaRouter가 제공하지 않는 것은 Liquid AI d1-3B입니다. 작성 전에 카탈로그를 확인했습니다 — 207개 모델, 그중 어느 것도 Liquid AI가 아니고, 어느 것도 의사결정 모델이 아닙니다 — 따라서 d1을 자체 하드웨어가 아니라 API에서 호출하려면, 오늘날 호스팅 경로는 벤더 자체의 의사결정 엔드포인트인 api.liquid.ai/decisions/v1/systemone이며, 여기서 유료 d1 티어는 이미지를 처리하고 무료 d1:free 티어는 텍스트 전용이며, 또한 이를 채택하는 제3자 플랫폼도 포함됩니다. 이 글의 어떤 내용도 우리가 이를 호스팅한다는 주장으로 읽혀서는 안 됩니다.

우리가 하는 일은 이 모델이 해결하는 문제와 맞닿아 있습니다. 결정 모델이 존재하는 이유는 파이프라인이 옵션 중에서 선택할 수 있는 저렴하고 결정적인 방법이 필요하기 때문이며, d1 자체 문서에 나온 예시는 목적지 팀으로 라우팅되는 티켓입니다. 이는 우리보다 한 단계 아래의 라우팅 문제입니다. 그 결정이 직접 실행하지 않고 임대하는 생성 모델에 대한 호출을 게이트할 때, OrcaRouter는 제공업체 정가로 200개 이상의 호스팅 모델을 이용할 수 있는 하나의 OpenAI 호환 키이며, 0% 마크업으로 그대로 전달됩니다, 따라서 공급업체의 가격 인하는 다음 계약 갱신 때가 아니라 발표되는 날 바로 여러분에게 도달합니다. 그리고 이 파이프라인의 로컬 절반은 여러분이 소유한 절반이므로, 위험은 호스팅되는 절반에 있습니다: 제공업체 전반에 걸친 자동 장애 조치는 라우팅한 모델이 다운될 때 트리아지된 요청을 살려 둡니다. 이들 중 어느 것도 3B 결정 모델을 사용해야 하는 이유는 아닙니다. 그것들은 결정의 반대편에 있는 대상이 단일 장애점이 되어서는 안 되는 이유입니다.

이것을 포장 안내문에서 이야기로 바꿔 줄 것은 무엇일까

다섯 가지 요소가 있고, 그중 어느 하나만 달라져도 해석이 달라집니다. Liquid AI가 이 포팅을 인정하는 것, 또는 문서 색인에서 현재 llama.cpp와 MLX로 채워져 있는 배포 행에 Ollama를 추가하는 것입니다. 두 번째 양자화: Liquid 자체 GGUF 저장소가 Q8_0와 함께 Q4_K_M, F16, BF16을 제공하므로, 더 작은 로컬 빌드가 기술적으로는 존재하지만 이 패키지를 통해서는 아닙니다. Liquid AI d1-omni-600M을 위한 로컬 경로 — 최대 30초 분량의 오디오를 읽는 5억 8,700만 파라미터의 형제 모델로, 벤더가 초기 연구 릴리스라고 표시한 모델입니다. 온디바이스 작업에서는 3B보다 이쪽이 더 중요할 텐데, 아직 어느 라이브러리에도 그 흔적이 없습니다. 독립적인 Decision Index 행, 또는 공개 리더보드 등재 — 이 전체 모델 패밀리에서 유일하게 빠진 조각입니다. 그리고 Ollama가 자사의 의사결정 역량 페이지에 d1을 추가하는 것 — 이는 한 줄짜리 변경으로, 이 포팅이 우연이 아니라 공식적으로 승인된 것임을 알려줄 것입니다.

그때까지는 결정을 자신의 기준으로 내리기에 충분히 간단하다. 최신 Ollama를 이미 실행 중이라면 pull은 명령 하나면 되고, 다운로드는 3.7GB이며, 그것이 대체하는 대상은 고객의 텍스트로는 차라리 하고 싶지 않은 호스팅 호출이거나 모델의 가치보다 유지 관리에 더 많은 수고가 드는 Python 환경이다. 이것이 실제 사용자에게 제공되기 전에 정확도에 대한 독립적인 증거가 필요하다면, 그러한 증거는 어떤 d1 모델에도 아직 존재하지 않으며, 아무리 로컬 패키징을 해도 그것을 만들어내지 못한다.

자체 하드웨어에서 의사 결정 단계를 실행하는 것은 이 부류에서 이미 무엇이 잘못되었는지 살펴볼 좋은 기회이기도 합니다: 의사 결정 모델과 관련된 문서화된 AI 사고 및 에이전트 실패가 수집되어 있는 곳은 OrcaRouter AI Incident Archive이며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 분쟁 플래그가 포함되어 있습니다.