Ollama의 LFM3-Audio-2B: 더 나은 음성, 동일한 귀

Liquid AI의 LFM3-Audio-2B가 오늘 아침 명령 하나로 내려받을 수 있게 되었다. ollama run lfm3-audio는 2.1 GB를 당겨 받아 텍스트나 오디오를 입력받고 텍스트, 24 kHz 음성, 또는 둘 다로 응답하는 2B 파라미터 모델을 실행한다. 모델 자체는 출시된 지 하루밖에 되지 않았다. 2026년 10월 27일, 6개 모델로 구성된 LFM3 패밀리 안에서 나왔다. 10월 28일에 새로운 것은 배포 방식이며, 가장 먼저 알아둘 점은 Liquid 자체 벤치마크 표에 있다: 이 모델이 대체하는 LFM2.5-Audio-1.5B와 비교했을 때, 음성 품질은 크게 올랐고, 오디오 이해력은 거의 두 배가 되었으며, 영어 음성 인식은 전혀 개선되지 않았다.

이 글의 나머지 부분은 오늘날 검증 가능한 것과 그렇지 않은 것을 구분한다. 오디오 브랜치는 패밀리 블로그 게시물의 한 문단과 모델 카드만 받았으며—자체적인 "LFM3-Audio 소개" 발표는 없었고—이 모델에 대한 독립적인 벤치마크 실행은 어디에서도 찾을 수 없었다. 아래의 모든 수치는 문장에서 달리 말하지 않는 한 Liquid의 것이다.

무엇이 출시되었고, 그 발표가 얼마나 빈약했는지

Liquid의 10월 27일 게시물 「Introducing LFM3: Every Modality for Specialized Intelligence」는 LFM3-1.7B-Base에서 훈련된 6개의 2B급 모델을 발표했습니다: 텍스트, 비전, 오디오, 옴니, 그리고 비전 및 옴니 분기에서 특화된 두 개의 의사결정 모델입니다. 오디오는 네 가지 모달리티 분기 중 하나이며 단 한 문단만 할애됩니다 — UTMOSv2 개선, 50ms 첫 토큰까지의 시간 수치, 87× 실시간 코덱. 오디오 전용 게시물도, 오디오 벤치마크 블로그도, Liquid의 가격 페이지에 있는 어떤 LFM3 모델에 대한 가격 항목도 없습니다.

이번 주에 세 가지 아티팩트가 독자 앞에 모델을 내놓았습니다:

• 가중치 — Hugging Face의 LiquidAI/LFM3-Audio-2B, LFM Open License v1.0에 따라 제공되며, 전체 비교 표가 포함된 모델 카드가 함께 제공됩니다.

• llama.cpp — PR #31257은 10월 27일에 병합되었으며, LFM3-Audio-2B와 LFM3-Omni-2B를 추가합니다. 오디오 인코더 컨볼루션과 코덱은 양자화하지 않은 상태로 유지하고, TTS 플래그를 통해 남성 또는 여성 음성을 노출하며, 실시간 ASR은 병합에 포함하지 않고 후속 PR로 표시합니다.

• Ollama — lfm3-audio, 2.1 GB, 태그 latest 및 2b, 캡처 시점 기준 다운로드 19회와 "1시간 전 업데이트됨" 표시. 페이지 헤더에는 모델이 5개라고 나와 있지만, 게시된 행은 2개입니다.

Ollama 목록은 가장 중요한 항목입니다. 왜냐하면 모델 카드를 읽는 것으로 시작하지 않는 유일한 경로이기 때문입니다. 또한 그것은 어떤 종류의 발표도 없이 등장했습니다 — 게시물도, 변경 로그도, 모델 자체의 카드에서 그것을 가리키는 어떤 것도 없었습니다.

거의 모두가 잘못 베낀 그 수치까지 포함된 사양서

• 파라미터 — 총 2B, 자체 개발한 인과적 오디오 인코더와 LiquidCodec 토크나이저를 갖춘 LFM3 백본 기반

• 입력 — 텍스트 또는 16kHz로 샘플링된 오디오

• 출력 — 텍스트, 24 kHz 음성 또는 텍스트와 음성의 인터리브

• 컨텍스트 — 입력과 출력을 합쳐 32K 토큰입니다. 이는 출시 보도에서 반복되는 256K 수치가 아닙니다. 그 수치는 텍스트 모델인 LFM3-1.7B에 해당합니다. 오디오 브랜치 자체 페이지에는 32K라고 나와 있습니다.

• 언어 — 18개이며, 영어가 영국식과 미국식 변형으로 두 번 표시되어 19개 로캘로 나열됩니다. 실시간 ASR은 영어만 지원하며, 번역은 영어로 또는 영어에서 가장 강력합니다.

• 라이선스 — LFM Open License v1.0, 연간 매출 1,000만 달러 미만은 상업적 사용 무료, 해당 기준 초과 시 유료 상업 라이선스.

• 설치 공간 — Ollama 빌드 기준 2.1GB.

그 행들 중 두 가지는 잠시 짚고 넘어갈 만하다. 컨텍스트 숫자는 요약이 몇 달 동안 틀리게 전할 바로 그 숫자다. 패밀리 포스트는 256K를 앞세우는데 오디오 카드는 조용히 32K라고 말하기 때문이다. 그리고 언어 수는 위장한 로케일 수다. 19개 항목, 18개 언어이며, 영어의 두 변형이 그 추가 몫을 맡고 있다. 둘 다 스캔들은 아니지만, 둘 다 사용자에게 약속할 내용을 바꾼다.

명령 하나, 그리고 카드와 모순되는 필드

ollama run lfm3-audio가 정말로 설정 전부다. 페이지는 모델에 tools, audio, 2b 태그를 붙이고, 모델 표 바로 위의 readme에는 텍스트나 오디오를 받아 텍스트, 음성 또는 둘 다로 응답한다고 나와 있다. 모델 표는 이와 다르다. 두 태그 모두 입력을 "Text"로, 컨텍스트를 대시로 표시한다.

그것은 렌더링상의 특이 현상으로 치부하기보다 진지하게 받아들일 가치가 있습니다. Ollama는 2026년 4월 v0.20부터 오디오 입력을 지원해 왔으며, 당시 Gemma 4가 오디오 기능, ollama transcribe 명령, OpenAI 스타일의 input_audio 파트를 가져왔습니다. 관련 체계는 존재합니다. 확인되지 않은 것은 이것이 이 체크포인트에 연결되어 있는지 여부입니다 — 오디오 태그는 기능 주장이지 테스트 결과가 아닙니다. 계획이 "WAV를 Ollama에 파이프로 넣기"로 시작한다면, 그에 맞춰 설계하기 전에 파일 하나로 검증하세요.

음성 출력은 반대편에서 보면 같은 형태를 띱니다. llama.cpp 병합은 TTS 음성 플래그를 노출합니다. Ollama 페이지에는 이에 상응하는 내용이 문서화되어 있지 않고, readme는 음성 출력을 CLI의 기능이라기보다 모델의 속성으로 설명합니다. 모든 문장을 뒤집어 보아도 결론은 유효합니다: 오늘날 터미널 경로는 음성 모델의 텍스트 절반입니다. 전이중 음성 채팅에는 Python 또는 llama.cpp 경로가 필요합니다.

Liquid가 공개한 스코어보드

6개의 숫자 중 4개에는 선행 값이 있습니다. 이들 모두는 Liquid의 모델 카드에서 나왔으며, 이름이 지정된 테스트 세트도, 하네스도, 분산도 없습니다.

• 영어 ASR, 단어 오류율 ↓ — LFM3-Audio-2B는 6.23, LFM2.5-Audio-1.5B는 6.13. 변화 없음, 그리고 움직이지 않은 유일한 행입니다.

• 다국어 ASR, WER/CER ↓ — 6.03. 이전 버전 수치는 공개되지 않음.

• 영어 TTS, UTMOSv2 ↑ — 3.22 대비 3.83. 큰 폭의 상승이며, 4.0은 보통 인간에 가까운 수준의 기준선으로 여겨집니다.

• VoiceBench ↑ — 55.17 대비 73.13.

• 오디오 이해, MMAR ↑ — 50.60 대 25.85. 거의 두 배.

• 음성 기반 도구 호출, 내부 평가 ↑ — 58.50. 이전 수치 없음.

같은 표의 나머지 항목들과 비교하면, 이 모델은 선두주자라기보다는 좋은 소형 모델이다. Voxtral Mini 3B는 WER 5.51을, NVIDIA Audex 2B는 5.99를 기록해 둘 다 6.23보다 좋다. Qwen2.5-Omni 3B는 오디오 이해에서 54.41로 50.60을 앞선다. Gemma 4 E4B는 도구 호출에서 72.40으로 58.50을 앞서며, Liquid 자체 파라미터 행에서는 해당 Gemma가 8B, 이 모델이 2B로 표기된다 — "E4B"라는 이름은 전체 파라미터가 아니라 활성 파라미터를 센다. 정직하게 요약하면 경쟁력 있는 ASR, 음성 출력에서의 확실한 향상, 그리고 2B치고 탄탄한 오디오 추론이다 — 어느 항목에서도 최고 기록 보유자는 아니다.

6.23 대 6.13 격차는 샘플링 노이즈가 만들어낼 수 있는 범위 안에 있으며 회귀로 읽어서는 안 됩니다. 3.83 대 3.22 격차는 그렇지 않습니다 — 0.6포인트의 UTMOS 변화는 그 범위를 훨씬 벗어납니다. 방어 가능한 해석은 Liquid가 이번 세대를 생성에 쏟아부었다는 것입니다: 더 나은 음성, 더 나은 오디오 추론, 그리고 인코더가 그 밑에서 바뀌는 동안에도 자리를 지킨 ASR 프런트 엔드. 어떤 행에 대해서도 제3자 재현을 찾지 못했으므로, 누군가 하나를 발표할 때까지 이 순위를 가설로 취급하십시오.

코덱이 모델보다 오래 살아남는 이유

LiquidCodec는 이번 릴리스에서 체크포인트 외에 주목할 만한 부분입니다. 80ms 분량의 음성을 12개의 이산 토큰으로 압축하고, 스트리밍을 지원하면서 24kHz로 다시 디코딩하며, Liquid의 측정에 따르면 M4 Max의 단일 CPU 스레드에서 실시간 대비 약 87배 속도를 냅니다. 인과적 인코더 덕분에 음성이 끝난 뒤가 아니라 음성이 진행되는 동안 프리필이 가능하며, "최저 50ms"라는 첫 토큰까지의 시간 수치가 바로 여기서 나옵니다.

그 두 숫자는 이번 출시에서 가장 많이 인용되면서도 가장 재현하기 어려운 항목입니다. 둘 다 이름이 명시된 Apple 하드웨어에서 벤더가 측정한 값이며, 테스트 하네스도, 오디오 세트도, 백분위수도 없습니다. 이는 최선의 경우를 설명합니다. 휴대폰, Raspberry Pi 또는 공유 x86 VM에서는 이 수치를 달성하지 못하며, 릴리스 자료 어디에도 대신 어느 수준을 달성할지는 나와 있지 않습니다.

출시된 지 하루 된 모델로서는 런타임 지원 범위가 이례적으로 넓습니다. Transformers 5.20.2 이상에서 trust_remote_code와 함께, BF16 체크포인트에는 vLLM 및 SGLang, GGUF에는 llama.cpp, Apple 실리콘에서는 MLX 4-bit, 이식성에는 ONNX Runtime, 그리고 단일 GPU에서의 파인튜닝을 지원합니다. 반드시 고정해야 할 핵심은 커스텀 코드 요구 사항입니다. LFM3-Audio는 자체 모듈에서 로드되며 별도의 audio_tokenizer 디렉터리에서 코덱 가중치를 읽어 오므로, 고정되지 않은 환경은 지원 티켓이 발생하기를 기다리는 상황입니다.

호스팅된 엔드포인트 대비 로컬 음성

2.1GB 크기의 2B 오디오 모델이 흥미로운 이유는 대안 방식이 오디오 1초마다 비용을 청구하기 때문입니다. 셀프 호스팅은 고정 비용이 듭니다. 이미 보유한 머신과 다운로드뿐이며 분당 과금이 없습니다. 호스팅 엔드포인트는 토큰당 한계 비용이 들고 운영상 관리할 표면이 전혀 없습니다.

각 측이 무엇을 담당하는지 정확히 밝히십시오. 호스팅형 텍스트 음성 변환 — 우리가 라우팅하는 종류로, 예를 들어 gpt-4o-mini-tts는 백만 토큰당 입력 $0.60, 출력 $12.00이고, gemini-2.5-flash-preview-tts는 $0.50 및 $10.00입니다 — 은 텍스트를 음성으로 바꿀 뿐 그 외에는 아무것도 하지 않습니다. LFM3-Audio-2B는 또한 듣고, 전사하고, 번역하며, 네트워크를 뽑은 상태에서도 실행됩니다. 이들은 동일한 음성 에이전트의 서로 다른 절반을 해결합니다.

LFM3-Audio-2B는 OrcaRouter에 없습니다. 우리가 제공하는 오디오 모델은 호스팅된 음성 엔드포인트이므로, 이번 달 음성 제품에 대한 정직한 분담은 Liquid 모델로 로컬 음성 입력과 출력을 처리하고, 텍스트 쪽은 전부 뒤에 두는 것입니다: 200개 이상의 모델을 위한 단일 엔드포인트 — 공급자 정가 대비 0% 마크업, 공급자가 문제를 일으키면 자동 장애 조치, 그리고 여러 모델을 단일 호출로 구성하고 싶다면 라우팅 DSL. 그것이 두 런타임 구성을 버틸 수 있게 만드는 것입니다: 호스팅된 절반에는 계약 하나, 로컬 절반에는 다운로드 하나.

로컬 방식의 비용도 0이 아닙니다. 2.1GB의 가중치, 계속 살려 둬야 하는 프로세스, 그리고 SLA가 없습니다. 오디오가 건물 밖으로 나가지 않는다면 그런 트레이드오프는 쉽습니다. 나간다면 호스팅 가격은 충분히 작아서 보통 운영 부담이 판단을 좌우합니다.

이번 주에 누가 운영해야 하고, 누가 기다려야 할까요?

노트북에서 로컬 음성 루프를 원하고 당장은 터미널의 텍스트 출력으로도 만족할 수 있다면 실행하세요. 사용 중인 호스티드 음성이 약하거나 비싼 언어로 음성 출력이 필요하다면 실행하세요 — 18개 언어는 대부분의 소형 TTS 모델이 제공하는 것보다 더 넓은 범위입니다. 머신 밖으로 내보낼 수 없는 녹음이 있고 하나의 모델에서 전사와 요약을 모두 얻고 싶다면 실행하세요. 음성 도구 호출을 프로토타이핑 중이고 모델을 도구와 같은 박스에 두고 싶다면 실행하세요.

ASR 정확도가 제품의 핵심이라면 잠깐 생각해 보자. 6.23의 단어 오류율은 괜찮은 수준이지만 Liquid 자체 표에서 세 모델에 뒤처진다. 오늘 바로 스트리밍 전사가 필요하다면 잠깐 — 라이브 ASR은 후속 llama.cpp PR이며, 출시될 때도 영어 전용이다. 모델이 뭔가를 알고 있어야 한다면 잠깐: 카드는 검색을 권장하고 이 규모에서는 에이전틱 코딩이나 다단계 추론을 명시적으로 권장하지 않는다. 그리고 벤더 SLA가 필요하다면 잠깐: Liquid의 가격 페이지에는 d1, d1-ultra, LFM2.5-24B-A2B만 나열되어 있고 LFM3 오디오 엔드포인트는 전혀 없다.

출시가 답하지 않는 세 가지 질문

LFM3-Audio-2B는 LFM3-Omni-2B와 동일한 모델인가요?

아니요. 둘은 LFM3 백본을 공유하고 같은 llama.cpp 풀 리퀘스트에 함께 등장했지만, Omni는 오디오 위에 비전을 추가한 것이며 둘 중 더 큰 규모의 선택입니다. 작업이 전화 통화, 회의 녹음, 음성 명령이라면 Audio가 더 작은 작업을 하는 더 작은 모델입니다. 작업이 무언가를 들으면서 동시에 보는 것과 관련된다면 그것이 Omni 브랜치입니다.

라이브 스트림을 전사할 수 있나요?

아직 llama.cpp를 통해서는 지원되지 않습니다. 이번 병합에서는 라이브 ASR을 후속 작업으로 표시하며, 모델 카드에는 라이브 ASR이 존재하더라도 영어만 지원한다고 명시되어 있습니다. 현재 지원되는 경로는 녹음 파일에 대한 배치 전사이며, 32K 토큰의 컨텍스트를 제공합니다. 오디오 토큰과 텍스트 토큰이 해당 예산을 공유하므로, 긴 파일의 경우 대략 이 길이 제한을 기준으로 계획해야 합니다.

GPU가 필요한가요?

아니요, 그리고 바로 그게 GGUF 빌드의 핵심입니다. 2.1GB Ollama 아티팩트는 CPU에서 실행됩니다. 87× 실시간 수치가 측정하는 것은 코덱이지 언어 모델이 아니므로, 이를 여러분의 하드웨어에서의 엔드투엔드 속도로 해석하지 마세요. Apple silicon은 MLX 또는 병합된 llama.cpp 지원을 통해 가장 매끄러운 경로를 가집니다. x86에서는 CPU 디코드가 병목이 될 것으로 예상하고, 누구에게든 지연 시간 수치를 약속하기 전에 측정하세요.

이 평결을 바꿀 수 있는 것은 무엇인가요

세 가지 신호를 중요한 순서대로 보자. 첫째, llama.cpp에 라이브 ASR 후속 기능이 반영되는 것 — 이는 배치 전사기를 마이크 뒤에 둘 수 있는 것으로 바꿔 주며, 이는 대부분의 사람들이 실제로 원하는 사용 사례다. 둘째, 표준 데이터셋에서의 독립적인 WER 실행; 그것이 존재하기 전까지 이 모델의 ASR을 정직하게 유지하는 유일한 것은 벤더가 자사 이전 모델과 비교한 벤더 표뿐이다. 셋째, 오디오 분기에 대한 공개 API 가격, 이는 Liquid가 청취를 서비스로 판매할 의도인지 아니면 가중치 중심의 접근으로 유지할 의도인지 알려줄 것이다.

그때까지는, 정확한 설명은 좁지만 유용합니다. 1분 만에 다운로드할 수 있는 2B 음성 모델로, 대체하는 모델보다 말을 더 잘하고 듣기는 거의 비슷하게 잘하며, 아직 독립적인 검증자는 없습니다. 노트북에서 돌아가는 프로토타입이라면 그것으로 충분합니다. 프로덕션 전사 파이프라인이라면 충분하지 않습니다 — 그리고 그 두 문장 사이의 간격이 바로 출시와 평가 사이의 거리입니다.