Recursive Flint 40B-A2.5B: 빠름을 최우선으로 설계된 코딩 모델

가 디스크 공간을 차지할 가치가 있는지를 결정하는 숫자는Recursive Flint 40B-A2.5B 54.9%가 아닙니다. 2.5입니다. Recursive의 첫 오픈 웨이트 코딩 모델은 398억 개의 파라미터를 보유하고 있으며, 작성하는 토큰마다 그중 약 25억 개를 활성화합니다. 그리고 이번 릴리스의 거의 모든 다른 결정 — 어텐션 레이아웃, 양자화 레시피, 맞춤형 Metal 커널, 추론 엔진 — 은 그 하나의 비율에서 파생됩니다. Flint는 2026년 10월 21일 Apache 2.0으로 출시되었으며, 이는 작성 시점 기준 출시 하루째이고, 출시가 역사가 아니라 여전히 뉴스인 기간 안에 있음을 뜻합니다. 하루 된 벤치마크 표는 측정값이라기보다 약속이므로, 우리는 프로덕션 기록을 별도로 보관합니다: AI Incident Archive는 모델과 제공업체의 주장이 실제 트래픽을 처리한 뒤에도 얼마나 유효했는지를 기록합니다.

지금 당장 결정하려는 사람을 위한 짧은 요약: 이 모델은 노트북에서 동급 모델 중 최고 속도를 내도록 만들어진 희소 전문가 혼합(MoE) 모델이고, 공개한 세 가지 에이전틱 코딩 점수는 모두 벤더가 보고한 것으로 아직 재현되지 않았으며, 모델을 만드는 연구를 자동화하는 것을 목표로 내건 회사의 첫 모델이다. 이 세 가지 사실은 모두 중요하고, 1년 뒤에도 여전히 흥미로울 것은 세 번째다.

실제로 출시된 것

저장소는 하나가 아니라 네 개입니다. 메인 RecursiveSI/flint 저장소에는 BF16 체크포인트, 구성, 토크나이저, 채팅 템플릿, SGLang 서빙 키트가 있으며, 2026년 10월 21일 14:20 UTC에 생성되었습니다. 그 옆에는 모두 같은 날 오후에 생성 시각이 찍힌 세 가지 양자화 변형이 있습니다: int4 safetensors 빌드, int4 GGUF, NVFP4 GGUF입니다. 아래의 모든 크기는 발표문에서 인용한 것이 아니라 각 저장소의 자체 파일 목록에서 측정한 것입니다.

• BF16 레퍼런스 — 37개 파일에 걸쳐 총 79.59GB이며, 각각 약 5.37GB인 15개의 safetensors 샤드로 구성됩니다. 이것은 파인튜닝 산출물이며, 추론용으로는 다운로드하지 않는 것이 좋은 항목입니다.

• NVFP4 GGUF — 단일 파일에 22.86GB, 공개된 완전한 추론 빌드 중 가장 작습니다.

• Int4 GGUF — 25.99GB, NVFP4 파일보다 더 큰 q4_1 양자화이며, 이는 명명 순서와 반대이므로 파일명만 보고 선택하기 전에 알아두면 좋습니다.

• Int4 safetensors — 22.58GB, 단일 GGUF보다 샤드된 가중치를 선호하는 런타임용.

라이선스는 Apache 2.0이며, 모델 카드는 호스팅 API 약관과 데이터 처리 관행이 가중치 라이선스와는 별개라는 구분을 덧붙입니다 — 흔히 쓰이는 이분법을 숨기지 않고 명확하게 밝힌 것입니다.

이 아키텍처는 메모리 대역폭에 관한 논증이다.

노트북에서 토큰을 디코딩하는 것은 대부분 연산 문제가 아닙니다. 가중치를 메모리에서 산술 연산 장치로 충분히 빠르게 옮기는 문제이며, 그래서 400억 개 매개변수의 밀집 모델은 칩이 아무리 좋아도 느립니다. 토큰마다 모든 가중치를 읽기 때문입니다. Flint의 해답은 그중 거의 아무것도 읽지 않는 것입니다.

• 희소성 — MoE 계층당 256개의 라우팅된 전문가가 있으며 토큰당 6개가 선택되고, 항상 활성화되는 공유 전문가 하나가 추가됩니다. 49개 계층 중 2개는 dense이고 47개는 MoE이므로, 처음 두 개를 제외한 모든 계층이 조건부 작업을 수행합니다.

• 활성 파라미터 — 총 39.8B이며, 출력 헤드를 포함하면 토큰당 약 2.5B가 활성화되는데, 여기서 "40B-A2.5B"라는 명칭이 나옵니다. 활성 본체만 약 2.2B입니다.

• 어텐션 — 513토큰 윈도우(현재 토큰 + 앞선 512개)를 사용하는 35개의 슬라이딩 윈도우 레이어가 14개의 전체 어텐션 레이어와 교차 배치됩니다. 쿼리 헤드는 32개, 키-값 헤드는 4개뿐이고 헤드 차원은 128이므로, KV 캐시가 충분히 작게 유지되어 긴 에이전트 세션을 실용적으로 운용할 수 있습니다.

• 위치 인코딩 — 슬라이딩 윈도 레이어에는 rotary 임베딩을 적용하고 전체 어텐션 레이어에는 전혀 적용하지 않는데, 모델 카드에서는 이 선택을 설명 없이 언급합니다. 헤드별 QK RMSNorm과 학습된 헤드별 어텐션 싱크가 일반적으로 위치 인코딩이 분담하던 안정성 역할을 수행합니다.

• 컨텍스트 — 262,144 토큰이 문서화되어 있으며, 모델 카드에는 이것이 프롬프트와 생성된 출력을 합친 것을 포함한다고 명시되어 있습니다. 발표 자료에서는 "최대 512k"를 광고한 뒤 코딩에서는 256k 이내로 유지할 것을 권장합니다. 두 진술은 모두 같은 공급업체의 것이며, 불과 한 문단 차이입니다.

흥미로운 점은 그 형태가 어떻게 선택되었는지다. Recursive에 따르면 자사의 Eureka Machine은 아이디어를 제안하고, 구현하고, 테스트하고, 효과가 있는 것을 결합하는 자동화된 연구 루프로, 활성 30억 개의 350억 파라미터 기준 모델에서 시작해 전문가 구성과 너비를 탐색했다. 그 결과 나온 40B/2.5B 구성은 발표문 자체의 표현대로 "우리 Eureka Machine이 테스트한 구성들 가운데 속도와 코딩 성능의 최상의 조합을 제공할 것으로 예상되는" 구성이었다. 예상이었을 뿐, 완성된 모델들의 맞대결로 입증된 것은 아니었다. 이는 학습 실행 비용이 비쌀 때 아키텍처를 고르는 일반적인 방식이며, 동시에 나중 체크포인트가 조용히 반박할 수도 있는 주장이기도 하다.

세 가지 점수, 그리고 그것들에 딸린 각주

Flint는 Terminal-Bench 2.1에서 54.9%, SWE-bench Pro v2에서 89.7%, SWE-bench Verified에서 74.2%를 기록합니다. 이 수치들은 출시 평가로 모델 카드에 실려 있으며, 어떤 제3자도 이 모델에 대한 측정 결과를 공개하지 않았습니다 — 이런 출시에서 통상적인 독립 심판 역할을 하는 Artificial Analysis 모델 지수에는 10월 22일 기준으로 Flint 항목이 전혀 없습니다. 따라서 아래의 모든 내용은 Recursive가 Recursive를 측정한 것입니다.

벤더가 자체 방법론에 관해 실제로 공개하는 내용은 대부분의 출시 게시물이 자발적으로 밝히는 것보다 많으며, 이는 숫자를 어떻게 읽어야 하는지를 바꾼다:

• Terminal-Bench 2.1 — Terminus 2 하네스로 실행했으며, 인터넷 접속을 활성화한 상태에서 웹 검색을 통해 얻은 해결책은 실패로 간주했습니다. 마지막 조정은 의도적인 핸디캡이며, 모델 카드에서는 다른 개발자들이 공개한 점수에는 이 조정이 적용되지 않았을 수 있다고 언급하는데, 이로 인해 타사 수치와 동등한 조건의 비교가 더 쉬워지기보다는 더 어려워집니다.

• SWE-bench Pro v2 및 SWE-bench Verified — mini-swe-agent로 실행하며 인터넷 접근이 전혀 없도록 했는데, 이는 작업 중간에 문서를 검색할 수 있는 에이전트보다 더 어려운 설정입니다.

• 시도 및 타임아웃 — 최소 5회 시도에 걸친 평균 pass@1, 에이전트 타임아웃은 최대 5시간. 5회 시도를 평균 내는 것은 합리적인 프로토콜입니다. 5시간 타임아웃은 자동완성이 아니라 계속 실행해 둘 의향이 있는 에이전트에 대한 점수라는 뜻입니다.

• 샘플링 — 모든 평가에서 temperature 1.0, top-p 0.95, top-k 20을 사용하며, 서빙 키트는 요청에서 이러한 값을 생략하면 해당 기본값을 적용합니다.

벤더의 벤치마크 표는 어떤 동료 모델을 골랐는지에 대한 진술이기도 하다. Recursive 자체 차트는 Flint를 Qwen 3.5, Qwen 3.6, Qwen 3.8, Laguna XS 21, Muse Glimmer, Gemma 4와 비교한다 — 비슷한 하드웨어에 맞는 로컬 모델들이며, 이는 노트북 모델에 정직한 동료 집단이자 희소성 논거를 좋아 보이게 하기 위해 선택된 집단이기도 하다. 제시되는 주장은 좁고 방어 가능하다: Flint는 에이전트 코딩에서 총 파라미터 500억 개 미만의 MoE 모델을 앞서고, 250억~400억 개의 dense 모델과 겨루면서도 훨씬 빠르게 실행된다. 이는 프런티어 코딩 모델에 대한 주장이 아니며, Recursive도 그런 주장을 하지 않는다 — 발표문은 Flint가 "여러분이 익숙한 더 큰 클로즈드 소스 코딩 모델보다 더 많은 안내가 필요할 수 있다"고 분명히 밝힌다.

속도: 2×가 실제로 무엇을 기준으로 측정되는가

Recursive는 M4 Pro MacBook Pro에서 초당 125토큰 이상, 64GB NVIDIA RTX Spark에서 짧은 컨텍스트 기준 초당 150토큰 이상을 보고하며, 이를 비교 가능한 모델보다 최대 두 배 빠르고 코딩 점수가 비슷한 250억~400억 개 매개변수의 덴스 모델보다 5배 이상 빠르다고 설명합니다. 속도 차트의 방법론 각주가 특히 읽을 만한 부분입니다. 128,000토큰 세션 전반에 걸친 평균 초당 토큰 수이며 프리필은 제외했고, 경쟁사 한 곳은 전체 길이가 아닌 124k에서 측정했습니다.

Prefill을 제외하는 것은 디코드 벤치마킹의 표준 관행이며, 여기서도 여전히 중요하다. 코딩 에이전트가 저장소를 컨텍스트 윈도에 통째로 쏟아 넣을 때 시간을 쓰는 곳이 바로 prefill이기 때문이다. 128k 세션의 디코드 절반만 측정하는 수치는 희소 활성화를 쓰는 어떤 모델이든 실제보다 좋아 보이게 만들 것이며, Flint의 설계 전체가 바로 희소 활성화다. 그렇다고 해서 그 수치가 틀린 것은 아니다. 그것은 그 수치를 디코드 수치로 만들어 줄 뿐이며, 에이전트가 작업을 끝내는 데 걸리는 시간과 비교하기보다 다른 디코드 수치와 비교해야 한다.

양자화 레시피는 가장 전이 가능한 부분입니다.

대부분의 양자화 관련 글은 정확도가 얼마나 손실되었는지에 관한 것입니다. 이 글은 관례와 반대 방향으로 간 결정에 관한 것입니다.

Recursive는 출력 레이어인 lm_head를 4비트로 양자화했다. 이는 일반적인 관행에 어긋나며, 그 이유는 희소 모델 특유의 것이다. 활성 파라미터가 25억 개에 불과하기 때문에 출력 레이어는 토큰 하나를 처리할 때마다 읽는 가중치에서 큰 비중을 차지하므로, 이를 16비트로 남겨두면 모델이 도달할 수 있는 속도에 상한이 생긴다. 정확도를 회복하기 위해서는 오프라인 증류 단계가 필요했는데, 여기서 양자화된 모델은 스스로 발견한 코어셋에서 자체적으로 미리 샘플링한 응답을 16비트 모델을 교사로 삼아 학습한다. Recursive에 따르면 이 설정은 양자화 인식 학습 기준선 대비 학습 스텝을 거의 절반으로 줄였다.

공개된 결과에 따르면 최종 NVFP4 모델은 벤치마크 제품군 전반에서 16비트 모델과 0.7점 이내의 점수를 기록합니다. 이는 공급업체의 주장이며, 나중에 확인하기는 쉽지만 조작하려면 큰 비용이 드는 종류의 주장이기에 그들에게 검증을 요구하기에 유용합니다. 실질적인 결과는 위의 파일 크기입니다. 48GB 통합 메모리를 갖춘 머신에서 398억 개 매개변수 모델을 실행하는 22.86GB 다운로드입니다.

Apple Silicon에는 두 번째 계층이 있습니다. Recursive의 Eureka Machine은 저비트 프로젝션, MoE 연산, 어텐션, 프롬프트 처리를 위한 특화 커널을 만들어냈으며, M4 및 M5 칩에서 전체 디코드 포워드 패스를 단일 디스패치로 융합하는 Metal 메가커널도 포함합니다. 디코드 패스를 융합하는 것은 모델 아키텍처, 양자화 형식, 커널을 함께 제어할 때만 효과를 보는 최적화로, 이는 어떤 단일 벤치마크 수치보다도 이번 릴리스의 실제 논지입니다.

어떻게 실행하는지, 그리고 각 경로가 당신에게 어떤 대가를 치르게 하는지

두 가지 서로 다른 배포 방식이 있으며, 이 둘은 서로 대체할 수 없습니다.

• 서버 GPU — BF16 체크포인트는 복제본당 B300 하나 또는 H200 하나를 대상으로 하는 SGLang 서빙 키트와 함께 제공되며, 모델 이름 flint로 포트 30000에서 OpenAI 호환 엔드포인트를 노출하고, 추론 및 도구 호출을 위한 예제 클라이언트를 포함합니다. 이는 전체 정밀도 가중치에 대해 지원되는 유일한 경로입니다. 모델 카드에는 Transformers 모델링 코드가 아직 포함되지 않았다고 분명히 명시되어 있습니다.

• 로컬 머신 — llama.cpp, Ollama, Unsloth, LM Studio, vLLM 및 SGLang이 모두 지원 대상으로 명시되어 있는데, 이는 출시 당일 모델로서는 이례적으로 폭넓은 범위이며 체크포인트와 실제 사용 가능한 아티팩트의 차이를 만들어냅니다.

• rec 엔진은 Recursive의 자체 추론 엔진으로, ~/.local/bin에 설치되며, 최소 48GB의 통합 메모리와 약 30GB의 여유 디스크 공간을 갖춘 M4 Pro, M5 Pro 또는 M5 Max가 필요하고, 로컬에서 OpenAI 호환 API를 제공합니다. README에서는 4비트 가중치를 사용하는 M4 Pro에서 llama.cpp의 토큰 처리량 대비 1.4배~2.6배를 주장하며, 이는 1,024개 출력 토큰과 함께 1,000~252,000 토큰 프롬프트 전반에서 컨텍스트 길이당 5회 실행, 프리필 제외 기준입니다. 단일 세션 사용에 명시적으로 최적화되어 있습니다. 여러 에이전트를 동시에 실행하면 문서에서 다른 곳을 안내합니다.

세션이 잘 진행될지를 결정하는 실무 노트: 컨텍스트 창은 프롬프트와 출력 사이에 공유되며, 어려운 문제에는 추론을 포함해 최소 32,768토큰의 출력 예산이 필요하고, 반환된 reasoning_content는 대화 기록에 보존되어야 하며 그렇지 않으면 다중 턴 도구 사용이 저하된다. 복잡한 작업에 대한 Recursive 자체의 지침은 작업을 명시적인 지시와 함께 더 작은 하위 작업으로 나누라는 것이며, 이는 모델의 한계를 설명하는 것으로도 읽히는 정직한 조언이다.

진정으로 입증되지 않은 것은 무엇인가

결정에 영향을 미쳐야 하는 정도가 큰 순서대로 세 가지입니다.

첫 번째는 독립적인 측정입니다. 그런 측정은 없습니다. 리더보드에서 낮은 점수도, 논란이 되는 점수도 아닙니다. Flint에 대한 제3자 평가는 아직 존재하지 않으며, 유통되는 유일한 수치는 벤더의 것이고, 벤더가 선택한 하네스와 웹 검색에 대한 벤더의 보정을 통해 산출된 것입니다. 방법론은 감사를 받을 수 있을 만큼 충분히 공개되어 있습니다. 이는 첫날에 요구할 수 있는 최대치이지만, 공개된 것이 검증된 것은 아닙니다.

두 번째는 활성 파라미터가 25억 개인 모델이 코딩 에이전트가 실제로 존재하는 이유인 장기 호라이즌 작업에서 버틸 수 있는지다. 벤치마크 프로토콜은 5회 시도와 5시간 타임아웃을 허용하는데, 이는 관대한 범위다. 여러 번 시도하고 긴 여유가 필요한 모델은 좋은 pass@1을 기록할 수 있지만 편집기에서는 불안정하게 느껴질 수 있다. 더 큰 폐쇄형 모델보다 더 많은 안내가 필요하다는 Recursive 자체의 단서도 같은 점을 가리킨다.

세 번째는 아키텍처 탐색 자체입니다. 자동화 시스템이 테스트한 구성 중 최고로 예측된 구성은 학습 실행에 대한 가설이지, 완성된 모델에 대한 결과가 아닙니다. Eureka Machine의 예측이 맞았다면, 이는 다른 소규모 팀들이 따라 할 템플릿입니다. 대략 맞았다면, 다음 체크포인트가 이동하고 비율이 바뀝니다.

에이전트 스택이 절반만 로컬일 때 이것이 어디에 해당하는지

Flint 같은 모델이 중요한 이유는 청구서에서 한 줄을 없애주기 때문이지, 모든 줄을 없애주는 건 아닙니다. 로컬 추론은 자신의 머신에서 실행할 수 있는 작업을 처리하고, 그럴 수 없는 작업에는 아무것도 해주지 않습니다 — 용량에 들어가지 않는 긴 컨텍스트 작업, 노트북 한 대의 처리 능력을 넘어서는 버스트, 더 큰 모델이 단순히 더 나은 작업 말입니다. 그 결과 대부분의 팀은 두 개의 시스템을 운영하게 됩니다.

OrcaRouter는 그 구성에서 호스팅되는 쪽이며, 경계를 분명히 하자면: 우리는 Flint를 제공하지 않으며, 이 글의 어떤 부분도 우리가 호스팅하는 체크포인트를 위한 홍보가 아닙니다. Flint는 Recursive에서 받는 다운로드이지 우리의 엔드포인트가 아닙니다. 우리가 하는 일은 200개 이상의 호스팅 모델 앞에 하나의 API를 두어 제공자의 자체 정가로 마크업을 추가하지 않고, 구성 기반 폴백 체인으로 라우팅하며, 자동으로 장애 조치합니다. 제공자가 요청 도중 문제가 생기면 말이죠. 로컬 Flint 실행의 가치를 비슷한 규모의 호스팅된 전문가 혼합 모델과 비교하고 싶다면 — Qwen3.6-35B-A3B와 Gemma 4 26B-A4B는 모두 그 하나의 키로 호출할 수 있습니다 — 그 비교에는 배포가 아니라 요청 하나가 듭니다.

합리적인 해석

Flint는 특정하고 이례적인 무게 중심을 지닌 실제 출시작이다. Recursive는 가능한 한 가장 강력한 코딩 모델을 내놓지 않았다. 노트북에 들어갈 크기에서 만들 수 있는 가장 빠른 모델을 내놓은 뒤, 그 장점이 4비트 가중치와 맞닿아도 살아남도록 설계된 양자화 및 커널 스택을 공개했다. Terminal-Bench 2.1의 54.9%와 SWE-bench Pro v2의 89.7%는 400억 매개변수 희소 모델로서는 강력한 수치이며, 현재로서는 벤더가 내놓은 수치일 뿐이다.

주목할 가치가 있는 것은 단순히 다운로드하는 것이 아니라 그 이면의 방법론 때문이다. 자동화된 연구 루프가 아키텍처와 양자화 레시피, 커널을 선택했다고 말하는 팀은 모델이 아니라 프로세스에 대한 주장을 하는 것이며, 프로세스는 출시 벤치마크와는 다른 방식으로 검증할 수 있다. 다음 릴리스가 더 빠르고 더 좋게 나오거나, 그렇지 않거나 둘 중 하나이기 때문이다. Flint는 그 논증의 첫 번째 데이터 포인트로, 누구나 가중치를 직접 확인할 수 있을 만큼 허용적인 라이선스 아래 공개되었다.

48GB 통합 메모리와 Apple Silicon 머신을 갖고 있다면, 직접 확인하는 비용은 22.86GB 다운로드와 반나절이다. 그렇지 않다면 정직한 입장은 첫 독립 평가를 기다리는 것이다. 하루 지난 벤치마크 표는 측정값이 아니라 약속일 뿐이니까.