리플-65B 프리뷰: Apache 2.0 가중치, 100만 토큰 주장, 그리고 16K API

Ripple-65B Preview는 2026년 11월 4일 Ricursive Intelligence가 공개했으며, 접근 방식에 따라 서로 다른 두 가지 제품이 됩니다. 다운로드는 Apache 2.0 라이선스 가중치 129.6GB이고, 모델 카드에는 컨텍스트가 “최대 1M” 토큰이라고 광고되어 있습니다. 동일한 체크포인트를 사용하는 첫 상용 엔드포인트는 16,384를 광고합니다. 두 숫자 모두 같은 모델을 설명하며, 그 사이의 간격은 개발자가 이번 릴리스에 하루를 투자하기 전에 알아두어야 할 가장 유용한 정보입니다.

이 연구소의 헤드라인은 출시 게시물이 암시하는 것보다 범위가 좁고, 지금까지의 보도가 주목한 것보다 더 흥미롭다. Ricursive는 에이전트 코딩에서 미국 오픈웨이트 최첨단 성능을 — Terminal-Bench 2.1에서 80.52 — 보고된 $32M으로 학습된 65B 밀집 모델에서 달성했다고 주장한다. 이는 실제 아티팩트에 관한 실질적인 주장이다: 가중치는 다운로드 가능하고, 게이트 제한이 없으며, 별도 협의 없이 상업적 사용이 허가된다. 또한 11월 5일 현재 전적으로 벤더 보고에 기반한다. Artificial Analysis에는 이 모델에 대한 항목이 없다.

Hugging Face에 실제로 올라온 것은 무엇일까

11월 4일에 네 개의 저장소가 공개되었는데, 각 저장소의 차이가 중요한 이유는 필요한 하드웨어가 달라지기 때문입니다:

• Ripple-65B Preview — BF16 인스트럭션 튜닝 체크포인트, 총 129.57 GB에 달하는 16개의 safetensors 샤드, Apache 2.0, 게이트 없음.

• Ripple-65B Preview NVFP4 — 6개 샤드에 걸쳐 57.22 GB로 제공되는 실험적 4비트 빌드로, 어텐션은 BF16으로 유지하면서 MLP 레이어를 양자화합니다.

• Ripple-65B Base Preview — 사전 학습만 수행한 체크포인트로, 중간 학습 없음, 합성 QA 데이터 없음, 용량도 129.57 GB입니다.

• Ripple-65B Preview DFlash2 — 투기적 디코딩을 위한 8.08 GB 드래프트 모델로, 4.04B 파라미터를 갖추고 있으며 대상 모델에 대해 16개 토큰 단위의 드래프팅 블록을 생성합니다.

이 아키텍처는 의도적인 회귀다. 이 규모의 다른 모든 연구실이 mixture-of-experts로 전환한 가운데, Ricursive는 얇고 깊은 dense Transformer를 구축했다. d_model 5120, 80개 레이어, 8개의 키-값 헤드를 공유하는 80개의 어텐션 헤드, 100,352개 토큰 어휘, 그리고 하이브리드 레이어 패턴 전반에 적용된 1,024토큰 슬라이딩 윈도가 그것이다. FFN 활성화 클리핑, 게이트 어텐션, 글로벌 NoPE, value residual은 Olmo 3 베이스라인에서 단계적으로 확장해 오면서 팀이 도입한 수정 사항을 마무리하는 요소다.

학습 스택은 대부분의 모델 카드가 다루는 것보다 더 자세하게 공개되었다: 8K 시퀀스 길이에서 12T 토큰 사전학습, 64K에서 200B 토큰 중간 학습, 2M에서 6.5B 토큰 장문맥 확장, 128K에서 183B 토큰 SFT, 그리고 128K에서 700 RL 단계. 개발 과정에서 팀은 1명에서 5명으로 늘었고, 커스텀 커널 없이 40% MFU를 보고했다.

이름 표기에 관한 주의가 하나 필요한데, 검색 결과에서 이미 혼동되고 있기 때문입니다: Ricursive Intelligence는 하드웨어, 소프트웨어, 모델의 공동 최적화를 설명하는 출시 게시글을 올린 칩 설계 연구소입니다. Flint를 만든 자기 개선 AI 스타트업인 Recursive가 아닙니다. 두 회사는 무관하며, 이들을 뒤섞는 보도는 잘못입니다.

벤치마크 주장과 그 주장이 어디까지 통하는가

Terminal-Bench 2.1은 출시의 성패가 달려 있는 곳이며, 숫자는 80.52입니다. Ricursive는 80.52로 Reflection Beam 501B(80.1), Meta Muse Spark Open 816B(76.4), Thinking Machines Inkling 975B(63.8), NVIDIA Nemotron 3 Ultra 550B(56.4)보다 앞서게 합니다 — 이들 모두는 총 파라미터 수가 7배에서 15배 더 큽니다.

그 표를 여느 벤더 스펙표보다 더 값지게 만드는 것은 두 번째 열이다. Ricursive는 공식 Terminus 2 하네스에서 128K와 요약 기능을 적용해 비교를 다시 실행했고, 자사 점수를 제외하면 거의 모든 곳에서 점수가 움직였다고 보고한다: Ripple은 80.5에 머물렀고, Muse Spark는 78.7로 올랐으며, Reflection Beam은 80.1에서 70.8로, Inkling은 63.8에서 56.2로, Nemotron은 56.4에서 55.1로 떨어졌다. 자사 점수는 그대로인데 경쟁사 점수는 무너지는 하네스를 공개하는 연구소는 대부분의 출시 글이 피하는 일을 하고 있는 것이다. 여전히 자기 숙제를 자기가 채점하는 연구소이긴 하다 — 그 표의 모든 숫자는 Ricursive의 평가 플로우에서 나왔다 — 하지만 기울기는 옳은 방향으로 흐른다.

이 주장은 터미널을 벗어나는 순간 더 이상 적용되지 않는다. DeepSWE 1.1에서 Ripple은 44.3점으로 Muse Spark의 60.0점과 대비된다. MCP Atlas에서는 71.67점으로, 89.2점의 Muse Spark와 76.0점의 Inkling에 뒤진다. SciCode에서는 39.4점으로 다섯 중 최하위이며, 49.2점의 Beam과 58.5점의 Muse Spark에 뒤진다. 패턴은 일관된다. Ripple은 긴 호흡의 터미널 작업과 다단계 소프트웨어 작업에 강하고, 과학적 코드 생성과 도구 프로토콜 범위에서는 평범하다. 워크로드가 셸을 클릭해 가며 작업하는 에이전트라면 이 주장은 당신을 겨냥한 것이다. MCP 비중이 높은 어시스턴트라면 아니다.

그리고 그 프레이밍은 조용히 역할을 하고 있다. “미국의 오픈 웨이트 최첨단”은 건너뛰어도 되는 접두사가 아니라 한정어다. 이는 DeepSeek, Qwen 및 기타 모든 비미국 연구소를 제외하므로, 최고의 오픈 웨이트 모델이 아니라 미국 내에서 훈련된 최고의 오픈 웨이트 모델에 대한 주장이다.

기본 모델이 더 솔직한 문서입니다

Base Preview 카드에는 출시 글이 앞세우지 않는 문장이 하나 들어 있다: 사전학습된 체크포인트는 “추론, 수학, 코드에서 DeepSeek V3.1 및 V4 Flash와 비교 가능하며,” 반면 Nemotron 3 Ultra는 “전통적인 사전학습 평가에서 압도한다.” 숫자들은 이러한 겸손한 표현을 뒷받침한다. Base MMLU-Pro는 61.5로, DeepSeek V4 Flash 284B의 68.3, Nemotron 3 Ultra 550B의 79.1과 대비된다. Base GPQA Diamond는 38.4로, V4 Flash의 44.4보다 크게 낮다.

두 표를 함께 읽으면 이야기가 더 선명해진다. Ripple의 사전학습 프라이어는 respectable하지만 12T 토큰 학습 기준으로는 중위권이다. 자체 비교 집합에서 가장 작은 사전학습 예산으로, Nemotron의 20T, V4 Flash의 32T+와 대조된다. 에이전틱 코딩 우위의 거의 전부는 포스트트레이닝 스택에서 나온다. 미드트레이닝 데이터 믹스, 롱컨텍스트 확장, 그리고 Ricursive가 140만 롤아웃에서 80.5에 도달했다고 말하는 700 RL 단계인데, 이는 Reflection Beam에 필요했던 것보다 약 70배 적다. 그것은 벤치마크 표보다 더 흥미로운 결과이자 더 취약한 결과다. 합성 장기 호라이즌 환경에서 RL을 강하게 끌어올리는 것은 연구소가 학습 대상으로 삼지 않은 과제로 불균등하게 전이되는 바로 그런 종류의 레시피다.

왜 컨텍스트 번호가 두 개의 숫자인가요?

모델 카드에는 1M이라고 적혀 있습니다. 구성에는 max_position_embeddings가 2,097,152라고 되어 있습니다. 호스팅 엔드포인트는 16,384에 14,745토큰 출력 상한을 말합니다. 누구도 거짓말하는 게 아닙니다. 이들은 서로 다른 세 가지이며, 산술을 보면 첫 번째 호스트가 왜 그 숫자를 선택했는지 알 수 있습니다.

KV cache는 긴 컨텍스트에 대한 비용이 지불되는 지점입니다. 80개 레이어, 8개의 KV 헤드, 128의 헤드 차원, BF16 저장을 사용하면 각 레이어는 토큰당 4,096바이트의 캐시를 차지합니다 — 키에 2,048, 값에 2,048입니다. 80개 레이어 전체로 보면 토큰당 약 0.33MB입니다. 엔드포인트의 16,384토큰에서는 약 5.4GB입니다. 모든 레이어가 전역적으로 어텐션하는 100만 토큰에서는 130GB의 가중치 위에 약 344GB의 캐시가 얹히게 됩니다.

슬라이딩 윈도우가 바로 그런 용도다. Ripple의 레이어 대부분은 1,024토큰 창 안에서 어텐션하고, 소수만 전역적으로 어텐션하며, 오직 그 레이어들만 컨텍스트에 따라 커진다. 80개 레이어 중 16개가 전역 레이어라면, 100만 토큰의 캐시 비용은 344GB가 아니라 약 69GB다 — 크지만 멀티 GPU 노드에서 서빙할 수 있다. 정확한 분할은 config.json의 하이브리드 레이어 패턴으로 정해지며, 어떤 서빙 스택을 사용하든 가장 먼저 확인해야 할 항목이다. 왜냐하면 당신의 메모리 비용은 헤드라인이 아니라 바로 그 분할에 달려 있기 때문이다.

그러니 두 숫자를 두 가지 사실로 받아들이세요. 100만 토큰은 가중치 안에 존재하는 아키텍처적 역량이며, 이를 서비스하려면 상당한 규모의 노드가 필요합니다. 1만 6천은 첫 상용 엔드포인트가 제공하는 수준으로, 대부분의 에이전트 루프에는 충분하지만 저장소 규모 추론이나 장문 문서 작업에는 충분하지 않습니다. Ripple-65B Preview를 시험해 본 이유가 100만 컨텍스트 때문이라면, 호스팅 경로는 오늘날 그것을 제공하지 않으며 자체 호스팅만이 그것을 제공하는 유일한 경로입니다.

로컬은 130GB가 아니라 57GB를 의미합니다

출시 게시물은 모델이 “NVIDIA DGX Spark와 같은 소비자용 하드웨어에 들어갈 수 있다”고 말하지만, 보도에서는 이것이 “MacBook에서 실행된다”로 굳어졌다. 다운로드 크기를 보면 각 주장이 어떤 아티팩트에 관한 것인지 알 수 있다.

• BF16 인스트럭트 체크포인트는 129.57 GB입니다. KV 캐시나 런타임 오버헤드가 전혀 없는 상태에서도 192 GB급 가속기나 멀티 GPU 분할이 필요합니다.

• NVFP4 빌드는 57.22 GB입니다. 이는 작업 컨텍스트를 위한 여유 공간을 확보한 채 128 GB 통합 메모리 시스템에 들어가며, 실험적이라고 표시되어 있고 어텐션은 BF16으로 남아 있습니다.

• DFlash2 드래프터는 8.08GB를 추가하며, 품질이 아니라 추측 디코딩을 얻습니다.

250 tok/s라는 수치는 데이터센터 기준 수치입니다. 배치 8에서 2×B200을 쓴 것이고, 양자화와 커스텀 커널 적용 전입니다. Spark에서는 처리량을 포기하는 대신 그 장비가 책상 위에 있다는 점을 얻는 것입니다. 어느 수치도 틀린 것은 아니고, 그저 서로 다른 머신에 속할 뿐이며, 로컬 이야기는 양자화된 체크포인트에서만 성립합니다.

통화 한 건의 비용

첫 번째 호스팅 엔드포인트는 백만 입력 토큰당 $0.20, 백만 출력 토큰당 $0.60으로 책정되어 있으며, 캐시된 입력 읽기는 $0.05입니다. 현실적인 에이전트 호출 — 전체 윈도우를 대상으로 한 16,000토큰 프롬프트에 2,000토큰을 반환 — 을 계산해 보면 입력 $0.0032, 출력 $0.0012로 약 $0.0044입니다. 하루 1,000만 토큰을 입력/출력 80/20 비율로 처리하면 $2.80입니다.

캐싱은 당겨볼 만한 지렛대다. 반복되는 16,000토큰 시스템 프롬프트는 캐시 요율로 $0.0008이 들며, 캐시 없이 $0.0032이 들던 것에 비해 입력 측면에서 4배 절감된다. 매 턴마다 동일한 도구 정의를 다시 보내는 에이전트의 경우 이는 청구서의 대부분을 차지한다.

OrcaRouter가 적합한 지점: 현재 Ripple-65B Preview를 제공하지 않으므로 비교할 마크업도 없고, 그렇지 않은 척할 이유도 없습니다. 이 프리뷰가 실제로 바꾸는 것은 검증되지 않은 모델을 측정하는 동안 프로덕션 경로에서 빼두어야 한다는 근거입니다. 이미 트래픽이 의존하는 기존 모델은 하나의 키로 라우팅하세요 — {{2}}200개 이상의 모델, 제공업체 정가를 0% 마크업으로 그대로 전달, 제공업체가 흔들릴 때 자동 페일오버{{/2}} — 그리고 Ripple은 사용자 앞이 아니라 오프라인 평가에서 그 옆에 두세요. 수치가 유지되면 라우팅 DSL이 두 번째 통합 없이 트래픽 일부를 옮깁니다. 그렇지 않다면 폴백은 애초에 문제가 된 적이 없습니다.

누가 시도해 봐야 할까, 그리고 무엇이 판도를 바꿀까

터미널이나 셸 에이전트를 만들고 있다면 지금 사용해 보세요. 변호사 없이 파인튜닝할 수 있는 Apache 2.0 체크포인트가 필요하고, 16K 윈도우면 루프에 충분합니다. 덴스 아키텍처는 적당한 하드웨어에서 서빙하는 사람에게 진정한 이점입니다 — 전문가 라우팅 없음, all-to-all 없음, 예측 가능한 지연 시간 — 그리고 Terminal-Bench에서 80.5를 기록한 65B 덴스 모델은 논쟁하기보다 자신의 작업에서 재현해 볼 가치가 있는 결과입니다.

호스팅된 엔드포인트에서 긴 컨텍스트가 필요하거나, 작업이 MCP 비중이 높거나 과학용 코드라면, 또는 모델을 학습시킨 연구소가 산출하지 않은 수치가 필요하다면 기다리세요. 아직 독립적인 평가는 없습니다: Artificial Analysis 항목도 없고 80.52에 대한 제3자 재현도 없습니다. 나온 지 하루 된 Preview 릴리스라면 이는 의심스럽기보다 정상입니다 — 하지만 이 글에서 Ricursive에서 나온 모든 수치가 그들의 것이라고 표시된 데에는 이유가 있습니다.

세 가지가 그것을 판가름할 것이다. 모델을 학습시키지 않은 사람이 실행하는 두 번째 하네스. 16,384개 토큰보다 더 많은 토큰을 제공하는 호스트 — 1M 컨텍스트 주장이 스케줄러와 맞닥뜨렸을 때 살아남는지 알려줄 것이다. 그리고 비프리뷰 체크포인트 — Ricursive가 이곳의 포스트트레이닝은 가벼웠고 칩 설계 플랫폼 뒤에 있는 내부 변형이 실제로 만들고 있는 제품이라고 명시해 왔기 때문이다. 그때까지 헤드라인은 주장이고 다운로드는 실제다 — 그리고 그 둘 사이의 간극이 바로 다음 한 달의 평가가 일어날 곳이다.