OrcaRouter: Fusion Flash

orcarouter/fusion-flash
경제형
텍스트 입력 · 텍스트 출력 · 200K ctx

예산 내에서 멀티 모델 품질을.

개요

다음 모델을 기다리지 마세요. 능력의 다음 도약은 체크포인트가 아니라 패널에서 나옵니다. Fusion은 가장 어려운 프롬프트를 여러 프런티어 모델에 동시에 보내고, 심판이 합의점을 따지고 모순을 잡아내어 그중 가장 강력한 답변 하나를 반환합니다——나머지와 교차 검증됩니다. 정말 중요한 작업——깊은 추론, 어려운 코딩, 리서치, 전문가 검토——즉 틀렸을 때의 비용이 몇 번의 추가 생성보다 큰 모든 곳에 사용하세요.

작동 방식

1

작업에 따라 라우팅

가벼운 대화는 더 저렴한 기본값으로 바로 전달됩니다. 코딩, 에이전트, 도구 사용 요청만 패널로 팬아웃됩니다——바로 이런 경우에 두 번째 의견이 진가를 발휘합니다.

2

패널로 팬아웃

당신의 프롬프트는 여러 프런티어 모델에 동시에 도달합니다. 서로 독립적인 시도들이 각자 다른 모델이 놓친 부분을 잡아냅니다.

3

최고의 답변 선택

심판이 모든 후보 답변을 읽고 그중 가장 강력한 하나를 반환합니다. 나머지와 교차 검증되며, 단일 모델의 첫 시도가 아닙니다.

필요한 곳에서만 작동합니다. Fusion은 코딩, 에이전트 작업, 도구 사용, 난이도 높은 프롬프트에 한해 패널로 분산 처리합니다. 일상적인 대화는 저렴한 기본 모델로 바로 전달되므로, 두 번째 의견이 실질적으로 도움이 되는 요청에만 패널 비용이 청구됩니다.

단일 모델보다 패널이 나은 이유

단일 모델은 프롬프트에 대해 한 번의 시도만 제공하며, 오답이 나와도 이를 감지할 방법이 없습니다. Fusion은 여러 최신 모델을 동일한 프롬프트에 동시에 실행한 뒤, 독립적인 심사 모델이 모든 답변을 검토하고 나머지 답변과 교차 검증하여 가장 우수한 답변을 반환합니다. 강력한 모델 간의 의견 불일치는 중요한 신호입니다. 단일 모델이라면 조용히 틀릴 수 있는 어려운 사례를 바로 이 과정에서 발견할 수 있습니다.

단일 모델

모델 하나, 답변 하나. 두 번째 의견 없이 오답이 나오면 그대로 전달됩니다.

자동 라우터

비용 절감을 위해 프롬프트마다 최적 모델을 선택합니다. 더 똑똑한 선택이지만, 여전히 답변은 하나입니다.

Fusion

패널이 병렬로 답변하고, 심사 모델이 나머지 답변과 교차 검증하여 가장 우수한 답변을 반환합니다.

패널 + 심사 모델 (Mixture-of-Agents)65.1%
단일 최고 모델 (GPT-4o)57.5%
AlpacaEval 2.0 길이 보정 승률 — 집계 모델을 갖춘 패널이 단일 최고 모델을 능가합니다. Mixture-of-Agents, Wang et al. 2024

이 라우터의 모델

모델역할컨텍스트
Gemini 3.5 Flash패널1M
MiniMax M2.7패널204K
GLM 5.1패널200K
Claude Opus 4.8심판1M

다른 조합이 필요하세요? 라우팅 DSL 편집기에서 직접 패널을 구성하세요.

라우팅 DSL 기반 구성

Fusion은 별도로 특수 처리되지 않습니다. 각 요청의 라우팅 방식을 정밀하게 정의하는 소형 샌드박스 언어인 라우팅 DSL의 내장 구성으로 동작합니다. "Fable 5 Level" 템플릿을 복제한 뒤 패널, 심사 모델, 게이팅 규칙, 또는 승자 선정 방식을 자유롭게 변경해 보세요.

Best of NFusion 기본값

심사 모델이 모든 후보를 평가하여 가장 우수한 답변을 원문 그대로 제공합니다. 희석된 혼합 답변은 절대 제공하지 않습니다.

다수결 투표

패널이 구조화된 답변에 대해 투표합니다. 별도의 심사 모델 호출이 없습니다.

통합 생성

집계 모델이 모든 후보를 하나의 개선된 답변으로 합칩니다 (Mixture-of-Agents).

테스트 통과

코드의 경우, 테스트 하네스를 실제로 통과하는 패치를 제출한 후보가 선정됩니다.

최초 응답

속도 경쟁 — 지연 시간이 가장 짧은 응답이 채택됩니다. 속도가 최우선일 때 사용하세요.

블랙박스 없음. DSL로 직접 라우터를 구성하면 모든 병렬 분기가 기록됩니다 — 어떤 모델들이 경쟁했는지, 각 구간의 지연 시간과 상태, 그리고 심판이 선택한 답변까지 — 콘솔에서 특정 답변이 선택된 이유를 정확히 확인할 수 있습니다.

라우팅 DSL 편집기 열기

코드 샘플

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://api.orcarouter.ai/v1",
    api_key=os.environ["ORCAROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="orcarouter/fusion-flash",
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

청구

fusion은 모든 패널 구성원과 심판을 실행하므로, 팬아웃 요청은 단일 모델이 아니라 그 기반 완성들의 합계로 청구되며, 실제로 팬아웃되는 요청에 대해서만 청구됩니다. 추가 마진은 없습니다.

FAQ

OrcaRouter: Fusion Flash이란 무엇인가요?
엄선된 멀티모델 라우터입니다. 실제 작업에서는 모델 패널을 병렬로 실행하고, 심판이 가장 좋은 답변 하나를 골라 나머지와 교차 검증합니다. 간단한 요청은 더 저렴한 기본 모델로 보냅니다.
요금은 어떻게 청구되나요?
실제로 실행된 패널 멤버와 심판의 합계로, 팬아웃된 요청에만 청구됩니다. 마크업은 없습니다.
Fusion이 여러 답변을 합쳐서 반환하나요?
아닙니다. 심사 모델은 가장 우수한 단일 후보를 선택하여 원문 그대로 반환합니다. 평균화되거나 혼합된 답변이 아닌, 항상 실제 모델의 답변을 받게 됩니다.
모델 중 하나가 실패하면 어떻게 되나요?
나머지 모델은 계속 실행되고, 심사 모델이 성공한 응답 중에서 최적의 답변을 선택합니다. 또한 라우팅이 차순위 배포로 자동 장애 조치되므로, 특정 공급자의 일시적 오류가 요청 실패로 이어지지 않습니다.
모든 요청이 전체 패널을 실행하나요?
아니요 — 코딩, 에이전트, 도구 사용, 난이도 높은 프롬프트만 팬아웃됩니다. 일반 대화는 저렴한 기본 모델로 처리되므로, 두 번째 의견이 실질적으로 도움이 되는 경우에만 패널 비용이 청구됩니다.