Qwen3.6 35B-A3B — open-weight MoE multimodal (Text/Bild/Video), 35B insgesamt / 3B aktive Parameter, 256k Kontext.
Qwen3.6 35B A3B ist ein Mixture-of-Experts (MoE)-Large-Language-Modell aus der Qwen-Familie. Es umfasst insgesamt 35 Milliarden Parameter, aber pro Vorwärtsdurchlauf werden nur etwa 3 Milliarden…
Qwen3.6 35B A3B zeichnet sich bei Aufgaben aus, die von langen Kontextfenstern und multimodalem Verständnis profitieren. Dazu gehören das Beantworten von Fragen auf Dokumentebene, die Zusammenfassung langer Berichte, die Codegenerierung mit erweitertem Kontext und komplexes schrittweises Denken. Der 262.144-Token-Kontext des Modells ermöglicht es, ganze Bücher, umfangreiche Codebasen oder Stunden transkribierten Videomaterials zu verarbeiten. Seine Stärke im τ²-Bench (95.3) zeigt eine hohe Leistung bei Aufgaben, die das Abrufen und Nutzen von Informationen aus langen Eingaben sowie das Aufrufen externer Werkzeuge und das Befolgen von Anweisungen über viele Iterationen hinweg erfordern. Multimodale Eingaben – Bilder und Videos – erweitern die Fähigkeit, visuelle Inhalte zusammen mit Text in einer einzigen Eingabeaufforderung zu analysieren.
Das Modell unterstützt Eingaben in Form von Text, Bildern und Videodateien. Beim Senden einer Anfrage über die OrcaRouter-API können Sie Bilddaten (z. B. base64-codiert oder als URL) und Videodateien in die Benutzernachricht einfügen, gemäß dem gleichen multimodalen Format, das auch andere Anbieter verwenden. Das Modell verarbeitet diese visuellen Elemente gemeinsam mit dem Textprompt und kann so Diagramme, Grafiken, Fotos oder Videoclips analysieren. Sie können es beispielsweise bitten, eine Szene aus einem Video zu beschreiben, Daten aus einem Bild zu extrahieren oder Textanweisungen mit visuellem Kontext zu kombinieren. Die Ausgabe erfolgt stets als Text. Es gibt keine separate Preisgestaltung für multimodale Eingaben – sie werden zum gleichen Eingabekosten pro Token abgerechnet.
Das 262.144 Token umfassende Kontextfenster ermöglicht es dem Modell, sehr lange Sequenzen ohne Kürzung zu verarbeiten. Allerdings kann die Verarbeitung langer Kontexte die Latenz und Speichernutzung erhöhen. Die MoE-Architektur hilft, die Kosten zu senken, da nur 3B Parameter pro Token aktiv sind, aber der vollständige Aufmerksamkeitsmechanismus skaliert weiterhin mit der Sequenzlänge. Bei Aufgaben, bei denen die relevanten Informationen über eine lange Eingabe verstreut sind, deutet der hohe τ²-Bench-Wert von Qwen3.6 35B A3B darauf hin, dass es effektiv abrufen und schlussfolgern kann. Bei sehr langen Dokumenten sollten Sie Chunking-Strategien in Betracht ziehen oder die eigenen Zusammenfassungsfähigkeiten des Modells nutzen. Für Aufgaben mit kurzem Kontext kann ein günstigeres, dichtes Modell wirtschaftlicher sein.
Wenn Ihr Anwendungsfall kurze Prompts (unter 4K Tokens) umfasst, einfache Aufgaben wie Klassifikation oder Extraktion, oder keine multimodale Eingabe erfordert, könnte ein kleineres, dichtes Modell – wie eine 7B-Parameter-Variante – geringere Latenz und Kosten bieten. Der Preis pro Token von Qwen3.6 35B A3B ($0.25/$1.48 pro Million Tokens) ist moderat, aber für hohe Volumen mit geringer Komplexität könnte ein Modell mit noch niedrigeren aktiven Parametern (z. B. 1B oder 3B dicht) kosteneffizienter sein. Wenn Sie zudem keinen langen Kontext oder multimodale Fähigkeiten benötigen, zahlen Sie für Overhead, den Sie möglicherweise nicht nutzen. Bewerten Sie Ihre durchschnittlichen Prompt- und Ausgabelängen im Vergleich zu den Stärken des Modells, um zu entscheiden.
τ²-Bench ist ein Benchmark, der die Fähigkeit eines Modells bewertet, Long-Context Reasoning und mehrschrittige Tool-Nutzung durchzuführen. Dabei wird ein umfangreiches Korpus (z. B. eine Datenbank mit Dokumenten oder eine Codebasis) verarbeitet und anschließend Fragen beantwortet, die das Abrufen und Synthetisieren von Informationen aus diesem Korpus erfordern. Ein Wert von 95,3 zeigt, dass das Modell diese Aufgaben mit hoher Genauigkeit bewältigt hat und damit viele andere Modelle in diesem spezifischen Benchmark übertrifft. Das deutet auf starke Retrieval-, Reasoning- und Instruktionsbefolgungsfähigkeiten über erweiterte Kontexte hin. Allerdings sollten Benchmark-Ergebnisse als eine Messgröße der Leistung interpretiert werden; reale Ergebnisse können je nach Aufgabenspezifikation variieren.
Die Latenz für Qwen3.6 35B A3B wird durch seine MoE-Architektur beeinflusst: Nur 3B Parameter sind pro Token aktiv, was im Allgemeinen eine schnellere Inferenz als bei einem dichten 35B-Modell ermöglicht. Allerdings erfordert der Aufmerksamkeitsmechanismus weiterhin die Verarbeitung des gesamten Kontextfensters, sodass längere Eingaben die Zeit bis zum ersten Token erhöhen. OrcaRouter veröffentlicht keine spezifischen Latenz-Benchmarks für dieses Modell. In der Praxis hängen die Antwortzeiten von der Anfragelast, der Prompt-Länge und der Anzahl der Ausgabe-Token ab. Für Echtzeitanwendungen sollten Sie mit Ihren typischen Eingaben testen. Bei der Batch-Verarbeitung kann die Kosteneffizienz des Modells längere Latenzen ausgleichen. Benutzer sollten sowohl Geschwindigkeit als auch Kosten berücksichtigen, wenn sie es mit dichten Modellen vergleichen.
Das primäre Benchmark-Ergebnis ist der τ²-Bench-Score von 95,3, der eine starke Verarbeitung langer Kontexte und Reasoning mit Werkzeugen anzeigt. Dies ist ein wichtiger Stärkebereich. Die Multimodalität des Modells positioniert es auch gut für Aufgaben, die visuelle und textuelle Daten kombinieren, obwohl hier keine separaten Benchmark-Ergebnisse für visuelle Aufgaben angegeben sind. Basierend auf der Architektur kann man erwarten, dass das Modell bei Aufgaben, die von der großen Parameteranzahl profitieren, aber keine vollständige Aktivierung aller Parameter erfordern, gut abschneidet. Das MoE-Design kann zu einer etwas geringeren Konsistenz im Vergleich zu dichten Modellen bei bestimmten engen Aufgaben führen, bietet aber einen günstigen Kompromiss zwischen Fähigkeit und Kosten.
Während der τ²-Bench-Score hoch ist, handelt es sich um einen einzelnen Benchmark; die Leistung bei anderen Benchmarks (z. B. MMLU, MATH, Programmierwettbewerbe) wird nicht angegeben. Die dichten Gegenstücke des Modells (z. B. ein volles 35B-dichtes Modell) könnten bei Aufgaben, die die gleichzeitige Aktivierung aller Parameter erfordern – wie bestimmte mathematische Argumentationen oder mehrsprachige Aufgaben – besser abschneiden. Außerdem wird multimodale Eingabe unterstützt, die Qualität der Videoverarbeitung kann jedoch von der Frame-Sampling und -Kompression abhängen. Die Latenz wird nicht öffentlich gemessen. Benutzer sollten nicht davon ausgehen, dass das Modell für jedes Szenario die beste Wahl ist; evaluieren Sie es stets anhand Ihres spezifischen Anwendungsfalls und erwägen Sie, eigene Benchmarks durchzuführen.
Die Preisgestaltung erfolgt pro Token, getrennt abgerechnet für Eingabe und Ausgabe. Die Kosten betragen 0,25 $ pro 1 Million Eingabe-Token und 1,48 $ pro 1 Million Ausgabe-Token. Dies sind die Tarife des Anbieters, und OrcaRouter erhebt keinen Aufschlag. Eingabe-Token umfassen alle Token in der Eingabeaufforderung, einschließlich Text, Bild-Tokenisierung und Video-Tokenisierung. Ausgabe-Token sind alle Token, die in der Antwort generiert werden. Es fallen keine zusätzlichen Gebühren für die Nutzung der API an, es gibt keine monatlichen Abonnements und keine Mindestnutzungsanforderungen. Die Abrechnung erfolgt durch OrcaRouter auf Basis des Token-Verbrauchs. Da pro Token nur 3B Parameter aktiv sind, sind die Rechenkosten für den Anbieter niedriger als bei einem dichten 35B-Modell, und diese Einsparung wird in der Preisgestaltung weitergegeben.
Der Eingabepreis (0,25 $/1M Tokens) ist relativ niedrig, während der Ausgabepreis (1,48 $/1M) höher ist, was die Generierungskosten widerspiegelt. Wenn Ihre Anwendung eine große Anzahl von Tokens ausgibt (z. B. lange Zusammenfassungen, Codegenerierung), dominieren die Ausgabekosten. In solchen Fällen sollten Sie die Ausgabelänge durch Anweisungen reduzieren oder ein günstigeres Modell für die Generierung verwenden, sofern die Qualität es zulässt. Umgekehrt, wenn Sie sehr lange Prompts, aber kurze Ausgaben haben, sind die Eingabekosten günstig. Die MoE-Architektur bedeutet, dass die Inferenzkosten pro Token niedriger sind als bei einem dichten Modell mit ähnlicher Gesamtparameterzahl, aber die Preisgestaltung hier erfolgt zum Tarif des Anbieters; Sie bezahlen für die Effizienz.
OrcaRouter gibt nicht öffentlich bekannt, ob Prompt-Caching für dieses Modell verfügbar ist. Wenn Caching implementiert wäre, könnte es Kosten senken, indem die erneute Kodierung identischer Prompt-Präfixe vermieden wird. Allerdings wird ein solches Feature für dieses spezielle Modell nicht erwähnt. Benutzer sollten davon ausgehen, dass jede Anfrage zu den Standardtarifen pro Token abgerechnet wird. Bei wiederholten Prompts sollten Sie in Erwägung ziehen, Abfragen zu gruppieren oder kürzere Präfixe zu verwenden, um die Anzahl der Eingabe-Token zu minimieren. Sie können die Token-Anzahl auch über das Feld usage in der API-Antwort überwachen, um Kosten zu optimieren. Für den Einsatz in Unternehmen wenden Sie sich an OrcaRouter, um mögliche individuelle Vereinbarungen oder Caching-Unterstützung zu besprechen.
Kein Aufschlag bedeutet, dass OrcaRouter Ihnen genau denselben Preis pro Token berechnet, den der Modellanbieter (Qwen) festlegt. Es fallen keine zusätzlichen Plattformgebühren, Gemeinkosten oder Gewinnmargen an. Die $0.25/1M Input und $1.48/1M Output sind die eigenen Sätze des Anbieters. Das ist Transparenz bei der Preisgestaltung; Sie zahlen nur für die zugrunde liegenden Inferenzkosten. OrcaRouter verwaltet weiterhin die API-Infrastruktur, das Routing und die Abrechnung, berechnet jedoch keinen Aufpreis für diesen Service. Dies kann Qwen3.6 35B A3B im Vergleich zu manchen anderen Plattformen, die einen Aufschlag erheben könnten, wirtschaftlicher machen. Allerdings müssen Sie möglicherweise dennoch die Gesamtkosten vergleichen, einschließlich etwaiger Mengenrabatte oder Guthaben, die von OrcaRouter separat angeboten werden.
Verwenden Sie den mit OpenAI kompatiblen Chat-Completions-Endpunkt unter https://api.orcarouter.ai/v1. Setzen Sie den Modellparameter auf "qwen/qwen3.6-35b-a3b". Erstellen Sie Nachrichten wie bei der OpenAI-API, einschließlich einer Systemnachricht, falls gewünscht, und Benutzernachrichten. Für multimodale Eingaben fügen Sie ein Array von Inhaltsteilen mit den Typen "text" und "image_url" (oder "video_url") ein. Beispiel (Pseudocode): curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_ORCAROUTER_API_KEY" -d '{"model":"qwen/qwen3.6-35b-a3b","messages":[{"role":"user","content":[{"type":"text","text":"Describe this image"},{"type":"image_url","image_url":{"url":"https://example.com/photo.jpg"}}]}]}'. Die Antwort folgt dem OpenAI-Format mit choices, usage usw.
Standard-OpenAI-Parameter werden unterstützt: temperature (0 bis 2, Standard 1), top_p (0 bis 1, Standard 1), max_tokens (bis zu 65536), Stop-Sequenzen, frequency_penalty, presence_penalty und stream. Für multimodale Anfragen können Sie Bilder als Base64-Daten-URLs oder öffentliche URLs übergeben. Videoeingaben erfordern möglicherweise eine spezielle Kodierung – überprüfen Sie die OrcaRouter-Dokumentation. Zusätzliche Parameter wie seed für Reproduzierbarkeit werden möglicherweise unterstützt, sind aber nicht garantiert. Das Modell unterstützt kein function calling oder tools nativ; Sie können jedoch Tool-Aufrufe simulieren, indem Sie das Modell im System-Prompt anweisen. Für parallele Tool-Aufrufe müssten Sie die Schleife extern verwalten. Streaming wird für Echtzeitanwendungen empfohlen, um die wahrgenommene Latenz zu verringern.
Wenn Sie mit einer OpenAI-kompatiblen API vertraut sind, erfordert die Migration nur die Änderung der Basis-URL und der Modell-ID. Ersetzen Sie Ihren bestehenden Endpunkt durch https://api.orcarouter.ai/v1 und setzen Sie das Modell auf "qwen/qwen3.6-35b-a3b". Die Authentifizierung erfolgt über einen API-Schlüssel, der von OrcaRouter bereitgestellt wird (gesetzt im Authorization-Header als Bearer). Ratenbegrenzungen und Abrechnung werden von OrcaRouter verwaltet. Für die multimodale Migration stellen Sie sicher, dass Ihre Bild-/Videoformatierung dem erwarteten Schema (OpenAI-kompatibel) entspricht. Das Antwortformat ist identisch mit den Chat-Vervollständigungen von OpenAI, sodass Ihr vorhandener Parsing-Code mit minimalen Änderungen funktionieren sollte. Testen Sie mit einer einzelnen Anfrage, um zu bestätigen, dass Tokenzählung und Latenz akzeptabel sind.
Ja, das Modell unterstützt Streaming über das OpenAI-kompatible Server-Sent Events (SSE)-Protokoll. Setzen Sie "stream": true in Ihrer Anfrage. Der Stream gibt Delta-Token aus, sobald sie generiert werden, genau wie bei OpenAIs Streaming, einschließlich finish_reason- und usage-Informationen im letzten Ereignis. Streaming ist nützlich für interaktive Anwendungen, bei denen Sie die Ausgabe inkrementell anzeigen möchten. Beachten Sie, dass Streaming die Gesamtkosten für Token nicht reduziert; Ihnen wird die vollständige Ausgabe berechnet. Die MoE-Architektur kann Token mit einer konstanten Rate produzieren, aber der tatsächliche Durchsatz hängt von Netzwerk- und Serverlast ab. Testen Sie Ihre Integration, um eine ordnungsgemäße Verarbeitung der Stream-Ereignisse sicherzustellen.
Im Vergleich zu Mixtral 8x7B (einem beliebten MoE-Modell mit insgesamt 47B, 12,9B aktiv) hat Qwen3.6 35B A3B weniger Gesamtparameter, aber auch weniger aktive Parameter (3B vs. 12,9B). Dies macht es potenziell kosteneffizienter pro Token. Der Kontextfenster von 262K Token ist deutlich größer als Mixtrals Standard von 32K (obwohl Mixtral erweitert werden kann). Qwen3.6 A3B unterstützt auch Bild- und Videoeingabe, was Mixtral nativ nicht tut. Bei Benchmarks erreicht Mixtral etwa 65-70 auf τ²-Bench? Nicht angegeben; aber Qwens 95,3 ist sehr hoch für diesen spezifischen Benchmark. Bei kurzen Kontexten und reinen Textaufgaben könnte Mixtral aufgrund der höheren Anzahl aktiver Parameter in einigen Reasoning-Aufgaben vergleichbar oder besser abschneiden. Bei langen Kontexten und multimodalen Aufgaben hat Qwen3.6 A3B einen klaren Vorteil.
Ein dichtes Modell mit 35B Parametern würde pro Token etwa 12-mal mehr Rechenleistung benötigen als die 3B aktiven Parameter in diesem MoE-Modell. Qwen3.6 A3B bietet daher einen Geschwindigkeits- und Kostenvorteil bei der Inferenz, allerdings möglicherweise auf Kosten einer gewissen Konsistenz, da das Expert-Routing nicht immer die relevantesten Experten für jede Eingabe aktiviert. Dichte Modelle erzielen oft eine vorhersagbarere Qualität über verschiedene Aufgaben hinweg. Die τ²-Bench-Bewertung deutet jedoch darauf hin, dass dieses MoE-Modell bei Reasoning über lange Kontexte mit dichten Modellen konkurrieren kann. Wenn Sie eine Produktionsumgebung mit hohem Volumen haben, in der Latenz und Kosten entscheidend sind, ist der MoE-Ansatz vorteilhaft. Für Forschung, die deterministisches Verhalten erfordert, könnte ein dichtes Modell vorzuziehen sein.
Wählen Sie Qwen3.6 35B A3B, wenn Ihre Anwendung Folgendes erfordert: (1) Verarbeitung sehr langer Dokumente (bis zu 262K Token) in einem Durchgang, (2) multimodales Verständnis, das Bilder und Video umfasst, (3) starke Leistung bei Aufgaben, die das Abrufen und logische Schlussfolgern über große Kontexte beinhalten (gemessen an τ²-Bench), und (4) Kosteneffizienz durch eine MoE-Architektur mit wenigen aktiven Parametern. Falls Ihre Aufgaben kurz, rein textbasiert sind und keinen langen Kontext erfordern, kann ein günstigeres Modell wie ein 7B-dichtes Modell ausreichen. Für Aufgaben, die höchste Qualität bei engen Benchmarks erfordern (z. B. Mathematik-Wettbewerbsaufgaben), könnte ein größeres dichtes Modell (z. B. 70B) besser abschneiden.
Alternativen sind die dichten Modelle Qwen2.5 32B oder 72B, wenn Sie eine gleichbleibend hohe Qualität bei allen Aufgaben benötigen. Für multimodale Aufgaben bieten GPT-4o oder Claude 3.5 Sonnet ein breiteres visuelles Verständnis, allerdings zu höheren Kosten. Für sehr hohen Durchsatz könnte ein kleineres MoE-Modell wie Qwen2.5 14B A2B günstiger sein. Wenn Sie Funktionsaufrufe oder die Nutzung von Tools mit strukturierten Ausgaben benötigen, sollten Sie Modelle mit nativer Unterstützung für Funktionsaufrufe (z.B. GPT-4 oder Claude) in Betracht ziehen. Die Wahl hängt letztlich von Ihrer spezifischen Kombination aus Kontextlänge, Modalität, Latenztoleranz und Budget ab. Führen Sie stets Ihre eigene Bewertung anhand repräsentativer Beispiele durch.
OpenAI-kompatibel — behalte dein bisheriges SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="qwen/qwen3.6-35b-a3b",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)enable_searchenable_thinkinginclude_reasoninglogprobsmax_tokensnparallel_tool_callspresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstreamstream_optionstemperaturethinking_budgettool_choicetoolstop_ktop_logprobstop_p| Eingabe / 1M Tokens | $0.248 |
| Ausgabe / 1M Tokens | $1.485 |
| Währung | USD |
Schätzung auf Basis des Listenpreises
Nur eine Schätzung — die tatsächliche Token-Anzahl hängt vom Tokenizer des Anbieters ab.
GET /api/public/models/qwen/qwen3.6-35b-a3bÖffnen @misc{orcarouter_qwen3_6_35b_a3b,
title = {Qwen3.6 35B A3B API},
author = {Qwen},
year = {2026},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/qwen/qwen3.6-35b-a3b}
}Qwen. (2026). Qwen3.6 35B A3B API. OrcaRouter. https://www.orcarouter.ai/models/qwen/qwen3.6-35b-a3b