Najlepszy lokalny LLM do kodowania w sierpniu 2026, według VRAM: Qwen3-Coder 30B, gpt-oss-20b, Qwen 2.5 Coder 7B

Najlepszy lokalny LLM do kodowania w sierpniu 2026 roku zależy przede wszystkim od twojej pamięci VRAM. Jeśli masz kartę z 24GB — RTX 3090 lub 4090 — uruchom Qwen3-Coder-30B-A3B-Instruct: 30B parametrów łącznie, z czego tylko 3.3B aktywnych na token, okno kontekstu o długości 262 144 tokenów i najlepsze ogólne wyniki lokalnego kodowania, jakie możemy zweryfikować. Na 16GB jest to gpt-oss-20b, model O​penAI typu Mixture-of-Experts na licencji Apache-2.0, który w całości mieści się w GPU przy ~14GB i osiąga około 140 tokenów na sekundę. Na 8GB jest to Qwen2.5-Coder-7B, niezawodny koń roboczy zajmujący ~4.7GB. Reszta tej strony to uzasadnienie, zmierzone liczby oraz konkretne sytuacje, w których każdy z tych wyborów jest błędny.

Co strona pierwsza robi dobrze — a co pomija

Zestawienie „best local llm for coding” to obecnie mieszanka jednego naprawdę użytecznego materiału i mnóstwa domenowej siły. Przewodnik Tembo (5 czerwca 2026) ma właściwą strukturę — porządkuje modele według przedziałów 8 GB / 12–16 GB / 24 GB i wskazuje rodzinę Qwen Coder — ale nie podaje wyników benchmarków lokalnych modeli, szybkości w tokenach na sekundę, rozmiarów okna kontekstowego ani rekomendacji Apple Silicon w zależności od RAM. Harness ewaluacyjny na GitHubie (gauravvij/local-llm-coding-eval) ma konkretne liczby, ale brak mu werdyktu i działał tylko na CPU. Reszta to subiektywne opinie pojedynczych autorów (XDA, Yahoo Tech) i cienkie listy rankingowe (apidog, Security Boulevard, SitePoint), które szeregują na podstawie siły domenowej, a nie użyteczności.

To, co wszyscy pomijają, w kolejności od tego, ile Cię to kosztuje:

• Luka agentowa. Generowanie kodu to nie ta sama umiejętność co prowadzenie agenta przez zmianę w wielu plikach. Pierwsza strona ledwie o tym wspomina; to różnica między modelem, który zatrzymujesz, a modelem, który odinstalowujesz.

• Okna kontekstu. Kodowanie agentowe spala tokeny, wczytując pliki i wyniki testów. Twierdzenie, że „30B mieści się w 24GB", jest bezsensowne, dopóki nie zapytasz, przy jakim kontekście.

• Matematyka kwantyzacji.Nikt nie wyjaśnia, że 4-bit wymaga mniej więcej tylu gigabajtów, ile wynosi liczba parametrów, albo że Q3 oszczędza pamięć VRAM kosztem subtelnych błędów składniowych.

• Zmierzona prędkość.Niewiele publikacji podaje tokeny/sekundę dla rekomendowanych modeli, a te, które to robią, różnią się drastycznie, ponieważ kontekst i kwantyzacja zmieniają wszystko.

• Kiedy lokalne rozwiązanie to zły wybór. Test terenowy z 2026 roku na 15 000-linijkowej aplikacji Flutter (EPAM) nadal pokazuje, że chmurowe modele graniczne wygrywają w najtrudniejszych wieloetapowych refaktoryzacjach. Żaden z listicles nie mówi ci, kiedy przestać.

Matematyka VRAM, którą pomija większość listyków

Zasada kciuka, dzięki której każda inna liczba w tym artykule staje się czytelna: przy kwantyzacji 4-bitowej model potrzebuje mniej więcej tyle gigabajtów, ile wynosi liczba jego parametrów — 7B ≈ 5GB, 30B ≈ 18GB+ — przed uwzględnieniem narzutu pamięci podręcznej KV. Q4 to optymalny punkt dla kodowania; Q3 i niższe oszczędzają VRAM, ale w zauważalny sposób wprowadzają subtelne błędy składniowe. Pamięć podręczna KV rośnie wraz z oknem kontekstowym, dlatego stwierdzenie „30B mieści się w 24GB" jest prawdziwe tylko przy kontekście, który trzeba dokładnie określić.

Mixture-of-Experts zmienia matematykę w sposób, który ma znaczenie dla dwóch głównych rekomendacji poniżej. Całkowita liczba parametrów decyduje o zajmowanym miejscu; aktywne parametry decydują o szybkości. Dlatego Qwen3-Coder-30B-A3B (30B łącznie, 3,3B aktywnych) i gpt-oss-20b (20,9B łącznie, 3,61B aktywnych) sprawiają wrażenie znacznie szybszych, niż sugerowałby ich rozmiar na dysku, a DeepSeek V4 Flash — 284B łącznie, 13B aktywnych — słabo nadaje się do użytku lokalnego, mimo że jego API jest tanie.

24GB VRAM: Qwen3-Coder 30B

Qwen3-Coder-30B-A3B-Instruct to najmocniejszy wszechstronny lokalny model do kodowania, na jaki możemy obecnie wskazać. Wydany w lipcu 2025 przez zespół Qwen z Alibaba na licencji Apache 2.0, jest modelem Mixture-of-Experts z łącznie 30B parametrów i 3,3B aktywnych na token, oknem kontekstowym 262 144 tokenów i 4-bitowym zajęciem pamięci około 17–20 GB — co pozostawia spory zapas na karcie 24 GB na pamięć podręczną KV, której potrzebuje długa sesja kodowania.

W niezależnym lokalnym harnessie, któremu najbardziej ufamy (gauravvij/local-llm-coding-eval, cztery modele uruchamiane lokalnie przez Ollama na CPU), qwen3-coder:30b uzyskał 80% w generowaniu kodu, 77% w wyborze narzędzi i 80% dokładności agenta — najbardziej zrównoważony wynik spośród czterech i jedyny model, który był mocny we wszystkich trzech zadaniach jednocześnie. Zewnętrzne trackery zestawiają jego SWE-bench Verified na około 50.3, Aider Polyglot na 66.2, a LiveCodeBench v6 na 58.9; traktujcie je jako dane zestawione, a nie oficjalne liczby Alibaba — to jedyne, co Qwen opublikował dla tego modelu.

Zmierzona prędkość znacznie się różni w zależności od sprzętu. Najbardziej przydatne dane: społecznościowa konfiguracja TurboQuant uruchamia go na 8GB RTX 3060 Ti z prędkością generowania ~29 tokenów/s przy pełnym kontekście 262K, a benchmark oMLX zmierzył wersję MLX 4-bit na M4 Pro (48GB) na 73.6 tokenów/s przy kontekście 1K, spadając do 13.5 tokenów/s przy 64K. Na karcie 24GB w normalnej konfiguracji Ollama należy spodziewać się zakresu dziesiątek tokenów na sekundę, a nie setek — to kompromis za uruchamianie w domu kodera zbliżonego do czołówki.

Uczciwe zastrzeżenie: nie jest to najszybszy lokalny koder, a istnieje nowszy Qwen3-Coder-Next przeznaczony do użycia hostowanego i CLI, a nie do skwantowanych instalacji lokalnych. Ale do pracy agentowej na skalę repozytorium na jednej karcie, Qwen3-Coder-30B jest dziś wyborem.

16GB VRAM: gpt-oss-20b

Na karcie 16 GB odpowiedź brzmi gpt-oss-20b — i nie ma nawet blisko. Wydany 5 sierpnia 2025 r. przez OpenAI na licencji Apache 2.0, jest to model Mixture-of-Experts z 20,9 mld parametrów łącznie i 3,61 mld aktywnych na token, z oknem kontekstowym 131 072 tokenów, a jego natywna kwantyzacja MXFP4 zajmuje około 14 GB. To jest decydujący fakt: działa w 100% na GPU na karcie 16 GB i nic nie trafia do pamięci RAM systemu.

Dlaczego rezydencja na GPU jest ważniejsza niż jakikolwiek benchmark: model, który mieści się w VRAM, jest 3–11 razy szybszy niż ten, który korzysta z offloadingu. Niezależny benchmark zmierzył 139,93 tokenów na sekundę dla gpt-oss-20b na RTX 4080 — mniej więcej 2,8 razy szybciej niż gęsta alternatywa o tym samym zużyciu pamięci — a ocena jednego z testerów z 2026 roku przyznała mu 52,1 „indeksu inteligencji", uznając go za nie mającego sobie równych w klasie 16 GB do profesjonalnego kodowania i debugowania. To ciasne dopasowanie, więc uruchamiaj go samodzielnie i utrzymuj umiarkowany kontekst; jakość spada w górnej części okna.

Agentową alternatywą dla 16GB jest Devstral 24B (devstral-small-2:24b), który podaje jedyny opublikowany wynik SWE-bench Verified wśród lokalnych koderów klasy 16GB — 46,8% — ale jest wolny, często wymagając offloadu na CPU przy ~18 tokenach/sek. Jeśli Twoja praca to wieloplikowe edycje agentowe i możesz znieść to tempo, Devstral zasługuje na swoje miejsce; jeśli chcesz szybkości i czystego kodu, gpt-oss-20b jest lepszym domyślnym wyborem. Gęste modele 14B — Qwen3-Coder 14B lub Qwen2.5-Coder 14B w Q5 — to wygodne, tanie opcje awaryjne.

8GB VRAM: Qwen 2.5 Coder 7B

Przy 8 GB szczera odpowiedź to Qwen2.5-Coder-7B: 7B parametrów przy ~4,7 GB w Q4_K_M, natywny kontekst 32 768 tokenów rozszerzalny do około 128K, oraz najwyższe wyniki w benchmarkach uzupełniania kodu w klasie 7B. To starszy model — wydany w listopadzie 2024 — i to w porządku, bo nic nowszego w granicach 8 GB go nie zdetronizowało. Testy społeczności wskazują około 50 tokenów/s na RTX 4060 lub 3070; niezależny test na RTX 4060 w marcu 2026 zmierzył 28–35 tokenów/s, a rozbieżność wynika niemal wyłącznie z ustawień kontekstu.

Trzy rzeczy mają znaczenie przy 8 GB, których nie mają gdzie indziej. Po pierwsze, ogranicz kontekst do 4–8K: to pamięć podręczna KV powoduje OOM na karcie 8 GB, a nie wagi — jeden benchmark pokazał skok prędkości z ~3,6 do ~37 tokenów/sek wyłącznie dzięki ograniczeniu kontekstu. Po drugie, sprawdź za pomocą ollama ps że model jest w 100% na GPU; jakikolwiek udział CPU oznacza załamanie prędkości. Po trzecie, Q4_K_M, a nie Q3 — błędy składniowe Q3 kosztują cię więcej, niż oszczędza VRAM.

Godnym uwagi wydarzeniem 2026 roku jest to, że Qwen3-Coder-30B-A3B-Instruct może teraz zmieścić się na 8GB dzięki kompresji KV-cache TurboQuant — w konfiguracji społeczności zmierzono ~7,5GB i ~29 tokenów/sek na RTX 3060 Ti przy pełnym kontekście 256K. Działa, ale jest na tyle kłopotliwe, że nie zalecamy tego jako ustawienia domyślnego. Jeśli chcesz nowszą opcję gotową od razu do użycia, Qwen3 8B (~5,2GB, tryb hybrydowego myślenia) to mały krok w górę od Qwen2.5-Coder-7B pod względem ogólnego rozumowania, pozostając nieco w tyle w czystym kodowaniu.

A co z Apple Silicon?

Pamięć zunifikowana zmienia kalkulację w jednym kierunku: pojemność rośnie, szybkość generowania spada. M4 Pro z 48GB może pomieścić modele, których nie pomieści karta Windows z 16GB, ale generuje tokeny znacznie wolniej przy długim kontekście. Liczby, które mamy: 4-bitowa kompilacja MLX modelu Qwen3-Coder-30B-A3B-Instruct zużyła 16,6GB przy kontekście 1K i 25,5GB przy 64K na M4 Pro, a generowanie spadło z 73,6 tokenów/sek do 13,5 wraz ze wzrostem kontekstu (benchmark oMLX). gpt-oss-20b z łatwością mieści się w 16GB pamięci zunifikowanej i jest dobrym wyborem na Maca. Jeśli chcesz multimodalność na Apple Silicon, Gemma 4 12B działa w około 16GB pamięci zunifikowanej z kontekstem 256K — to najsilniejsza lokalna opcja, jeśli praca z kodem odbywa się obok dokumentów bogatych w obrazy.

Niezależne liczby: codegen nie jest umiejętnością, która się liczy

Najbardziej jednoznaczne dane, jakie znaleźliśmy, to pojedynczy lokalny benchmark, który warto zacytować w całości. gauravvij/local-llm-coding-eval uruchomił cztery modele lokalnie przez Ollamę, na CPU, bez chmury — generowanie kodu, wywoływanie funkcji oraz wieloetapowe zadanie agenta — z wynikami, które przeczą instynktowi „większy numer codegen wygrywa”:

• Qwen3.6 27B (qwen3.6:27b, dense, ~17GB): 80.0% generowanie kodu, 84.6% narzędzia, 100% agent — najlepszy wszechstronny model.

• Qwen3.6 35B A3B (qwen3.6:35b-a3b, MoE, ~18GB): 70,0% generowanie kodu, 84,6% narzędzia, 100% agent.

• Qwen3-Coder-30B-A3B-Instruct (qwen3-coder:30b, MoE, ~17GB): 80,0% codegen, 76,9% tools, 80% agent — najbardziej zrównoważony.

• DeepSeek-Coder-V2 33B (deepseek-coder:33b, gęsty, ~18GB): 90,0% generowania kodu — najlepszy z czterech — ale 10% agent, zdecydowanie ostatni w zadaniach wieloetapowych.

Ta ostatnia linia to cała lekcja. Model, który przoduje w czystym generowaniu kodu, a jednak załamuje się przy zadaniach agentowych, to model, który odinstalujesz po pierwszej pętli „przeczytaj ten plik, zmień tę funkcję, uruchom test”. Oceniaj lokalnego kodera po kolumnie agentowej, a nie po kolumnie codegen.

Gdy uruchamianie lokalnie jest złym posunięciem.

Lokalność przede wszystkim to właściwy domyślny wybór dla prywatności, pracy offline, zerowego kosztu krańcowego tokenów oraz autouzupełniania, gdzie opóźnienie liczy się bardziej niż maksymalna jakość. To błędna decyzja w konkretnych, rozpoznawalnych sytuacjach — a to jest sekcja, którą na stronie każdy pomija:

• Najtrudniejsza praca agentowa wciąż cię pokonuje. Test terenowy EPAM z 2026 roku na aplikacji Flutter liczącej 15 000 linii wykazał, że chmurowe modele graniczne (GPT-5.3-codex) nadal przewyższają modele lokalne w najbardziej złożonej wieloetapowej refaktoryzacji. Jeśli twój dzień to ośmiogodzinne refaktoryzacje starszego kodu, model lokalny nie jest jeszcze gotowy.

• Twoje potrzeby kontekstu przekraczają możliwości twojej karty. Agent kodujący, który wczytuje całe repozytorium, z łatwością przekroczy pamięć podręczną KV, jaką może pomieścić karta 16 GB. Kontekst 256K modelu Qwen3-Coder-30B to powód, dla którego wygrywa w klasie 24 GB — mniejsze karty przegrywają tę grę już na starcie.

• Nie możesz pilnować sprzętu. Sprzęt to prawdziwe pieniądze: karta 24 GB kosztuje 700–1600 dolarów, plus prąd i utrzymanie. Przy niskim wolumenie wywołanie API jest tańsze niż zużycie prądu.

• DeepSeek V4 Flash jest tego dowodem. Przy 284B parametrów łącznie same wagi 4-bitowe DeepSeek V4 Flash to mniej więcej 140 GB — to nie jest model na konsumencką kartę graficzną, kropka. Jego konstrukcja z 13B aktywnych parametrów to właśnie powód, dla którego jego API jest szybkie i tanie — 0,15 USD / 0,29 USD za 1 mln tokenów (MIT, kontekst 1M). W przypadku tego modelu „uruchomienie lokalne” to niewłaściwe pytanie; sedno tkwi w API.

• Zespoły potrzebują spójności. Jeśli czterech inżynierów uruchamia inną kwantyzację innego modelu, „działa na mojej maszynie” staje się zagrożeniem dla procesu budowania. Wspólne punkty końcowe API dają jeden deterministyczny cel.

Jeśli chcesz poznać odpowiedź po stronie API na to samo pytanie — który chmurowy model kodowania jest domyślny, gdy lokalne rozwiązanie nie jest właściwym wyborem — omówiliśmy to osobno w naszym przewodniku best-LLM-for-coding, a nasz artykuł AI-coding-agents opisuje narzędzia takie jak Cline i OpenCode, które współpracują z tymi lokalnymi modelami.

Jak przetestować kartę przed zakupem

Najtańszym sposobem na podjęcie decyzji jest uruchomienie własnych promptów przed zakupem sprzętu. Ollama lub LM Studio pozwolą uruchomić każdą z tych trzech opcji w kilka minut, a liczy się test na rzeczywistych plikach z twojego repozytorium, a nie benchmark. Router zasługuje na swoje miejsce w decyzji pobocznej: gdy porównujesz lokalnego kandydata z hostowanymi modelami frontier, jeden endpoint pozwala przepuścić ten sam prompt przez oba bez żonglowania kluczami. W OrcaRouter DeepSeek V4 Flash jest serwowany w cenie z listy dostawcy, przekazanej bez zmian — 0,15 $ / 0,29 $ za 1 mln tokenów, 0% narzutu — z automatycznym failover, co czyni go tanią i uczciwą miarą dla pytania „czy mój lokalny model jest rzeczywiście lepszy niż API za 0,15 $?”

Jedna uczciwa uwaga: OrcaRouter nie hostuje Qwen3-Coder-30B-A3B-Instruct ani gpt-oss-20b. Jeśli Twój cel to działanie ściśle offline, router jest Ci niepotrzebny — postaw samodzielny hosting i gotowe. Jeśli chcesz porównać A/B ten sam model o otwartych wagach z modelami z czołówki, zanim zainwestujesz w kartę, zadaniem routera jest porównanie, a nie hosting.

Najważniejsze

Twoja pamięć VRAM decyduje w pierwszej kolejności, a jakość modelu w drugiej. Przy 24 GB uruchom Qwen3-Coder-30B-A3B-Instruct — najsilniejszy wszechstronny lokalny model do kodowania, z kontekstem 256K, którego wymaga praca agentowa. Przy 16 GB uruchom gpt-oss-20b — rzadki model, który jest zarówno szybki, jak i w pełni działa na GPU. Przy 8 GB uruchom Qwen2.5-Coder-7B i trzymaj kontekst na umiarkowanym poziomie. Oceń każdy z nich według kolumny agentowej, a nie kolumny codegen, i zaakceptuj, że najtrudniejszy refaktoring wieloplikowy nadal należy do chmury. Powyższe liczby są aktualne na dzień 10 sierpnia 2026 — przed wydaniem pieniędzy zweryfikuj ponownie skład i ceny, ponieważ ten obszar zmienia się co tydzień.