Lokalny asystent kodowania AI na używanym laptopie: Copilot bez chmury (2026)
Lokalny asystent kodowania — autouzupełnianie i czat działające w całości na twojej maszynie — to jedno z najbardziej praktycznych obciążeń AI dla używanego laptopa: modele są małe, wymagania co do opóźnień skromne, a argument o prywatności realny. Ten przewodnik omawia stos 2026, które modele mieszczą się w którym poziomie VRAM i gdzie lokalne uczciwie wciąż przegrywa z chmurowym Copilotem.
Po co się męczyć, skoro istnieje Copilot?
Trzy powody, które przetrwają zderzenie z rzeczywistością. Prywatność i zgodność: twój kod nigdy nie opuszcza maszyny — decydujące dla baz kodu klientów, NDA, pracy w ochronie zdrowia/fintechu i każdego biznesu, w którym „wkleiliśmy repozytorium do narzędzia chmurowego” to niezręczne zdanie. Offline: pociągi, samoloty, kapryśne hotelowe Wi-Fi. Koszt: 0 zł miesięcznie kontra abonamenty per stanowisko, na sprzęcie już kupionym do innej pracy z AI.
I jeden uczciwy kontrargument: czołowe modele chmurowe pozostają mądrzejsze w dużych, zabałaganionych, wieloplikowych problemach. Lokalne wygrywa w autouzupełnianiu i rutynowym czacie; chmura wciąż wygrywa w „zrefaktoryzuj cały ten moduł”. Większość osób, które przechodzą na lokalne, kończy hybrydowo.
Stos: Ollama + Continue
Domyślny wybór 2026 jest nudny i dobry: Ollama serwuje modele lokalnie; Continue (otwartoźródłowe rozszerzenie do VS Code/JetBrains) wpina je do edytora z dwiema rolami — mały, szybki model do autouzupełniania w kartach i większy do czatu/edycji. Alternatywy istnieją (LM Studio jako serwer, Cody, Twinny), ale Ollama+Continue ma najwięcej dokumentacji i najmniej tarcia.
Podział na dwa modele ma znaczenie, bo zadania się różnią. Autouzupełnianie potrzebuje pierwszego tokenu w znacznie mniej niż pół sekundy — to oznacza model 1,5–3B, zawsze załadowany. Czat toleruje sekundę czy dwie myślenia — tam idzie twój budżet VRAM.
Modele według poziomu VRAM (2026)
Rodzina Qwen coder pozostaje lokalnym liderem benchmarków na wszystkich poziomach; Codestral, DeepSeek-Coder i Devstral to wiarygodne alternatywy. Dopasuj model do swojej karty, pamiętając, że cache KV dokłada 1–4 GB ponad pobranie przy roboczych rozmiarach kontekstu:
| Twój sprzęt | Model autouzupełniania | Model do czatu | Doświadczenie |
|---|---|---|---|
| Tylko CPU, 16 GB RAM (T14 Gen 3) | Qwen2.5-Coder 1.5B | 7B Q4, ~4–5 tok/s | Autouzupełnianie OK; czat w cierpliwych chwilach |
| 4 GB VRAM (P14s Gen 2, XPS 15) | 1.5B na GPU | 7B Q4 częściowo odciążony, ~10–18 tok/s | Autouzupełnianie żwawe; czat użyteczny |
| 6 GB (Legion 5 Gen 6) | 1.5–3B | Qwen2.5-Coder 7B Q4 w całości na GPU, ~30 tok/s | Budżetowy słodki punkt |
| 8 GB (Legion 5 Gen 7, ZBook Fury G8) | 3B | 7B Q8 lub 14B Q4 (na styk), ~20–35 tok/s | Naprawdę przyjemny codzienny sprzęt |
| 16 GB (P15 Gen 2, Legion 7, Precision 7560) | 3B | Qwen coder 14B Q4 komfortowo; klasa 20B+ z miejscem na kontekst | Najbliżej jakości chmury lokalnie |
(Liczby tok/s to szacunki z porównywalnych benchmarków społeczności; twoja kwantyzacja, długość kontekstu i konfiguracja RAM przesuwają je wszystkie.)
Reguła kciuka dla oczekiwań co do jakości: modele coder 7B są mocne w uzupełnieniach, boilerplate, testach i wyjaśnianiu kodu; 14B+ dodaje zauważalnie lepsze rozumowanie wieloetapowe i spójność edycji; nic lokalnego nie dorównuje czołowym modelom chmurowym w karkołomnych refaktoryzacjach między plikami — zobacz uczciwe limity poniżej.
Konfiguracja w pięć minut
- Zainstaluj Ollamę (build dla Windowsa jest w porządku — zobacz Windows kontra Linux; to obciążenie nie potrzebuje WSL2).
ollama pull qwen2.5-coder:1.5biollama pull qwen2.5-coder:7b(zamień rozmiary według tabeli).- Zainstaluj Continue w VS Code; w jego konfiguracji skieruj rolę autouzupełniania na 1.5B, a role czatu/edycji na 7B pod
http://localhost:11434. - Ustaw
maxPromptTokensautouzupełniania skromnie (~1–2 tys.) — długie prompty to to, co sprawia, że lokalne uzupełnianie w kartach wydaje się ospałe. - Test: napisz sygnaturę funkcji, poczekaj na szary tekst-widmo; zaznacz blok i poproś czat o wyjaśnienie.
Jeśli uzupełnienia się zacinają, sprawdź, czy Ollama trzyma oba modele załadowane (ollama ps) — przełączanie modelu przy każdym naciśnięciu klawisza to klasyczna błędna konfiguracja na kartach 6 GB. Trzymaj model autouzupełniania na tyle małym, by oba mieściły się jednocześnie.
Uczciwe ograniczenia
Lokalne asystenty w 2026 roku to znakomite narzędzia do linii i funkcji i przeciętni architekci. Okna kontekstu są konfigurowane małe dla szybkości, więc świadomość całego repozytorium jest płytka; agentowe edycje wieloplikowe działają, ale z większym pilnowaniem niż narzędzia chmurowe; a na laptopie na baterii ciągła inferencja kosztuje cię mniej więcej godzinę czasu pracy — podłącz się przy długich sesjach (termika też ma znaczenie). Pragmatyczny wzorzec dla użytkowników biznesowych: lokalnie na 90% codziennych uzupełnień i szybkich pytań (prywatność zachowana, opóźnienia świetne), model chmurowy świadomie wywołany do trudnych 10%.
Podsumowanie
- Ollama + Continue w VS Code to standardowy lokalny stos 2026: model 1,5–3B do natychmiastowego autouzupełniania, model coder 7–14B do czatu.
- 6 GB VRAM to punkt, w którym lokalne kodowanie robi się przyjemne (~30 tok/s na 7B); 8–16 GB kupuje mądrzejsze modele czatu, a nie szybsze pisanie.
- Nawet ThinkPad tylko z CPU za ~1600 zł uruchamia użyteczne autouzupełnianie — uzupełnienia potrzebują małych modeli, a nie dużych GPU.
- Argument o prywatności to zabójcza funkcja dla biznesu: kod nigdy nie opuszcza maszyny i nie ma rachunku per stanowisko.
- Zostań hybrydowy: lokalnie na codzienne uzupełnienia, chmura na rozumowanie w skali repozytorium — udawanie inaczej rozczarowuje w pierwszym tygodniu.