Lokalen KI-Coding-Assistenten auf gebrauchtem Laptop betreiben: Copilot ohne Cloud (2026)
Ein lokaler Coding-Assistent — Autocomplete und Chat, die komplett auf Ihrer eigenen Maschine laufen — ist einer der praktischsten KI-Workloads für einen gebrauchten Laptop: Die Modelle sind klein, die Latenz-Anforderungen bescheiden und der Datenschutz-Fall echt. Dieser Leitfaden behandelt den Stack 2026, welche Modelle in welche VRAM-Stufe passen und wo lokal ehrlich noch gegen Cloud-Copilot verliert.
Warum überhaupt, wenn es Copilot gibt?
Drei Gründe, die den Kontakt mit der Realität überleben. Datenschutz und Compliance: Ihr Code verlässt die Maschine nie — entscheidend für Kunden-Codebases, NDAs, Healthcare-/Fintech-Arbeit und jedes Geschäft, in dem „wir haben das Repo in ein Cloud-Tool gepastet” ein unangenehmer Satz ist. Offline: Züge, Flugzeuge, wackliges Hotel-WLAN. Kosten: 0 €/Monat gegen Pro-Sitz-Abos, auf Hardware, die Sie ohnehin für andere KI-Arbeit gekauft haben.
Und ein ehrlicher Gegengrund: Frontier-Cloud-Modelle bleiben klüger bei großen, unübersichtlichen, dateiübergreifenden Problemen. Lokal gewinnt bei Autocomplete und Routine-Chat; die Cloud gewinnt weiterhin bei „refactore dieses ganze Modul”. Die meisten, die lokal gehen, enden hybrid.
Der Stack: Ollama + Continue
Die Voreinstellung 2026 ist langweilig und gut: Ollama stellt Modelle lokal bereit; Continue (Open-Source-Erweiterung für VS Code/JetBrains) verdrahtet sie in Ihren Editor mit zwei Rollen — ein kleines, schnelles Modell fürs Tab-Autocomplete und ein größeres für Chat/Edit. Alternativen existieren (LM Studio als Server, Cody, Twinny), aber Ollama+Continue hat die meiste Dokumentation und die geringste Reibung.
Der Zwei-Modell-Split zählt, weil die Aufgaben sich unterscheiden. Autocomplete braucht das erste Token in deutlich unter einer halben Sekunde — das bedeutet ein 1,5–3B-Modell, immer geladen. Chat verträgt eine oder zwei Sekunden Nachdenken — dorthin fließt Ihr VRAM-Budget.
Modelle nach VRAM-Stufe (2026)
Die Qwen-Coder-Familie bleibt der lokale Benchmark-Führer über alle Stufen; Codestral, DeepSeek-Coder und Devstral sind glaubwürdige Alternativen. Passen Sie das Modell an Ihre Karte an und bedenken Sie, dass der KV-Cache bei Arbeits-Kontextgrößen 1–4 GB auf den Download obendrauf addiert:
| Ihre Hardware | Autocomplete-Modell | Chat-Modell | Erfahrung |
|---|---|---|---|
| CPU-only, 16 GB RAM (T14 Gen 3) | Qwen2.5-Coder 1.5B | 7B Q4, ~4–5 tok/s | Autocomplete OK; Chat für geduldige Momente |
| 4 GB VRAM (P14s Gen 2, XPS 15) | 1.5B auf GPU | 7B Q4 teilw. ausgelagert, ~10–18 tok/s | Autocomplete flott; Chat nutzbar |
| 6 GB (Legion 5 Gen 6) | 1.5–3B | Qwen2.5-Coder 7B Q4 komplett auf GPU, ~30 tok/s | Der Budget-Sweet-Spot |
| 8 GB (Legion 5 Gen 7, ZBook Fury G8) | 3B | 7B Q8 oder 14B Q4 (knapp), ~20–35 tok/s | Wirklich angenehmes Alltagsgerät |
| 16 GB (P15 Gen 2, Legion 7, Precision 7560) | 3B | Qwen coder 14B Q4 komfortabel; 20B+-Klasse mit Raum für Kontext | Am nächsten an Cloud-Qualität, lokal |
(Die tok/s-Werte sind Schätzungen aus vergleichbaren Community-Benchmarks; Ihre Quantisierung, Kontextlänge und RAM-Konfiguration verschieben sie alle.)
Faustregel für Qualitätserwartungen: 7B-Coder-Modelle sind stark bei Completions, Boilerplate, Tests und dem Erklären von Code; 14B+ ergänzt spürbar besseres mehrstufiges Reasoning und Edit-Kohärenz; nichts Lokales erreicht Frontier-Cloud-Modelle bei kniffligen dateiübergreifenden Refactorings — siehe die ehrlichen Grenzen unten.
Fünf-Minuten-Setup
- Installieren Sie Ollama (der Windows-Build ist in Ordnung — siehe Windows vs. Linux; dieser Workload braucht kein WSL2).
ollama pull qwen2.5-coder:1.5bundollama pull qwen2.5-coder:7b(Größen gemäß Tabelle tauschen).- Installieren Sie Continue in VS Code; richten Sie in der Konfiguration die Autocomplete-Rolle auf das 1.5B und die Chat/Edit-Rollen auf das 7B unter
http://localhost:11434. - Setzen Sie das Autocomplete-
maxPromptTokensbescheiden (~1–2k) — lange Prompts sind es, die lokales Tab-Complete träge wirken lassen. - Testen Sie: Tippen Sie eine Funktionssignatur, warten Sie auf den grauen Geistertext; markieren Sie einen Block und bitten Sie den Chat, ihn zu erklären.
Stocken die Completions, prüfen Sie, dass Ollama beide Modelle geladen hält (ollama ps) — Modell-Swapping bei jedem Tastendruck ist die klassische Fehlkonfiguration auf 6-GB-Karten. Halten Sie das Autocomplete-Modell klein genug, dass beide gleichzeitig passen.
Ehrliche Grenzen
Lokale Assistenten sind 2026 exzellente Zeilen- und Funktions-Werkzeuge und mittelmäßige Architekten. Kontextfenster sind für Tempo klein konfiguriert, sodass die repo-weite Wahrnehmung flach ist; agentische dateiübergreifende Edits funktionieren, aber mit mehr Aufsicht als Cloud-Tools; und auf einem akkubetriebenen Laptop kostet Sie ständige Inferenz grob eine Stunde Laufzeit — stecken Sie für lange Sitzungen ein (Thermik zählt auch). Das pragmatische Muster für Business-Nutzer: lokal für die 90 % der täglichen Completions und schnellen Fragen (Datenschutz gewahrt, Latenz top), ein Cloud-Modell bewusst aufgerufen für die schweren 10 %.
Zusammenfassung
- Ollama + Continue in VS Code ist der Standard-Lokal-Stack 2026: ein 1,5–3B-Modell für sofortiges Autocomplete, ein 7–14B-Coder-Modell für Chat.
- 6 GB VRAM ist, wo lokales Coden angenehm wird (~30 tok/s auf einem 7B); 8–16 GB kaufen klügere Chat-Modelle, kein schnelleres Tippen.
- Selbst ein CPU-only-ThinkPad für 380 € betreibt nützliches Autocomplete — Completions brauchen kleine Modelle, keine großen GPUs.
- Der Datenschutz-Fall ist das Killer-Feature fürs Business: Code verlässt die Maschine nie, und es gibt keine Pro-Sitz-Rechnung.
- Bleiben Sie hybrid: lokal für tägliche Completions, Cloud für Reasoning auf Repo-Ebene — etwas anderes zu behaupten enttäuscht in Woche eins.