Ollama Lokaler KI-Codierungsassistent
Dieses Kapitel passt ein codingspezifisches lokales Modell, example-coder, an und verbindet es mit VS Code und Claude Code, wodurch ein vollständig offlinefähiger Coding-Assistent entsteht, der keine Tokens kostet.
Die Kernarbeit umfasst drei Dinge: das richtige Codemodell auswählen, eine solide Coding-Modelfile schreiben und es in ein praktisches Tool integrieren.
Schritt 1: Ein Codemodell auswählen – VRAM gibt den Ausschlag
Codemodelle zeigen deutlichere Fähigkeitsunterschiede als Chatmodelle, aber die Einstiegshürde ist ebenfalls höher. Wählen Sie je nach VRAM:
| Ihre Hardware | Empfohlenes Modell | Erwartete Leistung |
|---|---|---|
| 24GB+ VRAM | qwen3-coder | Spezialisierte Code-Modelle bieten das stärkste dateiübergreifende Verständnis; Parameter auf 30B-Niveau erfordern viel VRAM, und lange Kontexte benötigen noch mehr Spielraum. |
| 16GB RAM ohne diskrete GPU | qwen3.5:9b Custom-Edition | Ausreichend für alltägliche Autovervollständigung, Codeerklärung und das Schreiben von Unit-Tests |
| Alte Maschine mit 8GB RAM | qwen3.5:4b / 0.8b Custom-Edition | Leichtgewichtige Q&A; überlassen Sie komplexe Aufgaben der Cloud |
Wenn Ihr VRAM nicht ausreicht, um qwen3-coder auszuführen, müssen Sie es nicht bedauern: Verwenden Sie das :cloud-Tag, um die Cloud-Version direkt aufzurufen. Teams mit sensiblem Code sollten zuerst eine Compliance-Prüfung durchführen.
Abrufen je nach Ihrer Hardware:
ollama pull qwen3-coder # 24GB+ 显存 ollama pull qwen3.5:9b # 16GB 内存
Schritt 2: Schreiben Sie eine Modelfile für Programmier-Szenarien
Ein reines Modell kann Code schreiben, aber es ist nicht "professionell" – keine Kommentare, neigt zum Abschweifen und hat eine schlampige Formatierung. Verwenden Sie eine Modelfile, um Coding-Standards zu festigen:
Beispiel
# Wenn Sie 24GB+ VRAM haben, ersetzen Sie die Basis durch qwen3-coder
FROM qwen3.5:9b
SYSTEM """
Du bist der Coding-Assistent des EXAMPLE-Teams. Befolge diese Regeln:
1. Bevorzuge vollständigen, direkt ausführbaren Code gegenüber Schnipseln
2. Schreibe für jeden wichtigen Schritt chinesische Kommentare, die"warum" erklären"
3. Befolge PEP 8 (Python) oder den offiziellen Stil der jeweiligen Sprache
4. Wenn unbekannte APIs involviert sind, erinnere daran, die offizielle Dokumentation zu prüfen; erfinde keine Schnittstellen
5. Antwortstruktur: Ein-Satz-Idee - Code - Hinweise
"""
# Für Code-Szenarien stabil halten; die Zufälligkeit verringern
PARAMETER temperature 0.2
# Agent-/Editor-Szenarien haben großen Code-Kontext; genügend Fenster bereitstellen
PARAMETER num_ctx 65536
Baue dein dediziertes Coding-Modell:
ollama create example-coder -f Modelfile
Um zu prüfen, ob es "richtig abgestimmt" wurde, teste es mit drei Standardaufgaben: Mache eine Funktion direkt nutzbar (Vollständigkeit prüfen), erkläre ein Stück Legacy-Code mit Fallstricken (Verständnis prüfen) und bitte es, Unit-Tests zu schreiben (Einhaltung von Standards prüfen). Verbinde es erst mit dem Editor, wenn alle drei bestanden sind.
num_ctx 65536 ist für Editor- und Agent-Szenarien vorbereitet: Sie packen eine ganze Datei oder sogar mehrere Dateien in den Kontext. Wenn der VRAM knapp ist, reduziere ihn auf 32768, und prüfe mit ollama ps, ob PROCESSOR noch 100% GPU ist.
Schritt 3: Verbinde es mit deinem Editor
Custom-Modelle und Bare-Modelle unterscheiden sich aus Sicht der Tools nicht. Die Integrationsmethode ist exakt dieselbe wie in Kapitel 11.
VS Code Chat-Integration
Nach der Installation der offiziellen Ollama-Erweiterung wähle example-coder im Chat-Modell-Selektor aus. Es ist keine weitere Konfiguration erforderlich.
Claude Code-Integration
Beispiel
ollama launch claude --model example-coder
# Manuelle Methode: Umgebungsvariablen auf lokal zeigen lassen und den benutzerdefinierten Modellnamen verwenden
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_BASE_URL=http://localhost:11434
claude --model example-coder
Nach der Integration werden die Dateibearbeitung, die Befehlsausführung und die mehrrundigen Refactoring-Fähigkeiten von Claude Code alle vom lokalen Modell gesteuert. Bevor du lange Aufgaben ausführst, vergewissere dich, dass das Kontextfenster wie oben beschrieben eingestellt wurde.
Leistungsvergleich und Strategie zum Modellwechsel
Verschiedene Aufgaben sollten Modelle unterschiedlicher Größe verwenden. Lege die Auswahlstrategie fest, um nicht jedes Mal diskutieren zu müssen:
| Aufgabentyp | Empfohlenes Modell | Grund |
|---|---|---|
| Funktions-Autovervollständigung, Code-Erklärung, Schreiben von Unit-Tests | example-coder (lokal) | Schnell, kostenlos, privat |
| Dateiübergreifendes Refactoring, komplexes Debugging | qwen3-coder oder ein Cloud-Flaggschiff | Erfordert ein stärkeres Verständnis für langen Kontext |
| Batch-Generierung, skriptgesteuerte Verarbeitung | Lokales kleines Modell + API | Kostenfrei bei hohem Volumen |
Die Wechselkosten müssen niedrig genug sein, damit du tatsächlich wechselst:
Beispiel
/load qwen3-coder
# In VS Code einfach auf die Modellauswahl klicken
# Beim Starten von Claude Code mit --model angeben
Andere ErweiterungenEine praktische kombinierte Strategie: Lassen Sie das lokale kleine Modell 90% der täglichen Anfragen bearbeiten und wechseln Sie nur dann zu einem großen Modell oder Cloud-Modell, wenn wirklich schwierige Probleme auftreten. Die Koexistenz mehrerer Tags von Ollama macht diese "stufige" Strategie völlig frei von Wechselkosten.