Ollama Lokaler KI-Codierungsassistent

Dieses Kapitel passt ein codingspezifisches lokales Modell, example-coder, an und verbindet es mit VS Code und Claude Code, wodurch ein vollständig offlinefähiger Coding-Assistent entsteht, der keine Tokens kostet.

Die Kernarbeit umfasst drei Dinge: das richtige Codemodell auswählen, eine solide Coding-Modelfile schreiben und es in ein praktisches Tool integrieren.


Schritt 1: Ein Codemodell auswählen – VRAM gibt den Ausschlag

Codemodelle zeigen deutlichere Fähigkeitsunterschiede als Chatmodelle, aber die Einstiegshürde ist ebenfalls höher. Wählen Sie je nach VRAM:

Ihre HardwareEmpfohlenes ModellErwartete Leistung
24GB+ VRAMqwen3-coderSpezialisierte Code-Modelle bieten das stärkste dateiübergreifende Verständnis; Parameter auf 30B-Niveau erfordern viel VRAM, und lange Kontexte benötigen noch mehr Spielraum.
16GB RAM ohne diskrete GPUqwen3.5:9b Custom-EditionAusreichend für alltägliche Autovervollständigung, Codeerklärung und das Schreiben von Unit-Tests
Alte Maschine mit 8GB RAMqwen3.5:4b / 0.8b Custom-EditionLeichtgewichtige Q&A; überlassen Sie komplexe Aufgaben der Cloud

Wenn Ihr VRAM nicht ausreicht, um qwen3-coder auszuführen, müssen Sie es nicht bedauern: Verwenden Sie das :cloud-Tag, um die Cloud-Version direkt aufzurufen. Teams mit sensiblem Code sollten zuerst eine Compliance-Prüfung durchführen.

Abrufen je nach Ihrer Hardware:

ollama pull qwen3-coder        # 24GB+ 显存
ollama pull qwen3.5:9b         # 16GB 内存

Schritt 2: Schreiben Sie eine Modelfile für Programmier-Szenarien

Ein reines Modell kann Code schreiben, aber es ist nicht "professionell" – keine Kommentare, neigt zum Abschweifen und hat eine schlampige Formatierung. Verwenden Sie eine Modelfile, um Coding-Standards zu festigen:

Beispiel

# Dateipfad: Modelfile
# Wenn Sie 24GB+ VRAM haben, ersetzen Sie die Basis durch qwen3-coder
FROM qwen3.5:9b

SYSTEM """
Du bist der Coding-Assistent des EXAMPLE-Teams. Befolge diese Regeln:
1. Bevorzuge vollständigen, direkt ausführbaren Code gegenüber Schnipseln
2. Schreibe für jeden wichtigen Schritt chinesische Kommentare, die
"warum" erklären"
3. Befolge PEP 8 (Python) oder den offiziellen Stil der jeweiligen Sprache
4. Wenn unbekannte APIs involviert sind, erinnere daran, die offizielle Dokumentation zu prüfen; erfinde keine Schnittstellen
5. Antwortstruktur: Ein-Satz-Idee - Code - Hinweise
"
""

# Für Code-Szenarien stabil halten; die Zufälligkeit verringern
PARAMETER temperature 0.2

# Agent-/Editor-Szenarien haben großen Code-Kontext; genügend Fenster bereitstellen
PARAMETER num_ctx 65536

Baue dein dediziertes Coding-Modell:

ollama create example-coder -f Modelfile

Um zu prüfen, ob es "richtig abgestimmt" wurde, teste es mit drei Standardaufgaben: Mache eine Funktion direkt nutzbar (Vollständigkeit prüfen), erkläre ein Stück Legacy-Code mit Fallstricken (Verständnis prüfen) und bitte es, Unit-Tests zu schreiben (Einhaltung von Standards prüfen). Verbinde es erst mit dem Editor, wenn alle drei bestanden sind.

num_ctx 65536 ist für Editor- und Agent-Szenarien vorbereitet: Sie packen eine ganze Datei oder sogar mehrere Dateien in den Kontext. Wenn der VRAM knapp ist, reduziere ihn auf 32768, und prüfe mit ollama ps, ob PROCESSOR noch 100% GPU ist.


Schritt 3: Verbinde es mit deinem Editor

Custom-Modelle und Bare-Modelle unterscheiden sich aus Sicht der Tools nicht. Die Integrationsmethode ist exakt dieselbe wie in Kapitel 11.

编码助手三层结构:工具层、协议层、模型层

VS Code Chat-Integration

Nach der Installation der offiziellen Ollama-Erweiterung wähle example-coder im Chat-Modell-Selektor aus. Es ist keine weitere Konfiguration erforderlich.

Claude Code-Integration

Beispiel

# Ein-Klick-Methode
ollama launch claude --model example-coder

# Manuelle Methode: Umgebungsvariablen auf lokal zeigen lassen und den benutzerdefinierten Modellnamen verwenden
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_BASE_URL=http://localhost:11434
claude --model example-coder

Nach der Integration werden die Dateibearbeitung, die Befehlsausführung und die mehrrundigen Refactoring-Fähigkeiten von Claude Code alle vom lokalen Modell gesteuert. Bevor du lange Aufgaben ausführst, vergewissere dich, dass das Kontextfenster wie oben beschrieben eingestellt wurde.


Leistungsvergleich und Strategie zum Modellwechsel

Verschiedene Aufgaben sollten Modelle unterschiedlicher Größe verwenden. Lege die Auswahlstrategie fest, um nicht jedes Mal diskutieren zu müssen:

AufgabentypEmpfohlenes ModellGrund
Funktions-Autovervollständigung, Code-Erklärung, Schreiben von Unit-Testsexample-coder (lokal)Schnell, kostenlos, privat
Dateiübergreifendes Refactoring, komplexes Debuggingqwen3-coder oder ein Cloud-FlaggschiffErfordert ein stärkeres Verständnis für langen Kontext
Batch-Generierung, skriptgesteuerte VerarbeitungLokales kleines Modell + APIKostenfrei bei hohem Volumen

Die Wechselkosten müssen niedrig genug sein, damit du tatsächlich wechselst:

Beispiel

# Im Terminal-Chat Modelle direkt wechseln, ohne den Chat zu verlassen
/load qwen3-coder

# In VS Code einfach auf die Modellauswahl klicken
# Beim Starten von Claude Code mit --model angeben

Eine praktische kombinierte Strategie: Lassen Sie das lokale kleine Modell 90% der täglichen Anfragen bearbeiten und wechseln Sie nur dann zu einem großen Modell oder Cloud-Modell, wenn wirklich schwierige Probleme auftreten. Die Koexistenz mehrerer Tags von Ollama macht diese "stufige" Strategie völlig frei von Wechselkosten.

Andere Erweiterungen