Ollama-Modellverwaltung
In diesem Kapitel behandeln wir die Modellverwaltungsbefehle von Ollama: Abrufen, Anzeigen, Kopieren, Löschen und wie Modelle im Speicher liegen.
Modell pullen: ollama pull
Der Befehl pull lädt nur das Modell herunter, ohne eine Unterhaltung zu starten; er eignet sich daher, um Modelle im Voraus vorzubereiten.
Standard-Tag (latest) herunterladen:
ollama pull qwen3.5
Ein bestimmtes Spezifikations-Tag herunterladen:
ollama pull qwen3.5:4b
Nach der Ausführung sehen Sie die standardmäßige Download-Fortschrittsausgabe:
$ ollama pull qwen3.5:4b pulling manifest pulling 87497c5f0e8f... 100% |████████████████████| 3.4GB verifying sha256 digest writing manifest success
Wenn ein Download unterbrochen wird, müssen Sie nicht von vorn beginnen. Ollama verifiziert und speichert Daten schichtweise; wenn Sie denselben Befehl erneut ausführen, werden die unvollendeten Schichten automatisch fortgesetzt.
Es sollte auch beachtet werden, dass ollama run eine integrierte Pull-Logik hat: Beim ersten Ausführen eines Modells werden Download und Laden automatisch abgeschlossen, sodass Sie im täglichen Gebrauch oft nicht separat pullen müssen.
Verschiedene Spezifikations-Tags entsprechen verschiedenen offiziellen vorgefertigten Modelldateien; beim Pull kann keine zusätzliche Quantisierungspräzision angegeben werden. Wenn du ein großes Modell selbst auf eine kleinere Größe komprimieren möchtest, musst du den Befehl create zur Quantisierung verwenden, der im Kapitel zur Modelfile-Anpassung behandelt wird.
Lokale Modelle anzeigen: list und show
list listet alle lokalen Modelle und deren Speicherplatzverbrauch auf; es ist der am häufigsten verwendete Inventarbefehl.
Lokale Modelle auflisten:
ollama list
Zum Beispiel:
$ ollama list NAME ID SIZE MODIFIED qwen3.5:0.8b 9e3f4b3a1c2d 1.0GB 5 minutes ago qwen3.5:4b b1c7d9e2f3a4 3.4GB 2 days ago qwen3.5:latest a8b2c9d3e4f5 6.6GB 2 hours ago
Die vier Spalten sind Modellname, Versions-Fingerprint, Speicherplatzverbrauch und Zeitpunkt der letzten Änderung. Wenn der Speicherplatz knapp wird, ist ein Blick auf die Spalte SIZE der direkteste Ansatz.
Um tiefer in die Details eines Modells einzublicken, verwende den Befehl show:
# 查看模型详情:能力、参数、系统提示词、许可证等 ollama show qwen3.5
show kann mehrere typische Fragen beantworten: welche Fähigkeiten das Modell unterstützt (Chat, Vision, Tool-Aufruf), welche Standard-Generierungsparameter gelten, was der System-Prompt aussagt und wie groß das Kontextfenster ist.
Es hat auch eine fortgeschrittene Verwendung: die vollständige Konfiguration des Modells als Modelfile exportieren:
Beispiel
ollama show --modelfile qwen3.5
Dieser "Rezept ansehen - ändern - neu erstellen"-Workflow wird im Kapitel zur Modelfile-Anpassung vollständig behandelt.
Laufende Modelle anzeigen: ollama ps
list betrachtet den Datenträger, während ps den Speicher betrachtet: was geladen wurde, wie viel es belegt und wann es entladen wird.
Beispiel
ollama ps
$ ollama ps NAME ID SIZE PROCESSOR CONTEXT UNTIL qwen3.5:9b a8b2c9d3e4f5 9.6GB 100% GPU 131072 4 minutes from now
Die Bedeutung jeder Spalte ist wie folgt:
| Column | Bedeutung |
|---|---|
| NAME / ID | Modellname und Versions-Fingerprint, wie in list |
| SIZE | Gesamter Speicher, der aktuell vom Modell belegt wird (einschließlich RAM und VRAM) |
| PROCESSOR | Ladeort: 100% GPU bedeutet vollständig auf der Grafikkarte; 100% CPU bedeutet vollständig im RAM; ein Verhältnis wie 48%/52% CPU/GPU zeigt an, dass der VRAM nicht ausreicht und das Modell aufgeteilt wurde |
| CONTEXT | Die aktuell zugewiesene Kontextfenstergröße |
| UNTIL | Verbleibende Zeit bis zum automatischen Entladen (Keep-Alive-Countdown) |
Die PROCESSOR-Spalte ist die erste Stelle, die bei der Fehlersuche nach „Warum ist das Modell langsam?“ geprüft werden sollte: Solange dort nicht 100% GPU steht, bedeutet das, dass das Modell nicht vollständig in den VRAM geladen wurde. Konkrete Methoden zur Leistungsoptimierung werden im Kapitel GPU und Performance ausführlich behandelt.
Kopieren und Umbenennen: ollama cp
cp gibt einem vorhandenen Modell einen neuen Namen; wird häufig zum Umbenennen oder Aufbewahren eines Snapshots verwendet.
Beispiel
ollama cp qwen3.5:4b example-test
# Wie ein normales Modell verwenden
ollama run example-test
Es gibt einen sehr praktischen fortgeschrittenen Trick: das „Ausleihen eines Namens“ für ein Modell.
Einige Tools hartcodieren Modellnamen (z. B. gpt-3.5-turbo). Indem Sie mit cp ein lokales Modell auf diesen Namen kopieren, können Sie solche Tools das lokale Modell direkt verwenden lassen:
Beispiel
ollama cp qwen3.5 gpt-3.5-turbo
cp wird fast augenblicklich abgeschlossen, weil es nur einen neuen Modellnamenseintrag erstellt, der auf die ursprünglichen Modelldateien verweist; es wird keine zweite Multi-GB-Kopie der Daten auf der Festplatte erstellt.
Modelle löschen und Datenträgerbereinigung: ollama rm
rm löscht lokale Modelle und ist das Gegenmittel gegen das "nur wächst, niemals schrumpft"-Problem in der Modellbibliothek.
Beispiel
ollama rm qwen3.5:0.8b
$ ollama rm qwen3.5:0.8b deleted 'qwen3.5:0.8b'
Der empfohlene Bereinigungs-Workflow lautet: Verwenden Sie zuerst ollama list, um große und nicht mehr verwendete Modelle zu finden, und löschen Sie sie dann nacheinander mit rm.
Wenn mehrere Tags dieselben zugrunde liegenden Dateien gemeinsam nutzen, wirkt sich das Löschen eines der Tags nicht auf die normale Verwendung der anderen Tags aus.
Stellen Sie außerdem sicher, dass Sie auch Modelle behandeln, deren Namen mit cp ausgeliehen wurden: Nach dem Löschen des ursprünglichen Modells existiert die Kopie mit dem ausgeliehenen Namen weiterhin und belegt weiterhin Speicherplatz. Lassen Sie nicht zu, dass sie zu unsichtbaren schwarzen Löchern auf der Festplatte werden.
Modelle stoppen und der Keep-alive-Residenzmechanismus
Schauen wir uns zuerst ein Diagramm des Modell-Lebenszyklus an; dann ist auf einen Blick klar, auf welchen Schritt jeder Verwaltungsbefehl wirkt.
Der entscheidende Mechanismus ist Keep-alive: Nachdem eine Modellkonversation beendet ist, wird das Modell nicht sofort entladen, sondern verbleibt standardmäßig 5 Minuten im Arbeitsspeicher oder VRAM.
Wenn innerhalb dieser 5 Minuten eine weitere Anfrage eingeht, wartet die Antwort nicht mehr auf das Laden des Modells; wenn nach dieser Zeit keine neuen Anfragen eingehen, wird das Modell automatisch entladen und der Speicher wird freigegeben.
Um das Modell sofort Ressourcen freigeben zu lassen, verwenden Sie den Befehl stop, um es manuell zu entladen:
Beispiel
ollama stop qwen3.5:4b
Es gibt drei Möglichkeiten, die Verweildauer anzupassen:
| Methode | Wie man es umsetzt | Anwendungsfall |
|---|---|---|
| Globalen Standard ändern | Umgebungsvariable OLLAMA_KEEP_ALIVE festlegen, z. B. 30m, 2h | Wenn der Server eine einheitliche Verweildauer-Richtlinie möchte |
| Pro Anfrage angeben | Parameter keep_alive beim Aufruf der API übergeben; z. B. bedeutet -1, dass es im Speicher bleibt und nie entladen wird | Wenn die Anwendungsebene verschiedene Modelle unterschiedlich behandelt |
| Sofort entladen | ollama stop <Modellname> | VRAM vorübergehend für andere Aufgaben freigeben |