Ollama-Modellverwaltung

In diesem Kapitel behandeln wir die Modellverwaltungsbefehle von Ollama: Abrufen, Anzeigen, Kopieren, Löschen und wie Modelle im Speicher liegen.


Modell pullen: ollama pull

Der Befehl pull lädt nur das Modell herunter, ohne eine Unterhaltung zu starten; er eignet sich daher, um Modelle im Voraus vorzubereiten.

Standard-Tag (latest) herunterladen:

ollama pull qwen3.5

Ein bestimmtes Spezifikations-Tag herunterladen:

ollama pull qwen3.5:4b

Nach der Ausführung sehen Sie die standardmäßige Download-Fortschrittsausgabe:

$ ollama pull qwen3.5:4b
pulling manifest
pulling 87497c5f0e8f... 100% |████████████████████| 3.4GB
verifying sha256 digest
writing manifest
success

Wenn ein Download unterbrochen wird, müssen Sie nicht von vorn beginnen. Ollama verifiziert und speichert Daten schichtweise; wenn Sie denselben Befehl erneut ausführen, werden die unvollendeten Schichten automatisch fortgesetzt.

Es sollte auch beachtet werden, dass ollama run eine integrierte Pull-Logik hat: Beim ersten Ausführen eines Modells werden Download und Laden automatisch abgeschlossen, sodass Sie im täglichen Gebrauch oft nicht separat pullen müssen.

Verschiedene Spezifikations-Tags entsprechen verschiedenen offiziellen vorgefertigten Modelldateien; beim Pull kann keine zusätzliche Quantisierungspräzision angegeben werden. Wenn du ein großes Modell selbst auf eine kleinere Größe komprimieren möchtest, musst du den Befehl create zur Quantisierung verwenden, der im Kapitel zur Modelfile-Anpassung behandelt wird.


Lokale Modelle anzeigen: list und show

list listet alle lokalen Modelle und deren Speicherplatzverbrauch auf; es ist der am häufigsten verwendete Inventarbefehl.

Lokale Modelle auflisten:

ollama list

Zum Beispiel:

$ ollama list
NAME               ID            SIZE      MODIFIED
qwen3.5:0.8b       9e3f4b3a1c2d  1.0GB     5 minutes ago
qwen3.5:4b         b1c7d9e2f3a4  3.4GB     2 days ago
qwen3.5:latest     a8b2c9d3e4f5  6.6GB     2 hours ago

Die vier Spalten sind Modellname, Versions-Fingerprint, Speicherplatzverbrauch und Zeitpunkt der letzten Änderung. Wenn der Speicherplatz knapp wird, ist ein Blick auf die Spalte SIZE der direkteste Ansatz.

Um tiefer in die Details eines Modells einzublicken, verwende den Befehl show:

# 查看模型详情:能力、参数、系统提示词、许可证等
ollama show qwen3.5

show kann mehrere typische Fragen beantworten: welche Fähigkeiten das Modell unterstützt (Chat, Vision, Tool-Aufruf), welche Standard-Generierungsparameter gelten, was der System-Prompt aussagt und wie groß das Kontextfenster ist.

Es hat auch eine fortgeschrittene Verwendung: die vollständige Konfiguration des Modells als Modelfile exportieren:

Beispiel

# Exportiere das Modellrezept, das du ändern kannst, um dein eigenes Modell neu zu erstellen
ollama show --modelfile qwen3.5

Dieser "Rezept ansehen - ändern - neu erstellen"-Workflow wird im Kapitel zur Modelfile-Anpassung vollständig behandelt.


Laufende Modelle anzeigen: ollama ps

list betrachtet den Datenträger, während ps den Speicher betrachtet: was geladen wurde, wie viel es belegt und wann es entladen wird.

Beispiel

# Modelle auflisten, die aktuell im Speicher/VRAM geladen sind
ollama ps
$ ollama ps
NAME             ID            SIZE      PROCESSOR    CONTEXT    UNTIL
qwen3.5:9b       a8b2c9d3e4f5  9.6GB     100% GPU     131072     4 minutes from now

Die Bedeutung jeder Spalte ist wie folgt:

ColumnBedeutung
NAME / IDModellname und Versions-Fingerprint, wie in list
SIZEGesamter Speicher, der aktuell vom Modell belegt wird (einschließlich RAM und VRAM)
PROCESSORLadeort: 100% GPU bedeutet vollständig auf der Grafikkarte; 100% CPU bedeutet vollständig im RAM; ein Verhältnis wie 48%/52% CPU/GPU zeigt an, dass der VRAM nicht ausreicht und das Modell aufgeteilt wurde
CONTEXTDie aktuell zugewiesene Kontextfenstergröße
UNTILVerbleibende Zeit bis zum automatischen Entladen (Keep-Alive-Countdown)

Die PROCESSOR-Spalte ist die erste Stelle, die bei der Fehlersuche nach „Warum ist das Modell langsam?“ geprüft werden sollte: Solange dort nicht 100% GPU steht, bedeutet das, dass das Modell nicht vollständig in den VRAM geladen wurde. Konkrete Methoden zur Leistungsoptimierung werden im Kapitel GPU und Performance ausführlich behandelt.


Kopieren und Umbenennen: ollama cp

cp gibt einem vorhandenen Modell einen neuen Namen; wird häufig zum Umbenennen oder Aufbewahren eines Snapshots verwendet.

Beispiel

# Ein neu benanntes Modell kopieren
ollama cp qwen3.5:4b example-test

# Wie ein normales Modell verwenden
ollama run example-test

Es gibt einen sehr praktischen fortgeschrittenen Trick: das „Ausleihen eines Namens“ für ein Modell.

Einige Tools hartcodieren Modellnamen (z. B. gpt-3.5-turbo). Indem Sie mit cp ein lokales Modell auf diesen Namen kopieren, können Sie solche Tools das lokale Modell direkt verwenden lassen:

Beispiel

# Das lokale Modell auf den vom Tool erwarteten Namen kopieren
ollama cp qwen3.5 gpt-3.5-turbo

cp wird fast augenblicklich abgeschlossen, weil es nur einen neuen Modellnamenseintrag erstellt, der auf die ursprünglichen Modelldateien verweist; es wird keine zweite Multi-GB-Kopie der Daten auf der Festplatte erstellt.


Modelle löschen und Datenträgerbereinigung: ollama rm

rm löscht lokale Modelle und ist das Gegenmittel gegen das "nur wächst, niemals schrumpft"-Problem in der Modellbibliothek.

Beispiel

# Das angegebene Modell löschen
ollama rm qwen3.5:0.8b
$ ollama rm qwen3.5:0.8b
deleted 'qwen3.5:0.8b'

Der empfohlene Bereinigungs-Workflow lautet: Verwenden Sie zuerst ollama list, um große und nicht mehr verwendete Modelle zu finden, und löschen Sie sie dann nacheinander mit rm.

Wenn mehrere Tags dieselben zugrunde liegenden Dateien gemeinsam nutzen, wirkt sich das Löschen eines der Tags nicht auf die normale Verwendung der anderen Tags aus.

Stellen Sie außerdem sicher, dass Sie auch Modelle behandeln, deren Namen mit cp ausgeliehen wurden: Nach dem Löschen des ursprünglichen Modells existiert die Kopie mit dem ausgeliehenen Namen weiterhin und belegt weiterhin Speicherplatz. Lassen Sie nicht zu, dass sie zu unsichtbaren schwarzen Löchern auf der Festplatte werden.


Modelle stoppen und der Keep-alive-Residenzmechanismus

Schauen wir uns zuerst ein Diagramm des Modell-Lebenszyklus an; dann ist auf einen Blick klar, auf welchen Schritt jeder Verwaltungsbefehl wirkt.

Ollama 模型生命周期:下载、加载、驻留与卸载

Der entscheidende Mechanismus ist Keep-alive: Nachdem eine Modellkonversation beendet ist, wird das Modell nicht sofort entladen, sondern verbleibt standardmäßig 5 Minuten im Arbeitsspeicher oder VRAM.

Wenn innerhalb dieser 5 Minuten eine weitere Anfrage eingeht, wartet die Antwort nicht mehr auf das Laden des Modells; wenn nach dieser Zeit keine neuen Anfragen eingehen, wird das Modell automatisch entladen und der Speicher wird freigegeben.

Um das Modell sofort Ressourcen freigeben zu lassen, verwenden Sie den Befehl stop, um es manuell zu entladen:

Beispiel

# Das angegebene Modell sofort entladen
ollama stop qwen3.5:4b

Es gibt drei Möglichkeiten, die Verweildauer anzupassen:

MethodeWie man es umsetztAnwendungsfall
Globalen Standard ändernUmgebungsvariable OLLAMA_KEEP_ALIVE festlegen, z. B. 30m, 2hWenn der Server eine einheitliche Verweildauer-Richtlinie möchte
Pro Anfrage angebenParameter keep_alive beim Aufruf der API übergeben; z. B. bedeutet -1, dass es im Speicher bleibt und nie entladen wirdWenn die Anwendungsebene verschiedene Modelle unterschiedlich behandelt
Sofort entladenollama stop <Modellname>VRAM vorübergehend für andere Aufgaben freigeben
Andere Erweiterungen