Ollama-bezogene Befehle
Ollama bietet eine Vielzahl von Kommandozeilen-Tools (CLI), mit denen Benutzer mit lokal laufenden Modellen interagieren können.
Grundformat:
ollama <command> [args]
Wir könnenollama --helpverwenden, um zu sehen, welche Befehle verfügbar sind:
Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information
1. Verwendung
ollama [flags]: Ollama mit Flags ausführen.
ollama [command]: Einen bestimmten Ollama-Befehl ausführen.
2. Verfügbare Befehle
- serve: Den Ollama-Dienst starten.
- create: Erstellt ein Modell aus einer Modelfile.
- show: Zeigt detaillierte Informationen über ein Modell an.
- run: Führt ein Modell aus.
- stop: Stoppt ein laufendes Modell.
- pull: Lädt ein Modell aus einer Modellregistrierung herunter.
- push: Lädt ein Modell in eine Modellregistrierung hoch.
- list: Listet alle Modelle auf.
- ps: Listet alle laufenden Modelle auf.
- cp: Kopiert ein Modell.
- rm: Löscht ein Modell.
- help: Ruft Hilfeinformationen zu jedem Befehl ab.
3. Optionen
- -h, --help: Zeigt Hilfeinformationen für ollama an.
- -v, --version: Zeigt Versionsinformationen an.
Vollständiges Beispiel:
| Befehl | Beschreibung | Beispiel |
|---|---|---|
ollama run |
Ein Modell ausführen. Wenn es nicht existiert, wird es automatisch gepullt. | ollama run llama3 |
ollama pull |
Ein Modell pullen. Das Modell aus der Registry herunterladen, ohne es auszuführen. | ollama pull mistral |
ollama list |
Modelle auflisten. Alle lokal heruntergeladenen Modelle anzeigen. | ollama list |
ollama rm |
Ein Modell löschen. Das lokale Modell entfernen, um Speicherplatz freizugeben. | ollama rm llama3 |
ollama cp |
Ein Modell kopieren. Ein vorhandenes Modell unter einem neuen Namen kopieren (zum Testen). | ollama cp llama3 my-model |
ollama create |
Ein Modell erstellen. Ein benutzerdefiniertes Modell aus einem Modelfile erstellen (fortgeschritten). | ollama create my-bot -f ./Modelfile |
ollama show |
Informationen anzeigen. Die Metadaten, Parameter oder Modelfile des Modells anzeigen. | ollama show --modelfile llama3 |
ollama ps |
Prozesse anzeigen. Aktuell laufende Modelle und VRAM-Nutzung anzeigen. | ollama ps |
ollama push |
Ein Modell pushen. Laden Sie Ihr benutzerdefiniertes Modell zu ollama.com hoch. | ollama push my-username/my-model |
ollama serve |
Dienst starten. Startet den API-Dienst von Ollama (läuft normalerweise automatisch im Hintergrund). | ollama serve |
ollama help |
Hilfe. Zeigt Hilfeinformationen für jeden Befehl an. | ollama help run |
1. Modelle herunterladen und löschen
pull
Ein Remote-Modell auf den lokalen Rechner herunterladen.
ollama pull <model>
rm / remove
Ein lokales Modell löschen.
ollama rm <model>
list / ls
Alle lokalen Modelle auflisten.
ollama list
2. Modelle ausführen
run
Das Modell im interaktiven Modus ausführen, ohne ihn zu verlassen.
ollama run <model>
Kann Systeminformationen und Prompt enthalten:
ollama run <model> -s "<system>" -p "<prompt>"
run + Skript
Prompt aus einer Datei lesen:
ollama run <model> < input.txt
Wenn Sie eingebenollama runNachdem du die Chat-Oberfläche betreten hast, bedienst du nicht mehr die Kommandozeile, sondern sprichst mit der KI. An diesem Punkt kannst du die/Kurzbefehle, die mit einem Präfix beginnen, um die Konversation zu steuern:
/byeoder/exit:Am wichtigsten!Verlasse die Chat-Oberfläche und kehre zur Kommandozeile zurück./clear: Aktuellen Kontextspeicher löschen (eine neue Konversation starten)./show info: Detaillierte Parameterinformationen des aktuellen Modells anzeigen./set parameter seed 123: Einen zufälligen Seed setzen (fortgeschrittene Technik, um Ergebnisse zu reproduzieren)./help: Alle verfügbaren Kurzbefehle im Chat anzeigen.
3. Inferenzschnittstelle (einmalige Ausführung)
generate
Eine einzelne Inferenz durchführen und Text ausgeben.
ollama generate <model> -p "<prompt>"
4. Modelle erstellen und ändern
create
Erstellen Sie ein lokales Modell aus einem Modelfile.
ollama create <model-name> -f Modelfile
cp
Kopieren Sie ein Modell unter einem neuen Namen.
ollama cp <src> <dst>
5. Serverbezogen
serve
Starten Sie den lokalen Ollama-Dienst (Standard 11434).
ollama serve
run serverless
Wannollama runDer Hintergrunddienst wird automatisch gestartet; er muss nicht separat ausgeführt werden.
6. Modellinformationen
show
Modell-Metadaten, Parameter und Vorlagen anzeigen.
ollama show <model>
7. Spezielle Parameter
Die meisten dieser Parameter können in run/generate verwendet werden:
--num-predict <number> 限制输出 token 数 --temperature <float> 控制随机性 --top-k <int> 采样范围 --top-p <float> 核采样 --seed <int> 固定随机性 --format json 输出 JSON --keepalive <seconds> 会话保持时间
8. Modelfile-Direktiven
Wird beim Erstellen eines Modells verwendet:
- FROM <model>: Basismodell
- SYSTEM "xxx": System-Prompt festlegen
- PARAMETER key=value: Standardparameter festlegen
- TEMPLATE "xxx": Chat-Vorlage anpassen
- LICENSE "xxx": Lizenz festlegen
- ADAPTER <file> / WEIGHTS <file>: LoRA oder zusätzliche Gewichte laden
9. API (wenn serve läuft)
REST-Endpunktehttp://localhost:11434/api:
/api/generate: Textgenerierung/api/chat: Chat-Streaming-Schnittstelle/api/pull: Remote-Pull/api/tags: Lokale Modellliste
Beispielaufruf (curl):
curl http://localhost:11434/api/generate \
-d '{"model":"qwen2.5","prompt":"hello"}'
10. Fortgeschritten
Mit benutzerdefinierten Parametern ausführen:
ollama run <model> --temperature 0.2 --top-p 0.9
Persistente Sitzung (Kontext beibehalten):
Sitzungen werden automatisch vom internen Cache des Modells verwaltet, ohne dass zusätzliche Befehle erforderlich sind.