Ollama-bezogene Befehle

Ollama bietet eine Vielzahl von Kommandozeilen-Tools (CLI), mit denen Benutzer mit lokal laufenden Modellen interagieren können.

Grundformat:

ollama <command> [args]

Wir könnenollama --helpverwenden, um zu sehen, welche Befehle verfügbar sind:

Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

1. Verwendung

  • ollama [flags]: Ollama mit Flags ausführen.

  • ollama [command]: Einen bestimmten Ollama-Befehl ausführen.

2. Verfügbare Befehle

  • serve: Den Ollama-Dienst starten.
  • create: Erstellt ein Modell aus einer Modelfile.
  • show: Zeigt detaillierte Informationen über ein Modell an.
  • run: Führt ein Modell aus.
  • stop: Stoppt ein laufendes Modell.
  • pull: Lädt ein Modell aus einer Modellregistrierung herunter.
  • push: Lädt ein Modell in eine Modellregistrierung hoch.
  • list: Listet alle Modelle auf.
  • ps: Listet alle laufenden Modelle auf.
  • cp: Kopiert ein Modell.
  • rm: Löscht ein Modell.
  • help: Ruft Hilfeinformationen zu jedem Befehl ab.

3. Optionen

  • -h, --help: Zeigt Hilfeinformationen für ollama an.
  • -v, --version: Zeigt Versionsinformationen an.

Vollständiges Beispiel:

Befehl Beschreibung Beispiel
ollama run Ein Modell ausführen. Wenn es nicht existiert, wird es automatisch gepullt. ollama run llama3
ollama pull Ein Modell pullen. Das Modell aus der Registry herunterladen, ohne es auszuführen. ollama pull mistral
ollama list Modelle auflisten. Alle lokal heruntergeladenen Modelle anzeigen. ollama list
ollama rm Ein Modell löschen. Das lokale Modell entfernen, um Speicherplatz freizugeben. ollama rm llama3
ollama cp Ein Modell kopieren. Ein vorhandenes Modell unter einem neuen Namen kopieren (zum Testen). ollama cp llama3 my-model
ollama create Ein Modell erstellen. Ein benutzerdefiniertes Modell aus einem Modelfile erstellen (fortgeschritten). ollama create my-bot -f ./Modelfile
ollama show Informationen anzeigen. Die Metadaten, Parameter oder Modelfile des Modells anzeigen. ollama show --modelfile llama3
ollama ps Prozesse anzeigen. Aktuell laufende Modelle und VRAM-Nutzung anzeigen. ollama ps
ollama push Ein Modell pushen. Laden Sie Ihr benutzerdefiniertes Modell zu ollama.com hoch. ollama push my-username/my-model
ollama serve Dienst starten. Startet den API-Dienst von Ollama (läuft normalerweise automatisch im Hintergrund). ollama serve
ollama help Hilfe. Zeigt Hilfeinformationen für jeden Befehl an. ollama help run

1. Modelle herunterladen und löschen

pull
Ein Remote-Modell auf den lokalen Rechner herunterladen.

ollama pull <model>

rm / remove
Ein lokales Modell löschen.

ollama rm <model>

list / ls
Alle lokalen Modelle auflisten.

ollama list

2. Modelle ausführen

run
Das Modell im interaktiven Modus ausführen, ohne ihn zu verlassen.

ollama run <model>

Kann Systeminformationen und Prompt enthalten:

ollama run <model> -s "<system>" -p "<prompt>"

run + Skript
Prompt aus einer Datei lesen:

ollama run <model> < input.txt

Wenn Sie eingebenollama runNachdem du die Chat-Oberfläche betreten hast, bedienst du nicht mehr die Kommandozeile, sondern sprichst mit der KI. An diesem Punkt kannst du die/Kurzbefehle, die mit einem Präfix beginnen, um die Konversation zu steuern:

  • /byeoder/exit:Am wichtigsten!Verlasse die Chat-Oberfläche und kehre zur Kommandozeile zurück.
  • /clear: Aktuellen Kontextspeicher löschen (eine neue Konversation starten).
  • /show info: Detaillierte Parameterinformationen des aktuellen Modells anzeigen.
  • /set parameter seed 123: Einen zufälligen Seed setzen (fortgeschrittene Technik, um Ergebnisse zu reproduzieren).
  • /help: Alle verfügbaren Kurzbefehle im Chat anzeigen.

3. Inferenzschnittstelle (einmalige Ausführung)

generate
Eine einzelne Inferenz durchführen und Text ausgeben.

ollama generate <model> -p "<prompt>"

4. Modelle erstellen und ändern

create
Erstellen Sie ein lokales Modell aus einem Modelfile.

ollama create <model-name> -f Modelfile

cp
Kopieren Sie ein Modell unter einem neuen Namen.

ollama cp <src> <dst>

5. Serverbezogen

serve
Starten Sie den lokalen Ollama-Dienst (Standard 11434).

ollama serve

run serverless
Wannollama runDer Hintergrunddienst wird automatisch gestartet; er muss nicht separat ausgeführt werden.


6. Modellinformationen

show
Modell-Metadaten, Parameter und Vorlagen anzeigen.

ollama show <model>

7. Spezielle Parameter

Die meisten dieser Parameter können in run/generate verwendet werden:

--num-predict <number>    限制输出 token 数
--temperature <float>     控制随机性
--top-k <int>             采样范围
--top-p <float>           核采样
--seed <int>              固定随机性
--format json             输出 JSON
--keepalive <seconds>     会话保持时间

8. Modelfile-Direktiven

Wird beim Erstellen eines Modells verwendet:

  • FROM <model>: Basismodell
  • SYSTEM "xxx": System-Prompt festlegen
  • PARAMETER key=value: Standardparameter festlegen
  • TEMPLATE "xxx": Chat-Vorlage anpassen
  • LICENSE "xxx": Lizenz festlegen
  • ADAPTER <file> / WEIGHTS <file>: LoRA oder zusätzliche Gewichte laden

9. API (wenn serve läuft)

REST-Endpunktehttp://localhost:11434/api:

  • /api/generate: Textgenerierung
  • /api/chat: Chat-Streaming-Schnittstelle
  • /api/pull: Remote-Pull
  • /api/tags: Lokale Modellliste

Beispielaufruf (curl):

curl http://localhost:11434/api/generate \
  -d '{"model":"qwen2.5","prompt":"hello"}'

10. Fortgeschritten

Mit benutzerdefinierten Parametern ausführen:

ollama run <model> --temperature 0.2 --top-p 0.9

Persistente Sitzung (Kontext beibehalten):
Sitzungen werden automatisch vom internen Cache des Modells verwaltet, ohne dass zusätzliche Befehle erforderlich sind.

Weitere Erweiterungen