Полное руководство по командам Ollama

В этой главе представлены команды для использования Ollama, охватывающие установку, управление моделями, параметры времени выполнения, Modelfile, REST API, переменные среды и устранение распространённых проблем. Весь материал основан на Ollama 0.17.x.


Установка и запуск

Все три платформы имеют стандартные способы установки. После установки Ollama автоматически запускается как фоновая служба, прослушивающая127.0.0.1:11434。

ПлатформаСпособ установкиОписание
macOSbrew install ollamaВы также можете скачать установщик DMG с официального сайта.
Linuxcurl -fsSL https://ollama.com/install.sh | shОфициальный скрипт в один клик, автоматически настраивающий службу systemd.
WindowsСкачайте установщик с официального сайта.Установите с помощью мастера; автоматически регистрируется как системная служба.
Dockerdocker run -d -v ollama:/root/.ollama -p 11434:11434 ollama/ollamaТом данных ollama сохраняет модели.

В большинстве случаев вам не нужно запускать сервис вручную, но это полезно при устранении неполадок или временном изменении конфигурации.ollama serve。

Пример

# Запустите сервис на переднем плане; логи выводятся прямо в терминал. Чаще всего используется для устранения неполадок.
ollama serve

# Убедитесь, что сервис готов: это нормально, если он возвращает "Ollama is running"
curl http://localhost:11434

Если появляется сообщение о занятом порте, фоновый сервис уже запущен. Запуск `ollama serve` в другом терминале тогда выдаст ошибку, что нормально. Просто используйте командную строку или API напрямую.


Полная таблица команд управления моделями

Управление моделями — основная часть командной строки Ollama, около десяти команд, все перечислены в таблице ниже.

КомандаФункцияПример
ollama pull <model>Скачайте модель из библиотеки моделей; если тег не указан, по умолчанию используется `latest`.ollama pull qwen3.5:4b
ollama run <model>Запустите модель в интерактивном режиме; если её нет локально, она будет автоматически загружена.ollama run qwen3.5
ollama list / ollama lsПоказать список локальных моделей, их размеры и время изменения.ollama list
ollama show <model>Просмотреть сведения о модели: параметры, шаблон, системный промпт и т. д.ollama show qwen3.5
ollama psПросмотреть модели, загруженные в память, и оставшееся время их жизни.ollama ps
ollama stop <model>Немедленно остановить и выгрузить запущенную модель.ollama stop qwen3.5
ollama cp <src> <dst>Копировать или переименовать модель.ollama cp qwen3.5 example-clone
ollama rm <model>Удалить локальную модель, чтобы освободить дисковое пространство.ollama rm qwen3.5:0.8b
ollama create <name> -f <file>Создать пользовательскую модель на основе Modelfile.ollama create example-coder -f Modelfile
ollama push <model>Отправить модель в удалённую библиотеку моделей; сначала требуется вход в систему.ollama push myteam/example-coder
ollama serveЗапустить фоновую службу; обычно она запускается автоматически вместе с системой.ollama serve

Наиболее часто используемая комбинация в повседневной работе — `run`, `list`, `ps` и `rm`: запускать модели, проверять список, просматривать память и освобождать место.

Пример

# Скачать модель определённого размера
ollama pull qwen3.5:0.8b

# Сделать копию и дать ей собственное имя
ollama cp qwen3.5 example-clone

# После подтверждения успешного копирования удалите размер, который больше не нужен
ollama rm qwen3.5:0.8b

`rm` удаляет файлы модели, соответствующие этому тегу. Если другие теги используют те же базовые веса (blobs), дисковое пространство полностью освобождается только после удаления последнего тега, ссылающегося на них.


Команда run и интерактивный режим

`run` можно использовать как инструмент для одноразовых вопросов и ответов, можно войти в интерактивный режим для многоходовых диалогов, а также он поддерживает изменение параметров во время выполнения.

Аргументы командной строки

Аргументы указываются после имени модели; они действуют только для текущего запуска и не записываются в конфигурацию модели.

Пример

# Интерактивный диалог
ollama run qwen3.5

# Одноразовый вопрос-ответ: запрос идёт после имени модели; автоматически завершается после ответа
ollama run qwen3.5 "Представь Python в одном предложении."

# Показывать статистику токенов: общее время, токенов в секунду и другие показатели производительности
ollama run qwen3.5 --verbose

# Принудительно выводить ответ модели в формате JSON
ollama run qwen3.5 --format json

# Увеличить окно контекста (единица измерения: токены)
ollama run qwen3.5 --num-ctx 8192

# Разместить как можно больше слоёв модели на GPU (999 означает отсутствие ограничений)
ollama run qwen3.5 --num-gpu 999

Слэш-команды в интерактивном режиме

После входа в интерактивный режим команды, начинающиеся со слеша, изменяют состояние сеанса; эти изменения действуют только для текущего сеанса.

КомандаФункция
/set parameter <name> <value>Временно настраивать параметры инференса, такие как `temperature`.
/set system <prompt>Временно установить системный промпт.
/show infoОтобразить информацию о текущей модели.
/show modelfileОтобразить Modelfile, соответствующий текущей модели.
/save <name>Сохранить настройки текущей сессии как новую модель.
/load <name>Загрузить сохранённую модель или сессию.
/clearОчистить текущий контекст разговора и начать заново.
/byeВыйти из интерактивного режима.

Если вы хотите надолго сохранить параметры, заданные с помощью слэш-команд, используйте `/save`, чтобы сохранить их как новую модель; за кулисами для вас создаётся Modelfile.

Ещё один быстрый способ выйти из интерактивного режима — нажать Ctrl+D; это даёт тот же эффект, что и `/bye`.


Пользовательские модели Modelfile

Modelfile использует синтаксис, похожий на Dockerfile, чтобы упаковать «базовую модель + параметры + системный промпт» в новую модель.

Пример

# Путь к файлу: Modelfile
# FROM задаёт базовую модель (обязательно); также может быть путём к локальному файлу GGUF
FROM qwen3.5

# Общие параметры инференса (необязательно)
PARAMETER temperature 0.2
PARAMETER num_ctx 8192

# Системный промпт; определяет роль и поведение модели (необязательно)
SYSTEM Ты — senior Python-инженер. Выводи краткий, с аннотациями типов, тестируемый код.

Пример

# Создайте новую модель с помощью Modelfile
ollama create example-coder -f Modelfile

# Запустите её как обычную модель
ollama run example-coder "Напиши быструю сортировку, включая тесты."

Чтобы импортировать локальные веса GGUF, просто укажите в FROM путь к файлу; это часто используется для запуска файлов моделей, скачанных из сообщества открытого исходного кода.

Пример

# Путь к файлу: Modelfile
# FROM указывает на локальный файл весов GGUF
FROM ./model-file.gguf

Все директивы Modelfile перечислены в таблице ниже; первые три строки — наиболее часто используемая комбинация.

ДирективаНазначениеОбязательный
FROMУкажите базовую модель или путь к файлу GGUF.Обязательный
PARAMETERЗадайте параметры инференса: temperature, num_ctx, top_p, stop и т. д.Optional
СИСТЕМАЗадайте системный промпт.Optional
TEMPLATEНастройте шаблон промпта для диалога.Optional
ADAPTERЗагрузите LoRA-адаптер.Optional
MESSAGEПредустановите примеры диалогов для реализации few-shot-подсказок.Optional
LICENSEУкажите лицензию модели.Optional

Если вы хотите изменить существующую модель и не хотите начинать с нуля, сначала выполнитеollama show --modelfile 模型名чтобы экспортировать полный рецепт; после редактирования снова запустите `create`.


Краткий справочник по REST API

После запуска сервиса Ollama он по умолчанию прослушиваетhttp://localhost:11434, и всё, что может делать CLI, может делать и API.

Конечная точкаМетодФункция
/api/generatePOSTГенерация текста за один ход; по умолчанию возвращает поток.
/api/chatPOSTМногоходовый диалог; передавайте историю через массив `messages`.
/api/embedPOSTГенерация векторных эмбеддингов текста для поиска RAG.
/api/tagsGETСписок локальных моделей; соответствует `ollama list`.
/api/showPOSTПросмотр сведений о модели; соответствует `ollama show`.
/api/pullPOSTЗагрузить модель; соответствует `ollama pull`.
/api/deleteDELETEУдалить модель; соответствует `ollama rm`.

Пример

# Одноходовая генерация (потоковая)
curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.5",
"prompt": "Напишите Hello World на Python"
}'


# Многоходовой диалог
curl http://localhost:11434/api/chat -d '{
  "model": "qwen3.5",
"messages": [{"role": "user", "content": "Объясните, что такое REST API."}]
}'


# Генерация векторных эмбеддингов
curl http://localhost:11434/api/embed -d '{
  "model": "nomic-embed-text",
"input": "Ваш текст"
}'


# Список локальных моделей
curl http://localhost:11434/api/tags

# Просмотр сведений о модели
curl http://localhost:11434/api/show -d '{"model": "qwen3.5"}'

# Удалить модель
curl -X DELETE http://localhost:11434/api/delete -d '{"model": "qwen3.5"}'

Интерфейс, совместимый с OpenAI

Ollama предоставляет конечную точку, совместимую с OpenAI./v1/chat/completions, существующий код экосистемы OpenAI можно использовать напрямую, указав base_url на локальный.

Пример

# Путь к файлу: openai_compat.py
from openai import OpenAI

# base_url указывает на локальный Ollama; api_key может быть любой непустой строкой
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

resp = client.chat.completions.create(
    model="qwen3.5",  # Имя локально загруженной модели
    messages=[{"role": "user", "content": "Привет, пожалуйста, представь пример"}],
)
print(resp.choices[0].message.content)
$ python3 openai_compat.py
你好!example(Example)是一个面向初学者的编程学习网站,提供大量免费的基础技术教程。

Краткий справочник по переменным среды

Переменные среды — основной способ настройки поведения службы Ollama. Изменения вступают в силу только после перезапуска службы.

ПеременнаяОписаниеЗначение по умолчанию
OLLAMA_HOSTАдрес прослушивания службы; 0.0.0.0 разрешает доступ из локальной сети127.0.0.1:11434
OLLAMA_MODELSПуть хранения моделей; обычно используется при переключении на диск большего объёма~/.ollama/models
OLLAMA_NUM_GPUКоличество слоёв модели, размещаемых на GPU; 999 означает всеАвто
OLLAMA_NUM_PARALLELКоличество одновременных запросов к одной и той же моделиАвто
OLLAMA_MAX_LOADED_MODELSМаксимальное количество моделей, одновременно находящихся в памятиАвто
OLLAMA_FLASH_ATTENTIONВключить Flash Attention; рекомендуется для длинных контекстовВыкл.
OLLAMA_KEEP_ALIVEКак долго модель остаётся бездействующей до выгрузки из памяти5m
OLLAMA_DEBUGВключить журналы отладки, чтобы выводить более подробную информацию о времени выполненияВыкл.

Пример

# Разрешить доступ по LAN + переместить модели на диск данных
export OLLAMA_HOST=0.0.0.0:11434
export OLLAMA_MODELS=/data/ollama-models
ollama serve

Установка OLLAMA_KEEP_ALIVE в 0 выгружает модель сразу после каждого запроса, экономя память, но перезагружает её при каждом запросе; установите -1, чтобы держать её в памяти. Синтаксис этого значения зависит от версии; обратитесь к `ollama serve --help` и официальной документации.


Общие советы по устранению неполадок

При возникновении ошибок сначала воспользуйтесь таблицей ниже, чтобы определить проблему. Большинство проблем относится к трём категориям: неверное имя модели, служба не запущена или недостаточно ресурсов.

ПроблемаПодход к устранению неполадок
Недостаточно VRAM / памяти (OOM)Переключитесь на модель меньшего размера или более низкую точность квантования, например, используйте 4b вместо 9b
Ошибка сообщает, что модель не найденаПроверьте, правильно ли указаны имя модели и тег. Теги разделяются двоеточием, например, qwen3.5:4b, а не qwen3.5-4b.
Отказано в соединенииПроверьте, запущена ли служба, и проверьте, занят ли порт 11434.
Медленный откликИспользуйте `ollama ps`, чтобы проверить столбец PROCESSOR и убедиться, действительно ли модель выполняется на GPU; при необходимости уменьшите num_ctx.
Путаница с несколькими версиями моделиКогда тег не указан, версия "latest" выбирается согласно внутренним правилам; рекомендуется всегда явно указывать полный тег.

Краткая шпаргалка-справка

В завершение самые часто используемые команды собраны в таблицу, готовую для копирования и использования.

КомандаФункция
ollama pull <model>Скачать модель
ollama run <model>Запустить модель / войти в интерактивный диалог
ollama listПросмотреть загруженные модели
ollama show <model>Просмотреть сведения о модели
ollama psПросмотреть запущенные модели
ollama stop <model>Остановить и выгрузить модель
ollama rm <model>Удалить модель
ollama cp <old> <new>Копировать / переименовать модель
ollama create <name> -f ModelfileСоздать собственную модель с помощью Modelfile
ollama serveЗапуск службы

Ollama быстро обновляется, и некоторые параметры и поведение команд могут меняться от версии к версии. Прежде чем приступить к действиям, обратитесь к `ollama --help` и официальной документации.

Другие расширения