Полное руководство по командам Ollama
В этой главе представлены команды для использования Ollama, охватывающие установку, управление моделями, параметры времени выполнения, Modelfile, REST API, переменные среды и устранение распространённых проблем. Весь материал основан на Ollama 0.17.x.
Установка и запуск
Все три платформы имеют стандартные способы установки. После установки Ollama автоматически запускается как фоновая служба, прослушивающая127.0.0.1:11434。
| Платформа | Способ установки | Описание |
|---|---|---|
| macOS | brew install ollama | Вы также можете скачать установщик DMG с официального сайта. |
| Linux | curl -fsSL https://ollama.com/install.sh | sh | Официальный скрипт в один клик, автоматически настраивающий службу systemd. |
| Windows | Скачайте установщик с официального сайта. | Установите с помощью мастера; автоматически регистрируется как системная служба. |
| Docker | docker run -d -v ollama:/root/.ollama -p 11434:11434 ollama/ollama | Том данных ollama сохраняет модели. |
В большинстве случаев вам не нужно запускать сервис вручную, но это полезно при устранении неполадок или временном изменении конфигурации.ollama serve。
Пример
ollama serve
# Убедитесь, что сервис готов: это нормально, если он возвращает "Ollama is running"
curl http://localhost:11434
Если появляется сообщение о занятом порте, фоновый сервис уже запущен. Запуск `ollama serve` в другом терминале тогда выдаст ошибку, что нормально. Просто используйте командную строку или API напрямую.
Полная таблица команд управления моделями
Управление моделями — основная часть командной строки Ollama, около десяти команд, все перечислены в таблице ниже.
| Команда | Функция | Пример |
|---|---|---|
| ollama pull <model> | Скачайте модель из библиотеки моделей; если тег не указан, по умолчанию используется `latest`. | ollama pull qwen3.5:4b |
| ollama run <model> | Запустите модель в интерактивном режиме; если её нет локально, она будет автоматически загружена. | ollama run qwen3.5 |
| ollama list / ollama ls | Показать список локальных моделей, их размеры и время изменения. | ollama list |
| ollama show <model> | Просмотреть сведения о модели: параметры, шаблон, системный промпт и т. д. | ollama show qwen3.5 |
| ollama ps | Просмотреть модели, загруженные в память, и оставшееся время их жизни. | ollama ps |
| ollama stop <model> | Немедленно остановить и выгрузить запущенную модель. | ollama stop qwen3.5 |
| ollama cp <src> <dst> | Копировать или переименовать модель. | ollama cp qwen3.5 example-clone |
| ollama rm <model> | Удалить локальную модель, чтобы освободить дисковое пространство. | ollama rm qwen3.5:0.8b |
| ollama create <name> -f <file> | Создать пользовательскую модель на основе Modelfile. | ollama create example-coder -f Modelfile |
| ollama push <model> | Отправить модель в удалённую библиотеку моделей; сначала требуется вход в систему. | ollama push myteam/example-coder |
| ollama serve | Запустить фоновую службу; обычно она запускается автоматически вместе с системой. | ollama serve |
Наиболее часто используемая комбинация в повседневной работе — `run`, `list`, `ps` и `rm`: запускать модели, проверять список, просматривать память и освобождать место.
Пример
ollama pull qwen3.5:0.8b
# Сделать копию и дать ей собственное имя
ollama cp qwen3.5 example-clone
# После подтверждения успешного копирования удалите размер, который больше не нужен
ollama rm qwen3.5:0.8b
`rm` удаляет файлы модели, соответствующие этому тегу. Если другие теги используют те же базовые веса (blobs), дисковое пространство полностью освобождается только после удаления последнего тега, ссылающегося на них.
Команда run и интерактивный режим
`run` можно использовать как инструмент для одноразовых вопросов и ответов, можно войти в интерактивный режим для многоходовых диалогов, а также он поддерживает изменение параметров во время выполнения.
Аргументы командной строки
Аргументы указываются после имени модели; они действуют только для текущего запуска и не записываются в конфигурацию модели.
Пример
ollama run qwen3.5
# Одноразовый вопрос-ответ: запрос идёт после имени модели; автоматически завершается после ответа
ollama run qwen3.5 "Представь Python в одном предложении."
# Показывать статистику токенов: общее время, токенов в секунду и другие показатели производительности
ollama run qwen3.5 --verbose
# Принудительно выводить ответ модели в формате JSON
ollama run qwen3.5 --format json
# Увеличить окно контекста (единица измерения: токены)
ollama run qwen3.5 --num-ctx 8192
# Разместить как можно больше слоёв модели на GPU (999 означает отсутствие ограничений)
ollama run qwen3.5 --num-gpu 999
Слэш-команды в интерактивном режиме
После входа в интерактивный режим команды, начинающиеся со слеша, изменяют состояние сеанса; эти изменения действуют только для текущего сеанса.
| Команда | Функция |
|---|---|
| /set parameter <name> <value> | Временно настраивать параметры инференса, такие как `temperature`. |
| /set system <prompt> | Временно установить системный промпт. |
| /show info | Отобразить информацию о текущей модели. |
| /show modelfile | Отобразить Modelfile, соответствующий текущей модели. |
| /save <name> | Сохранить настройки текущей сессии как новую модель. |
| /load <name> | Загрузить сохранённую модель или сессию. |
| /clear | Очистить текущий контекст разговора и начать заново. |
| /bye | Выйти из интерактивного режима. |
Если вы хотите надолго сохранить параметры, заданные с помощью слэш-команд, используйте `/save`, чтобы сохранить их как новую модель; за кулисами для вас создаётся Modelfile.
Ещё один быстрый способ выйти из интерактивного режима — нажать Ctrl+D; это даёт тот же эффект, что и `/bye`.
Пользовательские модели Modelfile
Modelfile использует синтаксис, похожий на Dockerfile, чтобы упаковать «базовую модель + параметры + системный промпт» в новую модель.
Пример
# FROM задаёт базовую модель (обязательно); также может быть путём к локальному файлу GGUF
FROM qwen3.5
# Общие параметры инференса (необязательно)
PARAMETER temperature 0.2
PARAMETER num_ctx 8192
# Системный промпт; определяет роль и поведение модели (необязательно)
SYSTEM Ты — senior Python-инженер. Выводи краткий, с аннотациями типов, тестируемый код.
Пример
ollama create example-coder -f Modelfile
# Запустите её как обычную модель
ollama run example-coder "Напиши быструю сортировку, включая тесты."
Чтобы импортировать локальные веса GGUF, просто укажите в FROM путь к файлу; это часто используется для запуска файлов моделей, скачанных из сообщества открытого исходного кода.
Пример
# FROM указывает на локальный файл весов GGUF
FROM ./model-file.gguf
Все директивы Modelfile перечислены в таблице ниже; первые три строки — наиболее часто используемая комбинация.
| Директива | Назначение | Обязательный |
|---|---|---|
| FROM | Укажите базовую модель или путь к файлу GGUF. | Обязательный |
| PARAMETER | Задайте параметры инференса: temperature, num_ctx, top_p, stop и т. д. | Optional |
| СИСТЕМА | Задайте системный промпт. | Optional |
| TEMPLATE | Настройте шаблон промпта для диалога. | Optional |
| ADAPTER | Загрузите LoRA-адаптер. | Optional |
| MESSAGE | Предустановите примеры диалогов для реализации few-shot-подсказок. | Optional |
| LICENSE | Укажите лицензию модели. | Optional |
Если вы хотите изменить существующую модель и не хотите начинать с нуля, сначала выполнитеollama show --modelfile 模型名чтобы экспортировать полный рецепт; после редактирования снова запустите `create`.
Краткий справочник по REST API
После запуска сервиса Ollama он по умолчанию прослушиваетhttp://localhost:11434, и всё, что может делать CLI, может делать и API.
| Конечная точка | Метод | Функция |
|---|---|---|
| /api/generate | POST | Генерация текста за один ход; по умолчанию возвращает поток. |
| /api/chat | POST | Многоходовый диалог; передавайте историю через массив `messages`. |
| /api/embed | POST | Генерация векторных эмбеддингов текста для поиска RAG. |
| /api/tags | GET | Список локальных моделей; соответствует `ollama list`. |
| /api/show | POST | Просмотр сведений о модели; соответствует `ollama show`. |
| /api/pull | POST | Загрузить модель; соответствует `ollama pull`. |
| /api/delete | DELETE | Удалить модель; соответствует `ollama rm`. |
Пример
curl http://localhost:11434/api/generate -d '{
"model": "qwen3.5",
"prompt": "Напишите Hello World на Python"
}'
# Многоходовой диалог
curl http://localhost:11434/api/chat -d '{
"model": "qwen3.5",
"messages": [{"role": "user", "content": "Объясните, что такое REST API."}]
}'
# Генерация векторных эмбеддингов
curl http://localhost:11434/api/embed -d '{
"model": "nomic-embed-text",
"input": "Ваш текст"
}'
# Список локальных моделей
curl http://localhost:11434/api/tags
# Просмотр сведений о модели
curl http://localhost:11434/api/show -d '{"model": "qwen3.5"}'
# Удалить модель
curl -X DELETE http://localhost:11434/api/delete -d '{"model": "qwen3.5"}'
Интерфейс, совместимый с OpenAI
Ollama предоставляет конечную точку, совместимую с OpenAI./v1/chat/completions, существующий код экосистемы OpenAI можно использовать напрямую, указав base_url на локальный.
Пример
from openai import OpenAI
# base_url указывает на локальный Ollama; api_key может быть любой непустой строкой
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
resp = client.chat.completions.create(
model="qwen3.5", # Имя локально загруженной модели
messages=[{"role": "user", "content": "Привет, пожалуйста, представь пример"}],
)
print(resp.choices[0].message.content)
$ python3 openai_compat.py 你好!example(Example)是一个面向初学者的编程学习网站,提供大量免费的基础技术教程。
Краткий справочник по переменным среды
Переменные среды — основной способ настройки поведения службы Ollama. Изменения вступают в силу только после перезапуска службы.
| Переменная | Описание | Значение по умолчанию |
|---|---|---|
| OLLAMA_HOST | Адрес прослушивания службы; 0.0.0.0 разрешает доступ из локальной сети | 127.0.0.1:11434 |
| OLLAMA_MODELS | Путь хранения моделей; обычно используется при переключении на диск большего объёма | ~/.ollama/models |
| OLLAMA_NUM_GPU | Количество слоёв модели, размещаемых на GPU; 999 означает все | Авто |
| OLLAMA_NUM_PARALLEL | Количество одновременных запросов к одной и той же модели | Авто |
| OLLAMA_MAX_LOADED_MODELS | Максимальное количество моделей, одновременно находящихся в памяти | Авто |
| OLLAMA_FLASH_ATTENTION | Включить Flash Attention; рекомендуется для длинных контекстов | Выкл. |
| OLLAMA_KEEP_ALIVE | Как долго модель остаётся бездействующей до выгрузки из памяти | 5m |
| OLLAMA_DEBUG | Включить журналы отладки, чтобы выводить более подробную информацию о времени выполнения | Выкл. |
Пример
export OLLAMA_HOST=0.0.0.0:11434
export OLLAMA_MODELS=/data/ollama-models
ollama serve
Установка OLLAMA_KEEP_ALIVE в 0 выгружает модель сразу после каждого запроса, экономя память, но перезагружает её при каждом запросе; установите -1, чтобы держать её в памяти. Синтаксис этого значения зависит от версии; обратитесь к `ollama serve --help` и официальной документации.
Общие советы по устранению неполадок
При возникновении ошибок сначала воспользуйтесь таблицей ниже, чтобы определить проблему. Большинство проблем относится к трём категориям: неверное имя модели, служба не запущена или недостаточно ресурсов.
| Проблема | Подход к устранению неполадок |
|---|---|
| Недостаточно VRAM / памяти (OOM) | Переключитесь на модель меньшего размера или более низкую точность квантования, например, используйте 4b вместо 9b |
| Ошибка сообщает, что модель не найдена | Проверьте, правильно ли указаны имя модели и тег. Теги разделяются двоеточием, например, qwen3.5:4b, а не qwen3.5-4b. |
| Отказано в соединении | Проверьте, запущена ли служба, и проверьте, занят ли порт 11434. |
| Медленный отклик | Используйте `ollama ps`, чтобы проверить столбец PROCESSOR и убедиться, действительно ли модель выполняется на GPU; при необходимости уменьшите num_ctx. |
| Путаница с несколькими версиями модели | Когда тег не указан, версия "latest" выбирается согласно внутренним правилам; рекомендуется всегда явно указывать полный тег. |
Краткая шпаргалка-справка
В завершение самые часто используемые команды собраны в таблицу, готовую для копирования и использования.
| Команда | Функция |
|---|---|
| ollama pull <model> | Скачать модель |
| ollama run <model> | Запустить модель / войти в интерактивный диалог |
| ollama list | Просмотреть загруженные модели |
| ollama show <model> | Просмотреть сведения о модели |
| ollama ps | Просмотреть запущенные модели |
| ollama stop <model> | Остановить и выгрузить модель |
| ollama rm <model> | Удалить модель |
| ollama cp <old> <new> | Копировать / переименовать модель |
| ollama create <name> -f Modelfile | Создать собственную модель с помощью Modelfile |
| ollama serve | Запуск службы |
Другие расширенияOllama быстро обновляется, и некоторые параметры и поведение команд могут меняться от версии к версии. Прежде чем приступить к действиям, обратитесь к `ollama --help` и официальной документации.