Переменные окружения и конфигурация службы Ollama

В Ollama нет традиционного файла конфигурации; почти все поведение службы управляется переменными среды: адрес прослушивания, путь к моделям, контекст, параллелизм, прокси и отладка.

В этом разделе сначала описаны способы настройки для трех платформ, затем каждый ключевой параметр подробно объясняется на трех уровнях: сетевой вход, планирование запросов и среда выполнения моделей.


Где находятся переменные конфигурации в службе

Давайте сначала составим карту: примерно дюжина переменных окружения находится не на одном уровне; каждая из них действует на разных этапах процесса службы.

Ollama 服务配置地图:网络入口、请求调度、模型运行三层

Чтобы просмотреть полный список переменных, поддерживаемых текущей версией, выполните `ollama serve --help`.


Как задать переменные окружения на трёх платформах

Одна и та же переменная имеет совершенно разные точки входа для настройки на трёх платформах; именно здесь новички чаще всего застревают.

macOS:launchctl

Когда Ollama работает как приложение, переменные окружения необходимо внедрять через launchctl; после их настройки перезапустите приложение, чтобы они вступили в силу:

Пример

# Внедряйте переменные по одной
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

# Затем закройте и снова откройте приложение Ollama

Linux: переопределение службы systemd

Пример

# Откройте редактор переопределения службы
sudo systemctl edit ollama.service

# Добавьте в редакторе (примечание: должно быть в разделе [Service]):
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0:11434"

# Перезагрузите и перезапустите службу
sudo systemctl daemon-reload
sudo systemctl restart ollama

Windows: Системные переменные среды

Найдите "переменные среды" в меню "Пуск", выберите "Изменение переменных среды текущего пользователя", создайте или измените переменную, затем сохраните.

Ключевой шаг: сначала завершите Ollama из трея, затем после сохранения перезапустите её из меню «Пуск»; только тогда новые переменные вступят в силу в новом процессе.

Также существует JSON-файл конфигурации server.json (расположен в ~/.ollama/) для небольшого числа настроек-переключателей; например, напишите {"disable_ollama_cloud": true}, чтобы отключить облачные функции. Подавляющее большинство параметров конфигурации по-прежнему задаются через переменные среды.


Сетевые настройки: HOST, ORIGINS и прокси

OLLAMA_HOST: предоставьте локальной сети доступ к вашим моделям

По умолчанию он прослушивает только 127.0.0.1, поэтому использовать его может только локальная машина; чтобы другие устройства в локальной сети могли к нему обращаться, измените его, чтобы он прослушивал все сетевые интерфейсы:

Пример

# Прослушивать все сетевые интерфейсы (доступно из локальной сети)
OLLAMA_HOST=0.0.0.0:11434 ollama serve

# Проверьте с другого устройства (замените на ваш фактический IP)
curl http://192.168.1.100:11434/api/version

Открытие его в локальную сеть равносильно предоставлению неаутентифицированного сервиса модели всем устройствам в одной подсети. Это допустимо в домашней сети, но в корпоративной сети необходимо дополнить его правилами брандмауэра или обратным прокси (подробно рассматривается в главе о частном развёртывании).

OLLAMA_ORIGINS: список разрешённых источников Cross-Origin

По умолчанию Ollama принимает кросс-доменные запросы только с 127.0.0.1 и 0.0.0.0. Когда веб-страницы или расширения браузера подключаются напрямую к локальному API, их нужно явно добавить в список разрешённых:

Пример

# Разрешить все расширения браузера
OLLAMA_ORIGINS=chrome-extension://*,moz-extension://*,safari-web-extension://* ollama serve

Прокси: нужен только HTTPS_PROXY

Загрузка моделей использует HTTPS для исходящего трафика; в средах с ограниченным сетевым доступом просто укажите в HTTPS_PROXY адрес прокси.

Задавайте только HTTPS_PROXY, а не HTTP_PROXY: Ollama не загружает модели по HTTP, и добавление HTTP-прокси может фактически прервать соединение между клиентом и сервером. В сценариях Docker передайте -e HTTPS_PROXY=... при запуске контейнера; если используется прокси с самоподписанным сертификатом, также необходимо установить CA-сертификат в систему (или встроить его в образ).


Среда выполнения модели: путь, контекст и поддержание активности

OLLAMA_MODELS: хранение моделей на другом диске

По умолчанию модели хранятся в каталоге пользователя; пути для трёх платформ выглядят следующим образом:

ПлатформаПуть к модели по умолчанию
macOS~/.ollama/models
Linux/usr/share/ollama/.ollama/models
WindowsC:\Users\<username>\.ollama\models

Укажите OLLAMA_MODELS на новый каталог, чтобы перенести всё; после перемещения туда загруженных файлов моделей их можно использовать напрямую.

Пример

# Пример Linux: перенос на диск данных большой ёмкости
OLLAMA_MODELS=/data/ollama-models ollama serve

# Примечание: стандартные установки Linux запускают службу от имени пользователя ollama
# У нового каталога нужно изменить владельца, иначе у службы не будет прав на чтение/запись
sudo chown -R ollama:ollama /data/ollama-models

OLLAMA_CONTEXT_LENGTH: Глобальная длина контекста

Задаёт длину контекста по умолчанию для всех моделей; она применяется, если не переопределена на уровне модели или запроса:

Пример

# Глобальное значение по умолчанию 8K
OLLAMA_CONTEXT_LENGTH=8192 ollama serve

Приоритет от высшего к низшему: options.num_ctx в запросе API, PARAMETER num_ctx в Modelfile, эта переменная окружения и автоматическое многоуровневое значение по умолчанию на основе VRAM.

OLLAMA_KEEP_ALIVE: глобальная продолжительность Keep-Alive

Единообразно регулирует, как долго модель остаётся в памяти после загрузки; формат значения совпадает с параметром keep_alive в API:

Пример

# Распространённые значения: 300 (секунд) / "10m" / "24h" / -1 всегда в памяти / 0 выгружать сразу после использования
OLLAMA_KEEP_ALIVE=30m ollama serve

keep_alive, переданный отдельно в запросе API, имеет приоритет над этим глобальным значением, что позволяет реализовать многоуровневую стратегию вроде "10 минут глобально, ключевые модели всегда в памяти".


Планирование запросов: трио параллелизма

Ollama поддерживает два уровня параллелизма: несколько моделей, одновременно находящихся в памяти, и одна модель, обрабатывающая несколько запросов параллельно — каждый управляется собственной переменной.

ПеременнаяЗначение по умолчаниюНазначение
OLLAMA_NUM_PARALLEL1Количество запросов, которые одна модель обрабатывает одновременно; требуемая память масштабируется как это значение × длина контекста
OLLAMA_MAX_LOADED_MODELS3 × количество GPU (3 для инференса на CPU)Общее количество моделей, которые разрешено загружать одновременно, при условии, что VRAM/RAM способны их вместить
OLLAMA_MAX_QUEUE512Максимальное количество запросов в очереди, когда сервис занят; запросы сверх этого немедленно возвращают 503

Логику планирования стоит понять: когда VRAM достаточно, модели обрабатывают запросы параллельно; когда VRAM недостаточно, новые запросы встают в очередь, ожидая, пока неактивные модели будут выгружены и освободят место.

NUM_PARALLEL — переменная, которая с наибольшей вероятностью собьёт вас с толку: установка значения 4 означает, что кэш контекста умножается на 4, использование VRAM мгновенно увеличивается в четыре раза, и в результате модели могут быть вытеснены с GPU. Планирование многопользовательских общих экземпляров рассматривается в главе о приватном развёртывании.


Отладка и логирование: OLLAMA_DEBUG

Первым шагом при устранении неполадок всегда является включение отладки и проверка журналов.

Пример

# Включить отладочное логирование
OLLAMA_DEBUG=1 ollama serve

Чтобы включить отладку в приложении с графическим интерфейсом Windows: сначала закройте приложение из системного трея, затем выполните в PowerShell:

Пример

$env:OLLAMA_DEBUG="1"
& "ollama app.exe"

Сводка расположений журналов для четырёх сред:

ОкружениеРасположение журнала
macOS~/.ollama/logs/server.log
Linux (systemd)journalctl -u ollama --no-pager --follow --pager-end
Windows%LOCALAPPDATA%\Ollama\server.log
Dockerdocker logs <имя контейнера> (stdout/stderr)

Краткий справочник по другим полезным переменным

Остальные переменные в основном привязаны к конкретным сценариям; полные объяснения по главам приведены в соответствующих разделах тем. Здесь мы сначала создадим указатель.

ПеременнаяПример значенияНазначение
OLLAMA_FLASH_ATTENTION1 / 0Принудительно включать/отключать Flash Attention; значительно экономит VRAM при длинных контекстах (подробно в главе о GPU)
OLLAMA_KV_CACHE_TYPEq8_0 / q4_0Тип квантования KV-кэша; требует Flash Attention (подробно в главе о GPU)
OLLAMA_VULKAN0Отключить бэкенд Vulkan (переключатель для случаев, когда Vulkan неисправен)
OLLAMA_LLM_LIBRARYcpu_avx2Принудительно указать конкретную библиотеку инференса в обход автоматического определения
OLLAMA_TMPDIR/data/tmpИзменить расположение временного каталога (когда системный /tmp смонтирован с noexec)
OLLAMA_NO_CLOUD1Отключить облачные модели и веб-поиск; полностью локальный режим
Другие расширения