Переменные окружения и конфигурация службы Ollama
В Ollama нет традиционного файла конфигурации; почти все поведение службы управляется переменными среды: адрес прослушивания, путь к моделям, контекст, параллелизм, прокси и отладка.
В этом разделе сначала описаны способы настройки для трех платформ, затем каждый ключевой параметр подробно объясняется на трех уровнях: сетевой вход, планирование запросов и среда выполнения моделей.
Где находятся переменные конфигурации в службе
Давайте сначала составим карту: примерно дюжина переменных окружения находится не на одном уровне; каждая из них действует на разных этапах процесса службы.
Чтобы просмотреть полный список переменных, поддерживаемых текущей версией, выполните `ollama serve --help`.
Как задать переменные окружения на трёх платформах
Одна и та же переменная имеет совершенно разные точки входа для настройки на трёх платформах; именно здесь новички чаще всего застревают.
macOS:launchctl
Когда Ollama работает как приложение, переменные окружения необходимо внедрять через launchctl; после их настройки перезапустите приложение, чтобы они вступили в силу:
Пример
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
# Затем закройте и снова откройте приложение Ollama
Linux: переопределение службы systemd
Пример
sudo systemctl edit ollama.service
# Добавьте в редакторе (примечание: должно быть в разделе [Service]):
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0:11434"
# Перезагрузите и перезапустите службу
sudo systemctl daemon-reload
sudo systemctl restart ollama
Windows: Системные переменные среды
Найдите "переменные среды" в меню "Пуск", выберите "Изменение переменных среды текущего пользователя", создайте или измените переменную, затем сохраните.
Ключевой шаг: сначала завершите Ollama из трея, затем после сохранения перезапустите её из меню «Пуск»; только тогда новые переменные вступят в силу в новом процессе.
Также существует JSON-файл конфигурации server.json (расположен в ~/.ollama/) для небольшого числа настроек-переключателей; например, напишите {"disable_ollama_cloud": true}, чтобы отключить облачные функции. Подавляющее большинство параметров конфигурации по-прежнему задаются через переменные среды.
Сетевые настройки: HOST, ORIGINS и прокси
OLLAMA_HOST: предоставьте локальной сети доступ к вашим моделям
По умолчанию он прослушивает только 127.0.0.1, поэтому использовать его может только локальная машина; чтобы другие устройства в локальной сети могли к нему обращаться, измените его, чтобы он прослушивал все сетевые интерфейсы:
Пример
OLLAMA_HOST=0.0.0.0:11434 ollama serve
# Проверьте с другого устройства (замените на ваш фактический IP)
curl http://192.168.1.100:11434/api/version
Открытие его в локальную сеть равносильно предоставлению неаутентифицированного сервиса модели всем устройствам в одной подсети. Это допустимо в домашней сети, но в корпоративной сети необходимо дополнить его правилами брандмауэра или обратным прокси (подробно рассматривается в главе о частном развёртывании).
OLLAMA_ORIGINS: список разрешённых источников Cross-Origin
По умолчанию Ollama принимает кросс-доменные запросы только с 127.0.0.1 и 0.0.0.0. Когда веб-страницы или расширения браузера подключаются напрямую к локальному API, их нужно явно добавить в список разрешённых:
Пример
OLLAMA_ORIGINS=chrome-extension://*,moz-extension://*,safari-web-extension://* ollama serve
Прокси: нужен только HTTPS_PROXY
Загрузка моделей использует HTTPS для исходящего трафика; в средах с ограниченным сетевым доступом просто укажите в HTTPS_PROXY адрес прокси.
Задавайте только HTTPS_PROXY, а не HTTP_PROXY: Ollama не загружает модели по HTTP, и добавление HTTP-прокси может фактически прервать соединение между клиентом и сервером. В сценариях Docker передайте -e HTTPS_PROXY=... при запуске контейнера; если используется прокси с самоподписанным сертификатом, также необходимо установить CA-сертификат в систему (или встроить его в образ).
Среда выполнения модели: путь, контекст и поддержание активности
OLLAMA_MODELS: хранение моделей на другом диске
По умолчанию модели хранятся в каталоге пользователя; пути для трёх платформ выглядят следующим образом:
| Платформа | Путь к модели по умолчанию |
|---|---|
| macOS | ~/.ollama/models |
| Linux | /usr/share/ollama/.ollama/models |
| Windows | C:\Users\<username>\.ollama\models |
Укажите OLLAMA_MODELS на новый каталог, чтобы перенести всё; после перемещения туда загруженных файлов моделей их можно использовать напрямую.
Пример
OLLAMA_MODELS=/data/ollama-models ollama serve
# Примечание: стандартные установки Linux запускают службу от имени пользователя ollama
# У нового каталога нужно изменить владельца, иначе у службы не будет прав на чтение/запись
sudo chown -R ollama:ollama /data/ollama-models
OLLAMA_CONTEXT_LENGTH: Глобальная длина контекста
Задаёт длину контекста по умолчанию для всех моделей; она применяется, если не переопределена на уровне модели или запроса:
Пример
OLLAMA_CONTEXT_LENGTH=8192 ollama serve
Приоритет от высшего к низшему: options.num_ctx в запросе API, PARAMETER num_ctx в Modelfile, эта переменная окружения и автоматическое многоуровневое значение по умолчанию на основе VRAM.
OLLAMA_KEEP_ALIVE: глобальная продолжительность Keep-Alive
Единообразно регулирует, как долго модель остаётся в памяти после загрузки; формат значения совпадает с параметром keep_alive в API:
Пример
OLLAMA_KEEP_ALIVE=30m ollama serve
keep_alive, переданный отдельно в запросе API, имеет приоритет над этим глобальным значением, что позволяет реализовать многоуровневую стратегию вроде "10 минут глобально, ключевые модели всегда в памяти".
Планирование запросов: трио параллелизма
Ollama поддерживает два уровня параллелизма: несколько моделей, одновременно находящихся в памяти, и одна модель, обрабатывающая несколько запросов параллельно — каждый управляется собственной переменной.
| Переменная | Значение по умолчанию | Назначение |
|---|---|---|
| OLLAMA_NUM_PARALLEL | 1 | Количество запросов, которые одна модель обрабатывает одновременно; требуемая память масштабируется как это значение × длина контекста |
| OLLAMA_MAX_LOADED_MODELS | 3 × количество GPU (3 для инференса на CPU) | Общее количество моделей, которые разрешено загружать одновременно, при условии, что VRAM/RAM способны их вместить |
| OLLAMA_MAX_QUEUE | 512 | Максимальное количество запросов в очереди, когда сервис занят; запросы сверх этого немедленно возвращают 503 |
Логику планирования стоит понять: когда VRAM достаточно, модели обрабатывают запросы параллельно; когда VRAM недостаточно, новые запросы встают в очередь, ожидая, пока неактивные модели будут выгружены и освободят место.
NUM_PARALLEL — переменная, которая с наибольшей вероятностью собьёт вас с толку: установка значения 4 означает, что кэш контекста умножается на 4, использование VRAM мгновенно увеличивается в четыре раза, и в результате модели могут быть вытеснены с GPU. Планирование многопользовательских общих экземпляров рассматривается в главе о приватном развёртывании.
Отладка и логирование: OLLAMA_DEBUG
Первым шагом при устранении неполадок всегда является включение отладки и проверка журналов.
Пример
OLLAMA_DEBUG=1 ollama serve
Чтобы включить отладку в приложении с графическим интерфейсом Windows: сначала закройте приложение из системного трея, затем выполните в PowerShell:
Пример
& "ollama app.exe"
Сводка расположений журналов для четырёх сред:
| Окружение | Расположение журнала |
|---|---|
| macOS | ~/.ollama/logs/server.log |
| Linux (systemd) | journalctl -u ollama --no-pager --follow --pager-end |
| Windows | %LOCALAPPDATA%\Ollama\server.log |
| Docker | docker logs <имя контейнера> (stdout/stderr) |
Краткий справочник по другим полезным переменным
Остальные переменные в основном привязаны к конкретным сценариям; полные объяснения по главам приведены в соответствующих разделах тем. Здесь мы сначала создадим указатель.
| Переменная | Пример значения | Назначение |
|---|---|---|
| OLLAMA_FLASH_ATTENTION | 1 / 0 | Принудительно включать/отключать Flash Attention; значительно экономит VRAM при длинных контекстах (подробно в главе о GPU) |
| OLLAMA_KV_CACHE_TYPE | q8_0 / q4_0 | Тип квантования KV-кэша; требует Flash Attention (подробно в главе о GPU) |
| OLLAMA_VULKAN | 0 | Отключить бэкенд Vulkan (переключатель для случаев, когда Vulkan неисправен) |
| OLLAMA_LLM_LIBRARY | cpu_avx2 | Принудительно указать конкретную библиотеку инференса в обход автоматического определения |
| OLLAMA_TMPDIR | /data/tmp | Изменить расположение временного каталога (когда системный /tmp смонтирован с noexec) |
| OLLAMA_NO_CLOUD | 1 | Отключить облачные модели и веб-поиск; полностью локальный режим |