Учебник Ollama

Ollama — это открытый фреймворк для локального запуска больших языковых моделей, предназначенный для удобного развёртывания и запуска больших языковых моделей (LLM) на локальных машинах.

Ollama поддерживает несколько операционных систем, включая macOS, Windows, Linux, а также запуск через контейнеры Docker.

Проще говоря, если сервисы вроде ChatGPT, Claude и DeepSeeek вызывают модели, размещённые у других, через интернет, то Ollama — это скореелокальная среда выполнения AI-моделей。


Кому следует читать это руководство?

Ollama подходит для разработчиков, исследователей и пользователей с высокими требованиями к конфиденциальности данных. Она помогает пользователям быстро развёртывать и запускать большие языковые модели в локальной среде, предоставляя при этом гибкие возможности настройки.

С помощью Ollama мы можем запускать qwen3.5, Llama 3.3, DeepSeek-R1, Phi-4, Mistral, Gemma 2 и другие модели локально.

Тип пользователяЧто они, возможно, захотят сделать
Новички в AIПонять, что такое локальные большие модели, установить Ollama, скачать, запустить и удалить модели
Программисты / РазработчикиИнтегрировать большие модели в свои Python-, JavaScript- и Web-приложения
Разработчики AI-агентовПодключите локальные модели к агентам для программирования, таким как Claude Code, Codex, OpenCode
Обычные пользователи, которые хотят попробовать локальный AIПопробовать различные модели с открытым исходным кодом на своём компьютере, не покупая API и не загружая данные в облако

Что разработчики могут делать с Ollama?

Для разработчиков ценность Ollama заключается в том, что она превращает большие модели в локальный сервис, который можно вызвать в любой момент.

Типичные варианты использования включают: AI-чат-боты, AI-инструменты для письма, AI-ассистенты для программирования, инструменты анализа документов, базы знаний RAG, векторный поиск, AI-агенты, автоматизированные рабочие процессы и локальные AI-веб-приложения.

За этими возможностями стоят интерфейсы Ollama для генерации текста, чата, управления моделями, Embedding и т. д., с поддержкой потоковых ответов и вызова инструментов.

Зачем это нужно разработчикам агентов?

Если вы изучаете инструменты ИИ-программирования, такие как Claude Code, Codex, OpenCode, Ollama может служить их локальным бэкендом моделей.

Ollama уже предоставляет официальные способы интеграции с такими инструментами, как Claude Code, Codex, OpenCode, Copilot CLI, Droid и т. д., а однаollama launchкоманда может подключить локальные модели к этим Agent-воркфлоу. Это будет подробно описано в главе об интеграции.



Что нужно знать перед изучением этого учебника

Сам Ollama не сложен. Если вы просто хотите запускать модели, вам в основном не нужны знания программирования.

Разные цели обучения предъявляют разные требования к предварительной подготовке. Вы можете оценить свою отправную точку по таблице ниже:

Цель обученияНеобходимая база
Установка OllamaБазовые компьютерные навыки, основы терминала
Скачивание и запуск моделейБазовые знания командной строки
Использование Ollama APIОсновы HTTP, JSON
Разработка на PythonУчебник по основам Python 3.x
Разработка на JavaScriptОсновы JavaScript / TypeScript
Разработка RAG / AgentPython + основы больших моделей
Развёртывание и оптимизация моделейОсновы GPU, VRAM, Linux, Docker

Если вы просто хотите попробовать Ollama, достаточно в основном понимать, что такое терминал, команды, папки и модели.

Если вы хотите дальше разрабатывать ИИ-приложения, рекомендуется сначала изучить HTTP / REST API, JSON, Python или JavaScript, а также основы использования Git и Docker.


Создание новых моделей

Это ключевая возможность Ollama: запускать модели с открытым исходным кодом на своём компьютере или сервере без необходимости настраивать сложную среду инференса.

Запустите одной командой и общайтесь напрямую, как только модель запустится:

ollama run qwen3.5

Эта команда запускает модель Qwen3.5 локально и открывает интерактивный терминал чата. Если модели нет локально, она сначала автоматически скачает её, а затем запустит.


Связанные ссылки

Другие расширения