Ollama: как запустить нейросеть на своём сервере для команды
Ollama на практике: установка по официальной документации, локальные и облачные модели, сервер для всей команды, настройки параллельной работы, подключение агентов и n8n, требования к видеокартам.

Ollama — самый простой способ запустить открытую нейросеть на своём компьютере или сервере: одна программа скачивает модель, запускает её и отдаёт API, к которому подключаются агенты и автоматизации. Зачем бизнесу локальные модели и когда они не нужны, я разбирал в статье Локальные нейросети для бизнеса. Здесь — практика: как установить Ollama, чем локальные модели отличаются от облачных (это важно для данных), как сделать из Ollama сервер для всей команды и как подключить к нему агентов.
Коротко:
- Ollama ставится одной командой на Linux или установщиком на macOS и Windows, API работает на порту 11434.
- В Ollama есть и локальные, и облачные модели. Модели с пометкой
:cloudработают на серверах Ollama — данные уходят с вашей машины. - Облачные функции можно отключить полностью: тогда Ollama работает только локально.
- Локальный API не требует авторизации. Для команды сервер нужно закрыть: прокси с доступом по паролю или токену, только внутренняя сеть.
- К Ollama подключаются Claude Code, OpenCode, Codex, n8n и всё, что умеет OpenAI- или Anthropic-совместимый API.
Установка Ollama
- macOS и Windows — скачать установщик с ollama.com/download и запустить. Для macOS нужна Sonoma (14) или новее; на Apple M-серии работают и процессор, и графика, на x86 — только процессор.
- Linux — одна команда:
curl -fsSL https://ollama.com/install.sh | sh
После установки API доступен на http://localhost:11434. Основные команды:
| Команда | Что делает |
|---|---|
ollama run gemma4 | Запустить модель и открыть чат в терминале |
ollama pull gemma4 | Скачать модель без запуска |
ollama ls | Список скачанных моделей |
ollama ps | Какие модели сейчас загружены в память |
ollama rm gemma4 | Удалить модель |
Для первого теста документация предлагает небольшую модель Gemma 4 E2B: скачивание около 7,2 ГБ, рекомендовано 8 ГБ видеопамяти (или общей памяти на Mac). Если видеопамяти меньше, Ollama использует обычную оперативную память, но отвечает медленнее.
Локальные и облачные модели: не перепутайте
Это главное, что нужно понимать про Ollama в 2026 году. У неё два режима:
| Локальные модели | Облачные модели | |
|---|---|---|
| Где работает | На вашем компьютере или сервере | На серверах Ollama |
| Как выглядит имя | gemma4:e2b, qwen3.5 | С пометкой :cloud, например gemma4:cloud |
| Нужен аккаунт | Нет | Да, вход через ollama signin |
| Нужна мощная видеокарта | Да, под размер модели | Нет |
| Куда уходят данные | Никуда | В облако Ollama |
По документации, Ollama обрабатывает запросы к облачным моделям, чтобы ответить, но не хранит и не логирует их содержимое и не обучает на них модели. Для многих задач этого достаточно. Но если вы ставите Ollama именно ради того, чтобы данные не покидали компанию, облачные модели нарушают сам смысл.
Поэтому на серверах клиентов с чувствительными данными я отключаю облачные функции. Это делается переменной окружения:
OLLAMA_NO_CLOUD=1
или параметром "disable_ollama_cloud": true в файле ~/.ollama/server.json. После перезапуска в логах появится Ollama cloud disabled: true. Облачные модели и веб-поиск после этого недоступны.
Отдельно: облако Ollama — зарубежный сервис, и его доступность и оплата из России официально не подтверждены. Стабильный путь для российской компании — локальные модели.
Сервер Ollama для команды
Один ноутбук с Ollama — это эксперимент. Для команды нужен сервер, к которому подключаются все.
Открыть доступ по сети
По умолчанию Ollama слушает только 127.0.0.1:11434 — к ней можно обратиться лишь с того же компьютера. Адрес меняется переменной OLLAMA_HOST. На Linux, где Ollama работает как служба systemd, документация предлагает добавить в настройки службы:
Environment="OLLAMA_HOST=0.0.0.0:11434"
Закрыть доступ
Документация прямо говорит: локальный API Ollama не требует авторизации. Если просто открыть порт в сеть, пользоваться сервером сможет любой, кто до него дотянется. Поэтому:
- сервер — только во внутренней сети компании;
- перед Ollama — прокси вроде Nginx с авторизацией; пример проксирования через Nginx есть в документации, авторизацию добавляете сами;
- порт 11434 закрыт файрволом снаружи.
Docker
Если на сервере всё живёт в контейнерах, у Ollama есть официальный образ. Вариант для процессора из документации:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
Для видеокарт NVIDIA сначала ставится NVIDIA Container Toolkit — инструкция там же.
Параллельная работа
Когда к одному серверу обращаются несколько человек и сценариев, важны три настройки из документации:
| Переменная | Что задаёт | По умолчанию |
|---|---|---|
OLLAMA_NUM_PARALLEL | Сколько запросов одна модель обрабатывает одновременно | 1 |
OLLAMA_MAX_LOADED_MODELS | Сколько моделей держать в памяти одновременно | 3 × число видеокарт или 3 для процессора |
OLLAMA_MAX_QUEUE | Сколько запросов ждать в очереди, прежде чем отвечать ошибкой 503 | 512 |
Важная деталь: память растёт пропорционально OLLAMA_NUM_PARALLEL × длина контекста. Четыре параллельных запроса с контекстом 2 тыс. токенов занимают память как один на 8 тыс.
Длина контекста: настройка, которую забывают
Ollama по умолчанию выбирает контекст по объёму видеопамяти: меньше 24 ГБ — 4 тыс. токенов, 24–48 ГБ — 32 тыс., от 48 ГБ — 256 тыс. Для агентов, веб-поиска и программирования документация рекомендует не меньше 64 тыс. токенов. Задаётся так:
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
Если агент на локальной модели «забывает» начало разговора или путается в длинном документе — первым делом проверьте эту настройку. Больший контекст требует больше памяти, поэтому её считают вместе с выбором модели.
Подключение агентов и автоматизаций
У Ollama три совместимых API, поэтому к ней подключается почти всё:
- собственный API —
http://localhost:11434/api/…; - OpenAI-совместимый —
http://localhost:11434/v1/, для любых библиотек и сервисов, которые умеют OpenAI API; - Anthropic-совместимый — для Claude Code и похожих инструментов.
Агенты для кода. Ollama сама запускает популярных агентов с нужными настройками:
ollama launch claude
ollama launch opencode
ollama launch codex
Для Claude Code и OpenCode Ollama предложит установить агента, если его нет. Модель нужна с поддержкой инструментов и контекстом от 64 тыс. токенов. Учтите: Anthropic официально не поддерживает работу Claude Code с моделями не от Claude. Для процессов компании на локальных моделях я обычно ставлю открытый агент вроде OpenCode — сравнение в статье Аналоги Claude Code в России.
n8n. В n8n есть готовый узел Ollama Chat Model. В учётных данных указывается адрес сервера: http://localhost:11434, если всё на одной машине. Если n8n работает в Docker, а Ollama на хосте, по документации Ollama используется http://host.docker.internal:11434, а на Linux-серверах без Docker Desktop нужно добавить host.docker.internal в настройки контейнера. Пошагово — в статье Как собрать ИИ-агента в n8n.
Свои сервисы. Бот, внутренний поиск по документам, обработка заявок — всё это обращается к OpenAI-совместимому адресу Ollama так же, как к облачному API. Если позже понадобится модель мощнее, меняется адрес, а не код.
Видеокарты: что официально поддерживается
Без конкретных конфигураций под задачу — только то, что есть в документации:
- NVIDIA — видеокарты с compute capability 5.0 и выше, драйвер 550 или новее. В списке — от GeForce GTX 750 до RTX 50-й серии, профессиональные RTX и серверные A100, H100, H200.
- AMD — через ROCm (на Linux нужен драйвер ROCm v7): Radeon RX от 6800 до 9070-й серии, Radeon PRO и другие; дополнительная поддержка — через Vulkan.
- Apple — M-серия, процессор и графика.
Модели весят от нескольких гигабайт до сотен, поэтому место на диске считайте сразу. Общий принцип подбора — сначала найти самую маленькую модель, которая справляется с вашей задачей на реальных примерах, и только под неё считать железо.
Как я внедряю Ollama в компании
- Неделя на тест. Ставим Ollama на рабочий компьютер, прогоняем 2–3 открытые модели на 30–50 реальных примерах задачи.
- Решение по модели. Выбираем самую маленькую модель, которая проходит тест. Под неё считаем сервер.
- Сервер. Ставим Ollama на сервер компании, отключаем облачные функции, закрываем доступ, настраиваем контекст и параллельность.
- Подключение. n8n-сценарии, агент для команды, внутренние сервисы.
- Гибрид. Чувствительные данные — локально, сложные задачи без персональных данных — в российском облаке (Yandex AI Studio или GigaChat).
Частые вопросы
Ollama бесплатная? Сама программа и локальные модели — да. Облачные модели Ollama требуют аккаунта, их тарифы — на сайте Ollama.
Уходят ли мои данные куда-то при работе с Ollama?
При локальных моделях — нет, Ollama их не видит. При моделях с пометкой :cloud запросы обрабатываются в облаке Ollama. Облачные функции можно отключить полностью.
Можно ли использовать Ollama для всей команды?
Да, если поставить её на сервер, открыть доступ по сети через OLLAMA_HOST и обязательно закрыть его авторизацией через прокси — сам API Ollama паролем не защищён.
Какую модель выбрать для Ollama? Ту, что справляется с вашей задачей на реальных примерах и помещается в вашу видеопамять с нужным контекстом. Для агентов — с поддержкой инструментов и контекстом от 64 тыс. токенов.
Работает ли Ollama с n8n? Да, в n8n есть готовый узел Ollama Chat Model, а Ollama документирует подключение со своей стороны.
Хотите свою нейросеть на сервере компании, к которой подключены агенты и автоматизации, а данные никуда не уходят? Я настраиваю Claude Code или альтернативу в компании — в том числе на локальных моделях через Ollama — и учу команду работать с ними. Напишите в Telegram, какие данные нельзя отдавать в облако, — обсудим на 30-минутном созвоне.
Похожие статьи: Локальные нейросети для бизнеса · n8n: автоматизация бизнеса и ИИ-агенты