Свой ChatGPT для компании: приватный ИИ-ассистент на сервере

В этой статье

Наш выбор

Для компании на 20–50 сотрудников, где документы не должны уходить с сервера, — выделенный сервер с RTX 4090 на 24 ГБ: открытая модель на 8 млрд параметров (или на 14 млрд в сжатом виде) через vLLM, сверху Open WebUI с учётками и поиском по документам. Цена фиксированная, диски и канал уже в ней.

Конфигурация

RTX 4090 24 ГБ · Core i9-14900KS · 128 ГБ · 2 × 2 ТБ NVMe

Цена

56 900 ₽/мес или 1 890 ₽/день посуточно на пилот

Без своего сервера

Token Factory, Qwen-3.8-27B: генерация — 206,50 ₽ за 1 млн токенов

Под ключ

ИИ-ассистент на RTX PRO 6000 с Open WebUI — 240 290 ₽/мес

Когда не подходит

нужна модель на 30 млрд и больше (70 млрд — только в сжатом виде) или сотни пользователей — RTX PRO 6000 96 ГБ, 225 000 ₽/мес

GPU-серверы в Selectel

Реклама. АО «Селектел», ИНН 7810962785, selectel.ru. erid: 2VtzqwajdVY

Что нужно понять за минуту

«Свой ChatGPT» для компании состоит из трёх частей, и каждую можно взять отдельно:

1. Модель и сервер для неё. Открытая языковая модель (Qwen, gpt-oss, T-Pro, Gemma) и программа, которая держит её в памяти видеокарты и отвечает по API, — обычно vLLM или Ollama.
2. Веб-чат с учётками. Сотрудники заходят в браузере, у каждого своя история диалогов, администратор решает, кто какую модель видит. Самый распространённый вариант — Open WebUI.
3. Поиск по документам (RAG). Регламенты, договоры и инструкции режутся на фрагменты, к вопросу подтягиваются подходящие куски, и модель отвечает по ним, а не «из головы». Для этого нужна модель эмбеддингов, и видеокарта ей не обязательна.

Главный выбор — где работает модель. На своём арендованном сервере вопросы и документы никуда не уходят. Через API провайдера (Token Factory или Dedicated Inference) свой сервер с видеокартой не нужен, но запросы обрабатывает чужой сервис. Второй выбор — размер модели: от него зависят видеокарта, цена и качество ответов.

Сколько стоит

Шесть вариантов от «без видеокарты» до «под ключ». Веб-чат и поиск по документам в первых двух строках работают на отдельном облачном сервере без GPU; в остальных — на том же сервере, что и модель.

Цены с НДС. Облачный сервер — без диска и IP. Выделенные серверы — готовые конфигурации: диски, канал 1 Гбит/с без лимита и IPv4 уже в цене. Dedicated Inference оплачивается по часам работы сервиса, число токенов на цену не влияет. Остальные ставки — в справочнике цен. Проверено 08.11.2026 · выделенные GPU · ИИ-ассистент · Token Factory · Dedicated Inference

Что это значит в рублях за месяц (наш расчёт):

• Токены для компании на 30 человек — около 2 600 ₽. Допустим, каждый задаёт 20 вопросов в рабочий день, 22 дня в месяц: 13 200 запросов. С фрагментами документов вопрос весит около 3 000 токенов, ответ — около 500. Вход: 39,6 млн × 31,01 ₽ ≈ 1 230 ₽, генерация: 6,6 млн × 206,50 ₽ ≈ 1 360 ₽. Плюс сервер для чата. Чтобы токены сравнялись по цене с сервером на RTX 4090, запросов должно быть примерно в 20 раз больше.
• Dedicated Inference круглосуточно — от 46 210 ₽ (63,30 ₽ × 730 часов, цена на странице провайдера указана «от»). Ставить модель не нужно, но выбор ограничен каталогом провайдера.
• Под ключ или своими руками. Готовый ИИ-ассистент дороже выделенного сервера с той же RTX PRO 6000 примерно на 15 290 ₽ в месяц (240 290 − 225 000 ₽). Но конфигурации разные: у готового два серверных процессора и 256 ГБ памяти, и чат уже установлен.

Свой вариант по числу запросов посчитайте в калькуляторе LLM по API или свой GPU.

Как сделать

Рецепт для одного выделенного сервера с видеокартой и Ubuntu, на котором уже стоят драйвер NVIDIA, Docker и NVIDIA Container Toolkit.

1. Выберите модель под карту. На 24 ГБ спокойно помещается модель на 8 млрд параметров в исходной точности с запасом под контекст и несколько одновременных диалогов. Для модели крупнее нужна карта на 96 ГБ или сжатие. Посчитать память под свою модель — в калькуляторе видеопамяти.

2. Запустите vLLM и Open WebUI вместе. Файл docker-compose.yml:

services:
  vllm:
    image: vllm/vllm-openai:latest   # в работе закрепите конкретную версию
    command: ["--model", "Qwen/Qwen3-8B", "--max-model-len", "16384",
              "--gpu-memory-utilization", "0.90", "--api-key", "${VLLM_API_KEY}"]
    ipc: host
    volumes:
      - ./hf-cache:/root/.cache/huggingface
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    restart: unless-stopped

  open-webui:
    image: ghcr.io/open-webui/open-webui:main   # и здесь закрепите версию
    environment:
      OPENAI_API_BASE_URL: http://vllm:8000/v1
      OPENAI_API_KEY: ${VLLM_API_KEY}
      ENABLE_OLLAMA_API: "false"
      DEFAULT_USER_ROLE: pending           # новых пользователей подтверждает администратор
      RAG_EMBEDDING_MODEL: BAAI/bge-m3     # эмбеддинги для поиска по документам, работают на CPU
    ports:
      - "127.0.0.1:3000:8080"
    volumes:
      - open-webui:/app/backend/data
    depends_on: [vllm]
    restart: unless-stopped

volumes:
  open-webui:

Ключ VLLM_API_KEY положите в файл .env рядом, не в репозиторий. Запуск — docker compose up -d; первая загрузка модели займёт время. Порт vLLM наружу не публикуется вовсе, а чат слушает только 127.0.0.1. Это важно: порты Docker, опубликованные на 0.0.0.0, обходят ufw — мы на этом обжигались. Подробно про параметры vLLM — в гайде установка vLLM.

3. Откройте чат по HTTPS. Поставьте Caddy, он сам выпустит сертификат Let's Encrypt (порт 80 должен быть открыт). Файл /etc/caddy/Caddyfile:

chat.example.ru {
    reverse_proxy 127.0.0.1:3000
}

4. Заведите учётки. Первый зарегистрированный пользователь становится администратором. Остальные после регистрации ждут подтверждения. В админке можно разбить сотрудников на группы и ограничить доступ к моделям и базам документов. Open WebUI умеет и вход через LDAP или OIDC, если у компании есть свой каталог.

5. Загрузите документы. В разделе базы знаний создайте коллекции («Регламенты», «Договоры») и выдайте к ним доступ группам. В настройках документов включите гибридный поиск: он ищет и по словам, и по смыслу. Переменные окружения применяются при первом запуске, дальше настройки меняются в админке.

Что не подойдёт и ограничения

• Это не облачный GPT. Открытые модели на 8–14 млрд параметров хорошо пересказывают документы и пишут письма, но в сложных рассуждениях заметно слабее крупных облачных моделей. Проверьте модель на 20–30 реальных вопросах сотрудников до того, как обещать «свой ChatGPT».
• Карты заканчиваются. На 8 ноября RTX 4090 на 24 ГБ было в наличии 2 штуки, RTX PRO 6000 — 3. Перед запуском проверьте наличие.
• Готовый образ Open WebUI в облаке — не для всех. В ИИ-маркетплейсе он бесплатный (платите только за ресурсы сервера), но доступен только в сегменте ru-9a в Санкт-Петербурге, а карты для образов маркетплейса — T4, A2, A30, A100, A2000, A5000 и GTX 1080, без RTX 4090 и RTX PRO 6000. Цену конфигурации смотрите в калькуляторе провайдера.
• Dedicated Inference — пока public preview. Только Москва, свою или дообученную модель загрузить нельзя, конфигурацию после создания не поменять. При нуле на балансе сервис останавливается, через 8 часов удаляется.
• Токены — не свой сервер. Token Factory по своим условиям не хранит запросы и не дообучает на них модели, обработка — в России. Но если служба безопасности требует, чтобы текст не покидал вашу инфраструктуру, подходит только свой сервер.
• Персональные данные — отдельная работа. Провайдер заявляет обработку персональных данных до УЗ-1 включительно, но обязанности оператора остаются на компании. Что для этого нужно — в гайде хостинг по 152-ФЗ.
• Лицензия Open WebUI. С версии 0.6.6 у проекта своя лицензия с условием про брендинг: убрать логотип и название Open WebUI можно, только если у вас не больше 50 пользователей за 30 дней, иначе нужна корпоративная лицензия. Использовать чат с родным брендингом можно без ограничений.
• Сервер нужно обслуживать. Обновления модели, vLLM и Open WebUI, бэкап базы чата и документов — работа вашего администратора. Готовое решение экономит установку: провайдер описывает его как сервер с предустановленным образом.

Частые вопросы

Можно ли сделать свой ChatGPT для компании на своём сервере?

Да. Нужны три вещи: сервер с видеокартой, открытая языковая модель (Qwen, gpt-oss, T-Pro и другие) с сервером запуска вроде vLLM и веб-чат с учётками — например, Open WebUI. Собрать это администратор может за день. Качество ответов зависит от модели: открытые модели на 8–14 млрд параметров заметно слабее крупных облачных, поэтому проверяйте их на своих вопросах.

Сколько стоит ИИ-ассистент для компании на своём сервере?

На 8 ноября 2026 выделенный сервер с RTX 4090 на 24 ГБ стоит 56 900 ₽/мес, с RTX PRO 6000 на 96 ГБ — 225 000 ₽/мес. Готовое решение провайдера с предустановленным Open WebUI — от 240 290 ₽/мес. Если не нужен свой сервер, оплата за токены для компании на 30 человек, по нашему расчёту, выходит в несколько тысяч рублей в месяц.

Какая видеокарта нужна для корпоративного чат-бота?

Её выбирают по видеопамяти под модель. Модель на 8 млрд параметров в исходной точности помещается в карту на 24 ГБ с запасом под несколько одновременных диалогов; модель на 14 млрд — только в сжатом виде (8 или 4 бита). Для моделей на 30 млрд нужна карта на 96 ГБ, модель на 70 млрд поместится в неё только сжатой. Точный объём под свою модель и число пользователей посчитайте в калькуляторе видеопамяти.

Как связать Open WebUI и vLLM?

vLLM отдаёт модель по API, совместимому с OpenAI. В Open WebUI достаточно указать адрес этого API и ключ — в переменных OPENAI_API_BASE_URL и OPENAI_API_KEY или в админке в разделе подключений. Удобнее всего запускать оба сервиса в одном docker compose, тогда vLLM не нужно открывать наружу.

Уходят ли данные наружу, если поставить нейросеть на свой сервер?

Нет: модель, чат и документы работают на арендованном сервере, запросы никуда не отправляются. Если вместо своего сервера подключить Token Factory, запросы уходят в сервис провайдера: по его словам, они обрабатываются в России, не хранятся и не используются для дообучения. Если в документах есть персональные данные, нужен ещё и правильный уровень защищённости по 152-ФЗ.

Источники

1. ИИ-ассистент на выделенном сервере — состав и ценыпроверено 08.11.2026
2. Выделенные серверы с GPU — цены, наличие, посуточная арендапроверено 08.11.2026
3. Token Factory — цены за токены и политика храненияпроверено 08.11.2026
4. Dedicated Inference — каталог моделей и ценыпроверено 08.11.2026
5. Документация: Dedicated Inference — описание и ограниченияпроверено 08.11.2026
6. Документация: оплата Dedicated Inferenceпроверено 08.11.2026
7. ИИ-маркетплейс — готовые образы серверовпроверено 08.11.2026
8. Документация: ИИ-маркетплейс — образы и GPUпроверено 08.11.2026
9. Документация: доступность образов ИИ-маркетплейса в локацияхпроверено 08.11.2026
10. Калькулятор облачных серверов — линейка Standardпроверено 08.11.2026

Связанные гайды

• Решение

  Запустить LLM на своём сервере: какую карту взять и сколько стоит

  Как запустить свою LLM на арендованном GPU-сервере: карта под модель 8B, 32B и 70B, Ollama или vLLM, API с ключом, копия весов в S3 и цены.

  08.11.2026
• Инструмент

  LLM по API или свой GPU: калькулятор стоимости в рублях

  Сравниваем оплату нейросети за токены, готовую модель с оплатой по часам и свой сервер с видеокартой: сколько стоит месяц и с какого объёма выгоднее своё.

  09.11.2026
• Решение

  Сервер для нейросети: какой нужен под вашу задачу и сколько стоит

  Какой сервер нужен нейросети: чат-боту, генерации картинок, распознаванию речи и поиску по документам. Видеокарта, память и цены на 8 ноября 2026.

  08.11.2026
• Инструмент

  Сколько видеопамяти нужно для LLM: калькулятор и подбор GPU

  Считаем видеопамять под модель: веса, кэш контекста, запас. Llama, Qwen, Gemma, gpt-oss, DeepSeek в 16, 8 и 4 битах — и какие видеокарты подойдут по цене.

  08.11.2026
• Гайд

  vLLM на своём GPU-сервере: установка, Docker и OpenAI API

  Как поставить vLLM на арендованный GPU-сервер: Docker Compose, OpenAI-совместимый API с ключом и HTTPS, какая карта нужна под Qwen3.8 и сколько это стоит.

  08.11.2026