# Инференс (inference, работа обученной нейросети)

> Что такое инференс LLM простыми словами: чем он отличается от обучения, где нужен и как за него платят — за токены, по часам или за свой GPU.

Источник: https://infragid.ru/glossarij/inferens/ · Обновлено: 2026-11-09 · Цены проверены: 2026-11-08 · Раздел: Нейросети и GPU

**Коротко.** Инференс — это работа уже обученной нейросети: она получает запрос и выдаёт ответ. Обучают модель один раз, а инференс идёт каждый раз, когда человек пишет чат-боту или сервис распознаёт речь. Платят за него тремя способами: за токены по API, за часы готовой модели или за свой сервер с видеокартой.

## Простыми словами

Обучение модели похоже на учёбу повара: долго, дорого и один раз. Инференс — это когда повар готовит по заказу, и каждый заказ стоит продуктов и времени. Вы просите чат-бот «составь ответ клиенту», модель читает вопрос (входные токены) и пишет ответ (генерируемые токены) — это и есть инференс.

Маленьким моделям видеокарта нужна не всегда. У нас модель эмбеддингов для поиска по документам работает на процессоре домашнего сервера и отвечает примерно за 0,17 с. Большой языковой модели нужна видеокарта, и чтобы отвечать быстро, модель должна целиком поместиться в её [видеопамять](/glossarij/vram/).

## Когда это нужно

- Встраиваете языковую модель в продукт: чат-бот поддержки, поиск по базе знаний, разбор договоров.
- Данные нельзя отправлять во внешний API — тогда модель запускают на своём сервере, например через [vLLM](/glossarij/vllm/).
- Нужна своя или дообученная модель: готовые сервисы с каталогом моделей её не примут.

## Сколько стоит

На старте почти всегда дешевле платить за токены: у Token Factory входные токены модели Qwen-3.8-Flash-Next стоят 20,85 ₽ за 1 млн токенов. Готовая модель qwen3-8b в Dedicated Inference с оплатой по часам — 63,30 ₽/час, и платите вы за время, а не за число запросов. Свой сервер с видеокартой окупается только при очень большом потоке запросов. Где проходит граница для вашей нагрузки, считает [калькулятор «LLM по API или свой GPU»](/instrumenty/llm-api-ili-svoj-gpu/), а как собрать всё у себя — в решении [своя LLM на сервере](/svoya-llm-na-servere/).


## Источники

- Token Factory — selectel.ru — https://selectel.ru/services/cloud/token-factory/ (проверено 2026-11-08)
- Dedicated Inference — selectel.ru — https://selectel.ru/services/dedicated-inference/ (проверено 2026-11-08)