Cost Model — Экономика сервиса

Стоимость одного предсказания и точка, где модель перестаёт окупаться.

Ключевые тезисы

Считайте стоимость на 1000 запросов: GPU-час, память, трафик, хранение признаков.
Часто дешевле уменьшить модель, чем масштабировать железо: квантизация и дистилляция окупаются быстро.
Кеш популярных запросов — обычно самая дешёвая оптимизация из всех возможных.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Считаем стоимость запроса

Простая формула, о которой часто забывают.

стоимость запроса = \frac{цена часа \times число реплик}{3600 \times RPS на реплику}

Пример

GPU-инстанс 120 ₽/час, две реплики, 40 RPS на реплику: $\frac{120 \cdot 2}{3600 \cdot 80} \approx 0.00083$ ₽ за запрос. При 10 млн запросов в месяц — около 8 300 ₽.

Рычаги снижения стоимости

По убыванию эффекта на рубль усилий.

Кеш повторяющихся запросов — иногда убирает половину трафика.
Квантизация и компиляция модели — двукратное ускорение почти бесплатно.
Батчинг — кратный рост пропускной способности на GPU.
Дистилляция в меньшую модель — дольше, но даёт наибольший выигрыш.
Каскад: дешёвая модель отвечает на простые случаи, дорогая — на сложные.

Связанные темы

Эффективность моделей · Инференс и эксплуатация

GPU Inference97%

GPU-инференс · Системный дизайн ML-сервисов

Как выжать из видеокарты пропускную способность и не переплачивать.

Requirements and SLA85%

Требования и SLA · Системный дизайн ML-сервисов

Числа, которые нужно зафиксировать до архитектуры: задержка, пропускная способность, доступность, стоимость запроса.

Serving Architecture85%

Архитектура инференса · Системный дизайн ML-сервисов

Модель внутри приложения, отдельный сервис или платформа инференса — три уровня связанности.

Caching85%

Кеширование · Системный дизайн ML-сервисов

Не считать то, что уже посчитано: кеш предсказаний, признаков и эмбеддингов.

Batching and Queues85%

Батчинг и очереди · Системный дизайн ML-сервисов

Собирать запросы в пачки, чтобы загрузить GPU, и сглаживать всплески нагрузки очередью.

Scaling85%

Масштабирование · Системный дизайн ML-сервисов

Горизонтальное и вертикальное масштабирование инференса и правильные метрики автоскейлинга.

Reliability85%

Отказоустойчивость · Системный дизайн ML-сервисов

Что происходит, когда модель недоступна, отвечает медленно или выдаёт мусор.

Observability85%

Наблюдаемость · Системный дизайн ML-сервисов

Логи, метрики и трассировки, по которым можно восстановить, что произошло с конкретным запросом.

LLM Serving85%

Обслуживание LLM · Системный дизайн ML-сервисов

Отдельная инженерная дисциплина: KV-кеш, непрерывный батчинг, потоковая отдача и контроль стоимости.

Model Deployment85%

Деплой моделей · MLOps

Доставка модели пользователю: онлайн-сервис, батч-скоринг или встраивание в приложение.

Monitoring85%

Мониторинг · MLOps

Наблюдение за инфраструктурой, данными и качеством предсказаний после релиза.

Docker85%

Docker · MLOps

Контейнеризация фиксирует окружение целиком: код, зависимости, системные библиотеки.

Kubernetes85%

Kubernetes · MLOps

Оркестрация контейнеров: масштабирование, самовосстановление, обновления без простоя.

Transfer Learning80%

Перенос обучения · Глубокое обучение

Использование модели, обученной на большой выборке, для задачи с малым числом примеров. Главный практический приём современного глубокого обучения.

Mixture of Experts80%

Смесь экспертов · Глубокое обучение

Архитектура, в которой на каждый токен активируется лишь часть параметров: большая ёмкость при умеренной стоимости вычислений.

Distillation80%

Дистилляция · Генеративный ИИ

Обучение маленькой модели воспроизводить поведение большой: кратное снижение стоимости при небольшой потере качества.

LoRA80%

LoRA · Генеративный ИИ

Обучение низкоранговых добавок к весам вместо полного дообучения модели.