Временные ряды

RNN/LSTM

RNN/LSTM для рядов

актуальноТекущий рабочий стандарт

Нейросети, обучаемые сразу на множестве связанных рядов, улавливают общие паттерны.

Ключевые тезисы

  • Global-модели переносят знания между похожими рядами.
  • DeepAR предсказывает распределение, а не только точку.
  • Требуют существенно больше данных, чем ARIMA.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Глобальные модели

Одна сеть на тысячи рядов вместо тысячи моделей.

Классический подход обучает отдельную модель на каждый ряд. Глобальная нейросеть учится на всех рядах сразу и переносит закономерности с длинных рядов на короткие — это особенно ценно для новых товаров без истории.

  • DeepAR предсказывает параметры распределения, а не точку — сразу получаются интервалы прогноза.
  • Нужны сотни рядов и достаточная история, иначе классические методы выигрывают.
  • Обязательна нормировка каждого ряда (например, на его среднее), иначе крупные ряды доминируют в потерях.
2

Практика обучения

Что нужно сделать, чтобы нейросеть на рядах вообще заработала.

  • Нормировать каждый ряд по его собственной статистике (или использовать логарифм) — иначе крупные ряды доминируют.
  • Обучать на окнах фиксированной длины, а не на всей истории целиком.
  • Добавлять календарные и статические признаки (категория товара, регион) как дополнительные входы.
  • Валидация — строго по времени, с тем же горизонтом, что в проде.
фолд 1
фолд 2
фолд 3
фолд 4
фолд 5
обучение валидация
обучений модели5
доля валидации20%
схемаK-Fold
Схема разбиения
Схема rolling-origin: обучающее окно расширяется, валидация всегда впереди

Связанные темы

Последовательные модели · Прогнозирование рядов

Stationarity85%

Стационарность · Временные ряды

Постоянство статистических свойств ряда во времени — предпосылка большинства классических моделей.

Autocorrelation85%

Автокорреляция · Временные ряды

Связь ряда с собственными прошлыми значениями — главный источник признаков и диагностики.

AR / MA / ARIMA85%

AR / MA / ARIMA · Временные ряды

Классическое семейство: авторегрессия, скользящее среднее ошибок и их комбинация с дифференцированием.

SARIMA85%

SARIMA · Временные ряды

ARIMA с явными сезонными компонентами — для рядов с недельной, месячной или годовой периодикой.

Exponential Smoothing85%

Экспоненциальное сглаживание · Временные ряды

Взвешивание прошлых наблюдений с экспоненциально убывающими весами; модель Хольта — Винтерса добавляет тренд и сезонность.

Prophet85%

Prophet · Временные ряды

Аддитивная модель тренда, сезонностей и праздников с упором на удобство для аналитика.

Feature-based forecasting85%

Прогноз через признаки · Временные ряды

Ряд превращается в табличную задачу: лаги, скользящие статистики, календарь — и дальше градиентный бустинг.

Transformer forecasting85%

Трансформеры для прогноза · Временные ряды

Внимание над длинными горизонтами: Informer, Autoformer, PatchTST, TFT.

RNN80%

Рекуррентные сети · Глубокое обучение

Обрабатывают последовательность шаг за шагом, перенося скрытое состояние между позициями.

LSTM80%

LSTM · Глубокое обучение

Рекуррентная ячейка с состоянием и тремя вентилями, решающая проблему долгосрочной памяти.

GRU80%

GRU · Глубокое обучение

Упрощённая LSTM: два вентиля вместо трёх и отсутствие отдельного cell state.

RNN/LSTM for NLP80%

RNN/LSTM в NLP · Обработка естественного языка

Первое поколение нейросетевых моделей языка: последовательная обработка токенов со скрытым состоянием.

Sequence-to-Sequence80%

Seq2Seq · Обработка естественного языка

Схема «энкодер сжимает вход — декодер порождает выход» для перевода, суммаризации и диалога.

Backpropagation80%

Обратное распространение ошибки · Глубокое обучение

Эффективное вычисление градиентов по всем параметрам сети за один обратный проход с помощью правила цепочки.