Метрики

MCC

Коэффициент Мэтьюса

актуальноТекущий рабочий стандарт

Корреляция между предсказаниями и истиной, учитывающая все четыре ячейки матрицы ошибок.

Ключевые тезисы

  • Значения от −1 до 1; 0 — уровень случайного угадывания.
  • Самая честная одиночная метрика при сильном дисбалансе.
  • Симметрична относительно смены положительного класса.

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

1

Формула и свойства

Единственная популярная метрика, честная сразу ко всем четырём ячейкам.

Обозначения
  • верные срабатывания: модель сказала «да», и это правда
  • ложные срабатывания: модель сказала «да», а это неправда
  • пропуски: модель сказала «нет», а объект был положительным
  • верные отказы: модель сказала «нет», и это правда
  • Диапазон ; 0 — уровень случайного угадывания, отрицательные значения — систематическая инверсия.
  • Высокий MCC достижим только при хороших результатах по всем четырём ячейкам матрицы.
  • Симметричен: смена «положительного» класса не меняет значение.
На практике

Хорошая практика для несбалансированных задач — отчёт из трёх чисел: PR-AUC (качество ранжирования), MCC (качество при выбранном пороге) и сама матрица ошибок.

2

MCC против F1 и accuracy

Наглядный пример, где расходятся выводы.

МодельTPFPFNTNF1MCC
A9010108900.900.89
B100900000.180.00
C001009000.000.00

Модель B помечает всё как положительное, модель C — всё как отрицательное. Обе бесполезны, и MCC честно даёт им ноль, тогда как accuracy у C равна 0.9 и выглядит «прилично».

Связанные темы

Редкие классы и события · Качество классификации

PR-AUC97%

PR-AUC · Метрики

Площадь под кривой precision–recall; честнее ROC-AUC при редком положительном классе.

Accuracy85%

Доля правильных ответов · Метрики

Доля верных предсказаний среди всех. Понятна всем и обманчива при дисбалансе классов.

Precision85%

Точность · Метрики

Какая доля объектов, предсказанных положительными, действительно положительна.

Recall85%

Полнота · Метрики

Какая доля реально положительных объектов найдена моделью.

F185%

F1-мера · Метрики

Гармоническое среднее точности и полноты — компромисс между ними одним числом.

ROC-AUC85%

ROC-AUC · Метрики

Вероятность, что случайный положительный объект получит больший скор, чем случайный отрицательный.

Log Loss85%

Логарифмические потери · Метрики

Оценивает качество самих вероятностей, а не только меток: уверенная ошибка штрафуется очень сильно.

Calibration85%

Калибровка · Оценка моделей

Соответствие предсказанных вероятностей реальным частотам событий.

Logistic Regression85%

Логистическая регрессия · Классическое машинное обучение

Линейная модель классификации: сигмоида переводит линейную комбинацию признаков в вероятность класса.

Imbalanced Data80%

Дисбаланс классов · Данные

Когда положительных объектов 1% или меньше: как обучать, чем мерить и что делать с порогом.

Isolation Forest80%

Isolation Forest · Классическое машинное обучение

Обнаружение аномалий случайными разбиениями: аномальный объект отделяется от остальных за меньшее число разрезов.

Anomaly Detection80%

Поиск аномалий · Обучение без учителя

Выделение объектов, не похожих на основную массу данных, при отсутствии меток.

Loss functions80%

Функции потерь · Глубокое обучение

Формализуют цель обучения. Выбор потерь важнее выбора архитектуры чаще, чем кажется.

Extreme Value Theory80%

Теория экстремальных значений · Теория вероятностей и распределения

Аппарат для моделирования максимумов и хвостов: как оценить вероятность события, которого ещё не случалось.