После эксперимента вы посмотрели 20 сегментов и выбрали один с p-value=0.03, чтобы сказать, что фича работает в этом сегменте. Что корректнее сделать?

AПризнать проблему множественных сравнений: применить поправку или обозначить результат как исследовательский и подтвердить отдельным тестом
BЗаявить эффект для выбранного сегмента: значение p-value < 0.05 в одном из сегментов уже считается достаточным основанием
CСчитать любой сегмент автоматически статистически значимым, если общий эффект по всему эксперименту оказался незначимым в тесте
DПеренести оценку на следующую итерацию релиза без изменения дизайна теста: эффект подтвердится сам в стандартном A/B-цикле
Правильный ответ. Выбор «лучшего» сегмента после просмотра многих — классический риск ложных открытий из-за множественных сравнений.

Разбор

Просмотр 20 сегментов и выбор одного с p-value < 0.05 — это классическая множественная проверка с раздутой ошибкой I рода: даже при H0 истинной для всех сегментов вероятность увидеть хотя бы один значимый результат на уровне 0.05 оценивается как 1 - 0.95^20 ≈ 0.64. Корректная практика — применить поправку (Holm, BH) или пометить сегментный результат как исследовательский и подтвердить отдельным A/B-тестом на этом сегменте. Заявлять эффект без поправки или, наоборот, отменять анализ ради ожидания следующей итерации — крайности, не решающие задачу.

Проверь себя · 1/3разбор после ответа
Что означает контролировать FDR (доля ложных открытий среди отвергнутых гипотез) на уровне 0.1 в наборе гипотез?
Тренировать статистику в Telegram

Ещё вопросы по теме «Множественные сравнения»