После эксперимента вы посмотрели 20 сегментов и выбрали один с p-value=0.03, чтобы сказать, что фича работает в этом сегменте. Что корректнее сделать?
AПризнать проблему множественных сравнений: применить поправку или обозначить результат как исследовательский и подтвердить отдельным тестом
BЗаявить эффект для выбранного сегмента: значение
p-value < 0.05 в одном из сегментов уже считается достаточным основаниемCСчитать любой сегмент автоматически статистически значимым, если общий эффект по всему эксперименту оказался незначимым в тесте
DПеренести оценку на следующую итерацию релиза без изменения дизайна теста: эффект подтвердится сам в стандартном A/B-цикле
Правильный ответ. Выбор «лучшего» сегмента после просмотра многих — классический риск ложных открытий из-за множественных сравнений.
Разбор
Просмотр 20 сегментов и выбор одного с p-value < 0.05 — это классическая множественная проверка с раздутой ошибкой I рода: даже при H0 истинной для всех сегментов вероятность увидеть хотя бы один значимый результат на уровне 0.05 оценивается как 1 - 0.95^20 ≈ 0.64. Корректная практика — применить поправку (Holm, BH) или пометить сегментный результат как исследовательский и подтвердить отдельным A/B-тестом на этом сегменте. Заявлять эффект без поправки или, наоборот, отменять анализ ради ожидания следующей итерации — крайности, не решающие задачу.
Проверь себя · 1/3разбор после ответа
Что означает контролировать FDR (доля ложных открытий среди отвергнутых гипотез) на уровне 0.1 в наборе гипотез?
Ещё вопросы по теме «Множественные сравнения»
- Вы сделали множественные сравнения (`multiple comparisons`): 20 независимых проверок при `alpha = 0.05` и нашли одну метрику с `p-value = 0.04`. Что корректнее всего сказать про этот результат?
- Какая пара определений наиболее корректно описывает `FWER` и `FDR` при множественных проверках гипотез?
- Вы делаете 10 проверок и хотите контролировать FWER (вероятность хотя бы одной ошибки I рода) на уровне `alpha=0.05`. Какой порог для каждого теста задаёт поправка `Bonferroni`?
- Вы хотите контролировать `FWER`, но коррекция `Bonferroni` кажется слишком консервативной. Какое утверждение про процедуру `Holm` наиболее верное?
- Вы применяете процедуру `Benjamini–Hochberg` для контроля `FDR` на уровне 0.05 к 5 проверкам с отсортированными `p-value`: 0.004, 0.012, 0.018, 0.07, 0.2. Сколько гипотез будет отклонено?
- Все вопросы по «Множественные сравнения» →