В A/B тесте разница средних всего 0.1%, но p-value < 0.001 из-за очень большого n. Что корректнее всего сказать про результат?

AЭффект обязательно большой, раз p-value такой маленький
BЭффекта нет, потому что разница всего 0.1%
CЭффект статистически значим, но может быть практически мал; важно смотреть величину эффекта и CI
DМожно утверждать, что H0 истинна с вероятностью 0.999
Правильный ответ. Малый p-value говорит про статистическую значимость, но не про практическую важность эффекта.

Разбор

При огромных выборках даже очень маленькие эффекты становятся статистически значимыми. Поэтому рядом с p-value нужно смотреть оценку эффекта и CI, чтобы понять масштаб и неопределённость. Типичная ошибка — принимать 'значимо' за 'важно для бизнеса' без оценки величины и стоимости изменений.

Проверь себя · 1/3разбор после ответа
Какая «нормальность (интуитивно)» важна для парного paired t-test?
Тренировать статистику в Telegram

Ещё вопросы по теме «Тесты для средних»