Для uplift конверсии 95% confidence interval равен от -1% до +5%, а минимально полезный эффект для бизнеса начинается с +2%. Что это означает для решения?
AРезультат однозначно отрицательный, поэтому изменения точно вредны.
BРезультат однозначно положительный и полезный, потому что верхняя граница +5%.
CРезультат неопределённый: интервал включает и вред, и практически полезный эффект, поэтому стоит увеличить выборку/длительность теста или снизить вариативность метрики.
DЭто гарантирует, что
p-value будет меньше alpha 0.05.Правильный ответ. Если
confidence interval включает и 0, и практически важные значения, то вывод обычно остаётся неопределённым.Разбор
Интервал от -1% до +5% говорит, что данные совместимы с разными сценариями: от небольшого ухудшения до заметного улучшения. При таком интервале нельзя уверенно принять решение по практической полезности. Часто нужно больше наблюдений, снижение вариативности метрики или более точная формулировка гипотезы и критериев успеха.
Проверь себя · 1/3разбор после ответа
Какое утверждение про
p-value является корректным?Ещё вопросы по теме «Проверка гипотез и доверительные интервалы»
- В A/B тесте для конверсии вы получили `p-value` 0.03 при проверке `H0` об отсутствии разницы. Какая интерпретация корректна?
- Для разницы конверсий вы построили 95% `confidence interval`: от -0.2% до +1.4%. Что можно сказать о статистической значимости при `alpha` 0.05 и двусторонней проверке?
- Вы сравниваете долю конверсии (успех/неуспех) в A и B на больших выборках. Какой тест чаще всего выбирают как базовый для сравнения долей?
- Команда зафиксировала уровень значимости `alpha` 0.05. Что это в первую очередь контролирует в терминах ошибок?
- В A/B тесте при огромной выборке вы получили `p-value` < 0.001, но рост конверсии составил всего +0.02% при минимально полезном пороге +0.5%. Какое действие наиболее разумно?
- Все вопросы по «Проверка гипотез и доверительные интервалы» →