В A/B тесте всего по 25 пользователей на группу, конверсия 0/25 в контроле и 2/25 в варианте. Какой подход к проверке разницы долей обычно более аккуратен при такой малой выборке?
AТочный биномиальный тест: он учитывает дискретность данных и работает корректно при малых
nB
z-test для разницы долей: подходит и для малых выборок, нормальное приближение здесь надёжноCРешать по графику долей без статистики: разница
2/25 против 0/25 визуально достаточно очевиднаDКорреляция Пирсона между группой и фактом покупки: показатель силы связи отвечает на тот же вопрос
Правильный ответ. При малых n нормальное приближение грубое, поэтому полезен точный биномиальный тест.
Разбор
При малых выборках, особенно при нулевых успехах в одной группе, нормальное приближение z-test даёт неточные p-value. Точный биномиальный тест опирается на дискретное распределение и корректно работает при таких данных. Корреляция Пирсона тут не отвечает на вопрос про разницу долей. Решение «по графику» без статистики на 25 наблюдениях легко принять шум за эффект.
Проверь себя · 1/3разбор после ответа
Вы считаете конверсию из визита в покупку на уровне пользователя. Что корректно считать
success и что считать trial для расчёта доли?Ещё вопросы по теме «Тесты для долей»
- Команда считает конверсию из показа в клик: 80 кликов на 1000 показов. Как корректнее всего описать эту величину как долю?
- `конверсия` выросла с 5% до 6%. Как корректно назвать абсолютное изменение?
- Если `n` увеличили в 4 раза при том же `p`, как примерно изменится стандартная ошибка доли `SE = sqrt(p*(1-p)/n)`?
- Когда двухвыборочный `z-test` для сравнения долей обычно уместен?
- Вы считаете конверсию из визита в покупку на уровне пользователя. Что корректно считать `success` и что считать `trial` для расчёта доли?
- Все вопросы по «Тесты для долей» →