В A/B тесте всего по 25 пользователей на группу, конверсия 0/25 в контроле и 2/25 в варианте. Какой подход к проверке разницы долей обычно более аккуратен при такой малой выборке?

AТочный биномиальный тест: он учитывает дискретность данных и работает корректно при малых n
Bz-test для разницы долей: подходит и для малых выборок, нормальное приближение здесь надёжно
CРешать по графику долей без статистики: разница 2/25 против 0/25 визуально достаточно очевидна
DКорреляция Пирсона между группой и фактом покупки: показатель силы связи отвечает на тот же вопрос
Правильный ответ. При малых n нормальное приближение грубое, поэтому полезен точный биномиальный тест.

Разбор

При малых выборках, особенно при нулевых успехах в одной группе, нормальное приближение z-test даёт неточные p-value. Точный биномиальный тест опирается на дискретное распределение и корректно работает при таких данных. Корреляция Пирсона тут не отвечает на вопрос про разницу долей. Решение «по графику» без статистики на 25 наблюдениях легко принять шум за эффект.

Проверь себя · 1/3разбор после ответа
Вы считаете конверсию из визита в покупку на уровне пользователя. Что корректно считать success и что считать trial для расчёта доли?
Тренировать статистику в Telegram

Ещё вопросы по теме «Тесты для долей»