Ежедневный поток подходящих под тест пользователей удвоился, а требуемый размер выборки на группу и разбиение 50/50 не изменились. Что ожидаемо произойдёт с длительностью теста?

AДлительность теста вырастет примерно в 2 раза, потому что больший поток трафика вносит больше шума в оценку эффекта
BДлительность теста не изменится, потому что требуемый размер выборки зависит только от уровня значимости alpha
CДлительность теста уменьшится примерно в 4 раза, потому что увеличение потока ускоряет набор выборки квадратично
DДлительность теста уменьшится примерно в 2 раза, потому что скорость набора нужного размера выборки удвоилась
Правильный ответ. При фиксированном размере выборки и стабильном 50/50 длительность примерно обратно пропорциональна потоку: трафик ×2 → длительность ≈ /2.

Разбор

Если в день приходит вдвое больше подходящих под тест пользователей, то вдвое быстрее набираются обе группы — N_treat и N_control. При тех же целевых размерах выборки на группу это примерно вдвое сокращает календарную длительность. Уровень значимости alpha влияет на сам требуемый размер выборки, но не на скорость её набора. На практике поправку могут давать выходные и сезонность, но базовая зависимость остаётся почти линейной.

Проверь себя · 1/3разбор после ответа
Калькулятор размера выборки дал требование N_treat = 20000 и N_control = 20000. В эксперимент ежедневно попадает 5000 новых пользователей при разбиении 50/50. Какова минимальная длительность теста в днях при стабильном трафике?
Тренировать A/B в Telegram

Ещё вопросы по теме «Размер выборки и мощность теста»