Вы сравнили метрику до изменения и после изменения и увидели рост. Какой риск чаще всего делает такой вывод о причинности ненадёжным?
AМетрика без изменения продукта меняться не может, поэтому любой рост после релиза доказывает причинный эффект изменения.
BВнешние факторы и сезонность могли сдвинуть метрику одновременно с релизом, поэтому рост не равен причинному эффекту.
CРост после релиза автоматически отвергает нулевую гипотезу и не требует контрольной группы для подтверждения причинности.
DСравнение до/после считается более надёжным, чем рандомизация, и обычно даёт более чистую оценку эффекта.
Правильный ответ. Сравнение до/после спутывается с внешними факторами: рост может быть вызван сезонностью или совпавшим внешним событием, а не самим релизом.
Разбор
Без контрольной группы у нас нет «второй вселенной», где релиза не было, поэтому мы не знаем, как метрика повела бы себя без изменения. Рост после релиза легко объясняется сезонностью, маркетинговой акцией, изменением трафика или другим внешним фактором, совпавшим по времени. Именно поэтому в A/B-тесте контрольная группа существует одновременно с тестовой, и обе подвергаются одним и тем же внешним влияниям. «До/после» без рандомизации — это слабый дизайн с высоким риском перепутать корреляцию с причинностью.
Проверь себя · 1/3разбор после ответа
Продакт-менеджер видит, что через три дня после запуска A/B-теста p-value равен 0.03. Он хочет остановить тест и раскатить изменение. Какой подход к остановке теста будет корректным?
Ещё вопросы по теме «Основы A/B-тестирования»
- После редизайна главной страницы конверсия выросла по сравнению с прошлой неделей. Почему без A/B теста нельзя уверенно сказать, что рост вызван именно редизайном?
- Вы тестируете новый текст кнопки оплаты. Что должно быть верно для корректного сравнения контрольной и тестовой группы?
- Какая пара гипотез корректна для двустороннего A/B-теста, где метрика — конверсия?
- Конверсия в контрольной группе 10%, в тестовой 11%. Как корректно описать абсолютный и относительный прирост?
- Что в первую очередь даёт рандомизация в A/B-тесте?
- Все вопросы по «Основы A/B-тестирования» →