Вы сравнили метрику до изменения и после изменения и увидели рост. Какой риск чаще всего делает такой вывод о причинности ненадёжным?

AМетрика без изменения продукта меняться не может, поэтому любой рост после релиза доказывает причинный эффект изменения.
BВнешние факторы и сезонность могли сдвинуть метрику одновременно с релизом, поэтому рост не равен причинному эффекту.
CРост после релиза автоматически отвергает нулевую гипотезу и не требует контрольной группы для подтверждения причинности.
DСравнение до/после считается более надёжным, чем рандомизация, и обычно даёт более чистую оценку эффекта.
Правильный ответ. Сравнение до/после спутывается с внешними факторами: рост может быть вызван сезонностью или совпавшим внешним событием, а не самим релизом.

Разбор

Без контрольной группы у нас нет «второй вселенной», где релиза не было, поэтому мы не знаем, как метрика повела бы себя без изменения. Рост после релиза легко объясняется сезонностью, маркетинговой акцией, изменением трафика или другим внешним фактором, совпавшим по времени. Именно поэтому в A/B-тесте контрольная группа существует одновременно с тестовой, и обе подвергаются одним и тем же внешним влияниям. «До/после» без рандомизации — это слабый дизайн с высоким риском перепутать корреляцию с причинностью.

Проверь себя · 1/3разбор после ответа
Продакт-менеджер видит, что через три дня после запуска A/B-теста p-value равен 0.03. Он хочет остановить тест и раскатить изменение. Какой подход к остановке теста будет корректным?
Тренировать A/B в Telegram

Ещё вопросы по теме «Основы A/B-тестирования»