Вы запустили A/A тест и получили статистически значимую разницу по ключевой метрике. Что правильнее всего сделать перед запуском A/B?
AСразу запускать A/B: значимая разница в A/A доказывает, что система измерений работает корректно
BИгнорировать результат: значимость в A/A теста бывает почти всегда, она ничего не говорит о пайплайне
CОстановить и искать причину (рандомизация, логирование, сегментация), потому что пайплайн даёт ложные эффекты
DСменить целевую метрику на любую другую и продолжить запуск без проверок и дополнительных исправлений
Правильный ответ. Значимый эффект в A/A тесте — красный флаг: пайплайн может создавать ложные эффекты.
Разбор
В A/A тесте эффект должен быть близок к нулю, а значимость должна появляться редко и случайно — не чаще, чем уровень alpha. Стабильное или большое различие обычно означает проблему: разные аудитории в вариантах, потерю событий, дубли, неверные фильтры включения, ошибки логирования. Если не исправить это, A/B может показать «победителя» из-за бага, а не из-за продукта. Игнорировать или менять метрику без диагностики — путь к неверным решениям.
Проверь себя · 1/3разбор после ответа
В A/A-тесте вы заметили значимое отличие по инвариантным метрикам — например, по числу пользователей в эксперименте или по распределению платформ. Что это чаще всего означает?
Ещё вопросы по теме «QA, SRM и раскатка»
- Команда готовит крупный A/B-эксперимент и хочет сначала запустить A/A-тест. Какова главная цель A/A-теста?
- Запустили `A/B`-тест с планом 50/50, а в логах видим 53/47 при миллионе пользователей. Что описывает термин `SRM` (Sample Ratio Mismatch) применительно к этой ситуации?
- В эксперименте конверсия в варианте B резко просела, но бизнес подозревает поломку трекинга. Какое действие лучше сделать в первую очередь?
- Эксперимент показал положительный эффект, и вы хотите выкатить фичу на всех пользователей. Какой план выкатки наиболее безопасен?
- В первые сутки эксперимента метрика выросла на 12%, но через 3 дня рост исчез и эффект стал около 0. Какое объяснение наиболее вероятно и что делать дальше?
- Все вопросы по «QA, SRM и раскатка» →