В эксперименте конверсия в варианте B резко просела, но бизнес подозревает поломку трекинга. Какое действие лучше сделать в первую очередь?
AСразу признать, что фича ухудшила продукт, и навсегда закрыть тему
BПересчитать метрику с другим окном и выбрать то, где падения не видно
CПроверить
instrumentation и logging: сравнить наличие и частоты ключевых событий в сыром логе между вариантами.DУдалить из данных пользователей с нулевой конверсией, чтобы метрика стала стабильнее
Правильный ответ. При подозрении на поломку метрики первым делом проверяют
logging и наличие базовых событий по вариантам.Разбор
Резкое изменение метрики часто вызвано не поведением пользователей, а пропажей или изменением событий. Сравните сырой поток событий и долю пользователей с хотя бы одним событием конверсии в A и B. Также полезно проверить версию приложения, платформу и релизные флаги: поломка может затрагивать только часть аудитории.
Проверь себя · 1/3разбор после ответа
В
A/A test вы заметили значимое отличие по invariant metrics, например по числу пользователей, попавших в эксперимент, или по распределению платформ. Что это чаще всего означает?Ещё вопросы по теме «QA, SRM и раскатка»
- Команда готовит крупный A/B‑эксперимент и хочет сначала запустить `A/A test`. Какова главная цель `A/A test`?
- Что такое `SRM` (Sample Ratio Mismatch) (`sample ratio mismatch`) в контексте экспериментов?
- Эксперимент показал положительный эффект, и вы хотите выкатить фичу на всех пользователей. Какой план выкатки наиболее безопасен?
- В первые сутки эксперимента метрика выросла на 12%, но через 3 дня рост исчез и эффект стал около 0. Какое объяснение наиболее вероятно и что делать дальше?
- В `A/A test` вы заметили значимое отличие по `invariant metrics`, например по числу пользователей, попавших в эксперимент, или по распределению платформ. Что это чаще всего означает?
- Все вопросы по «QA, SRM и раскатка» →