Вы тестируете ценовой баннер, но на неделе эксперимента прошла распродажа, сильно влияющая на конверсию. Что поможет корректнее оценить эффект с учётом seasonality и normalization?
AСравнить только абсолютные значения конверсии в варианте B без контроля
BУбрать дни распродажи только из экспериментальной группы, чтобы «очистить» эффект
CСравнивать вариант с контролем в те же даты, использовать нормализованные метрики (например, на пользователя) и проверять стабильность эффекта по дням
DИгнорировать распродажу, если
primary metric значимо выросПравильный ответ. Контроль по тем же датам и
normalization помогают отделить эффект фичи от внешних событий и seasonality.Разбор
Распродажа меняет поведение пользователей и базовый уровень конверсии, поэтому важно сравнивать варианты синхронно, а не с разными периодами. Нормализованные метрики снижают влияние колебаний трафика и активности. Дополнительно полезно смотреть динамику по дням, чтобы понять, не «рисует» ли эффект один особый день.
Проверь себя · 1/3разбор после ответа
Вы меняете текст про доставку на чекауте;
primary metric — конверсия в заказ. Какую метрику логичнее поставить как guardrail metrics, чтобы контролировать риск для бизнеса?Ещё вопросы по теме «Метрики и guardrail-метрики»
- Вы тестируете новый экран оплаты; цель — увеличить число завершённых покупок. Какая метрика наиболее логична как `primary metric` для решения «выкатывать или нет»?
- Вы улучшаете рекомендации, и команда спорит, что считать успехом: `CTR`, добавления в корзину или выручку. Как лучше зафиксировать метрики перед запуском?
- В тесте новый онбординг улучшил `primary metric` (активацию), но упали повторные визиты и выросли отписки. Как корректнее использовать `secondary metrics` в такой ситуации?
- Стейкхолдеры предлагают считать успех теста одновременно ростом конверсии, выручки и времени в приложении. Какой подход к метрикам наиболее здравый?
- Вы тестируете увеличение числа рекламных блоков в ленте, ожидая рост выручки. Какие метрики наиболее уместны как `guardrail metrics`?
- Все вопросы по «Метрики и guardrail-метрики» →