Стейкхолдеры предлагают считать успех теста одновременно ростом конверсии, выручки и времени в приложении. Какой подход к метрикам наиболее здравый?
AОбъявить успехом любой рост хотя бы одной метрики из списка, чтобы быстрее принять решение и закрыть эксперимент
BВыбрать ту метрику, где случайно получился самый низкий
p-value, и постфактум объявить именно её основной метрикойCЗаранее выбрать одну основную метрику или
OEC для решения, а остальные оформить как вторичные и защитныеDПолностью отказаться от заранее заданной основной метрики и сравнивать все наблюдаемые метрики без приоритизации
Правильный ответ. Чёткое разделение на основную, вторичные и защитные метрики помогает принимать решение без «метрического хаоса».
Разбор
Несколько основных метрик часто дают конфликтующие сигналы и повышают шанс выбрать победителя случайно. Лучше заранее договориться об одном решающем показателе, близком к цели продукта, например OEC. Остальные метрики полезны, но их роль должна быть определена заранее: диагностика (вторичные метрики) или ограничения рисков (защитные метрики). Постфактумный выбор метрики по p-value и «победа по любой метрике» — это p-hacking и почти гарантированно приведут к ложноположительным выводам.
Проверь себя · 1/3разбор после ответа
Во время эксперимента маркетинг привёл больше трафика, поэтому общая выручка выросла в обеих группах. Какая метрика лучше подойдёт для сравнения вариантов с поправкой на разный объём трафика?
Ещё вопросы по теме «Метрики и guardrail-метрики»
- Вы тестируете новый экран оплаты; цель — увеличить число завершённых покупок. Какая метрика наиболее логична как основная для решения «выкатывать или нет»?
- Вы улучшаете рекомендации, и команда спорит, что считать успехом: `CTR`, добавления в корзину или выручку. Как лучше зафиксировать метрики перед запуском?
- В тесте новый онбординг улучшил основную метрику (активацию), но упали повторные визиты и выросли отписки. Как корректнее использовать вторичные метрики в такой ситуации?
- Вы тестируете увеличение числа рекламных блоков в ленте, ожидая рост выручки. Какие метрики наиболее уместны как страховочные (guardrail), чтобы не запустить вредное изменение?
- Вы меняете текст про доставку на странице оформления заказа; основная метрика — конверсия в заказ. Какую метрику логичнее поставить как страховочную, чтобы контролировать риск для бизнеса?
- Все вопросы по «Метрики и guardrail-метрики» →