Новая функция доступна только users, которые включили beta. Команда сравнила их retention с остальными users и увидела рост. Какой следующий шаг наиболее корректен для анализа?

AСразу запускать функцию на всех, потому что retention выше
BИгнорировать результат, потому что segment beta слишком маленький
CПризнать риск selection bias и пытаться получить сравнение без self-selection, например через randomization или like-for-like с control variable
DУвеличить denominator по времени, пока не получится нужный вывод
Правильный ответ. Добровольный beta почти всегда создаёт selection bias, поэтому нужно сравнение без self-selection.

Разбор

Пользователи beta обычно более мотивированы, и их base rate может быть выше. Поэтому рост retention может отражать состав аудитории, а не эффект функции. Лучшее решение — сделать randomization или сопоставимое сравнение like-for-like с контролем ключевых факторов.

Проверь себя · 1/3разбор после ответа
Пользователи сами решают, обновлять ли приложение. Вы сравнили conversion rate у обновившихся с не обновившимися и получили лучший результат у новой версии. Что здесь самая большая аналитическая проблема?
Открыть Карьерник в Telegram

Ещё вопросы по теме «Сегментация и конфаундинг»