Пользователи сами решают, обновлять ли приложение. Вы сравнили conversion rate у обновившихся с не обновившимися и получили лучший результат у новой версии. Что здесь самая большая аналитическая проблема?

AРазницы нет, потому что segment обновившихся всегда случайный
BНужно просто увеличить выборку, и confounder исчезнет
CПроблема только в mix shift по device, но selection bias тут невозможен
DЭто selection bias из-за self-selection: обновляются более активные users, и сравнение не причинное
Правильный ответ. Добровольное обновление создаёт selection bias, поэтому сравнение не даёт чистый эффект версии.

Разбор

Обновившиеся пользователи могут отличаться по вовлечённости, base rate покупок и устройствам. Эти различия становятся confounder и могут объяснить рост метрики без реального улучшения продукта. Чтобы оценить влияние версии, нужно сделать randomization или хотя бы сравнение like-for-like с контролем ключевых факторов.

Проверь себя · 1/3разбор после ответа
В сегменте ios conversion rate вырос, и в сегменте android тоже вырос, но общий conversion rate по всем users снизился. Какое объяснение наиболее вероятно?
Открыть Карьерник в Telegram

Ещё вопросы по теме «Сегментация и конфаундинг»