Выборка и смещение: вопросы для собеседования (часть 3)
Систематическая ошибка выборки, survivorship bias, selection bias — источники смещения, которые превращают любой анализ в мусор. На собеседовании дают кейс и просят найти, где может возникнуть смещение. Понимание этой темы показывает, способен ли аналитик критически мыслить о данных, а не просто считать метрики.
Вопросы 11–15 из 20
11Вы оцениваете среднюю доходность фондов за 10 лет, используя только фонды, существующие сегодня, и игнорируете закрытые. Какая систематическая ошибка наиболее вероятна и в какую сторону сместит оценку?
AЭто ошибка измерения доходности, поэтому реальная доходность рынка обычно недооценивается
BЭто ошибка выживших, поэтому средняя доходность по выборке обычно завышается
CЭто смещение отбора в сторону неудачных фондов, поэтому средняя доходность обычно занижается
DЭто повышает репрезентативность выборки, потому что закрытые фонды нерелевантны современным инвесторам
Ответ: Ошибка выживших часто завышает оценку результата, потому что неудачные объекты чаще исчезают из данных.
Если закрытые фонды закрывались из-за плохих результатов, их исключение делает оставшуюся выборку более успешной, чем была вся совокупность фондов на старте. Это и есть ошибка выживших — частный случай смещения отбора. Типичная ловушка — принимать такие оценки как «истинные исторические результаты рынка» без учёта выбывших участников и их вклада в общую картину.
Подробный разбор → 12Какой набор данных лучше всего помогает уменьшить систематическую ошибку выжившего при анализе исторических результатов объектов (например, компаний, фондов или клиентов)?
AТолько текущие активные объекты: они проще достаются из последнего среза витрины и репрезентативны для всей истории
BТолько объекты с лучшими метриками за период: средние и доли получаются стабильнее и интерпретируются проще для отчёта
CТолько наблюдения за последний месяц: убирается шум старых периодов и формируется более чистая оценка поведения
DПолный исторический список объектов за период, включая закрытые и ушедшие, с единым правилом включения в выборку
Ответ: Чтобы снизить ошибку выжившего, нужно включать выбывших и закрытых, а не только тех, кто остался в живых.
Survivorship bias возникает, когда анализ ведётся только по объектам, дожившим до момента наблюдения: успешные фонды, открытые компании, активные клиенты. Без закрытых и ушедших объектов средние и медианы метрик систематически завышены. Лекарство — собирать полную панель за период по единому правилу включения, фиксируя дату появления и ухода. Только активные или только лучшие — это сам survivorship bias в чистом виде. Только последний месяц — отдельная проблема (короткое окно), но не лекарство от ошибки выжившего.
Подробный разбор → 13В email-опросе ответили 8% пользователей, и среди ответивших сильно больше VIP-клиентов, чем во всей аудитории. Какой шаг наиболее уместен, чтобы снизить смещение отбора по известным признакам?
AУвеличить уровень значимости и признать выводы значимыми: иначе тест выходит слишком консервативным
BСчитать результат валидным как есть: 8% ответов это много, и смещением состава можно пренебречь без последствий
CПрименить стратификацию или взвешивание ответов: доли VIP и не-VIP в оценке соответствуют структуре аудитории
DУдалить из выборки все ответы VIP-клиентов: они мешают оценке среднего ответа по остальной аудитории
Ответ: Взвешивание и стратификация помогают приблизить выборку к структуре всей аудитории по известным признакам.
Если вы знаете, что конкретный признак (например VIP) пере- или недопредставлен, можно использовать пост-стратификационные веса и восстановить доли как во всей аудитории. Это снижает смещение по этому признаку, хотя не гарантирует устранение всех причин смещения отбора. Типичная ошибка — игнорировать перекос состава и интерпретировать ответы как репрезентативные по всей базе.
Подробный разбор → 14В генеральной совокупности 80% пользователей — mobile и 20% — web, но в вашей выборке получилось 95% mobile и 5% web из-за малого объёма. Какой подход помогает повысить репрезентативность по платформам?
AСобирать данные только по `mobile`: пользователей этой платформы в популяции больше, и оценка получится точнее по объёму
BИгнорировать платформу при оценке метрик: `mobile` и `web` ведут себя одинаково в рамках одной воронки покупки и подписки
CСделать поправку на доход или возраст без учёта платформы: социально-демографические сегменты важнее технического разреза
DИспользовать стратифицированный отбор или квоты: доли `mobile` и `web` в выборке приводятся к долям в генеральной совокупности
Ответ: Стратификация помогает приблизить структуру выборки к структуре генеральной совокупности по важным признакам.
Когда выборка перекошена по важной характеристике (платформа), оценки сводятся к группе с гипертрофированной долей. Стандартный приём — стратифицированный отбор или квоты при сборе, либо взвешивание `inverse probability` на этапе расчёта: вес каждого наблюдения обратно пропорционален вероятности его попадания в выборку, и средние возвращаются к долям популяции. Сужение до одной платформы и игнорирование платформ при разном поведении дают смещённые оценки. Поправка на доход или возраст без учёта платформы — поправка не на тот фактор.
Подробный разбор → 15Аналитик оценивает удержание по списку подписчиков на рассылку и делает выводы про всех пользователей продукта. В чём основная проблема такого подхода?
AОшибка измерения: адреса в подписной базе указаны с опечатками, метрика удержания получается искажённой
BЭффект выживших: подписчики активнее обычных пользователей, метрика по ним систематически завышена
CДостаточный размер выборки выше десятка тысяч человек снимает разницу между подписчиками и остальными
DОграничение покрытия: рамка отбора из подписной базы не совпадает с генеральной совокупностью продукта
Ответ: Если рамка отбора не покрывает всю генеральную совокупность, возникает систематическая ошибка отбора из-за неполного покрытия.
Подписчики на рассылку — это подмножество пользователей, и они отличаются по вовлечённости и мотивации. Поэтому метрики по ним могут систематически отличаться от метрик по всей базе. Типичная ловушка — путать доступный список для отбора с реальной генеральной совокупностью. Это не ошибка измерения и не эффект выживших, и проблему не решает большой размер списка: если рамка отбора не покрывает всю популяцию, смещение остаётся при любом объёме.
Подробный разбор →