Два независимых эксперимента одновременно меняют одну и ту же страницу checkout, оба рандомизируются по user_id. Аудитории пересекаются. Какое решение лучше всего, чтобы интерпретация результатов была надежной?
AЗапускать оба как есть и интерпретировать каждый тест отдельно
BОстановить один эксперимент и никогда не запускать параллельные тесты
CИспользовать слои
bucketing (разбивка пользователей на группы) с взаимным исключением аудиторий или заранее планировать факторный дизайн 2x2DПерейти на рандомизацию по
session_id, тогда пересечения не важныПравильный ответ. Пересекающиеся эксперименты создают взаимодействия и коллизии аудиторий, поэтому нужны правила разруливания пересечений.
Разбор
Если аудитория пересекается, один пользователь может одновременно находиться под влиянием двух изменений, и эффекты могут не складываться линейно. Тогда оценка каждого эксперимента по отдельности становится трудно интерпретируемой и может быть смещенной. Практичные решения — взаимно исключающие слои bucketing (разбивка пользователей на группы) или факторный дизайн 2x2, если вы хотите измерять взаимодействие. Важно также логировать участие пользователя в каждом экспериментальном слое.
Проверь себя · 1/3разбор после ответа
Есть два фактора: новый дизайн карточки и новая логика рекомендаций. Команда хочет запустить два эксперимента одновременно на одной аудитории. В каком случае разумно выбрать факторный дизайн
2x2 вместо взаимного исключения аудиторий?Ещё вопросы по теме «Дизайн эксперимента и рандомизация»
- Вы тестируете новый экран оплаты. Пользователь может заходить в приложение много раз. Метрика — конверсия в покупку за 7 дней на уровне `user_id`. Какую `unit of randomization` (единица рандомизации) выбрать, чтобы минимизировать смешение вариантов?
- Эксперимент рандомизируется по `user_id`, а вы считаете метрику на уровне `session_id` (например, длительность сессии) и сравниваете сессии как независимые наблюдения. Что здесь главное методологическое последствие?
- В тесте нового реферального механизма пользователь из `treat` отправляет приглашения друзьям, которые попадают в `control` и тоже меняют поведение. Какое допущение нарушается и почему это важно?
- Эксперимент меняет алгоритм распределения заказов между курьерами. Курьеры обслуживают сразу нескольких пользователей, и решение для одного заказа влияет на время доставки других. Какой подход к рандомизации чаще всего лучше уменьшит `interference`?
- Вы делаете `bucketing` (разбивка пользователей на группы) как `hash(user_id + day) % 2`, где `day` — текущая дата. Что самое вероятное следствие для эксперимента?
- Все вопросы по «Дизайн эксперимента и рандомизация» →