Два независимых эксперимента одновременно меняют одну и ту же страницу checkout, оба рандомизируются по user_id. Аудитории пересекаются. Какое решение лучше всего, чтобы интерпретация результатов была надежной?

AЗапускать оба как есть и интерпретировать каждый тест отдельно
BОстановить один эксперимент и никогда не запускать параллельные тесты
CИспользовать слои bucketing (разбивка пользователей на группы) с взаимным исключением аудиторий или заранее планировать факторный дизайн 2x2
DПерейти на рандомизацию по session_id, тогда пересечения не важны
Правильный ответ. Пересекающиеся эксперименты создают взаимодействия и коллизии аудиторий, поэтому нужны правила разруливания пересечений.

Разбор

Если аудитория пересекается, один пользователь может одновременно находиться под влиянием двух изменений, и эффекты могут не складываться линейно. Тогда оценка каждого эксперимента по отдельности становится трудно интерпретируемой и может быть смещенной. Практичные решения — взаимно исключающие слои bucketing (разбивка пользователей на группы) или факторный дизайн 2x2, если вы хотите измерять взаимодействие. Важно также логировать участие пользователя в каждом экспериментальном слое.

Проверь себя · 1/3разбор после ответа
Есть два фактора: новый дизайн карточки и новая логика рекомендаций. Команда хочет запустить два эксперимента одновременно на одной аудитории. В каком случае разумно выбрать факторный дизайн 2x2 вместо взаимного исключения аудиторий?
Тренировать A/B в Telegram

Ещё вопросы по теме «Дизайн эксперимента и рандомизация»