Запустили A/B-тест с планом 50/50, а в логах видим 53/47 при миллионе пользователей. Что описывает термин SRM (Sample Ratio Mismatch) применительно к этой ситуации?
AСитуация, когда средние значения метрик в вариантах отличаются сильнее ожидаемого по тесту
BОтклонение фактических долей трафика по вариантам от ожидаемого распределения при разбивке
CСезонный эффект, который делает результаты эксперимента нерепрезентативными для всей аудитории
DСлучай, когда
p-value слишком маленький из-за очень большой выборки и незначимого эффектаПравильный ответ.
SRM означает, что фактические доли пользователей в вариантах отличаются от запланированных.Разбор
Обычно в эксперименте ожидают распределение вроде 50/50 или 90/10, но фактически получают другое. Это может быть из-за ошибок в раздаче вариантов, фильтров, сбоев трекинга или особенностей доставки фичи. SRM опасен тем, что группы становятся несопоставимыми и выводы по эффекту перестают быть надёжными. Поэтому проверка SRM (например, через chi-square) — стандартная страховочная процедура перед чтением результатов теста.
Проверь себя · 1/3разбор после ответа
Команда смотрит результаты каждый день и останавливает эксперимент, как только видит p-value < 0.05. Какой основной риск такого подхода?
Ещё вопросы по теме «QA, SRM и раскатка»
- Команда готовит крупный A/B-эксперимент и хочет сначала запустить A/A-тест. Какова главная цель A/A-теста?
- В эксперименте конверсия в варианте B резко просела, но бизнес подозревает поломку трекинга. Какое действие лучше сделать в первую очередь?
- Эксперимент показал положительный эффект, и вы хотите выкатить фичу на всех пользователей. Какой план выкатки наиболее безопасен?
- В первые сутки эксперимента метрика выросла на 12%, но через 3 дня рост исчез и эффект стал около 0. Какое объяснение наиболее вероятно и что делать дальше?
- В A/A-тесте вы заметили значимое отличие по инвариантным метрикам — например, по числу пользователей в эксперименте или по распределению платформ. Что это чаще всего означает?
- Все вопросы по «QA, SRM и раскатка» →