У двух групп есть отдельные 95% confidence interval для конверсии, и интервалы немного перекрываются. Можно ли из одного факта перекрытия сделать вывод, что разницы нет на уровне 0.05?

AДа, перекрытие всегда означает отсутствие статистически значимой разницы.
BДа, но только если интервалы перекрываются больше чем на половину ширины.
CНет, перекрытие отдельных интервалов не равно тесту разницы; нужен confidence interval для разницы или p-value.
DНет, потому что сравнивать интервалы можно только при одинаковых средних.
Правильный ответ. Сравнивать нужно интервал для разницы, а не визуально перекрытие двух отдельных confidence interval.

Разбор

Перекрытие двух отдельных confidence interval не эквивалентно проверке разницы между группами. Для вывода о различии нужен интервал для разницы (или тест с p-value), потому что учитывается совместная неопределённость. Неинтуитивный момент: даже при небольшом перекрытии разница может быть статистически значимой.

Проверь себя · 1/3разбор после ответа
Для разницы конверсий A−B вы получили 95% confidence interval от −0.4 п.п. до 1.2 п.п. Что корректно сказать про проверку H0: Δ=0 на уровне 0.05 (двусторонняя)?
Тренировать статистику в Telegram

Ещё вопросы по теме «Доверительные интервалы»