Руководитель спрашивает: какая версия приложения лучше, 1.0 или 1.1. Какой ответный вопрос лучше всего, чтобы уточнить критерии и снизить риск опасных допущений?

AКакую метрику вы сейчас отслеживаете для каждой версии и за какой период смотрим данные для сравнения версий
BСколько пользователей скачали версию 1.1 и как давно она в проде, чтобы оценить достаточность выборки для сравнения
CСчитать ли лучше ту версию, у которой ниже доля сбоев по данным за последнюю неделю по всем платформам и регионам
DЧто значит лучше: какая метрика и критерии важны, какая аудитория сравнивается и нет ли различий в области охвата релиза
Правильный ответ. Нельзя сравнивать версии без явных criteria и проверки сопоставимости population в одном scope.

Разбор

Версия может быть лучше по стабильности, конверсии, удержанию или выручке, и эти цели конфликтуют. Если релиз шел поэтапно, то population 1.0 и 1.1 может быть разной, и сравнение будет смещено из-за скрытых assumptions. Поэтому сначала фиксируют criteria успеха и проверяют scope и состав аудитории, а затем выбирают дизайн сравнения.

Открыть Карьерник в Telegram

Ещё вопросы по теме «Постановка задачи»