Вопросы по теме «Случайные величины и выборочные распределения»
Проверь себя · 1/3разбор после ответа
Почему выборочная дисперсия на малой выборке (например, 20 наблюдений) может сильно отличаться при повторных случайных выборках из одной и той же популяции?
Выборочное распределение среднего, стандартная ошибка, t-распределение — концепции, которые связывают теорию вероятностей с практическим статистическим выводом. На собеседовании спрашивают, чем стандартная ошибка отличается от стандартного отклонения и как размер выборки влияет на точность оценки.
Всего в этом разделе 20 вопросов. Каждый — с правильным ответом и кратким разбором теории. Разбито на 4 части по 5 вопросов.
1Пусть `X1..Xn` — независимые наблюдения с `E[X]=μ`. Что верно про математическое ожидание выборочного среднего `x̄`?
A`E[x̄] = μ`
B`E[x̄] = μ/n`
C`E[x̄] = n*μ`
D`E[x̄] = σ^2/n`
Ответ: Среднее выборки в типичных условиях является несмещённой оценкой среднего популяции: `E[x̄]=μ`.
Оператор математического ожидания линеен, поэтому `E[x̄]` совпадает с `μ`, если наблюдения одинаково распределены и имеют ожидание `μ`. Это не означает, что `x̄` всегда равно `μ` на одной выборке: разброс описывается стандартной ошибкой и распределением выборочного среднего. Частая ошибка — смешивать утверждение про среднее по многим выборкам с утверждением про одну конкретную выборку. Варианты `μ/n` и `n*μ` относятся к другим объектам, а `σ^2/n` — это дисперсия выборочного среднего, а не его математическое ожидание.
2Вы посчитали `выборочное среднее` `x̄` по случайной выборке пользователей. Как корректно трактовать `x̄`?
A`x̄` есть случайная величина: при повторном отборе выборки из той же популяции значение `x̄` меняется
B`x̄` есть фиксированная константа, не зависящая от того, какую конкретную выборку вы взяли из популяции
C`x̄` есть параметр популяции наравне с `μ`, не меняющийся от одной выборки к другой при тех же условиях
D`x̄` есть распределение исходных значений метрики в выборке, а не одно числовое значение оценки
Ответ: Любая статистика, посчитанная по случайной выборке, сама является случайной величиной.
Статистика `x̄` — функция от выборки, а выборка случайна, значит и результат случаен. Если мысленно повторять отбор выборок тем же способом, вы получите набор значений `x̄`, то есть его выборочное распределение. Частая ошибка — путать параметр популяции (например, `μ`) и оценку `x̄` по одной конкретной выборке. Распределение исходных значений в выборке — это другая сущность: оно описывает данные, а не поведение статистики при повторных отборах.
3Вы 1000 раз берёте случайные выборки размера n из одной популяции и каждый раз считаете `x̄`. Что из перечисленного является выборочным распределением для `x̄`?
AГистограмма исходных значений метрики, построенная по одной отдельно взятой случайной выборке размера n
BГистограмма 1000 значений `x̄`, посчитанных по 1000 разным выборкам одного и того же размера
CГрафик изменения метрики по дням в продакшене за последний период, посчитанный по сырым событиям
DСписок всех возможных значений неизвестного параметра `μ` популяции при разных предположениях
Ответ: Выборочное распределение — это распределение статистики (например, `x̄`) при многократно повторяемых выборках одного размера.
Распределение данных описывает, как ведёт себя отдельное наблюдение, а выборочное распределение описывает, как «плавает» статистика по выборкам. Даже если данные сильно разбросаны, распределение `x̄` обычно уже за счёт усреднения. Типичная путаница — считать, что гистограмма исходных данных и есть распределение `x̄`, или путать его с временным рядом метрики.
4Что корректнее всего отличает стандартное отклонение данных от стандартной ошибки среднего `SE`?
AЭто одно и то же под разными названиями: и стандартное отклонение, и `SE` описывают разброс одних и тех же наблюдений в выборке
B`SE` строго превосходит стандартное отклонение данных из-за дополнительной неопределённости от ограниченного размера выборки
CСтандартное отклонение описывает разброс наблюдений, а `SE` описывает разброс выборочного среднего как случайной величины
DСтандартное отклонение относится к распределению выборочного среднего, а `SE` относится к разбросу самих наблюдений в выборке
Ответ: Стандартное отклонение — про разброс данных, а `SE` — про разброс статистики `x̄`.
Стандартное отклонение `σ` описывает разброс самих наблюдений вокруг их среднего значения. Стандартная ошибка среднего `SE` — это стандартное отклонение распределения выборочного среднего как случайной величины и считается как `SE = σ / √n`. То есть `SE` всегда меньше `σ` (а не больше), и при росте `n` уменьшается, тогда как `σ` остаётся характеристикой данных и от размера выборки не зависит. Утверждение, что это синонимы, неверно. Утверждение про обратную связь (SE про данные, SD про среднее) — путаница терминов.
5Вы увеличили размер выборки в эксперименте, а оценка среднего эффекта считается как `x̄`. Что происходит с разбросом `x̄` между повторениями эксперимента (то есть со стандартной ошибкой)?
AРазброс среднего растёт, потому что больше наблюдений увеличивает шум в выборке и расширяет распределение
BРазброс не меняется: точечная оценка среднего по выборке принципиально не зависит от размера наблюдений
CРазброс становится равным выборочной дисперсии данных, потому что среднее наследует разброс отдельных наблюдений
DРазброс среднего уменьшается, потому что стандартная ошибка падает примерно как `1/√n` с ростом размера выборки
Ответ: Чем больше размер выборки, тем уже распределение среднего и тем меньше стандартная ошибка.
Среднее «усредняет» случайные колебания, и при росте размера выборки оно становится более стабильным между повторениями. Это и есть интуиция: стандартная ошибка убывает как `1/√n`, точность растёт, но с убывающей отдачей. Частая ошибка — ожидать, что удвоение размера выборки удвоит точность, хотя на деле эффект слабее.