Вопросы по теме «Точечные оценки и MLE»

Точечная оценка — это одно число, рассчитанное по выборке как приближение неизвестного параметра (например, `p_hat = 56 / 100`). Доверительный интервал — это диапазон значений вместе с уровнем доверия `1 - α` (обычно 0.95), который покрывает истинный параметр с заданной частотой при повторных выборках. Они дополняют друг друга, а не заменяют: точечная оценка даёт центральное значение, интервал — меру неопределённости. Связь с `CDF` и `PMF` искусственная и неверная. Это не синонимы и не разные исторические названия.

Точечная оценка параметра — это одно число, посчитанное по выборке как функция данных и используемое как приближение неизвестного параметра. Для вероятности успеха `p` в схеме Бернулли точечная оценка — выборочная доля `p_hat = k / n = 56 / 100 = 0.56`. Доверительный интервал — это другое: диапазон значений, накрывающий `p` с заданной вероятностью. Эмпирическая функция распределения и список конкретных пользователей — не оценки параметра `p`, а другие объекты.

Если предпосылка нормальности верна, среднее лучше всего согласуется с формой распределения, и правдоподобие максимизируется именно на `mean(x)`. Это связывает знакомую статистику со смыслом `MLE`. Ошибка — считать, что `MLE` всегда совпадает с медианой или что выборочное среднее плохо из-за выбросов без проверки данных. Если хвост тяжёлый, нужно сначала пересмотреть модель, а не сам метод оценки.

Вероятность `P(X=x | θ)` — это функция от данных при фиксированном `θ`, а правдоподобие `L(θ|x)` — та же запись, но как функция от `θ` при фиксированных `x`. Это и позволяет «подбирать» параметр, максимизируя правдоподобие. Частая ошибка — путать `L(θ|x)` с `P(θ|x)`, что уже относится к байесовскому подходу.

Несмещённая оценка может сильно колебаться от выборки к выборке, то есть иметь большую дисперсию. Смещение — это систематический сдвиг среднего значения оценки относительно параметра. Несмещённость не гарантирует наилучший результат на конкретной выборке и не совпадает с минимальной дисперсией; это разные свойства, которые иногда конфликтуют между собой.