Почему на практике MLE часто реализуют как максимизацию log L(θ) вместо L(θ)?
AПотому что логарифм меняет максимум на минимум, и так проще
BПотому что
log делает любую оценку несмещённойCПотому что
log применим только к дискретным распределениямDПотому что
log монотонен (максимум сохраняется) и произведения превращаются в суммы, что численно стабильнееПравильный ответ.
log-likelihood сохраняет точку максимума и делает оптимизацию стабильнее и проще.Разбор
Для независимых наблюдений likelihood часто равен произведению многих вероятностей, и числа быстро становятся слишком малыми для машинной арифметики. log превращает произведение в сумму и обычно делает градиенты удобнее. При этом точка максимума не меняется, потому что log монотонно возрастает. Ошибка — думать, что переход к log меняет саму точечную оценку MLE.
Проверь себя · 1/3разбор после ответа
Вы оцениваете вероятность конверсии
p по выборке: из 100 пользователей 56 оплатили. Что является точечной оценкой параметра p?Ещё вопросы по теме «Точечные оценки и MLE»
- Вы оцениваете вероятность конверсии `p` по выборке: из 100 пользователей 56 оплатили. Что является точечной оценкой параметра `p`?
- Что означает свойство `несмещённость` для оценки `θ_hat` параметра `θ`?
- Как лучше всего описать `состоятельность` последовательности оценок `θ_hat_n`?
- Есть две оценки одного параметра: `θ_hat_A` несмещённая, но с высокой `variance`; `θ_hat_B` слегка смещённая, но с низкой `variance`. По какому критерию можно оправданно выбрать `θ_hat_B` как более полезную точечную оценку?
- Две оценки параметра `θ` обе имеют свойство несмещённости. У `θ_hat_A` дисперсия меньше, чем у `θ_hat_B` на том же размере выборки. Что можно сказать про эффективность (интуитивно)?
- Все вопросы по «Точечные оценки и MLE» →