Неравенство Крамера — Рао
Материал из Википедии — свободной энциклопедии
В математической статистике неравенством Краме́ра — Ра́о (в честь Гаральда Крамера и К. Р. Рао) называется неравенство, которое при некоторых условиях на статистическую модель даёт нижнюю границу для дисперсии оценки неизвестного параметра, выражая её через информацию Фишера.
[править] Формулировка
Пусть дана статистическая модель , — выборка размера n, определена функция правдоподобия и выполнены следующие условия (условия регулярности):
- L > 0 и везде дифференцируема по θ.
- Функция (функция вклада выборки) имеет конечную дисперсию (или, что то же, конечна информация Фишера).
- Для любой статистики имеет место равенство
- .
Пусть при этих условиях дана статистика , которая оценивает дифференцируемую функцию τ(θ), причём смещение равно дифференцируемой функции b(θ). Тогда справедливы следующие утверждения:
- ;
- равенство достигается тогда и только тогда, когда представляется в виде .
Здесь In(x) — информация Фишера.
[править] Частный случай
Часто используется следующая, более слабая версия неравенства. Пусть выполнены условия регулярности, а — несмещённая оценка параметра θ. Тогда неравенство выглядит так:
- .
Этот случай получается из первого, если взять τ(θ) = θ и b(θ) = 0.
[править] Применение
Оценка параметра называется эффективной, если для неё неравенство Крамера — Рао обращается в равенство. Таким образом, неравенство может быть использовано для доказательства того, что дисперсия данной оценки наименьшая из возможных, то есть что данная оценка в некотором смысле лучше всех остальных.