Эффективная оценка

Оценка ${\displaystyle {\widehat {\theta }}_{1}\in \mathrm {K} }$ параметра ${\displaystyle \theta }$ называется эффективной оценкой в классе ${\displaystyle \mathrm {K} }$, если для любой другой оценки ${\displaystyle {\widehat {\theta }}_{2}\in \mathrm {K} }$ выполняется неравенство ${\displaystyle M_{\theta }({\widehat {\theta }}_{1}-\theta )^{2}\leqslant M_{\theta }({\widehat {\theta }}_{2}-\theta )^{2}}$ для любого ${\displaystyle \theta }$.

Особую роль в математической статистике играют несмещенные оценки. Если несмещенная оценка ${\displaystyle {\widehat {\theta }}_{1}}$ является эффективной оценкой в классе несмещенных и дисперсия совпадает с оценкой в неравенстве Крамера-Рао, то такую статистику принято называть просто эффективной.

Эффективная оценка ${\displaystyle {\widehat {\theta }}}$ в классе ${\displaystyle \mathrm {K} _{b}=\{E({\widehat {\theta }})=c(\theta )\}}$, где ${\displaystyle c(\theta )}$ — некоторая функция, существует и единственна с точностью до значений на множестве ${\displaystyle A}$, вероятность попасть в которое равна нулю (${\displaystyle P(x\in A)=0}$).

Некоторые оценки могут быть не самыми эффективными на малых выборках, однако могут обладать преимуществами на больших выборках. Обычно рассматриваются состоятельные оценки, дисперсия которых с увеличением объема выборки стремится к нулю. Поэтому сравнить такие оценки можно по скорости сходимости, то есть фактически по дисперсии (ковариационной матрицы) случайной величины (вектора) ${\displaystyle {\sqrt {n}}{\hat {\theta }}}$. В частности, асимптотически нормальная оценка

${\displaystyle {\sqrt {n}}({\hat {\theta }}-\theta ){\xrightarrow {d}}N(0,V)}$

является асимптотически эффективной, если асимптотическая ковариационная матрица V минимальна в данном классе оценок.

• Статистическая оценка
• Неравенство Крамера — Рао