Desigualdad de Cramer-Rao

La desigualdad de Cramer-Pao es una desigualdad que, bajo ciertas condiciones en el modelo estadístico, da un límite inferior para la varianza de la estimación de un parámetro desconocido, expresándolo en términos de la información de Fisher .

Nombrado en honor al matemático sueco Harald Cramer y al matemático indio Kalyampudi Rao , pero independientemente de ellos, también se establecieron Frechet , Darmois ( fr. Georges Darmois ), Aitken ( inglés Alexander Aitken ) y Silverstone ( Harold Silverstone ). Se conoce una generalización en la teoría cuántica de estimación : la desigualdad cuántica de Cramer-Rao .

Redacción

Para un modelo estadístico , es una muestra de tamaño , se determina la función de verosimilitud y se cumplen las siguientes condiciones (condiciones de regularidad): ${\ estilo de visualización (X, \, B, \, P_ {\ theta})}$ $x=(x_{1},\puntos,\,x_{n})$ $norte$ $L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\dots \,x_{n})$

$L_{}^{}>0$ y en todas partes diferenciable con respecto a ; ${\ estilo de visualización \ theta _ {}^ {}}$
la función ( función de contribución de muestreo ) tiene una varianza finita (o de manera equivalente , la información de Fisher es finita ); $U(\theta ,\,x)={\frac {\parcial \ln L(\theta ,\,x)}{\parcial \theta ))$
para cualquier estadístico con un segundo momento finito, se cumple la siguiente igualdad: ${\widehat {\theta}}(x)$ ${\frac {\parcial }{\parcial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\parcial }{\parcial \theta }}L(\theta ,\,x)\,dx$ .

Si, en estas condiciones, se da un estadístico que estima sin sesgo una función diferenciable , entonces se cumple la siguiente desigualdad: ${\widehat {\theta}}(x)$ ${\ estilo de visualización \ tau (\ theta)}$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta)}}}

, donde ;

I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}

y la igualdad se logra si y sólo si:

{\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))

Esta es la cantidad de información según Fisher en una observación, y es la densidad de distribución de la población general en el caso de un modelo estadístico continuo y la probabilidad de un evento en el caso de un modelo estadístico discreto. $yo^{}(\theta)$ ${\ estilo de visualización L (\ theta, t)}$ $X$ ${\ estilo de visualización (X = t)}$

Caso especial

El siguiente caso especial, también llamado desigualdad de Cramer-Rao, se usa a menudo: si se cumplen las condiciones de regularidad y es una estimación no sesgada del parámetro , entonces: ${\widehat {\theta}}(x)$ $\ theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )))

La igualdad en esta desigualdad se logra si y sólo si . ${\sombrero {\theta }}(x)-\theta =a(\theta )U(\theta ,x)$

Aplicación

Una estimación de un parámetro se llama efectiva si para ella la desigualdad de Cramer-Rao se convierte en una igualdad. Por lo tanto, la desigualdad se puede usar para probar que la varianza de una estimación dada es la menor posible, es decir, que esta estimación es, en algún sentido, mejor que todas las demás.

Literatura

Estadística Matemática, ed. V. S. Zarubina, serie "Matemáticas en la Universidad Técnica", vol. XVII, M., MSTU, 2002