Información del pescador

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 28 de diciembre de 2019; las comprobaciones requieren 9 ediciones .

La información de Fisher es la expectativa matemática del cuadrado de la tasa de cambio relativa en la densidad de probabilidad condicional [1] . Esta característica lleva el nombre de Ronald Fisher , quien la describió . $p(x|\theta)$

Definición

Sea la densidad de distribución para el modelo estadístico dado . Entonces si la función está definida $f(\theta,\;x_1,\puntos,\,x_n)$

I_{n}(\theta )=\mathbb {E}_{\theta }\left({\frac {\parcial L(\theta ,\;x_{1},\dots ,\,x_{ n})}{\\theta parcial }}\right)^{2},\;L=\sum _{i=1}^{n}\ln f(\theta ,x_{i})

donde es la función de log -verosimilitud , y es la expectativa matemática dada , entonces se llama información de Fisher para un modelo estadístico dado con pruebas independientes . $L(\theta,\;x_1,\puntos,\,x_n)$ ${\ estilo de visualización \ mathbb {E} _ {\ theta}}$ $X$ $\ theta$ $norte$

Si es dos veces diferenciable con respecto a , y bajo ciertas condiciones de regularidad, la información de Fisher se puede reescribir como [2] $\ln f(x;\theta)$ $\ theta$

I_n(\theta) = \mathbb{E}_\theta \left(\frac{\parcial L(\theta,\;X)}{\parcial \theta}\right)^2 = - \mathbb{E} _\theta \left(\frac{\parcial^2 L(\theta,\;X)}{\parcial \theta^2}\right)

Para patrones regulares : (Esta es la definición de regularidad). $\mathbb {E} _{\theta }\left({\frac {\parcial L(\theta ,\;x_{1},\dots ,\,x_{n})}{\parcial \theta }}\derecha)=0$

En este caso, dado que la expectativa de la función de contribución de la muestra es cero, el valor escrito es igual a su varianza.

La cantidad de información de Fisher contenida en una observación se llama:

I_{i}(\theta )=\mathbb {E}_{\theta }\left({\frac {\parcial \ln f(\theta ,\,x_{i})}{\parcial \ theta }}\derecha)^{2}

Para los modelos regulares, todos son iguales. ${\ Displaystyle I_ {i} (\ theta)}$

Si la muestra consta de un elemento, la información de Fisher se escribe de la siguiente manera:

I(\theta )=\mathbb {E} _{\theta }\left({\frac {\parcial \ln f(\theta ,\,x)}{\parcial \theta }}\right) ^{2}

De la condición de regularidad, así como del hecho de que en el caso de independencia de variables aleatorias , la varianza de la suma es igual a la suma de las varianzas, se sigue que para pruebas independientes . $norte$ $I_{n}(\theta )=nI(\theta )$

Propiedades

De la propiedad anterior de las varianzas se deduce que en el caso de la independencia de las variables aleatorias (consideradas en un modelo estadístico), la información de Fisher de su suma es igual a la suma de la información de Fisher de cada una de ellas. $\xi _{1}(\theta ,\,x),\dots ,\,\xi _{n}(\theta ,\,x)$

Guardar información con suficientes estadísticas

En general, si es el estadístico muestral X , entonces $T = t(X)$

I_T(\theta)\leq I_X(\theta)

Además, la igualdad se logra si y solo si T es una estadística suficiente .

Una estadística suficiente contiene tanta información de Fisher como la muestra X completa . Esto se puede mostrar usando la prueba de factorización de Neumann para estadísticas suficientes. Si las estadísticas son suficientes para el parámetro , entonces existen funciones g y h tales que: $T(X)$ $\ theta$

f(X;\theta )=g(T(X),\theta )h(X)

La igualdad de información se sigue de:

\frac{\parcial}{\parcial\theta} \ln \left[f(X ;\theta)\right] = \frac{\parcial}{\parcial\theta} \ln \left[g(T(X );\theta)\derecha]

que se deriva de la definición de la información de Fisher y la independencia de . $h(X)$ $\ theta$

Véase también

Otras medidas utilizadas en la teoría de la información :

Notas

↑ Leman, 1991 , pág. 112.
↑ Lehmann, E. L. ; Casella, G. Teoría de la estimación puntual (neopr.) . — 2ª ed. - Springer, 1998. - ISBN 0-387-98502-6 . , ecuación (2.5.16).

Literatura

Leman E. Teoría de la estimación puntual. — M .: Nauka, 1991. — 448 p. — ISBN 5-02-013941-6 .