Función de probabilidad

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 17 de marzo de 2020; las comprobaciones requieren 5 ediciones .

La función de verosimilitud en estadística matemática es la distribución conjunta de una muestra a partir de una distribución paramétrica, considerada como función de un parámetro. Utiliza la función de densidad conjunta (en el caso de una muestra de una distribución continua) o la probabilidad conjunta (en el caso de una muestra de una distribución discreta) calculada para estos valores de muestra.

Los conceptos de probabilidad y verosimilitud están íntimamente relacionados. Compara dos oraciones:

"¿Cuál es la probabilidad de obtener 12 en cada uno de los 100 lanzamientos de dos dados?"
“¿Cuán plausible es que los dados no estén cargados, si de cien tiradas cada una sacó 12 puntos?”

Si la distribución de probabilidad depende del parámetro , entonces, por un lado, podemos considerar la probabilidad condicional de eventos para un parámetro dado y, por otro lado, la probabilidad de un evento dado para diferentes valores del parámetro . El primer caso corresponde a una función que depende del evento : , y el segundo corresponde a una función que depende de un parámetro con evento fijo : . La última expresión es la función de probabilidad y muestra la probabilidad del valor del parámetro seleccionado para un evento conocido . $\ theta$ $X$ $\ theta$ $X$ $\ theta$ $X$ $P(x)=P(x\mid \theta)$ $\ theta$ $X$ ${\ estilo de visualización L (\ theta) = L (\ theta \ mid x = X)}$ $\ theta$ $X$

Informalmente : si la probabilidad nos permite predecir resultados desconocidos basados en parámetros conocidos, entonces la probabilidad nos permite estimar parámetros desconocidos basados en resultados conocidos.

L(\theta \mid x)=p_{\theta}(x)=P_{\theta}(X=x)

Es importante entender que no se pueden hacer juicios probabilísticos a partir del valor absoluto de probabilidad. La probabilidad le permite comparar varias distribuciones de probabilidad con diferentes parámetros y evaluar en el contexto de cuál de ellos los eventos observados son más probables.

Definición

Dése una familia paramétrica de distribuciones de probabilidad y dése una muestra de algunas . Supongamos que la distribución conjunta de esta muestra está dada por una función , donde es una densidad de probabilidad o una función de probabilidad de un vector aleatorio . $\{\mathbb {P}_{\theta}\}_{\theta \in \Theta}$ $X_{1},\ldots,X_{n}\sim \mathbb {P}_{\theta}$ $\theta \en \theta$ $f_{\mathbf {X} }(\mathbf {x} \mid \theta ),\;\mathbf {x} \in \mathbb {R} ^{n}$ $f_{\matemáticas{X} }$ $\mathbf {X} =(X_{1},\ldots,X_{n})^{\arriba}$

Para una implementación de muestreo fijo , la función se denomina función de verosimilitud [1] . $\mathbf{X} =\mathbf{x}$ $f_{\mathbf {X} }(\theta \mid \mathbf {x} )\colon \Theta \to \mathbb {R}$

Función de log-verosimilitud

En muchas aplicaciones, es necesario encontrar el máximo de la función de verosimilitud, que se asocia con el cálculo de la derivada. El logaritmo es una función monótonamente creciente, por lo que el logaritmo de la función alcanzará su máximo en el mismo punto que la función misma. Por otro lado, el logaritmo del producto es una suma, lo que simplifica la diferenciación. Por lo tanto, para cálculos prácticos, es preferible utilizar el logaritmo de la función de verosimilitud.

La función , se llama función de verosimilitud logarítmica [1] . $L(\theta \mid \mathbf {x} )=\ln f_{\mathbf {X} }(\theta \mid \mathbf {x} )$
Si la muestra es independiente , entonces

f_{\mathbf {X} }(\mathbf {x} \mid \theta )=\prod \limits _{i=1}^{n}f_{X_{i))(x_{i}\ medio\theta)

donde es la función de distribución de densidad o probabilidad . La función log-verosimilitud en este caso tiene la forma $f_{X_{i}}(\cdot \mid \theta)$ $\mathbb {P}_{\theta}$

L(\theta \mid \mathbf {x} )=\sum \limits _{i=1}^{n}\ln f_{X_{i}}(\theta \mid x_{i})

Ejemplo

Sea la probabilidad de obtener cara en el lanzamiento de una moneda. Este valor se puede considerar como un parámetro que toma valores de 0 a 1. Sea el evento la pérdida de dos águilas en dos lanzamientos de moneda consecutivos. Asumiendo que los resultados de ambos lanzamientos son variables aleatorias independientes distribuidas idénticamente , la probabilidad del evento será igual a . En consecuencia, en $p_{O}$ ${\ estilo de visualización OO}$ ${\ estilo de visualización OO}$ $p_{O}^{2}$ $p_{O}=0{,}5$

P(OO\mid p_{O}=0{,}5)=0{,}25.

Por lo tanto, la función de verosimilitud al valor del parámetro y bajo la condición de que ocurra el evento es 0.25, que puede escribirse matemáticamente como $p_{O}=0{,}5$ ${\ estilo de visualización OO}$

L(p_{O}=0{,}5\mid OO)=0{,}25.

Este hecho no es idéntico al enunciado "la probabilidad de que, dada la ocurrencia de un evento, sea de 0,25" debido al teorema de Bayes . $p_{O}=0{,}5$ ${\ estilo de visualización OO}$

La función de verosimilitud dada en este ejemplo es cuadrática , por lo que la integral de esta función en todo el rango de valores de los parámetros será igual a 1/3. Este hecho ilustra otra diferencia entre la función de verosimilitud y la densidad de probabilidad habitual, cuya integral debe ser igual a uno. $p_{O}$

Historia

La plausibilidad fue mencionada por primera vez en un libro de Thorvald Thiele , publicado en 1889 [2] .

Una descripción completa de la idea de probabilidad fue dada por primera vez por Ronald Fisher en 1922 en su obra "The Mathematical Foundations of Theoretical Statistics" [3] . En este trabajo, Fisher también utiliza el término método de máxima verosimilitud . Fisher se opone al uso de la probabilidad inversa como base para la inferencia estadística y sugiere usar la función de probabilidad en su lugar.

Véase también

método de máxima verosimilitud

Notas

↑ 1 2 Borovkov, 2010 , pág. 105.
↑ Steffen L. Lauritzen, Aspects of TN Thiele's Contributions to Statistics Archivado el 1 de octubre de 2007 en Wayback Machine (1999). (Inglés)
↑ Ronald A. Fisher. "Sobre los fundamentos matemáticos de la estadística teórica". Transacciones Filosóficas de la Royal Society , A, 222:309-368 (1922). ("plausibilidad" mencionada en la sección 6.) (ing.)

Literatura

Borovkov, A. A. Estadística matemática: libro de texto. - 4ª ed., borrado .. -San Petersburgo. : Lan, 2010. - 704 p. - (Libros de texto para universidades. Literatura especial). -ISBN 978-5-8114-1013-2.