Ley de los Grandes Números

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 29 de enero de 2022; las comprobaciones requieren 3 ediciones .

La ley de los grandes números ( LNA ) en la teoría de la probabilidad es un principio que describe el resultado de realizar el mismo experimento muchas veces. De acuerdo con la ley, el valor medio de una muestra finita de una distribución fija está cerca de la expectativa matemática de esta distribución.

La ley de los grandes números es importante porque garantiza la estabilidad de los promedios de algunos eventos aleatorios durante una serie suficientemente larga de experimentos.

Es importante recordar que la ley solo se aplica cuando se considera una gran cantidad de juicios.

Ejemplos

Por ejemplo, considere un lanzamiento de un dado de seis caras, en el que uno de los números 1, 2, 3, 4, 5 o 6 puede caer con la misma probabilidad. Por lo tanto, la expectativa de un lanzamiento es

{\frac{1+2+3+4+5+6}{6}}=3{,}5.

De acuerdo con la ley de los grandes números, con una gran cantidad de lanzamientos, es probable que su valor promedio sea cercano a 3,5, mientras que la precisión aumentará a medida que aumente el número de lanzamientos.

De la ley de los grandes números se sigue que la probabilidad empírica de éxito en una serie de pruebas de Bernoulli converge a la probabilidad teórica. Para una variable aleatoria de Bernoulli, la media es la probabilidad teórica de éxito y la media de tales variables (si son independientes y están distribuidas equitativamente) es la frecuencia relativa. $norte$

Por ejemplo, lanzar la moneda correcta es una prueba de Bernoulli. Con un lanzamiento, la probabilidad teórica de obtener cara es . Por tanto, según la ley de los grandes números, la proporción de "águilas" con un gran número de ensayos "debería ser" aproximadamente . En particular, la proporción de "caras" después de los lanzamientos converge a , en . $1/2$ $1/2$ $norte$ $1/2$ $n\to\infty$

Aunque la proporción de caras (y cruces) tiende a , es casi seguro que el valor absoluto de la diferencia entre el número de caras y cruces aumentará a medida que el número de lanzamientos aumente indefinidamente. Es decir, con un aumento en el número de lanzamientos, la probabilidad de que el módulo de la diferencia sea pequeño tiende a cero, y la relación entre el módulo de la diferencia y el número total de lanzamientos casi con certeza tiende a cero: $1/2$

|n_{\text{o}}-n_{\text{p}}|\no \to 0,\quad {\frac {|n_{\text{o}}-n_{\text{p }}|}{n}}\hasta 0.

Historia

El matemático italiano Gerolamo Cardano (1501-1576) fue un jugador apasionado. Un "subproducto" de su amor por los dados fue el libro Sobre el juego (en italiano: De Ludo alea , 1563), que contenía una formulación de la ley de los grandes números. En él, Cardano afirmó que la precisión de las estadísticas empíricas tiende a mejorar con el número de ensayos.

En 1713, Jacob Bernoulli describió las reglas para calcular la probabilidad de eventos complejos y dio la primera versión de la "ley de los grandes números", explicando por qué la frecuencia de un evento en una serie de pruebas no cambia al azar, sino en algún sentido. tiende a su valor límite teórico (es decir, probabilidad).

También debe señalarse el trabajo de S. D. Poisson (1781-1840), quien demostró una forma más general de la ley de los grandes números que la de Jacob Bernoulli .

P. L. Chebyshev obtuvo una formulación general de la ley de los grandes números: si las expectativas matemáticas de una serie de variables aleatorias y los cuadrados de estas expectativas matemáticas están limitados en conjunto, entonces la media aritmética de estas cantidades converge en probabilidad a la media aritmética por sus expectativas matemáticas.

A. A. Markov demostró una variante de la ley de los grandes números para algunos tipos comunes de cantidades dependientes.

En el siglo XX, A. Ya. Khinchin y A. N. Kolmogorov continuaron la investigación sobre Chebyshev y Markov . Demostraron que si las variables aleatorias no solo son independientes, sino que también están igualmente distribuidas, entonces la existencia de su expectativa matemática es una condición necesaria y suficiente para la aplicabilidad de la ley de los grandes números.

Opciones

Consideremos una secuencia de variables aleatorias integrables de Lebesgue que son independientes en el agregado y tienen las mismas distribuciones y, por lo tanto, las mismas expectativas matemáticas . ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu$

Denotar por la media aritmética de las variables aleatorias consideradas: ${\sobrelínea {X}}_{n}$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Converge a la esperanza matemática :

{\overline {X}}_{n}\to \mu

n\to \infty .

La independencia en el agregado de variables aleatorias se puede reemplazar por la independencia por pares en ambas versiones de la ley [1] .

A continuación se describen dos versiones diferentes de la ley de los grandes números. Se les llama ley fuerte de los grandes números y ley débil de los grandes números . La diferencia entre la forma fuerte y débil está relacionada con la elección del método de convergencia.

Ley débil

La ley débil de los grandes números ( teorema de Bernoulli , formulado por J. Bernoulli , publicado en 1713 [2] ) establece que la media muestral converge en probabilidad a la expectativa matemática [3] :

{\overline {X}}_{n}\xrightarrow {P} \mu

n\to \infty .

Es decir, se realiza $\forall\varepsilon >0$

\lim _{n\to \infty }P{\big (}|{\overline {X}}_{n}-\mu |>\varepsilon {\big )}=0.

Al interpretar este resultado, encontramos que la ley débil establece que para cualquier límite especificado distinto de cero, sin importar cuán pequeño sea, dada una muestra lo suficientemente grande, la probabilidad de que la media de la muestra esté cerca de la media es muy alta dentro de estos límites . límites.

Como se mencionó anteriormente, la ley débil es aplicable en el caso de variables aleatorias independientes idénticamente distribuidas con expectativa matemática . Sin embargo, también se puede aplicar en algunos otros casos. Por ejemplo, la varianza puede ser diferente para cada variable aleatoria de la muestra, pero la expectativa matemática puede permanecer constante. Si las dispersiones son limitadas, entonces también se aplica la ley, como demostró Chebyshev en 1867. La prueba de Chebyshev funciona siempre que la varianza del número promedio de primeros valores no tienda a cero en [4] . $norte$ $n\to\infty$

Ley fortalecida

La ley fuerte de los grandes números establece que bajo ciertas condiciones, con una probabilidad de uno, existe una convergencia ilimitada de las medias aritméticas de una secuencia de variables aleatorias con algunos valores constantes.

Sea una secuencia de variables aleatorias y . ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ ${\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n})$

Se dice que una secuencia satisface la ley fuerte de los grandes números si existe una secuencia tal que la probabilidad de la relación: , for es igual a 1. ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $\mu _{n}$ ${\overline {X}}_{n}-\mu _{n}\to 0$ $n\to\infty$

Otra formulación, equivalente a la anterior, es la siguiente: una sucesión satisface la ley fuerte de los grandes números si la probabilidad de cumplimiento simultáneo de todas las desigualdades ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $\forall\varepsilon >0$

|{\overline {X}}_{n}-\mu _{n}|\leqslant \varepsilon,

|{\overline {X}}_{n+1}-\mu _{n+1}|\leqslant \varepsilon,

\puntos

tiende a 1 en . $n\to\infty$

Por lo tanto, aquí se considera el comportamiento de toda la secuencia de sumas como un todo, mientras que en la ley habitual de los grandes números estamos hablando solo de sumas individuales.

Si una secuencia satisface la ley fuerte de los grandes números, entonces también satisface la ley habitual de los grandes números con el mismo , es decir , , para , . ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $\mu _{n}$ $P{\big (}|{\bar {X}}_{n}-\mu _{n}|\leqslant \varepsilon {\big )}\to 1$ $n\to\infty$ $\forall\varepsilon >0$

Lo contrario puede no ser cierto. Por ejemplo, si las variables aleatorias son independientes y toman dos valores con una probabilidad cada uno, entonces se cumple para ellas la ley habitual de los grandes números , pero para ninguna se cumple la ley fuerte de los grandes números. ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ ${\ Displaystyle n \ geqslant 16}$ ${\ estilo de visualización \ pm {\ sqrt {n/\ log \ log \ log n))}$ $1/2$ ${\ estilo de visualización \ mu _ {n} = 0}$ $\mu _{n}$

teorema de Kolmogorov

En el caso de términos independientes, las más conocidas son las condiciones de aplicabilidad de la ley fuerte de los grandes números, establecida por A. N. Kolmogorov: suficiente - para cantidades con varianzas finitas, y necesario y suficiente - para cantidades idénticamente distribuidas (que consiste en la existencia de la esperanza matemática de las cantidades ). El teorema de Kolmogorov para variables aleatorias con varianzas finitas establece que a partir de la condición $X_{yo}$

$\sum \limits _{n=1}^{\infty }{\frac {D[X_{n}]}{n^{2))}<\infty$

(una)

la aplicabilidad de la ley fuerte de los grandes números a la siguiente secuencia . En términos de varianzas, la condición ( 1 ) resulta ser la mejor en el sentido de que para cualquier secuencia de números positivos con una serie divergente , se puede construir una secuencia de variables aleatorias independientes c que no satisface la ley fuerte de los grandes números . [5] ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $A_{n}=\mathbb {E} ({\overline {X}}_{n})$ $b_n$ ${\ estilo de visualización \ suma b_ {n} / n ^ {2}}$ $X_n$ $DX_{n}=b_{n}$

Diferencias entre ley débil y ley fuerte

La ley débil establece que para un valor grande dado , es probable que la media esté cerca de . Por lo tanto, puede ocurrir infinitas veces, aunque arbitrariamente rara vez. ( No necesariamente cierto para todos ). $norte$ ${\sobrelínea {X}}_{n}$ $\mu$ $|{\overline {X}}_{n}-\mu |>\varepsilon$ $norte$ $|{\overline {X}}_{n}-\mu |\neq 0$

La ley aplicada muestra lo que casi con certeza no sucederá. Esto significa que con probabilidad 1 tenemos que la desigualdad se cumple para . [6] $|{\overline {X}}_{n}-\mu |>\varepsilon$ $\forall\varepsilon >0$ $|{\overline {X}}_{n}-\mu |<\varepsilon$ $norte$

A continuación se muestran tres ejemplos de distribuciones simétricas; en cada ejemplo, estas distribuciones no tienen una expectativa matemática, la ley fuerte de los grandes números (convergencia en casi todas partes) no se cumple, pero se cumple la ley débil: el promedio de las variables aleatorias converge en probabilidad a una constante, el centro de simetría de su distribución. [7] [8] [9]

Sea una variable aleatoria distribuida exponencialmente con parámetro 1. La variable aleatoria no tiene expectativa matemática dada por la integral de Lebesgue, pero usando la convergencia condicional y la interpretación de la integral como una integral de Dirichlet , que es una integral de Riemann impropia , podemos decir: $X$ ${\frac {\sin(x)e^{x}}{x}}$ $\mathbb {E} \left({\frac {\sin(x)e^{x}}{x}}\right)=\int _{0}^{\infty }{\frac {\ sin(x)e^{x}}{x}}e^{-x}\,dx={\frac {\pi }{2}}.$
Sea una distribución geométrica con probabilidad . Una variable aleatoria no tiene valor esperado en el sentido habitual, ya que una serie infinita no es absolutamente convergente , pero usando la convergencia condicional se puede decir: $X$ $0{,}5$ ${\frac{2^{x}(-1)^{x}}{x}}$ $\mathbb {E} \left({\frac {2^{x}(-1)^{x}}{x}}\right)=\sum_{1}^{\infty}{\ fracción {2^{x}(-1)^{x}}{x}}2^{-x}=-\ln(2).$
Si la función de distribución de la variable aleatoria es igual a $1-F(x)={\frac {e}{2x\ln(x))),\quad x\geqslant e,$ $F(x)={\frac {e}{-2x\ln(-x))),\quad x\leqslant -e,$ entonces no tiene expectativa matemática, pero se satisface la ley débil. [10] [11]

Ley uniforme de los grandes números

Sea alguna función definida y continua con respecto a la variable . Entonces, para cualquier secuencia fija , será una secuencia de variables aleatorias independientes e idénticamente distribuidas, de modo que la media muestral de esta secuencia converge en probabilidad a . ${\ estilo de visualización f (x, \ theta)}$ $\theta \en \theta$ $\ theta$ ${\displaystyle \{f(X_{1},\theta ),f(X_{2},\theta ),\dots \))$ $\mathbb {E} [f(X,\theta )]$

La ley uniforme de los grandes números describe las condiciones bajo las cuales la convergencia es uniforme en . $\ theta$

Si: [12] [13]

$\Theta$ compacto,
${\ estilo de visualización f (x, \ theta)}$ es continua para cada uno para casi todos y una función medible de en cada , $\theta \en \theta$ $X$ $X$ $\ theta$
existe una función dominante tal que y para todos , $d(x)$ $\mathbb {E} [d(X)]<\infty$ $\|f(x,\theta )\|\leqslant d(x)$ $\theta \en \theta$

luego continua en y $\mathbb {E} [f(X,\theta )]$ $\ theta$

\sup _{\theta \in \Theta }\left\|{\frac {1}{n}}\sum _{i=1}^{n}f(X_{i},\theta ) -\mathbb {E} [f(X,\theta )]\right\|\xrightarrow {\text{n.  n.}} 0.

Ley de Borel de los grandes números

La ley de los grandes números de Borel, llamada así por Émile Borel , establece que si un experimento se repite muchas veces de forma independiente bajo las mismas condiciones, entonces la fracción de veces que ocurre cualquier evento específico es aproximadamente igual a la probabilidad de que ocurra el evento en cualquier prueba en particular; cuanto mayor sea el número de repeticiones, mejor será la aproximación. Más precisamente, si denota el evento en cuestión - la probabilidad de que ocurra, y - el número de veces que ocurre en los primeros intentos, entonces con una probabilidad de 1 [14] $mi$ $pags$ ${\ estilo de visualización N_ {n} (E)}$ $mi$ $norte$

{\frac {N_{n}(E)}{n}}\to p,\quad n\to \infty .

Desigualdad de Chebyshev

Sea una variable aleatoria con expectativa matemática finita y varianza finita distinta de cero . Entonces para cualquier número real $X$ $\mu$ $\sigma^{2}$ $k>0$

P{\big (}|X-\mu |\geqslant k\sigma {\big )}\leqslant {\frac {1}{k^{2))}.

Prueba de la Ley Débil

Considere una secuencia infinita de variables aleatorias independientes e idénticamente distribuidas con una expectativa matemática finita . Estamos interesados en la convergencia en probabilidad ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ $\mathbb {E} (X_{1})=\mathbb {E} (X_{2})=\ldots =\mu <\infty$

{\overline {X}}_{n}={\frac {1}{n}}(X_{1}+\ldots +X_{n}).

Teorema

{\overline {X}}_{n}\xrightarrow {P} \mu

n\to \infty .

Demostración usando la desigualdad de Chebyshev, asumiendo una varianza finita

La suposición de una varianza finita es opcional. La varianza grande o infinita ralentiza la convergencia, pero el LPA se mantiene de todos modos. $D(X_{1})=D(X_{2})=\ldots =\sigma ^{2}<\infty$

Esta prueba utiliza el supuesto de varianza finita (para todo ). La independencia de las variables aleatorias no implica una correlación entre ellas, tenemos ${\ estilo de visualización \ nombre del operador {D} (X_ {i}) = \ sigma ^ {2}}$ $i$

\operatorname {D} ({\overline {X}}_{n})=\operatorname {D} {\big (}{\tfrac {1}{n}}(X_{1}+\ldots +X_{n}){\grande )}={\frac {1}{n^{2}}}\nombre del operador {D} (X_{1}+\ldots +X_{n})={\frac { n\sigma ^{2}}{n^{2}}}={\frac {\sigma ^{2}}{n}}.

La esperanza matemática de una sucesión es el valor medio de la media muestral: $\mu$

\mathbb {E} ({\overline {X}}_{n})=\mu .

Usando la desigualdad de Chebyshev para , obtenemos ${\sobrelínea {X}}_{n}$

\operatorname {P} {\big (}|{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\leqslant {\frac {\sigma ^{2} {n\varepsilon^{2}}}.

Usamos esta desigualdad para obtener lo siguiente:

\operatorname {P} {\big (}|{\overline {X}}_{n}-\mu |<\varepsilon {\big )}=1-\operatorname {P} {\big (} |{\overline {X}}_{n}-\mu |\geqslant \varepsilon {\big )}\geqslant 1-{\frac {\sigma ^{2}}{n\varepsilon ^{2}}} .

Cuando la expresión tiende a 1. $n\to\infty$

Ahora, por la definición de convergencia en probabilidad, obtenemos:

{\overline {X}}_{n}\xrightarrow {P} \mu

en .

n\to\infty

Prueba usando la convergencia de funciones características

Por el teorema de Taylor para funciones complejas , la función característica de cualquier variable aleatoria con una media finita se puede escribir como $X$ $\mu$

\varphi _{X}(t)=1+it\mu +o(t),\quad t\to 0.

Todos tienen la misma función característica, denotemos como . ${\ estilo de visualización X_ {1}, X_ {2}, \ puntos}$ ${\ estilo de visualización \ varphi _ {X}}$

Entre las principales propiedades de las funciones características, destacamos dos propiedades:

\varphi _{{\frac {1}{n}}X}(t)=\varphi _{X}{\grande (}{\tfrac {t}{n}}{\grande)},

{\ estilo de visualización \ varphi _ {X + Y} (t) = \ varphi _ {X} (t) \, \ varphi _ {Y} (t),}

donde y son independientes. $X$ $Y$

Estas reglas se pueden utilizar para calcular la función característica en términos de : ${\sobrelínea {X}}_{n}$ ${\ estilo de visualización \ varphi _ {X}}$

\varphi_{{\overline {X}}_{n}}(t)=\left[\varphi_{X}\left({\frac {t}{n}}\right)\right ]^{n}=\izquierda[1+i\mu {\frac {t}{n}}+o\izquierda({\frac {t}{n}}\derecha)\derecha]^{n}\ a e^{it\mu}

n\to \infty .

El límite es una función característica de una constante y, por lo tanto, por el teorema de continuidad de Lévy , converge en distribución a : ${\ Displaystyle e^{it\mu}}$ $\mu$ ${\sobrelínea {X}}_{n}$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {D}} \mu

n\to \infty .

Dado que es una constante, se deduce que la convergencia en distribución a y la convergencia en probabilidad a son equivalentes. Es por eso $\mu$ $\mu$ $\mu$

{\overline {X}}_{n}\xrightarrow {\mathcal {P}} \mu

n\to \infty .

Esto muestra que la media de la muestra converge en probabilidad a la derivada de la función característica en el origen, si existe.

Véase también

Notas

↑ Etemadi, N. Z. (1981). "Una prueba elemental de la ley fuerte de los grandes números". Wahrscheinlichkeitstheorie verw Gebiete . 55 (1): 119-122. doi: 10.1007/BF01013465 .
↑ Paskhaver, 1974 , pág. 34.
↑ Loève 1977, Capítulo 1.4, p. catorce.
↑ Yuri Prohorov . "Ley de los grandes números" Archivado el 26 de julio de 2018 en Wayback Machine . Enciclopedia de Matemáticas .
↑ Yu. V. Prokhorov. Grandes números reforzaron la ley . Biblioteca de Matemáticas . Consultado el 28 de marzo de 2018. Archivado desde el original el 28 de marzo de 2018. (indefinido)
↑ Ross (2009).
↑ Lehmann, Erich L.; Romano, Joseph P. (2006-03-30). La ley débil converge a constante . ISBN 9780387276052 .
↑ Dguvl Hun Hong y Sung Ho Lee. "UNA NOTA SOBRE LA LEY DÉBIL DE LOS GRANDES NÚMEROS PARA VARIABLES ALEATORIAS INTERCAMBIABLES" . Archivado el 1 de julio de 2016 en Wayback Machine .
↑ "Ley débil de los grandes números: prueba con funciones características frente a prueba con VARIABLES de truncamiento" Archivado el 22 de marzo de 2018 en Wayback Machine . Intercambio de pila de matemáticas.
↑ Mukherjee, Sayan. "Ley de los grandes números" . Archivado el 9 de marzo de 2013 en Wayback Machine .
↑ J. Geyer, Charles. "Ley de los grandes números" Archivado el 13 de junio de 2018 en Wayback Machine .
↑ Newey & McFadden 1994, Lema 2.4.
↑ Jennrich, Robert I. (1969). "Propiedades asintóticas de los estimadores de mínimos cuadrados no lineales". Los Anales de Estadística Matemática . 40 (2): 633-643. doi: 10.1214/aoms/1177697731 .
↑ Wen, L. Una técnica analítica para probar la ley sólida de los números grandes de Borel . Soy. Matemáticas. Mes, 1991.

Literatura

Chistyakov V. P. Curso de teoría de la probabilidad. — M .: Nauka, 1982.
Shiryaev A. N. Probabilidad. — M .: Nauka, 1989.
Paskhaver IS Ley de los grandes números y regularidades estadísticas. — M .: Estadísticas, 1974.
Teorema de Bernoulli / V. I. Bityutskov // Gran Enciclopedia Rusa : [en 35 volúmenes] / cap. edición Yu. S. Osipov . - M. : Gran Enciclopedia Rusa, 2004-2017.

diccionarios y enciclopedias	Gran catalán gran noruego gran ruso Britannica (en línea)
En catálogos bibliográficos	BNF : 11978788d TIERRA : 4157077-7 J9U : 987007558155705171 LCCN : sh85075318 SUDOC : 027830632