Bootstrap (estadísticas)

Bootstrap [1] ( inglés bootstrap ) en estadística es un método informático práctico para estudiar la distribución de estadísticas de distribuciones de probabilidad , basado en la generación múltiple de muestras por el método de Monte Carlo a partir de la muestra existente [2] . Le permite evaluar fácil y rápidamente una amplia variedad de estadísticas ( intervalos de confianza , varianza , correlación , etc.) para modelos complejos.

El concepto fue introducido en 1977 por Bradley Efron (la primera publicación data de 1979 [3] ). La esencia del método es construir una distribución empírica basada en la muestra existente . Usando esta distribución como una distribución de probabilidad teórica, es posible generar un número casi ilimitado de pseudo-muestras de tamaño arbitrario, por ejemplo, el mismo que el original, usando un generador de números pseudoaleatorios. En un conjunto de pseudomuestras, uno puede evaluar no solo las características estadísticas analizadas, sino también estudiar sus distribuciones de probabilidad. Así, por ejemplo, es posible estimar la varianza o cuantiles de cualquier estadístico, independientemente de su complejidad. Este método es un método de estadística no paramétrica .

Junto con los métodos "jackknife" , la validación cruzada y las pruebas de permutación ( ing. prueba exacta ) constituyen una clase de métodos de generación de remuestreo ( ing. remuestreo ).

Etimología

La palabra proviene de la expresión: "Saltar uno mismo de una valla por las correas de uno". (literalmente, "para cruzar la cerca tirando de las correas de las botas" (ver foto a la derecha). Para las personas de habla rusa, la historia del barón Munchausen estará más cerca , quien, tirando de su cabello, se jaló y su caballo del pantano.

El anglicismo Bootstrap en sí mismo se usa en muchas áreas del conocimiento, donde es necesario transmitir el significado de obtener algo "gratis" o mágicamente obtener algo que vale la pena de la nada. En el campo de las estadísticas, el análogo más cercano del término en términos de etimología es "autoextracción".

Ejemplo introductorio

Sean dos observaciones:

{\ estilo de visualización (x_{1},y_{1})=(1,1),\ (x_{2},y_{2})=(2,3)}

Supongamos que necesitamos estimar un parámetro en una regresión de y sobre x :

{\displaystyle y_{i}=\theta x_{i}+\epsilon _{i))

La estimación del parámetro obtenida por el método de mínimos cuadrados será igual a

{\hat {\theta }}={\frac {x_{1}y_{1}+x_{2}y_{2}}{x_{1}^{2}+x_{2}^{ 2}}}={\frac {1\times 1+2\times 3}{1^{2}+2^{2}}}={\frac {7}{5}}

La función de distribución empírica en este caso es igual a

(x,y)'={\begin{casos}(1,1)',\quad p=1/2\\(2,3)',\quad p=1/2\\\end {casos}}

En este caso, los datos de dos observaciones con respecto a la distribución empírica se distribuirán de la siguiente manera:

(x_{1},y_{1})',(x_{2},y_{2})'={\begin{casos}(1,1)',(1,1)',\ cuádruple p=1/4\\(1,1)',(2,3)',\cuádruple p=1/4\\(2,3)',(1,1)',\cuádruple p=1 /4\\(2,3)',(2,3)',\quad p=1/4\\\end{casos}}

Esta es la distribución bootstrap. A continuación, podemos encontrar la distribución de la estimación OLS:

{\hat {\theta }}_{2}^{*}={\begin{cases}1,\quad \quad p=1/4\\7/5,\quad p=1/2 \\3/2,\quad p=1/4\\\end{casos}}

Aplicación

El bootstrap se utiliza para corregir sesgos, probar hipótesis, construir intervalos de confianza.

Intervalo de confianza Bootstrap: un algoritmo

Sea una muestra de la población general , y se requiere estimar el parámetro . Es necesario elegir el número de pseudomuestras que se formarán a partir de los elementos de la muestra original con devolución. Para cada una de las pseudomuestras, se calcula una pseudoestadística . ${\ estilo de visualización (z_ {1}; z_ {2}; \ puntos; z_ {n})}$ $\ theta$ $B$ $(z_{1}^{*};z_{2}^{*};\puntos;z_{n}^{*})_{b},b=1,2,\puntos,B$ ${\hat {\theta}}_{b}^{*}$

Las pseudoestadísticas se ordenan de menor a mayor. Los cuantiles toman valores . Se utilizan para construir un intervalo de confianza. ${\sombrero {\theta }}_{1}^{*},{\sombrero {\theta }}_{2}^{*},\puntos,{\sombrero {\theta }}_{ B}^{*}$ $q_{\alpha _{1}}^{*},q_{1-\alpha _{2}}^{*}$ ${\sombrero {\theta }}_{[B\alpha _{1}]}^{*},{\sombrero {\theta }}_{[B(1-\alpha _{2}) +1]}^{*}$

Notas

↑ También bootstrap , bootstrap , bootstrapping , bootstrapping .
↑ アーカイブされたコピー. Consultado el 23 de marzo de 2007. Archivado desde el original el 12 de julio de 2012. (indefinido)
↑ Efrón, 1979 .

Literatura

Stanislav Anatoliev . Econometría para avanzados. Curso de conferencias. — 2002.
Bradley Efron . Métodos Bootstrap: otra mirada a Jackknife // Annals of Statistics. - 1979. - vol. 7 , núm. 1 . - P. 1-26 . — ISSN 0090-5364 . -doi :/ aos/1176344552 .

Enlaces

Tutorial de Bootstrap de ICASSP 99 (enlace descendente desde el 13-05-2013 [3451 días] - historial ) : Tutorial desde una perspectiva de procesamiento de señales
Tutorial de muestreo Bootstrap usando MS Excel
Animaciones para arrancar datos iid (enlace descendente desde el 13-05-2013 [3451 días] - historial ) por Yihui Xie usando la R
Tutorial de arranque

En catálogos bibliográficos	BNF : 12378257v J9U : 987007536908405171 LCCN : sh91004766 NKC : ph225449