Regresión nuclear

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 3 de enero de 2020; las comprobaciones requieren 2 ediciones .

La regresión kernel es un método estadístico no paramétrico que le permite estimar la expectativa condicional de una variable aleatoria . Su significado es encontrar una relación no lineal entre un par de variables aleatorias X e Y.

En cualquier regresión no paramétrica , la expectativa condicional de una magnitud relativa a una magnitud se puede escribir como: $Y$ $X$

${\ estilo de visualización \ nombre del operador {E} (Y|X)=m(X)}$

donde es alguna función desconocida. $metro$

Regresión nuclear de Nadaraya-Watson

Nadaraya y Watson simultáneamente (en 1964) propusieron estimar como un promedio ponderado localmente, donde los pesos estarían determinados por el kernel [1] [2] [3] . Estimación de Nadarai-Watson: $metro$

${\widehat {m}}_{h}(x)={\frac {\sum _{i=1}^{n}K_{h}(x-x_{i})y_{i} }{\sum_{i=1}^{n}K_{h}(x-x_{i))}}$

¿ Dónde está el kernel con ancho de ventana ? El denominador es un término de peso con suma unitaria. $k$ $h$

Conseguir

$\operatorname {E} (Y|X=x)=\int yf(y|x)dy=\int y{\frac {f(x,y)}{f(x)))dy$

Encontrar una estimación de densidad kernel para la distribución conjunta f(x,y) y la distribución f(x) con kernel K ,

${\hat {f}}(x,y)={\frac {1}{n}}\sum _{i=1}^{n}K_{h}\left(x-x_{i }\right)K_{h}\left(y-y_{i}\right)$ . .
${\hat {f}}(x)={\frac {1}{n}}\sum _{i=1}^{n}K_{h}\left(x-x_{i}\ Correcto)$

obtenemos

$\operatorname {\hat {E}} (Y|X=x)=\int {\frac {y\sum _{i=1}^{n}K_{h}\left(x-x_{ i}\right)K_{h}\left(y-y_{i}\right)}{\sum _{i=1}^{n}K_{h}\left(x-x_{i}\right )}}día,$

$\operatorname {\hat {E}} (Y|X=x)={\frac {\sum _{i=1}^{n}K_{h}\left(x-x_{i}\ derecha)\int y\,K_{h}\left(y-y_{i}\right)dy}{\sum _{i=1}^{n}K_{h}\left(x-x_{i }\Correcto)}},$

$\operatorname {\hat {E}} (Y|X=x)={\frac {\sum _{i=1}^{n}K_{h}\left(x-x_{i}\ derecha)y_{i)){\sum _{i=1}^{n}K_{h}\left(x-x_{i}\derecha)))),$

esta es la estimación de Nadarai-Watson.

Estimación nuclear de Priestley-Zhao

${\widehat {m}}_{PC}(x)=h^{-1}\sum_{i=1}^{n}(x_{i}-x_{i-1})K \left({\frac {x-x_{i}}{h}}\right)y_{i}$

Estimación nuclear de Gasser-Müller

${\widehat {m}}_{GM}(x)=h^{-1}\sum_{i=1}^{n}\left[\int_{s_{i-1}} ^{s_{i}}K\izquierda({\frac {xu}{h}}\derecha)du\derecha]y_{i}$

dónde $s_{i}={\frac {x_{i-1}+x_{i}}{2}}$

En paquetes estadísticos

MATLAB : un kit de herramientas gratuito para regresiones kernel, estimación de densidad y más. disponible en el enlace (es un apéndice del libro [4] ).
Stata : kernreg2
R : una función en el npregpaquete np puede generar una regresión del kernel [5] [6] .
Python : paquete kernel_regression (extensión sklearn ).
GNU Octave : un paquete de software matemático.

Notas

↑ Nadaraya, EA Sobre la estimación de la regresión // Teoría de la probabilidad y sus aplicaciones : diario. - 1964. - Vol. 9 , núm. 1 . - pág. 141-142 . -doi : 10.1137/ 1109020 .
↑ Watson, GS Análisis de regresión suave (indefinido) // Sankhyā: The Indian Journal of Statistics, Serie A. - 1964. - V. 26 , No. 4 . - S. 359-372 . — .
↑ Bierens, Herman J. El estimador de la función de regresión kernel de Nadaraya-Watson // Temas de econometría avanzada (indefinido) . - Nueva York: Cambridge University Press , 1994. - S. 212-247. — ISBN 0-521-41900-X .
↑ Horova, I.; Koláček, J.; Zelinka, J. Kernel Smoothing en MATLAB: Teoría y práctica del Kernel Smoothing . - Singapur: World Scientific Publishing , 2012. - ISBN 978-981-4405-48-5 .
↑ np : Métodos de suavizado del núcleo no paramétrico para tipos de datos mixtos
↑ Kloke, John; McKean, Joseph W. Métodos estadísticos no paramétricos utilizando R. - Prensa CRC , 2014. - Pág. 98-106. — ISBN 978-1-4398-7343-4 .

Literatura

Henderson, Daniel J.; Parmeter, Christopher F. Econometría no paramétrica aplicada (indefinida) . - Prensa de la Universidad de Cambridge , 2015. - ISBN 978-1-107-01025-3 .
Li, Qi; Racine, Jeffrey S. Econometría no paramétrica: teoría y práctica . - Prensa de la Universidad de Princeton , 2007. - ISBN 0-691-12161-3 .
pagano, A.; Ullah, A. Econometría no paramétrica (indefinida) . - Prensa de la Universidad de Cambridge , 1999. - ISBN 0-521-35564-8 .
Simonoff, Jeffrey S. Métodos de suavizado en estadística (indefinido) . - Springer, 1996. - ISBN 0-387-94716-7 .

Enlaces

Regresión kernel adaptable a escala (con el software Matlab).
Tutorial de regresión Kernel usando hoja de cálculo (con Microsoft Excel ).
Una demostración de regresión del kernel en línea Requiere .NET 3.0 o posterior.
Regresión del kernel con selección automática de ancho de banda (con Python)