Modelo de elección binaria

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 9 de diciembre de 2016; las comprobaciones requieren 5 ediciones .

Un modelo de elección binaria es un modelo de dependencia de una variable binaria (que toma solo dos valores: 0 y 1) en un conjunto de factores utilizados en econometría . La construcción de un modelo lineal ordinario para tales variables dependientes es teóricamente incorrecta, ya que la expectativa condicional de tales variables es igual a la probabilidad de que la variable dependiente tome el valor 1, y el modelo lineal permite, entre otras cosas, valores negativos y valores superiores a 1 (a pesar de que la probabilidad debe ser de 0 a 1). Por lo tanto, algunas funciones de distribución acumulativa se usan comúnmente. Las más utilizadas son la distribución normal ( probit ), la distribución logística ( logit) , la distribución de Gompertz (gompit).

Esencia del modelo

Sea la variable binaria, es decir, sólo puede tomar dos valores, los cuales, por simplicidad, se supone que son iguales a y . Por ejemplo, puede significar la presencia/ausencia de alguna condición, el éxito o fracaso de algo, la respuesta es sí/no en una encuesta, etc. Sea también un vector de regresores (factores) que afectan . $Y$ $una$ ${\ estilo de visualización 0}$ $Y$ $X$ $Y$

El modelo de regresión se ocupa de la expectativa factor-condicional de la variable dependiente, que en este caso es igual a la probabilidad de que la variable dependiente sea igual a 1. De hecho, por la definición de la expectativa matemática y teniendo en cuenta solo dos valores posibles , tenemos:

E(Y\mid X=x)=1\cdot P(Y=1\mid X=x)+0\cdot P(Y=0\mid X=x)=P(Y=1\mid X=x)=p(x)

En este sentido, el uso de, por ejemplo, el modelo de regresión lineal estándar es teóricamente incorrecto, aunque solo sea porque la probabilidad, por definición, toma valores limitados de 0 a 1. En este sentido, es razonable modelar a través de la funciones integrales de ciertas distribuciones. $y=x^{T}b+\varepsilon$ $p(x)$

Se suele suponer que existe alguna variable "ordinaria" oculta (no observada) , dependiendo de los valores de los cuales la variable observada toma el valor 0 o uno: $Y^{*}$ $Y$

Y={\begin{casos}1,Y^{*}>0\\0,Y^{*}<0\end{casos))

Se supone que la variable latente depende de los factores en el sentido de la regresión lineal habitual , donde el error aleatorio tiene una distribución . Después $X$ $y^{*}=x^{T}b+\varepsilon$ $F$

$p(x)=P(Y^{*}>0|X=x)=P(x^{T}b+\varepsilon >0)=P(\varepsilon >-x^{T}b) =1-F(-x^{T}b)$

Si la distribución es simétrica, entonces podemos escribir

$p(x)=F(x^{T}b)$

Interpretación económica

Otra justificación es utilizar el concepto de la utilidad de las alternativas - función no observable , es decir, de hecho, dos funciones y, respectivamente, para dos alternativas. Es lógico suponer que si, para valores dados de los factores, la utilidad de una alternativa es mayor que la utilidad de la otra, entonces se elige la primera y viceversa. En este sentido, es razonable considerar la función de diferencia de utilidad de alternativas . Si es mayor que cero, se elige la primera alternativa, si es menor o igual a cero, la segunda. Por lo tanto, la función de diferencia de utilidad de las alternativas aquí juega el papel de la variable muy oculta. La presencia de un error aleatorio en los modelos de utilidad permite tener en cuenta el determinismo de elección no absoluto (al menos, la no determinación por un conjunto dado de factores, aunque existe un elemento de aleatoriedad de elección para cualquier conjunto de factores). factores). ${\ estilo de visualización U (y, x)}$ $U_{1}(x)=x^{T}b_{1}+\varepsilon _{1}$ $U_{0}(x)=x^{T}b_{0}+\varepsilon _{0}$ $\Delta U(x)=U_{1}(x)-U_{0}(x)=x^{T}(b_{1}-b_{0})+(\varepsilon _{1} -\varepsilon _{0})=x^{T}b+\varepsilon$

Modelos de distribución

probito _ El modelo probitutiliza la función acumulativa de la distribución normal estándar: $F$ $\Fi$

p(x)=1-\Phi (-x^{T}b)=\Phi (x^{T}b)

Logit . El modelo logit utiliza la CDF de la distribución logística:

p(x)=1-e^{-x^{T}b}/(1+e^{-x^{T}b})=e^{x^{T}b}/( 1+e^{x^{T}b})

Gompit . Se utiliza la distribución de valores extremos, la distribución de Gompertz:

p(x)=1-(1-e^{e^{-x^{T}b)))=e^{e^{-x^{T}b))

Estimación de Parámetros

La estimación se realiza generalmente por el método de máxima verosimilitud . Sea una muestra del volumen de factores y una variable dependiente . Para un número de observación dado, utilice el índice . La probabilidad de obtener un valor en una observación se puede modelar de la siguiente manera: $norte$ $X$ $Y$ $t$ $t$ $y_{t}$

P(Y=y_{t})=p^{y_{t}}(x_{t})(1-p(x_{t}))^{1-y_{t}}=(1 -F(-x_{t}^{T}b))^{y_{t}}F^{1-y_{t}}(-x_{t}^{T}b)

De hecho, si , entonces el segundo factor es obviamente igual a 1, y el primero es solo , pero si , entonces el primer factor es igual a uno y el segundo es igual a . Se supone que los datos son independientes. Por lo tanto, la función de verosimilitud se puede obtener como el producto de las probabilidades anteriores: ${\ estilo de visualización y_ {t} = 1}$ $p(x_{t})$ ${\ estilo de visualización y_ {t} = 0}$ ${\ estilo de visualización (1-p (x_ {t}))}$

L(b)=\prod_{t=1}^{n}(1-F(-x_{t}^{T}b))^{y_{t))F^{1-y_ {t}}(-x_{t}^{T}b)

En consecuencia , la función de verosimilitud logarítmica tiene la forma:

l(b)=\sum _{t=1}^{n}y_{t}\ln(1-F(-x_{t}^{T}b))+(1-y_{t })\ln F(-x_{t}^{T}b)

La maximización de esta función con respecto a parámetros desconocidos permite obtener estimaciones de parámetros consistentes , asintóticamente eficientes y asintóticamente normales . Esto último significa que:

{\sqrt {n}}({\hat {b}}-b)\ {\xrightarrow {d}}\ {\mathcal {N}}(0,\,\Omega ^{-1}) ,

donde es la matriz de covarianza asintótica de las estimaciones de los parámetros, que se determina de forma estándar para el método de máxima verosimilitud (mediante la hessiana o el gradiente de la función logaritmo de verosimilitud en el punto óptimo). ${\ estilo de visualización \ Omega ^ {-1}}$

Métricas de calidad y pruebas de modelos

Estadísticas de razón de verosimilitud

LR=2(l_{1}-l_{0})

donde son los valores del log-verosimilitud del modelo estimado y del modelo restringido, en el cual es una constante (no depende de los factores x, excluyendo la constante del conjunto de factores). ${\ estilo de visualización l_{1},l_{0))$ $p(x)$

Este estadístico, como en el caso general de utilizar el método de máxima verosimilitud, permite contrastar la significación estadística del modelo en su conjunto. Si su valor es lo suficientemente grande (más que el valor crítico de la distribución , donde es el número de factores (sin una constante) del modelo), entonces el modelo puede considerarse estadísticamente significativo. $\chi ^{2}(k)$ $k$

También se utilizan análogos del coeficiente de determinación clásico , por ejemplo:

Pseudo-coeficiente de determinación :

R_{pseudo}^{2}=1-{\frac {1}{1+LR/n}}={\frac {LR}{LR+n}}

Coeficiente de determinación de McFadden ( índice de razón de verosimilitud ):

{\displaystyle R_{McFadden}^{2}=LRI=1-l_{1}/l_{0))

Ambos indicadores van de 0 a 1.

Criterios de información : criterio de información de Akaike (AIC), criterio de información de Bayesian Schwartz (BIC, SC), criterio de Hennan-Queen (HQ).

Es importante analizar la proporción de predicciones correctas en función del umbral de clasificación seleccionado (a partir de qué nivel de probabilidad se toma el valor 1). Normalmente, la curva ROC se utiliza para evaluar la calidad del modelo y el indicador AUC es el área bajo la curva ROC.

Estadísticas de Hosmer-Lemeshow (HL, HL, Hosmer-Lemeshow ). Para calcular estas estadísticas, la muestra se divide en varias submuestras, para cada una de las cuales se determina: la proporción real de datos con el valor de la variable dependiente 1, es decir, el valor promedio de la variable dependiente para la submuestra

p_{j}={\overline {y}}_{j}=\sum_{i=1}^{n_{j}}{y}_{ij}/n_{j}

y la probabilidad media predicha sobre el subgrupo

{\overline {\hat {p}}}_{j}=\sum _{i=1}^{n_{j}}{\hat {p}}_{ij}/n_{j}

. Entonces el valor de la estadística HL está determinado por la fórmula

HL=\sum_{j=1}^{J}{\frac {n_{j}(p_{j}-{\overline {\hat {p))}_{j})^{2 }}({\sobrelínea {\sombrero {p}}}_{j}(1-{\sobrelínea {\sombrero {p}}}_{j}})))

Se desconoce la distribución exacta de esta estadística, pero los autores han descubierto mediante simulación que se aproxima a la distribución . ${\ estilo de visualización \ chi ^ {2} (J-2)}$

Estadísticas de Andrews (Andrews)

Véase también

Literatura

Magnus Ya. R., Katyshev P. K., Peresetsky A. A. Econometría. Curso inicial. - M. : Delo, 2007. - 504 p. - ISBN 978-5-7749-0473-0 . .

V.P. de Nosko Econometría para principiantes (capítulos adicionales). – M.: IET, 2005. S. 379.

Greene, William H. (1997) Análisis econométrico, 3.ª edición, Prentice-Hall.

Andrews, Donald WK (1988) "Pruebas de diagnóstico de chi-cuadrado para modelos econométricos: teoría", Econometrica , 56, 1419–1453.

Andrews, Donald WK (1988) "Pruebas de diagnóstico de chi-cuadrado para modelos econométricos: introducción y aplicaciones", Journal of Econometrics, 37, 135–156.

Hosmer, David W. Jr. y Stanley Lemeshow (1989) Regresión logística aplicada, John Wiley & Sons.