- Regresión logística
-
Regresión logística
En estadística, la regresión logística es un modelo de regresión para variables dependientes o de respuesta binomialmente distribuidas. Es útil para modelar la probabilidad de un evento ocurriendo como función de otros factores. Es un modelo lineal generalizado que usa como función de enlace la función logit.
La regresión logística es usada extensamente en las ciencias médicas y sociales. Otros nombres para regresión logística usados en varias áreas de aplicación incluyen modelo logístico, modelo logit, y clasificador de máxima entropía.
Contenido
Resumen
La regresión logística analiza datos distribuidos binomialmente de la forma
donde los números de ensayos Bernoulli ni son conocidos y las probabilidades de éxito pi son desconocidas. Un ejemplo de esta distribución es el porcentaje de semillas (pi) que germinan después de que ni son plantadas.
El modelo es entonces obtenido en base a lo que cada ensayo (valor de i) y el conjunto de variables explicativas/independientes pueda informar acerca de la probabilidad final. Estas variables explicativas pueden pensarse como un vector Xi k-dimensional y el modelo toma entonces la forma
Los logits de las probabilidades binomiales desconocidas (i.e., los logaritmos de los odds) son modeladas como una función lineal de los Xi.
Note que un elemento particular de Xi puede ser ajustado a 1 para todo i obteniéndose un intercepto en el modelo. Los parámetros desconocidos βj son usualmente estimados a través de máxima verosimilitud.
La interpretación de los estimados del parámetro βj es como los efectos aditivos en el log odds ratio para una unidad de cambio en la jésima variable explicativa. En el caso de una variable explicativa dicotómica, por ejemplo género, eβ es la estimación del odds ratio de tener el resultado para, por decir algo, hombres comparados con mujeres.
El modelo tiene una formulación equivalente dada por
Esta forma funcional es comúnmente identificada como un "perceptrón" de una capa simple or red neuronal artificial de una sola capa. Una red neuronal de una sola capa calcula una salida continua en lugar de una función por pedazos. La derivada de pi con respecto a X = x1...xk es calculada de la forma general:
donde f(X) es una función analítica en X. Con esta escogencia, la red de capa simple es idéntica al modelo de regresión logística. Esta función tiene una derivada continua, la cual permite ser usada en propagación hacia atrás. Esta función también es preferida pues su derivada es fácilmente calculable:
Extensiones
Algunas extensiones del modelo existen para tratar variables dependientes multicategóricas y/o ordinales, tales como la regresión politómica. La clasificación en varias clases por regresión logística es conocida como logit multinomial. Una extensión del modelo logístico para ajustar conjuntos de variables independientes es el campo aleatorio condicional.
Ejemplo
Sea p(x) la probabilidad de éxito cuando el valor de la variable predictora es x. Entonces sea
Después de algún álgebra se prueba que
donde son los odds en favor de éxito.
Si tomamos un valor de ejemplo, digamos p(50) = 2/3, entonces
Cuando x = 50, un éxito es dos veces tan probable como una falla. Es decir, se puede decir simplemente que los odds son 2$ a 1.
Véase también
- Red neuronal artificial
- Minería de datos
- Modelos de regresión múltiple postulados y no postulados
- Análisis lineal discriminante
- Perceptrón
- Modelo probit
- Análisis de regla de variables
- Modelo de Jarrow-Turnbull
Enlaces externos
- Web-based logistic regression calculator
- A highly optimized Maximum Entropy modeling package
- MALLET Java library, includes a trainer for logistic models
Referencias
- Agresti, Alan. (2002). Categorical Data Analysis. New York: Wiley-Interscience. ISBN 0-471-36093-7.
- Amemiya, T. (1985). Advanced Econometrics. Harvard University Press. ISBN 0-674-00560-0.
- Balakrishnan, N. (1991). Handbook of the Logistic Distribution. Marcel Dekker, Inc.. ISBN 978-0824785871.
- Green, William H. (2003). Econometric Analysis, fifth edition. Prentice Hall. ISBN 0-13-066189-9.
- Hosmer, David W.; Stanley Lemeshow (2000). Applied Logistic Regression, 2nd ed.. New York; Chichester, Wiley. ISBN 0-471-35632-8.
Categoría: Análisis de la regresión
Wikimedia foundation. 2010.