Regresión Lineal: Ecuaciones y Modelos

• El modelo matemático de regresión lineal aproxima la relación de dependencia entre una variable dependiente (Y) y una o más variables independientes (X).
• El objetivo principal es encontrar la línea recta con el mejor ajuste a los datos observados, para predecir o estimar valores futuros de la variable dependiente en función de las variables independientes.

Ecuación de Regresión Lineal Simple

• La ecuación para la regresión lineal simple (una variable independiente) es Y = a + bX.
• Y es la variable dependiente.
• X es la variable independiente.
• a es el intercepto, que representa el valor de Y cuando X = 0.
• b es la pendiente, indicando el cambio en Y por cada unidad de cambio en X.

Ecuación de Regresión Lineal Múltiple

• La ecuación para la regresión lineal múltiple (múltiples variables independientes) es Y = a + b1X1 + b2X2 + ... + bnXn.
• Y representa la variable dependiente.
• X1, X2, ..., Xn son las variables independientes.
• a es el intercepto.
• b1, b2, ..., bn son las pendientes correspondientes a cada variable independiente.

Estimación de los Coeficientes

• Los coeficientes (a y b en la regresión simple, a, b1, b2, ..., bn en la regresión múltiple) se estiman típicamente utilizando el método de mínimos cuadrados.
• El método minimiza la suma de los cuadrados de las diferencias entre los valores observados de Y y los valores predichos.

Coeficiente de Determinación (R²)

• R², el coeficiente de determinación, es una medida estadística que representa la proporción de la varianza en la variable dependiente (Y) que puede ser predicha a partir de la(s) variable(s) independiente(s) (X).
• Indica qué tan bien el modelo de regresión se ajusta a los datos observados.

Interpretación del R²

• El R² varía entre 0 y 1.
• R² = 0: El modelo no explica nada de la variabilidad de la variable dependiente.
• R² = 1: El modelo explica perfectamente la variabilidad de la variable dependiente.
• Un R² más alto indica que el modelo explica una mayor proporción de la variabilidad en la variable dependiente, indicando un mejor ajuste a los datos.
• Un R² de 0.75 significa que el 75% de la variabilidad en Y es explicada por el modelo de regresión lineal.

Cálculo del R²

• La fórmula para calcular el R² es: R² = 1 - (SSres / SStot).
• SSres (Suma de Cuadrados de los Residuos): Es la suma de los cuadrados de las diferencias entre los valores observados y los valores predichos por el modelo: SSres = Σ(Yi - Ŷi)².
• SStot (Suma Total de Cuadrados): Es la suma de los cuadrados de las diferencias entre los valores observados y la media de la variable dependiente: SStot = Σ(Yi - Ȳ)².
• Yi denota los valores observados de la variable dependiente.
• Ŷi denota los valores predichos por el modelo de regresión.
• Ȳ representa la media de los valores observados de la variable dependiente.

R² Ajustado

• El R² ajustado es una modificación del R² que considera el número de variables independientes en el modelo, penalizando la inclusión de variables que no contribuyen significativamente a la explicación de la variabilidad en la variable dependiente.
• Resulta útil para comparar modelos con diferente número de variables independientes.
• Siempre será igual o menor que el R².

Limitaciones del R²

• El R² no indica si un modelo es adecuado, solo mide qué tan bien se ajusta a los datos. Un R² alto no significa necesariamente que el modelo sea útil para hacer predicciones.
• El R² puede aumentar al añadir más variables independientes al modelo, incluso si esas variables no están realmente relacionadas con la variable dependiente; de ahí la importancia de usar el R² ajustado y otras métricas para evaluar la calidad del modelo.
• El R² no indica causalidad; una alta correlación no implica que una variable cause la otra.

Supuestos de la Regresión Lineal

• Para que los resultados de la regresión lineal sean válidos y confiables, se deben cumplir varios supuestos.
• Linealidad: La relación entre las variables independientes y la variable dependiente debe ser lineal.
• Independencia de los errores: Los errores (residuos) deben ser independientes entre sí.
• Homocedasticidad: La varianza de los errores debe ser constante a lo largo de todos los niveles de las variables independientes.
• Normalidad de los errores: Los errores deben seguir una distribución normal.

Uso del R² en la Práctica

• En la práctica, el R² se utiliza para evaluar y comparar diferentes modelos de regresión lineal.
• Se busca un modelo con un R² alto y un R² ajustado también alto, que indique un buen ajuste a los datos y una buena capacidad de predicción.
• Es importante complementar el R² con otras métricas y análisis para asegurar que el modelo sea válido y útil.

Ejemplo

• Considera modelar el precio de una casa (Y) en función de su tamaño en metros cuadrados (X). Al realizar la regresión lineal, se obtiene un R² de 0.80.
• Esto significa que el 80% de la variación en el precio de las casas puede ser explicada por su tamaño en metros cuadrados. El 20% restante puede deberse a otros factores no incluidos en el modelo, como la ubicación, el número de habitaciones, etc.