MAT281 - Laboratorio N°14: Modelos de Regresion Supervisada¶

Objetivos del laboratorio¶

• Plantear un problema de regresion y elegir metricas adecuadas (MAE, RMSE, $R^2$).
• Entrenar regresion lineal, Ridge y Lasso (regularizacion).
• Usar modelos basados en arboles: Decision Tree y Random Forest.
• Evaluar modelos con validacion cruzada.
• Comparar varios modelos y seleccionar el mejor.

Instrucciones¶

Lea con atencion cada problema antes de resolverlo. Reemplace cada celda que contiene # FIXME con su propia solucion y, cuando se solicite, responda las preguntas en celdas de texto.

Nota: Puede apoyarse en asistentes virtuales (ChatGPT, Gemini, Claude) o en el autocompletado de Colab, pero asegurese de entender cada linea de codigo que entregue.

In [ ]:

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split, cross_val_score
from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score

import numpy as np import pandas as pd import matplotlib.pyplot as plt from sklearn.model_selection import train_test_split, cross_val_score from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score

Problema 01 — El problema de regresion¶

Usaremos el dataset Diabetes de scikit-learn (predecir un indice de progresion de la enfermedad a partir de 10 variables clinicas).

Tu tarea:

1. Carga load_diabetes(as_frame=True).
2. Separa X e y y divide en train/test (80/20, random_state=42).
3. Pregunta: ¿por que este es un problema de regresion y no de clasificacion?

In [ ]:

from sklearn.datasets import load_diabetes

# FIXME

from sklearn.datasets import load_diabetes # FIXME

Respuesta (Problema 01): (escribe aqui)

Problema 02 — Regresion lineal y metricas¶

Tu tarea:

1. Entrena una LinearRegression.
2. Evalua en el test con MAE, RMSE y $R^2$.
3. Pregunta: ¿que diferencia hay entre MAE y RMSE? ¿Cual penaliza mas los errores grandes?

In [ ]:

from sklearn.linear_model import LinearRegression

# FIXME

from sklearn.linear_model import LinearRegression # FIXME

Respuesta (Problema 02): (escribe aqui)

Problema 03 — Regularizacion: Ridge y Lasso¶

La regularizacion penaliza coeficientes grandes para reducir el sobreajuste.

Tu tarea:

1. Entrena Ridge y Lasso (prueba alpha=0.1, 1.0, 10.0).
2. Compara su $R^2$ en test con el de la regresion lineal.
3. Pregunta: ¿que hace Lasso con algunos coeficientes? Inspecciona modelo.coef_.

In [ ]:

from sklearn.linear_model import Ridge, Lasso

# FIXME

from sklearn.linear_model import Ridge, Lasso # FIXME

Respuesta (Problema 03): (escribe aqui)

Problema 04 — Arboles y Random Forest¶

Tu tarea:

1. Entrena un DecisionTreeRegressor y un RandomForestRegressor.
2. Compara sus metricas en test.
3. Para el Random Forest, grafica la importancia de las variables (feature_importances_).

In [ ]:

from sklearn.tree import DecisionTreeRegressor
from sklearn.ensemble import RandomForestRegressor

# FIXME

from sklearn.tree import DecisionTreeRegressor from sklearn.ensemble import RandomForestRegressor # FIXME

Problema 05 — Validacion cruzada y comparacion final¶

Tu tarea:

1. Usa cross_val_score (5 folds, scoring r2) para estimar el desempeño de cada modelo de forma robusta.
2. Construye una tabla resumen (modelo, $R^2$ medio, desviacion).
3. Pregunta: ¿que modelo elegirias y por que?

In [ ]:

# FIXME

# FIXME

Respuesta (Problema 05): (escribe aqui)