Sobreajuste

Sobreajuste

Considera las dos líneas de regresión a continuación. ¿Cuál es mejor?

Las métricas sugieren que el segundo modelo es mejor, por lo que lo usamos para predecir X_new = [0.2, 0.5, 2.7]. Pero después de comparar las predicciones con los valores reales, el primer modelo tiene un mejor desempeño.

Esto ocurre porque el segundo modelo sobreajusta: es demasiado complejo y se ajusta demasiado a los datos de entrenamiento, sin lograr generalizar a nuevos casos.

Subajuste

El subajuste ocurre cuando un modelo es demasiado simple para ajustarse incluso a los datos de entrenamiento, lo que también conduce a malas predicciones sobre datos no vistos.

Por lo tanto, es posible intentar determinar visualmente si el modelo sufre de subajuste o sobreajuste.

Dado que no podemos visualizar modelos de alta dimensión, necesitamos otra manera de detectar sobreajuste o subajuste.

División de entrenamiento y prueba

Para estimar el rendimiento en datos no vistos, dividimos el conjunto de datos en un conjunto de entrenamiento y un conjunto de prueba con objetivos conocidos.

Entrenamiento en el conjunto de entrenamiento y cálculo de métricas en ambos conjuntos, de entrenamiento y de prueba, para comparar el rendimiento.

La división debe ser aleatoria. Normalmente, el 20–30% se destina al conjunto de prueba y el 70–80% se utiliza para entrenamiento. Scikit-learn ofrece una forma sencilla de realizar esto.

Por ejemplo, para dividir el conjunto de entrenamiento en 70% entrenamiento/30% prueba, se puede utilizar el siguiente código:

from sklearn.model_selection import train_test_split # import the function
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)