XLSTAT: Regresión LASSO

 

Datos para el análisis

Los datos originales son de Osborne y col. (1984). El conjunto de datos contiene, para 30 galletas, las discretizaciones de los espectros del infrarrojo cercano. Cada espectro se observa en longitudes de onda que van desde 1100 a 2460 nanómetros y están espaciadas por 40 nanómetros, lo que da lugar a 35 variables explicativas en el conjunto de datos. La tabla de datos también contiene la composición del agua de cada galleta.

El objetivo es predecir la composición del agua de las diferentes galletas.

Objetivo

El objetivo de este tutorial es configurar e interpretar una regresión LASSO en el conjunto de datos Cookies.

Configuración

• Una vez abierto XLSTAT, haga clic en Modelado / Registresión LASSO .

• Aparece el cuadro de diálogo de regresión LASSO.

• Seleccione los datos en la hoja de Excel. Aquí, la variable dependiente (o variable a modelar) es la composición de agua de las galletas.

• Las variables explicativas cuantitativas corresponden a todas las columnas numeradas de L1 a L35. Aquí queremos explicar la variabilidad del contenido de agua en las galletas en función del espectro.

• Seleccione las primeras 20 cookies del conjunto de datos, el resto se utilizará para el conjunto de predicción.

• Como el nombre de cada variable se muestra en la parte superior de la tabla, marque la casilla de verificación Etiquetas de variables .

• Marca la casilla Etiquetas de observación y selecciona el nombre de las diferentes cookies.

• En la pestaña Opciones , utilice Validación cruzada para encontrar el parámetro de regularización lambda óptimo. Elija formar 5 pliegues para la validación cruzada y probar 100 valores lambda.

• En la pestaña Predicción , seleccione los datos sobre los que desea obtener una predicción. Aquí seleccionamos las últimas 10 cookies del conjunto de datos.

• En la pestaña Gráficos , puedes activar la opción Evolución del MSE (Validación cruzada) que te permite tener acceso a la evolución del MSE (Error Cuadrático Medio) en función del parámetro de regularización.

Interpretación

La tabla “ Parámetros del modelo ” brinda detalles sobre el modelo. Esta tabla es útil cuando se necesitan predicciones o para analizar la importancia de las variables en el modelo. Vemos que solo 9 de las 35 variables se mantuvieron en el modelo, las demás tienen un coeficiente cero.

 
La siguiente gráfica muestra la evolución del MSE en función del parámetro de regularización Lambda. El valor Lambda seleccionado por XLSTAT es el que minimiza el MSE, en este caso el valor 0,01.

 
La última tabla proporciona, tras la estimación del modelo, las predicciones de la composición del agua de las 10 galletas utilizadas en el conjunto de datos de predicción.

Conclusión sobre la regresión LASSO

Finalmente, la regresión LASSO ha modelado la composición de agua de las diferentes galletas con sólo 9 de las 35 variables disponibles: las otras variables fueron juzgadas como no suficientemente explicativas o como que contenían información demasiado similar a una de las variables ya seleccionadas.