XLSTAT: Regresión de bosque aleatorio en Excel

 

Conjunto de datos del ejemplo

El conjunto de datos utilizado proviene de la competencia de Machine Learning titulada “Titanic: Machine Learning from Disaster” en Kaggle, la reconocida plataforma de ciencia de datos.

El conjunto de datos del Titanic puede consultarse en dicha página.
Se refiere al famoso transatlántico Titanic, que se hundió en 1912.
Durante esta tragedia, más de 1,500 de los 2,224 pasajeros perdieron la vida debido a un número insuficiente de botes salvavidas.

El conjunto de datos está compuesto por una lista de 1,309 pasajeros y sus características:

• survived: Supervivencia (0 = No; 1 = Sí)

• pclass: Clase del pasajero (1 = 1ª; 2 = 2ª; 3 = 3ª)

• name: Nombre

• sex: Género (male = hombre; female = mujer)

• age: Edad

• sibsp: Número de hermanos/esposos a bordo

• parch: Número de padres/hijos a bordo

• fare: Tarifa pagada por el pasajero

• cabin: Cabina

• embarked: Puerto de embarque (C = Cherbourg; Q = Queenstown; S = Southampton)

 

Configuración

• Abre XLSTAT.

• Haz clic en el menú Aprendizaje Automático y selecciona la función Bosques aleatorios de clasificación y regresión.

• Aparecerá el cuadro de diálogo de Random Forest (Clasificación y regresión).

Pestaña General:

• En el campo Tipo de respuesta, selecciona el tipo de variable que deseas predecir (en este caso, Cuantitativa.

• En el campo Variable de respuesta, selecciona la información del precio del pasaje (Fare).

• Activa la opción Etiqueta de las variables para que se tengan en cuenta los nombres de las variables presentes en la primera fila del conjunto de datos.

• Selecciona los nombres de los pasajeros como etiquetas de las observaciones.

Pestaña Opciones:

• Activa la opción Convergencia y establécela en 100, para que XLSTAT verifique cada 100 árboles la convergencia del algoritmo y la estabilización del error OOB (Out-of-Bag).

• Haz clic en OK para iniciar los cálculos.

Los resultados se mostrarán en una nueva hoja de Excel.

 

Interpretación de los resultados

El primer resultado mostrado es el error OOB (Out-of-Bag), que representa el error promedio de predicción en cada muestra fuera de bolsa (OOB) dentro del conjunto de entrenamiento.

La siguiente tabla presenta la variable de respuesta y el valor predicho para cada observación del conjunto de aprendizaje (predicciones realizadas solo con los árboles en los que la observación es OOB).

El siguiente gráfico muestra la evolución del error OOB en función del número de árboles.

El error OOB disminuye rápidamente y luego se estabiliza, lo que lleva al algoritmo a detenerse en 200 árboles, ya que no se observan mejoras adicionales.

La siguiente tabla muestra la importancia normalizada de cada variable (normalizada según su desviación estándar).

A continuación, se presenta una representación gráfica de dicha tabla.

El resultado indica que la variable más importante es la clase del pasajero, lo que sugiere una relación directa entre la tarifa pagada (fare) y la clase (pclass).
La tabla también muestra la desviación estándar de la medida de importancia de cada variable.