XLSTAT: Regresión de bosque aleatorio

 

Datos para el análisis

El conjunto de datos utilizado en este tutorial se extrae de la competencia de aprendizaje automático titulada "Titanic: Machine Learning from Disaster" en Kaggle , la famosa plataforma de ciencia de datos.
Se puede acceder al conjunto de datos del Titanic en esta dirección . Se refiere al transatlántico Titanic que se hundió en 1912. Durante esta tragedia, más de 1500 de los 2224 pasajeros perdieron la vida debido a un número insuficiente de botes salvavidas.

El conjunto de datos está compuesto por una lista de 1309 pasajeros y sus características:

• sobrevivió: Supervivencia (0 = No; 1 = Sí)

• pclass: Clase de Pasajero (1 = 1º; 2 = 2º; 3 = 3º)

• nombre: Nombre

• sexo: Género (masculino; femenino)

• edad: Edad

• sibsp: Número de hermanos/cónyuges a bordo

• parch: Número de padres/hijos a bordo

• Tarifa: Tarifa de Pasajero

• Cabaña: Cabaña

• Embarcado: Puerto de embarque (C = Cherburgo; Q = Queenstown; S = Southampton)

El objetivo de este tutorial es configurar y entrenar un regresor de bosque aleatorio (RDF) en el conjunto de datos del Titanic.

Configuración

Una vez abierto XLSTAT, haga clic en Aprendizaje automático / Clasificación y regresión Bosque aleatorio como se muestra a continuación:

 
Aparece el cuadro de diálogo RDF.

 
En la pestaña General , seleccione los datos en los diferentes campos como se muestra arriba. En el campo Tipo de respuesta , seleccione el tipo de variable que desea predecir (aquí Cuantitativa ). En nuestro caso, esta es la columna que proporciona la información de la tarifa del Pasajero.
Seleccione las Etiquetas de variable para tener en cuenta los nombres de las variables proporcionadas en la primera fila del conjunto de datos. Finalmente, seleccione los nombres de los pasajeros como Etiquetas de observación .

 
En la pestaña Opciones , varios parámetros nos permitirán controlar mejor la forma en que se construyen los Árboles. Activa la opción de convergencia y configúrala a 100 para que XLSTAT pueda comprobar cada 100 árboles si el algoritmo converge y por tanto si el error OOB se estabiliza.

Por último, configure la pestaña Resultados y Gráficos de la siguiente manera:

 

 
Los cálculos comienzan una vez que haya hecho clic en el botón Aceptar .

Interpretación de los resultados

El primer resultado que se muestra es el error OOB. Este error corresponde al error de predicción promedio cometido en cada muestra OOB del conjunto de aprendizaje.

La siguiente tabla muestra la respuesta y el valor predicho relacionado con cada observación del conjunto de aprendizaje (predicción realizada utilizando solo los árboles en los que son OOB).

La siguiente gráfica muestra la evolución del error OOB en función del número de árboles.

Observamos que el error OOB disminuye rápidamente y se estabiliza. Como comprobamos la convergencia cada 100 árboles, el algoritmo se detiene en 200 árboles construidos, ya que el error OOB ya no varía.

La siguiente tabla contiene, para cada variable, su medida de importancia de variable normalizada (Normalización por la desviación estándar).

A continuación se muestra una representación gráfica de la tabla anterior:

Como podemos observar, la variable más importante es la información sobre la clase del pasajero, por lo que podemos sugerir que existe una relación entre la tarifa y la clase del pasajero.

Para cada variable también se muestra la desviación estándar de su medida de importancia variable:

Más allá: Clasificación de bosque aleatorio en el conjunto de datos del Titanic

Vea aquí cómo puede configurar y entrenar un clasificador de Random Forest en el conjunto de datos del Titanic para predecir la clase de pasajeros.