Random Forest é um algoritmo amplamente utilizado em problemas de Classificação e Regressão. Ele constrói várias Árvores de Decisão diferentes e utiliza a maioria dos votos para classificação e a média em caso de regressão.

Ao invés de usar a melhor árvore, Random Forest constrói muitas árvores de qualidade inferior. Por que faríamos árvores que sabemos serem piores? Bem, suponha que você tem uma tarefa complexa e a entrega para um professor - um especialista nesse campo. Você pode confiar na resposta dele, mas ele ainda é humano e pode cometer erros. Talvez se você desse a tarefa para 100 bons alunos e escolhesse a resposta mais frequente, o resultado seria mais confiável.

Na prática, combinar muitas Árvores de Decisão mais fracas em uma única e forte Floresta Aleatória funciona muito bem, superando significativamente uma Árvore de Decisão única e ajustada em grandes conjuntos de dados. O limite de decisão de uma Floresta Aleatória é mais suave e generaliza melhor para novos dados do que a Árvore de Decisão, então a Floresta Aleatória não sofre tanto de sobreajuste.

No entanto, a precisão não melhorará se combinarmos muitos modelos que cometem os mesmos erros. Para que todo esse processo funcione, devemos escolher modelos que sejam o mais diferentes possíveis uns dos outros, de forma que produzam erros distintos.

O próximo capítulo irá esclarecer o motivo pelo qual a Floresta é Aleatória e como produzimos vários modelos distintos utilizando apenas o algoritmo de Árvore de Decisão.