随机森林顾名思义，是用随机的方式建立一个森林，森林里面有很多的决策树组成，随机森林的每一棵决策树之间是没有关联的。在得到森林之后，当有一个新的输入样本进入的时候，就让森林中的每一棵决策树分别进行一下判断，看看这个样本应该属于哪一类（对于分类算法），然后看看哪一类被选择最多，就预测这个样本为那一类。 三个臭皮匠 顶个诸葛亮



    按这种算法得到的随机森林中的每一棵都是很弱的，但是大家组合起来就很厉害了。我觉得可以这样比喻随机森林算法：每一棵决策树就是一个精通于某一个窄领域的专家（因为我们从M个feature中选择m让每一棵决策树进行学习），这样在随机森林中就有了很多个精通不同领域的专家，对一个新的问题（新的输入数据），可以用不同的角度去看待它，最终由各个专家，投票得到结果。

随机森林是一个最近比较火的算法，它有很多的优点：

 

  •     在数据集上表现良好
  •     在当前的很多数据集上，相对其他算法有着很大的优势
  •     它能够处理很高维度（feature很多）的数据，并且不用做特征选择
  •     在训练完后，它能够给出哪些feature比较重要
  •     在创建随机森林的时候，对generlization error使用的是无偏估计
  •     训练速度快
  •     在训练过程中，能够检测到feature间的互相影响
  •     容易做成并行化方法
  •     实现比较简单