影响性能因素:
1)森林中的每个树越茂盛,分类效果就越好。
2)树和树的枝叶穿插越多,分类效果就越差。
随机森林的随机选取:
1)数据的随机选取:从原始的数据集中采取有放回的抽样,构造子数据集。相同或不同子数据集的元素都可以重复。利用子数据集构建子决策树,将这个数据放到每个子决策树中,每个子决策树输出一个结果。新的数据需要通过随机森林得到分类结果,通过对子决策树的判断结果的投票,得到随机森林的输出结果。
2)待选特征的随机选取:随机森林中子树的每一个分裂过程并没有用到所有的待选特征,仅从所有的待选特征中随机选取一定的特征,再在随机选取的特征中选取最优特征。这样能使得随机森林中的决策树都能够彼此不同,提升系统的多样性,从而提升分类性能。
随机森林优点:
1)具有极高的准确率;
2)可以处理大量的输入变数,并可以评估变数的重要性;
3)随机性的引入,使得随机森林不容易过拟合;
4)随机性的引入,使得随机森林有很好的抗噪声能力;
5)能处理很高维度的数据,并且不用做特征选择;
6)在创建随机森林的时候,对generlizationerror使用的是无偏估计;
7)既能处理离散型数据,也能处理连续型数据,数据集无需规范化;
8)对于不平衡的分类资料集来说,可以平衡误差;
9)训练速度快,可以得到变量重要性排序;
10)容易实现并行化。
随机森林缺点:
1)当随机森林中的决策树个数很多时,训练时需要的空间和时间会较大;
2)随机森林在解决回归问题时并没有像它在分类中表现的那么好,不能够作出超越训练集数据范围的预测,这可能导致在对某些还有特定噪声的数据进行建模时出现过度拟合;
3)随机森林模型还有许多不好解释的地方,有点算是黑盒模型;
随机森林应用前景:
随机森林具有准确度高、抗噪声能力强、不容易过拟合、数据集无需规范化、平衡误差、训练速度快、易实现并行化、应用性强、适用范围广等优点。近年来,随机森林模型在界内的关注度与受欢迎程度有着显著的提升。它可以快速地被应用到几乎任何的数据科学问题中去,从而使人们能够高效快捷地获得第一组基准测试结果。在各种各样的问题中,随机森林一次又一次地展示出令人难以置信的强大,而与此同时它又是如此的方便实用。随机森林算法可被用于很多不同领域,如银行,股票市场,医药和电子商务。在银行领域,用来检测那些比普通人更高频率使用银行服务的客户,并及时偿还他们的债务。也会被用来检测那些想诈骗银行的客户。在金融领域,可用于预测未来股票的趋势。在医疗保健领域,可用于识别药品成分的正确组合,分析患者的病史以识别疾病。在电子商务领域中,随机森林可以被用来确定客户是否真的喜欢某个产品。
结语:
随机森林是一种多功能的机器学习算法,能够执行回归和分类的任务。随机森林用随机的方式建立一个森林,森林里面有很多的决策树组成,可以将几个低效模型(决策树)整合为一个高效模型(随机森林)。它主要解决了决策树泛化能力弱的缺点。同时,随机森林也实现了数据降维,是处理缺失值、异常值或其他数据的重要手段,并取得了不错成效。随机森林是人工智能之机器学习中最近比较火的算法,具有准确度高、抗噪声强、速度快、并行化、适用广等优点,在实际应用中,随机森林算法性能表现得非常强大和实用,因此在业界受到高度关注和欢迎,其应用前景非常广泛和深远。