深度学习是机器学习中的热点研究方向,在许多领域取得了巨大的成功。深度森林模型作为一种基于决策树的新型深度学习模型,为基于不可微构件的深度学习打开了大门,展示了无需反向传播即可构建深度学习模型的可行性和有效性。本文在深度森林这个新的研究方向上进行拓展,主要工作包括:1.基于置信筛分的深度森林模型。针对中大规模数据样本的学习,本文提出基于置信筛分的深度森林模型gcForestcs,通过引入预测置信度估计机制,为高置信度样本提供便捷通路,使得同等数据规模所需计算资源降低了一个数量级,大幅提升了深度森林所能处理的样本规模。2.基于特征筛分的深度森林模型。针对高维特征数据的学习,本文提出基于特征筛分的深度森林模型gcForestfs,通过引入特征筛分机制,在每层仅使用高贡献度特征,结合无监督特征转换过程,使得同等数据规模所需计算资源降低了两个数量级,大幅提升了深度森林所能处理的数据维度。3.基于比较信息的深度森林模型。针对特征信息不可得的学习,本文提出基于比较信息的深度森林模型CBDforest,通过引入一种新型的随机森林MixForest为构件,使得模型能同时利用样本间的比较信息和样本的重表示信息进行逐层处理。实验验证了CBDforest在该类学习任务上的有效性。4.针对异常检测的深度森林模型。针对标记信息不可得的异常检测学习任务,本文研究推荐系统中异常用户的检测。通过将异常分为无组织和有组织两类,首先提出基于矩阵补全的检测方法UMA检测无组织异常用户。进而提出深度森林模型IDForest,利用多种检测方法的输出信息,同时检测无组织和有组织两类异常,展示了无监督深度森林的可行性和有效性。