决策树与集成算法

文章目录
一、决策树1、树模型2、树的组成3、决策树的训练与测试4、如何切分特征(选择节点)5、经典衡量标准—熵6、改进衡量标准（1）ID3（2）C4.5（3）CART
7、剪枝策略（1）预剪枝（2）后剪枝

二、集成算法1、Ensemble learning2、Bagging模型3、Boosting模型4、Stacking模型
三、参考文献

一、决策树
1、树模型
决策树：从根节点开始一步步走到叶子节点(决策)所有的数据最终都会落到叶子节点，既可以做分类也可以做回归
2、树的组成
根节点：第一个选择点非叶子节点与分支：中间节点叶子节点：最终的决策结果
3、决策树的训练与测试
训练阶段：从给定的训练集构造出来一棵树(从根节点开始选择特征，重点在于如何进行特征切分)测试阶段：根据构造出来的树模型从上到下去执行一遍难点：决策树的难点在于如何构建树模型，需要考虑的因素很多

决策树与集成算法最先出现在Python成神之路。