1个回答
这个是xgboost作者陈天骐关于xgboost的ppt，可以看一看
https://homes.cs.washington.edu/~tqchen/pdf/BoostedTree.pdf
节点的权值作为惩罚可以防治模型过于细化。因为分得越细，越容易过拟合。说白了，就是不想让一些点分得太好，好到难以置信。换句话，如果每个叶都分得巨好，那么就需要“陈独秀同学，你先坐下”了。
本质，它是和“叶节点的数量”类似的惩罚，但是不仅防治分得细，还防止分得太好。
听起来有点矛盾，但这的确就是xgboost牛轰轰的思路！
Jiho
2018-03-09 14:14
相关讨论
随便看看