XGBClassifier和XGBRegressor里的base_score有什么用?

  统计/机器学习 监督式学习 Python    浏览次数:10430        分享
1

XGBClassifier和XGBRegressor里都有一个base_score变量,这个变量有什么用,需要设置吗?还是作为调参的选项?

 

wxjjnss   2018-11-06 08:46



   2个回答 
7

base_score就是总体的均值,对于二元分类问题,base_score就是1占据的比重;对于回归问题,base_score就是整体的均值。

如果样本有权重,base_score就应该设置为加权均值。

base_score相当于是迭代的初始的起点,如果设置base_score的话,并且设置为总体均值的话,应该能够起到加快收敛的效果,但是即使没有设置base_score,只要Learning rate适当,迭代步数够多,设置base_score与否也不影响最终结果。

SofaSofa数据科学社区DS面试题库 DS面经

chrisliang   2018-11-07 12:14

谢谢,既然这样的话,似乎不设置也不要紧 - wxjjnss   2018-11-15 11:18
2

base_score – The initial prediction score of all instances, global bias.

SofaSofa数据科学社区DS面试题库 DS面经

dizhouw2   2018-11-07 06:42



  相关讨论

python里XGBClassifier怎么设置early stop?

XGBClassifier设置random_state报错

xgboost的sklearn接口有n_estimators参数,xgboost原始接口没有这个参数?

xgboost可以用sklearn里的GridSearchCV吗?

xgboost中的参数min_child_weight是什么意思?

为什么lightgbm比xgb快?

xgboost中的决策树的复杂度是怎么定义的?

GBDT和XGBoost在叶子节点权重计算上有什么不同?

stack多个xgboost效果并不理想

GBDT和XGBoost使用的都是回归树,原理上是怎么支持解决分类问题的?

  随便看看

python sklearn模型中random_state参数的意义

点击率的95%置信区间该怎么算?

numpy.array从行向量转为列向量

python直方图y轴显示占比,而不是绝对数值

T检验的effect size是什么?有什么含义吗?