向前逐步选择法和向后逐步选择法的结果是一样的吗？

  统计/机器学习 回归分析 特征选择    浏览次数：9098        分享
二维码
手机扫描二维码
  面试中常见简答题？
0

回归的选择特征有两个方法，一个是向前逐步选择法，一个是向后逐步选择法。它们最终得到的特征是一样的吗？

 

dirkdirk   2019-04-12 09:46


   2个回答 
6

不一定一样，按照实际情况来说，很可能不一样。因为逐步选择特征的方法是贪婪算法，贪婪算法一般都不会达到全局最优。向前和向后应该会分别到达各自的局部最优。

SofaSofa数据科学社区DS面试题库 DS面经

maxroot   2019-04-13 16:36

1

效果不一样。

我感觉forward stepwise好一点。

SofaSofa数据科学社区DS面试题库 DS面经

TheTheThe   2019-07-04 23:53



  相关讨论

做多元线性回归的时候，怎么快速排除掉没有用的特征？

AIC可以是负数吗？

通过SVD分解已经可以得到AX=Y解的稳定性的度量为什么还需要定义条件数来说明？

训练样本中每个维度是否独立对回归结果的影响

LBP算法中解对应的条件数怎么计算？

什么情况下需要做特征选择？

wrapper特征选择法是什么意思？

对于组合特征怎么理解？

一个特征有两个可选的值，只需满足其中一个即可，该如何处理？

partial dependence是什么意思？

  随便看看

假设检验中的p值是什么意思？为什么越小越好？

【站务】我们回来了

机器学习基础

条件概率证明P(a,b|c) > P(a,b)

为什么图的拉普拉斯矩阵的最小特征值一定是0？