看到知乎上一个问题的回答下有『RBF核:主要用于线性不可分的情形。参数多,分类结果非常依赖于参数。』
请问参数多主要体现在哪里呢?公式里面不就一个sigma平方吗?
2个回答
不确定题主到底有没有理解。但anyway我可以给更详细的解释,对后来者有帮助也是极好的。
Kernel是用来升维的,其升维的原理在于用极少的计算量计算高维度feature vector的内积。也就是说Kernel一定表示的是feature vector的内积,那么现在的问题就在于Gaussian kernel到底表示了什么feature vector的内积?
请看下面的分解:
所以Gaussian kernel “隐性”(implicitly)地表示了两个无限维度feature的内积……之所以是“隐性”是因为我们单纯通过kernel无法知道feature的具体形式。但可以确定feature的维数。
我试着回答一下我的理解。
『RBF核:主要用于线性不可分的情形。参数多,分类结果非常依赖于参数。』这里的参数是模型的参数(系数)。
『请问参数多主要体现在哪里呢?公式里面不就一个sigma平方吗?』这里的参数是指模型的超参数。
我们调参的时候是调节的超参数。模型自己学习的是参数。
我们知道SVM的kernel function很多时候是用来升维的。
每个维度对应着一个参数(线性方程里每个变量前面的系数),升维之后,参数自然变多了。
大概理解了 谢谢
-
dzzxjl
2018-03-16 19:30