在机器学习中老看到凸优化问题这个词,到底什么是凸优化?
1个回答
凸优化问题是一种特殊的优化问题。凸优化问题的形式是
$$\min_{x\in S} f(x),$$
此外还有个等价形式
\begin{eqnarray*}&&\min_{x}f(x)\\ &\text{subject to}&g_i(x) \leq 0, \text{for }i=1,2,\cdots,k\end{eqnarray*}
其中$f(x)$和所有的限制函数$g_i(x)$都必须是凸函数。
凸优化问题有个很好的性质,它的局部最优解一定是全局最优解。(为什么?可以看这里)