对函数进行log变换后,它的凹凸性会变吗?

  数学 高等数学 最优化    浏览次数:8476        分享
1

我们经常对似然函数做对数变换(取log),这样的变换之后,似然函数的凹凸性会变吗?

如果原似然函数是非凸的,取log后,可能变成凸的吗?

 

姜金杰   2018-07-20 22:16



   2个回答 
8

要判断一个(光滑)函数的凹凸性,只要对它求二阶导就可以了,二阶导小于等于0,说明是凹;大于等于0,说明是凸的。。

比如某个函数$f(x)$,我们想知道$\log f(x)$的凹凸性,就只需要对$\log f(x)$求导。

$$\left(\log f(x)\right)''=\left(\frac{f'(x)}{f(x)}\right)'=\frac{f(x)f''(x)-(f'(x))^2}{f^2(x)}$$

因为$f(x)$能够被取log,所以肯定是正数。

如果$f(x)$是函数,那么$\log f(x)$还是凹函数

如果$f(x)$是函数,那么$\log f(x)$不一定是凸函数


如果likelihood function是凹的,那么log likelihood function肯定也是凹的,导数为0的点就是最大值点。

SofaSofa数据科学社区DS面试题库 DS面经

sasa   2018-07-22 05:11

2

sasa已经讲得挺清楚的了,我就补充一个小例子

左边是凸函数,右边是取对数后,变成了凹函数

SofaSofa数据科学社区DS面试题库 DS面经

子京   2019-03-04 13:43



  相关讨论

凸优化中的仿射是什么意思

凸函数有鞍点吗?

凸函数、凸集分别是什么意思?

凸函数一定可导吗?

两个凸函数相加,还是凸函数吗?

凸优化问题一定存在最优解吗?

如果极小值就是最小值,那么这个函数就是凸函数吗?

牛顿法是凸优化算法还是全局优化算法?

非凸的目标函数还可以用随机梯度下降吗?

凸优化中局部最优解就是全局最优解吗?

  随便看看

查看sklearn的线性回归系数的p value

为什么机器学习中的优化问题很少用到牛顿法?

推荐系统中的召回(recall)是什么意思?

T检验的effect size是什么?有什么含义吗?

python里清除已经定义过的变量