');}

Quasi function

Convex Optimization——Quasi function

Quasi Convex function

定义一

所有αα-sublevel set都是凸的函数

f(x)={x,x0x,x0

Quasi Convex定义为

Sα={xdomf|f(x)α}

convex α\R

同样定义Quasi Concave

Sα={xdomf|f(x)α}

对于α\R是convex的

定义Quasi linear

Sα={xdomf|f(x)=α}

是凸集

Quasi convex优化起来比较容易,尽管不能用convex function方法分析

定义二

拟凸下,有

x,ydomf,max(f(x),f(y))f(θ+(1θ(y)))

例子

向量x\Rn的长度,定义为x中最后一个非零元素的个数

f(x)={maxi,xi0i,x00,x=0

f(x)是拟凸函数,对于它的αsublevel set

f(x)αxα+1,xα+2,,xn=0

显然是凸集

线性分数函数

f(x)=aTx+bcTx+ddomf={x|cTx+d>0}

是拟凸的

Sα{x|cTx+d>0,aTx+bα(cTx+d)}

多面体一定是凸集

f(x)=(x1x2xn)1n\Rn++{R21}

x,ydomf,θ(0,1)

θ(x1x2xn)1/n+(1θ)(y1y2yn)1/nni=1θxi+(1θ)yi1/n

向量的0范数(非0元素的个数之和),考虑在一个集合中找稀疏向量

minx0s.txC

这既不是凸问题也不是拟凸问题

考虑近似问题(松弛)

minx1s.txC

变成凸问题

或者用另一种方法近似

f(x)=log(ax2+1)

变成

minlogxx+1xC

是拟凸函数

拟凸函数的其它定义——一阶条件和二阶条件

一阶条件

dom f为凸,并且

f(y)f(x)Tf(x)(yx)0

domf\R

Quasi convex具有

max{f(x),f(y)}f(θx+(1θy))

则写成

f(x)f(θx+(1θ)y)

梯度写成

f(x)=limt0f(x+t)f(x)t=limyxf(x+(1θ)(yx))f(x)(1θ)(yx)

写成

f(θx+(1θ)y)f(x)(1θ)(yx)(1θ)(yx)0θ1f(x)(yx)0

得证

考虑

max{f(y),f(x)}f(θx+(1θ)y)=f(x)f(θx+(1θ)y)

写成

f(x)f(θx+(1θ)y)(1θ)(xy)(1θ)(xy)=f(x)(xy)0

(这个证明貌似只是在θ1)成立?这里貌似要推广到θ(0,1)

在第21讲中修正,需要证明

x,ydomf,f(y)f(x),θ[0,1]max{f(x),f(y)}f(θx+(1θ)y)

z=θx+(1θ)y,我们证明

f(z)f(x)f(x)=f(z)

如果有f(z)f(x),则

f(x)f(z),f(y)f(z)

同时得到

f(z)(yz)0f(z)(xz)0

带入z,得到

f(z)(θ(yx))0f(z)(yx)0f(z)((1θ)(xy))0f(z)(xy)0

因此有

f(z)=0

则总是存在z1,满足

f(z1)f(x)

同时f(z1)=0,并且对于z[x,z],这个结论都成立

对于convex function,如果有f(x)=0,则y,f(y)f(x)

这个结论对于Quasi function并不成立

对于定义域内均可微的函数,是否最小点一定有f(x)=0?

二阶条件

如果f为拟凸函数,dom f为凸,且

yTf(x)0()

一定有

yT2f(x)y0

n = 1 的情况,如果y0,则f(x)0

如果不满足拟凸函数的二阶条件,则不为二阶条件

Log concave && Log convex

定义

f(\Rn\R)为log concave,若f(x)>0,xdomf,且logf为凹函数

Relations between log concave

  1. f为log convex,则f为convex
  2. f为concave,则f为log concave
本站访客数1972人次