文章目录
- 1 凸集
- 1.1 线性空间
- 1.2 欧氏空间
- 1.3 凸集
- 1.4 仿射
- 1.4.1 仿射函数
- 1.4.2 线性函数
- 1.4.3 仿射变换
- 2 凸函数
- 2.1 描述
- 2.2 定义
- 2.3 举例
- 3 凸优化
- 4 凸二次规划
- 5 参考文献
1 凸集
1.1 线性空间
V是非空集合,F是数域,若在其上定义了加法和数乘运算,且满足八条法则,则称集合V为数域F上的线性空间。
1.2 欧氏空间
在数域R上的n维线性空间上定义了内积运算,且满足四条法则,则称此n维线性空间为n维欧氏空间。
1.3 凸集
在欧氏空间中,若对于集合内的每一对点,连接该对点的直线段上的每个点也在该集合内,则称该集合为凸集(convex set)。如球体是凸集。任何中空的或具有凹痕的集合都不是凸集。例如五角星不是凸集,称为凹集。特别地,实数域R或复数域C上的向量空间中,若集合S中任两点的连线上的点都在S内,则称集合S为凸集。
1.4 仿射
1.4.1 仿射函数
仿射函数是最高次数为1的多项式函数,一般形式为f(x)=Ax+b,A是m×k阶矩阵,x是一个k维列向量,b是m维列向量,f是从k维向量空间到m维向量空间的一个映射。
1.4.2 线性函数
常数项为零的仿射函数称为线性函数。一般形式为f(x)=Ax。
1.4.3 仿射变换
从Rk到Rm的映射x→Ax+b称为仿射变换(k≠m时)或仿射映射(k=m时)。若f是仿射变换,且S为凸集,则f(S)={f(x)|x∈S}为凸集。反之,若f是仿射变换,f(S)为凸集,则S为凸集。
2 凸函数
2.1 描述
若函数的图像的上方区域是凸集,则该函数是凸函数。注意上方,因为看的角度不同凹凸性就是相反的,比如正方放着的碗是凸的,倒扣着的碗就是凹的。
2.2 定义
若函数f的定义域dom f为凸集,且满足f(x+(1-θ)y)<=θf(x)+(1-θ)f(y),其中x,y∈dom f且0=<θ<=1。
2.3 举例
(1)指数函数:f(x)=eax;
(2)幂函数:f(x)=xa,x∈R+,a≥1或a≤0;
(3)负对数函数:f(x)=-lnx;
(4)负熵函数:f(x)=xlnx;
(5)最大值函数:f(x)=max{x1,x2,…,xN}。
3 凸优化
凸优化问题一般是最小化问题,通过将目标函数加负号便可以使最大化问题变为最小化问题。
约束最优化问题的一般形式如下:
设f(x)的定义域为domain f,mi(x)的定义域为domain mi,则可行域为D=domain f ∩ domain mi,即二者的交集。
若目标函数f(x)为凸函数,可行域为凸集时(即不等式约束中mi(x)为凸函数,且等式约束中nj(x)为仿射函数),则称这种约束最优化问题为凸优化问题。凸优化问题的局部最优解称为全局最优解。
4 凸二次规划
r与ai为n维实向量,bi为为实数,i=1,2…,L,L+1,…L+M。对于下面的约束优化问题:
若目标函数f(x)为二次函数,G为对称矩阵,不等式约束均为仿射函数,则称上述约束优化问题为二次规划(quadratic programming)问题,即QP问题。
若f(x)中的矩阵G是半正定矩阵,则称上述QP问题为凸二次规划问题(convex quadratic programming);若G是正定矩阵,则为严格凸二次规划问题。
若G为半正定矩阵,可行域不为空,且目标函数f(x)在可行域有下界,则该凸二次规划问题有全局最小值。更进一步,若G为正定矩阵,可行域不为空,且目标函数f(x)在可行域有下界,则该严格凸二次规划问题有唯一全局最小值。
5 参考文献
1、百度百科;
2、凸集、凸函数、凸优化和凸二次规划。
END