凸优化：凸函数的一些常用性质

凸函数的一些常用性质

概述

• 连续性
• 强凸函数的二次下界

连续性

凸函数$f$在定义域的内点中连续。进一步有推论，当$\text{dom}f$是开集，$f(x)$在$\text{dom}f$上连续。

因为凸函数在定义域的边界上可能不连续，比如拓展值函数：
当$x\in \text{dom}f$，$f(x)$是凸函数。将其进行拓展，$x\notin \text{dom}f$，$f(x)=+\infty$，可见，此时$f(x)$仍是凸函数，但在定义域边界处，$f(x)$不连续。

强凸函数的二次下界

定义（强凸函数）

若存在$m>0$使得：
$$g(x)=f(x)-m/2\Vert x{\Vert }^2$$
是凸函数，称$f(x)$是强凸函数。
换句话说，$f$至少与二次函数一样凸，相当于限制了凸的速率。

性质（二次下界）

设$f(x)$是可微强凸函数，下述不等式成立：
$$f(y)⩾f(x)+\nabla f(x{)}^{\mathrm{T}}(y-x)+\frac{m}{2}\Vert y-x{\Vert }^2,\forall x,y\in \mathbf{dom}f$$
比一般凸函数，一阶条件不等式多了一项$\frac{m}{2}\Vert y-x{\Vert }^2$

证明：

根据强凸函数的定义$g(x)=f(x)-m/2\Vert x{\Vert }^2$是凸函数，再利用凸函数的一阶条件：
$$g(y)⩾g(x)+\nabla g(x{)}^{\mathrm{T}}(y-x)$$
有：
$$f(y)-m/2\Vert y{\Vert }^2\ge f(x)-m/2\Vert x{\Vert }^2+(\nabla f(x)-mx{)}^T(y-x)$$

$$\Rightarrow f(y)\ge f(x)+m/2\Vert y{\Vert }^2-m/2\Vert x{\Vert }^2+(\nabla f(x)-mx{)}^T(y-x)\ge f(x)+\nabla f(x{)}^{\mathrm{T}}(y-x)+\frac{m}{2}\Vert y-x{\Vert }^2$$