📜  凸凹函数

📅  最后修改于: 2020-11-25 04:51:21             🧑  作者: Mango


设$ f:S \ rightarrow \ mathbb {R} $,其中S是$ \ mathbb {R} ^ n $中的非空凸集,则说$ f \ left(x \ right)$在S上是凸的如果$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left( x_2 \ right),\ forall \ lambda \ in \ left(0,1 \ right)$。

另一方面,让$ f:S \ rightarrow \ mathbb {R} $,其中S是$ \ mathbb {R} ^ n $中的非空凸集,则说$ f \ left(x \ right)$如果$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ geq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right )f \ left(x_2 \ right),\ forall \ lambda \ in \ left(0,1 \ right)$。

令$ f:S \ rightarrow \ mathbb {R} $其中S是$ \ mathbb {R} ^ n $中的非空凸集,则说$ f \ left(x \ right)$在S上严格凸如果$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)<\ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right),\ forall \ lambda \ in \ left(0,1 \ right)$。

令$ f:S \ rightarrow \ mathbb {R} $其中S是$ \ mathbb {R} ^ n $中的非空凸集,则说$ f \ left(x \ right)$在S上严格凹如果$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)> \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right),\ forall \ lambda \ in \ left(0,1 \ right)$。

例子

  • 线性函数既是凸的又是凹的。

  • $ f \ left(x \ right)= \ left | x \ right | $是一个凸函数。

  • $ f \ left(x \ right)= \ frac {1} {x} $是一个凸函数。

定理

令$ f_1,f_2,…,f_k:\ mathbb {R} ^ n \ rightarrow \ mathbb {R} $为凸函数。考虑函数$ f \ left(x \ right)= \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left(x \ right)$其中$ \ alpha_j> 0,j = 1,2,。 ..k,$则$ f \ left(x \ right)$是一个凸函数。

证明

由于$ f_1,f_2,… f_k $是凸函数

因此,$ f_i \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f_i \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f_i \ left (x_2 \ right),\ forall \ lambda \ in \ left(0,1 \ right)$和$ i = 1,2,….,k $

考虑函数$ f \ left(x \ right)$。

因此,

$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)$

$ = \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left(\ lambda x_1 + 1- \ lambda \ right)x_2 \ leq \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_j \ lambda f_j \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f_j \ left(x_2 \ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda \ left(\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left( x_1 \ right)\ right)+ \ left(\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left(x_2 \ right)\ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_2 \ right)\ leq \ left(1- \ lambda \ right)f \左(x_2 \右)$

因此,$ f \ left(x \ right)$是一个凸函数。

定理

假设$ f \ left(x \ right)$是凸集$ S \ subset \ mathbb {R} ^ n $的凸函数,则S上$ f \ left(x \ right)$的局部最小值是全局最小值

证明

假设$ \ hat {x} $是$ f \ left(x \ right)$的局部最小值,而$ \ hat {x} $不是全局最小值。

因此,$ \在S $中存在\ hat {x} \,使得$ f \ left(\ bar {x} \ right)

由于$ \ hat {x} $是局部最小值,因此存在邻域$ N_ \ varepsilon \ left(\ hat {x} \ right)$使得$ f \ left(\ hat {x} \ right)\ leq f \ left(x \ right),\ forall x \ in N_ \ varepsilon \ left(\ hat {x} \ right)\ cap S $

但是$ f \ left(x \ right)$是S上的凸函数,因此对于$ \ lambda \ in \ left(0,1 \ right)$

我们有$ \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ leq \ lambda f \ left(\ hat {x} \ right)+ \ left(1- \ lambda \ right)f \ left(\ bar {x} \ right)$

$ \ Rightarrow \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} <\ lambda f \ left(\ hat {x} \ right)+ \ left(1- \ lambda \ right)f \ left(\ hat {x} \ right)$

$ \ Rightarrow \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x}

但是对于$ \ lambda <1 $但接近1,我们有

$ \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ in N_ \ varepsilon \ left(\ hat {x} \ right)\ cap S $和$ f \ left( \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ right)

这是一个矛盾。

因此,$ \ bar {x} $是全局最小值。

题词

令S为$ \ mathbb {R} ^ n $中的一个非空子集,令$ f:S \ rightarrow \ mathbb {R} $为$,则epi(f)或$ E_f $表示的f的题词是子集$ \ mathbb {R} ^ n + 1 $的定义,由$ E_f = \ left \ {\ left(x,\ alpha \ right):x \ in \ mathbb {R} ^ n,\ alpha \ in \ mathbb { R},f \ left(x \ right)\ leq \ alpha \ right \} $

催眠术

令S为$ \ mathbb {R} ^ n $中的非空子集,令$ f:S \ rightarrow \ mathbb {R} $,则由hyp(f)或$ H_f = \ left表示的f的象形图\ {\ left(x,\ alpha \ right):x \ in \ mathbb {R} ^ n,\ alpha \ in \ mathbb {R} ^ n,\ alpha \ in \ mathbb {R},f \ left( x \ right)\ geq \ alpha \ right \} $

定理

令S为$ \ mathbb {R} ^ n $中的非空凸集,令$ f:S \ rightarrow \ mathbb {R} ^ n $,则f仅在其题词$ E_f $为凸集。

证明

令f为凸函数。

显示$ E_f $是一个凸集。

设$ \ left(x_1,\ alpha_1 \ right),\ left(x_2,\ alpha_2 \ right)\ in E_f,\ lambda \ in \ left(0,1 \ right)$

在E_f $中显示$ \ lambda \ left(x_1,\ alpha_1 \ right)+ \ left(1- \ lambda \ right)\ left(x_2,\ alpha_2 \ right)\

$ \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda \ right)x_2,\ lambda \ alpha_1 + \ left(1- \ lambda \ right)\ alpha_2 \ right] \在E_f $

$ f \ left(x_1 \ right)\ leq \ alpha _1,f \ left(x_2 \ right)\ leq \ alpha _2 $

因此,$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left (x_2 \ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda \ alpha_1 + \ left(1- \ lambda \ right)\ alpha_2 $

交谈

令$ E_f $为凸集。

为了证明f是凸的。

即显示$ x_1,x_2 \ in S,\ lambda \ left(0,1 \ right)$

$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right)$

设$ x_1,x_2 \ in S,\ lambda \ in \ left(0,1 \ right),f \ left(x_1 \ right),f \ left(x_2 \ right)\ in \ mathbb {R} $

因为$ E_f $是一个凸集,所以$ \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2,\ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)\ right)f \ left(x_2 \ right)\ in E_f $

因此,$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left (x_2 \ right)$