📜  凸优化-凸集

📅  最后修改于: 2020-11-25 04:47:31             🧑  作者: Mango


令$ S \ subseteq \ mathbb {R} ^ n $如果连接集合S的任意两个点的线段也属于S,即如果$ x_1,x_2 \ in S $,则说集合S是凸的。 ,然后$ \ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ in S $其中$ \ lambda \ in \ left(0,1 \ right)$。

注意

  • 两个凸集的并集可以是凸的,也可以不是。
  • 两个凸集的交集始终是凸的。

证明

令$ S_1 $和$ S_2 $为两个凸集。

设$ S_3 = S_1 \ cap S_2 $

设$ x_1,x_2 \ in S_3 $

由于$ S_3 = S_1 \ cap S_2 $因此,$ x_1,x_2 \在S_1 $和$ x_1,x_2 \在S_2 $

由于$ S_i $是凸集,因此$ \ forall $ $ i \ in 1,2,$

因此$ \ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ in S_i $其中$ \ lambda \ in \ left(0,1 \ right)$

因此,$ \ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ in S_1 \ cap S_2 $

$ \ Rightarrow \ lambda x_1 + \ left(1- \ lambda \ right)x_2 \在S_3 $

因此,$ S_3 $是一个凸集。

  • 格式$ \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_ix_i $的加权平均值,其中$ \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_i = 1 $和$ \ lambda_i \ geq 0 ,\ forall i \ in \ left [1,k \ right] $称为$ x_1,x_2,…. x_k。$的圆锥组合。

  • 格式$ \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_ix_i $的加权平均值,其中$ \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_i = 1 $的仿射组合称为$ x_1的仿射组合,x_2,…. x_k。$

  • 格式$ \ displaystyle \ sum \ limits_ {i = 1} ^ k \ lambda_ix_i $的加权平均值称为$ x_1,x_2,…. x_k。$的线性组合

例子

步骤1-证明集合$ S = \ left \ {x \ in \ mathbb {R} ^ n:Cx \ leq \ alpha \ right \} $是凸集合。

令$ x_1 $和$ x_2 \为S $

$ \ Rightarrow Cx_1 \ leq \ alpha $和$ \:and \:Cx_2 \ leq \ alpha $

要显示:$ \:\:y = \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ in S \:\ forall \:\ lambda \ in \ left(0,1 \右)$

$ Cy = C \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)= \ lambda Cx_1 + \ left(1- \ lambda \ right)Cx_2 $

$ \ Rightarrow Cy \ leq \ lambda \ alpha + \ left(1- \ lambda \ right)\ alpha $

$ \ Rightarrow Cy \ leq \ alpha $

$ \ Rightarrow y \ in S $

因此,$ S $是一个凸集。

步骤2-证明\ mathbb {R} ^ 2:x_ {1} ^ {2} \ leq 8x_2 \ right \} $中的$ S = \ left \ {\ left(x_1,x_2 \ right)\ in凸集。

设$ x,y \ in S $

设$ x = \ left(x_1,x_2 \ right)$和$ y = \ left(y_1,y_2 \ right)$

$ \ Rightarrow x_ {1} ^ {2} \ leq 8x_2 $和$ y_ {1} ^ {2} \ leq 8y_2 $

要显示-$ \ lambda x + \ left(1- \ lambda \ right)y \ in S \ Rightarrow \ lambda \ left(x_1,x_2 \ right)+ \ left(1- \ lambda \ right)\ left(y_1, y_2 \ right)\ in S \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda)y_2] \ in S \ right \ right] $

$ Now,\ left [\ lambda x_1 + \ left(1- \ lambda \ right)y_1 \ right] ^ {2} = \ lambda ^ 2x_ {1} ^ {2} + \ left(1- \ lambda \ right) ^ 2y_ {1} ^ {2} +2 \ lambda \ left(1- \ lambda \ right)x_1y_1 $

但是$ 2x_1y_1 \ leq x_ {1} ^ {2} + y_ {1} ^ {2} $

因此,

$ \ left [\ lambda x_1 + \ left(1- \ lambda \ right)y_1 \ right] ^ {2} \ leq \ lambda ^ 2x_ {1} ^ {2} + \ left(1- \ lambda \ right) ^ 2y_ {1} ^ {2} +2 \ lambda \ left(1- \ lambda \ right)\ left(x_ {1} ^ {2} + y_ {1} ^ {2} \ right)$

$ \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda \ right)y_1 \ right] ^ {2} \ leq \ lambda x_ {1} ^ {2} + \ left(1- \ lambda \ right) y_ {1} ^ {2} $

$ \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda \ right)y_1 \ right] ^ {2} \ leq 8 \ lambda x_2 + 8 \ left(1- \ lambda \ right)y_2 $

$ \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda \ right)y_1 \ right] ^ {2} \ leq 8 \ left [\ lambda x_2 + \ left(1- \ lambda \ right)y_2 \ right] $

$ \ Rightarrow \ lambda x + \ left(1- \ lambda \ right)y \ in S $

步骤3-证明当且仅当对于每个整数k,$ S $的任何k个点的每个凸组合都在$ S $中时,\ mathbb {R} ^ n $中的集合$ S \是凸的。

设$ S $为凸集。然后展示

$ c_1x_1 + c_2x_2 + ….. + c_kx_k \ in S,\ displaystyle \ sum \ limits_ {1} ^ k c_i = 1,c_i \ geq 0,\ forall i \ in 1,2,….,k $

归纳证明

对于$ k = 1,x_1 \ in S,c_1 = 1 \ Rightarrow c_1x_1 \ in S $

对于S中的$ k = 2,x_1,x_2 \,c_1 + c_2 = 1 $并且由于S是凸集

$ \ Rightarrow c_1x_1 + c_2x_2 \ in S. $

令S的m个点的凸组合在S中,即

$ c_1x_1 + c_2x_2 + … + c_mx_m \ in S,\ displaystyle \ sum \ limits_ {1} ^ m c_i = 1,c_i \ geq 0,\ forall i \ in 1,2,…,m $

现在,让$ x_1,x_2 ….,x_m,x_ {m + 1} \ in S $

设$ x = \ mu_1x_1 + \ mu_2x_2 + … + \ mu_mx_m + \ mu_ {m + 1} x_ {m + 1} $

令$ x = \ left(\ mu_1 + \ mu_2 + … + \ mu_m \ right)\ frac {\ mu_1x_1 + \ mu_2x_2 + \ mu_mx_m} {\ mu_1 + \ mu_2 + ……… + \ mu_m} + \ mu_ {m + 1} x_ {m + 1} $

令$ y = \ frac {\ mu_1x_1 + \ mu_2x_2 + … + \ mu_mx_m} {\ mu_1 + \ mu_2 + ……… + \ mu_m} $

$ \ Rightarrow x = \ left(\ mu_1 + \ mu_2 + … + \ mu_m \ right)y + \ mu_ {m + 1} x_ {m + 1} $

现在$ y \ in S $因为系数的和是1。

$ \ Rightarrow x \ in S $,因为S是凸集,而$ y,x_ {m + 1} \ in S $

因此通过归纳证明。