令S为$ \ mathbb {R} ^ n $和$ y \ notin S $中的非空封闭凸集。然后，存在一个非零向量$ p $和标量$ \ beta $，使得对于每个$ x \ in S $，$ p ^ T y> \ beta $和$ p ^ T x <\ beta $

证明

由于S是非空封闭凸集，而$ y \ notin S $因此是最近点定理，因此在S $中存在唯一的最小化点$ \ hat {x} \ in

$ \ left(x- \ hat {x} \ right)^ T \ left(y- \ hat {x} \ right)\ leq 0 \ forall x \ in S $

设$ p = \ left(y- \ hat {x} \ right)\ neq 0 $和$ \ beta = \ hat {x} ^ T \ left(y- \ hat {x} \ right)= p ^ T \ hat {x} $。

然后$ \ left(x- \ hat {x} \ right)^ T \ left(y- \ hat {x} \ right)\ leq 0 $

$ \ Rightarrow \ left(y- \ hat {x} \ right)^ T \ left(x- \ hat {x} \ right)\ leq 0 $

$ \ Rightarrow \ left(y- \ hat {x} \ right)^ Tx \ leq \ left(y- \ hat {x} \ right)^ T \ hat {x} = \ hat {x} ^ T \ left (y- \ hat {x} \ right)$即$ p ^ Tx \ leq \ beta $

另外，$ p ^ Ty- \ beta = \ left(y- \ hat {x} \ right)^ Ty- \ hat {x} ^ T \ left(y- \ hat {x} \ right)$

$ = \ left(y- \ hat {x} \ right)^ T \ left(yx \ right)= \ left \ | y- \ hat {x} \ right \ | ^ {2}> 0 $

$ \ Rightarrow p ^ Ty> \ beta $

该定理导致分离超平面。基于上述定理的超平面可以定义如下-

假设$ S_1 $和$ S_2 $是$ \ mathbb {R} $的非空子集，而$ H = \ left \ {X：A ^ TX = b \ right \} $是超平面。

• 如果$ A ^ TX \ leq b \ forall X \ in S_1 $和$ A_TX \ geq b \ forall X \ S_2 $中，据说超平面H分离$ S_1 $和$ S_2 $。

• 如果$ A ^ TX b \ forall X \ S_2 $，则据说超平面H严格分隔$ S_1 $和$ S_2 $。

• 如果$ A ^ TX \ leq b \ forall X \ in S_1 $和$ A_TX \ geq b + \ varepsilon \ forall X \ S_2 $，其中$ \ varepsilon，则超平面H会强烈分隔$ S_1 $和$ S_2 $ $是一个正标量。