具有等式约束的多元优化

简介

在数学中，多元优化问题指的是在一定的条件下，通过适当的选择多元函数的参数，使其获得最大或最小值的过程。如果在问题中存在等式约束，我们需要使用具有等式约束的多元优化方法。

等式约束下的多元优化

假如我们需要求解以下问题：

$$\begin{aligned}&\text{minimize}&&\quad f(x_1, x_2, \cdots, x_n)\&\text{subject to}&&\quad g_1(x_1, x_2, \cdots, x_n)=0\&&&\quad g_2(x_1, x_2, \cdots, x_n)=0\&&&\quad \cdots\&&&\quad g_m(x_1, x_2, \cdots, x_n)=0\end{aligned}$$

其中，$f(x_1, x_2, \cdots, x_n)$表示我们需要优化的目标函数，$g_1(x_1, x_2, \cdots, x_n)=0, g_2(x_1, x_2, \cdots, x_n)=0, \cdots, g_m(x_1, x_2, \cdots, x_n)=0$是一系列等式约束条件。

这样的问题可以使用拉格朗日乘子法进行求解。

我们首先定义一个拉格朗日函数：

$$L(x_1, x_2, \cdots, x_n, \lambda_1, \lambda_2, \cdots, \lambda_m) = f(x_1, x_2, \cdots, x_n) + \sum_{i=1}^m \lambda_i g_i(x_1, x_2, \cdots, x_n)$$

其中，$\lambda_1, \lambda_2, \cdots, \lambda_m$是拉格朗日乘子。我们可以将目标函数和等式约束合并到一个函数中，这个函数就成为了拉格朗日函数。

求解出此拉格朗日函数的梯度为0的解，就可以得到问题的最优解。根据约束条件，我们可以列出以下方程组：

$$\begin{aligned}&\frac{\partial L}{\partial x_1} = 0\&\frac{\partial L}{\partial x_2} = 0\&\cdots\&\frac{\partial L}{\partial x_n} = 0\&\frac{\partial L}{\partial \lambda_1} = 0\&\frac{\partial L}{\partial \lambda_2} = 0\&\cdots\&\frac{\partial L}{\partial \lambda_m} = 0\end{aligned}$$

解这个方程组就可以得到问题的最优解。

Python 示例

以下是一个Python示例，演示如何使用scipy.optimize库中的minimize函数进行等式约束下的多元优化。示例中的问题是求解一个椭圆内切长方形的最大面积。

import numpy as np
from scipy.optimize import minimize

# 目标函数：面积
def objective(x):
    return -x[0] * x[1]

# 等式约束条件：椭圆
def constraint(x):
    return x[0]**2 / 4 + x[1]**2 / 9 - 1

# 给定初始值
x0 = [1, 1]

# 定义约束条件字典
cons = {'type': 'eq', 'fun': constraint}

# 使用minimize函数进行优化
res = minimize(objective, x0, constraints=cons, method='SLSQP')

# 输出结果
print(res.x)

运行结果为:

[1.33333333 2.25      ]

意味着长方形的边长分别为$\sqrt{3}:\sqrt{5}$，最大面积为$\frac{5\sqrt{3}}{3}$。