Moore-Penrose 伪逆|数学

在数学中，Moore-Penrose 伪逆是一种广义逆矩阵，可以将其视为正则逆在一定条件下的推广。

基本概念

给定一个实矩阵 $A$, Moore-Penrose 伪逆是满足以下条件的矩阵 $A^+$:

1. $AA^+A = A$
2. $A^+AA^+ = A^+$
3. $(AA^+)^* = AA^+$
4. $(A^+A)^* = A^+A$

这里的 $(\cdot)^*$ 表示矩阵的共轭转置。

逆矩阵是一种特殊的伪逆，当 $A$ 是非奇异方阵时，它的逆矩阵唯一存在。而对于不满秩的矩阵，伪逆提供了一种近似求逆矩阵的方法。

计算公式

Moore-Penrose 伪逆的计算公式如下：

$$ A^+ = (A^A)^{-1}A^ $$

其中，$A^*$ 是 $A$ 的共轭转置。

性质

Moore-Penrose 伪逆具有以下重要的性质：

1. 对于任意矩阵 $A$，它的伪逆 $A^+$ 均存在且唯一；
2. $A^+$ 是唯一的满足条件 $1$ 和 $4$ 的矩阵；
3. $A^+$ 是唯一的满足条件 $2$ 和 $3$ 的矩阵；
4. 如果 $A$ 是满秩矩阵，则 $A^+$ 即为 $A$ 的逆矩阵；
5. $(A^+)^+ = A$；
6. $(A^)^+ = (A^+)^$。

应用

Moore-Penrose 伪逆在机器学习和数据科学中有广泛的应用，特别是在数据降维、线性回归和最小二乘估计中。在深度学习中，它也被用于矩阵分解、梯度下降等算法中的参数优化。

参考文献

1. Moore, E. H. (1920). "On reciprocal matrices". Bulletin of the American Mathematical Society. 26 (7): 394–395. doi:10.1090/S0002-9904-1920-03322-3.
2. Penrose, R. (1955). "A generalized inverse for matrices". Proceedings of the Cambridge Philosophical Society. 51 (3): 406–413. doi:10.1017/S0305004100030401.