非负矩阵分解

先决条件：低秩近似

非负矩阵分解：对于维度为mxn的矩阵A ，其中每个元素≥ 0，NMF 可以将其分解为两个分别具有维度 mxk和kxn 的矩阵 W 和 H，并且这两个矩阵仅包含非负元素。这里，矩阵 A 定义为：

$A_{m_X n} = W_{m_X k} H_{k_X n}$

where,
A -> Original Input Matrix (Linear combination of W & H)
W -> Feature Matrix
H -> Coefficient Matrix (Weights associated with W)
k -> Low rank approximation of A (k ≤ min(m,n))

该方法广泛用于执行诸如面部识别中的特征减少和各种 NLP 任务等任务。

直觉：

图 1：NMF 直觉

NMF 的目标是降维和特征提取。因此，当我们将较低的维度设置为 k 时，NMF 的目标是找到两个矩阵W ∈ Rm×k和H ∈ Rn×k ，其中只有非负元素。 （如图1所示）

因此，通过使用 NMF，我们能够获得维度明显低于乘积矩阵的分解矩阵。直观上，NMF 假设原始输入由一组隐藏特征组成，由W矩阵的每一列表示，H矩阵中的每一列表示矩阵 W 中的“数据点的坐标”。简单来说，它包含与矩阵W关联的权重。

在这种情况下，在 A 中表示为列的每个数据点都可以通过非负向量的加法组合来近似，这些非负向量在W中表示为列。

现实生活中的例子：

让我们考虑一些现实生活中的例子来理解 NMF 算法的工作原理。我们以图像处理为例。

假设我们有一个输入图像，其像素构成矩阵 A。使用 NMF，我们将其分解为两个矩阵，一个包含面部特征集[矩阵 W] ，另一个包含输入图像中每个面部特征的重要性，即权重[Matrix H] 。 （如图2所示。）

图 2：图像处理中的 NMF

NMF 用于图像处理、文本挖掘、光谱数据分析等主要应用。目前，正在对 NMF 进行研究，以提高其效率和稳健性。其他研究也在集体分解、矩阵的有效更新等方面进行。如有任何疑问/疑问，请在下方评论。