非负矩阵分解的原理和方法

2.1 标准NMF

对于非负矩阵分解，早期的研究方法采用传统的梯度下降方法和加性迭代规则，对于负值要强制为。在文献[51]中考虑的是高斯噪声的模型，由此得到目标函数为欧几里德距离，其目标函数为：

相应的迭代规则为：

选择好;的值，配置矩阵牙和H的初始值进行迭代，文献[52]中提到了3种初始化W和H的方法。在Lee给出的算法中，矩阵w和H的初始值可以是任意的，此迭代方法的收敛性的证明可参见文献「53]。Donoh。等人[54〕用几何学的方法来对NMF收敛性进行了解释。

使用这种方法，Lee和seung进行了大量的实验。当输入矩阵的列向量是人脸面部图像时，NMF的基得到了人脸面部元件诸如嘴、鼻子、眼睛等局部特征。这种情况下得到的分解矩阵是稀疏的。这种方法和通过主分量分析(PCA)和矢量量化(vQ)学习得到的基于整体的表示完全不同。