PCA目标函数的推导
生活随笔
收集整理的这篇文章主要介绍了
PCA目标函数的推导
小编觉得挺不错的,现在分享给大家,帮大家做个参考.
主成分量分析方法(PCA)是一种代表性的无监督的线性特征提取技术。它展示的是高
维空间中数据的变化。PCA 先通过提取高维数据的协方差矩阵的特征向量来得到一个低维的
线性子空间,然后将原始的高维数据投影到这个线性子空间中来进行降维。它的目标是同时
寻找一个正交基函数的集合,这个正交基集合可以捕捉到数据的最大变化的方向,也就是保
证高维数据在投影到低维空间后,原始数据之间包含的变化信息能最大程度的保留到降维后
维空间中数据的变化。PCA 先通过提取高维数据的协方差矩阵的特征向量来得到一个低维的
线性子空间,然后将原始的高维数据投影到这个线性子空间中来进行降维。它的目标是同时
寻找一个正交基函数的集合,这个正交基集合可以捕捉到数据的最大变化的方向,也就是保
证高维数据在投影到低维空间后,原始数据之间包含的变化信息能最大程度的保留到降维后
得到的低维数据中。
目的是使数据投影后的值尽可能的分散,在数学上这种分散程度我们用方差表示, 我们假设每一个样本的先验概率是均匀分布,p(xi)=1/N,
目标函数:
yi表示各个样本在各个基向量中的投影坐标。 假设M为样本的维数, 投影后N的维数小于N,,,M>>N;
现在目的是求得原样本基向量与新的基向量之间的转换矩阵。。
假设yi=wT*xi;
总结
以上是生活随笔为你收集整理的PCA目标函数的推导的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: 局部保留投影(LPP)推导
- 下一篇: 流行学习常用算法