12.1 主成分分析原理（PCA)

已于 2024-01-31 10:50:24 修改
阅读量684 收藏 2
点赞数 8
CC 4.0 BY-SA版权
分类专栏： 7.数据处理 文章标签： 人工智能 算法
于 2024-01-26 17:24:50 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_71719718/article/details/135870816

主成分分析步骤如下：

设有n条m维数据

1. 将原始数据按列组成n行m列矩阵X ；

2. 将矩阵 X 的每一行进行零均值化；

3. 求出协方差矩阵C=\frac{1}{m}XX^{^{T}}；

4. 求出协方差矩阵的特征值及对应的特征向量；

5. 将特征向量按对应特征值大小从上到下按行排列成矩阵，取前k行组成矩阵 P；

6. Y=PX即为降维到k维后

最低0.47元/天 解锁文章

200万优质内容无限畅学
16、主成分分析（PCA）全面解析与实践
lstm7chronicler的博客
07-25 17
本文全面解析了主成分分析（PCA）的理论基础、数学推导和实际应用。内容包括PCA的基本概念、特征值与特征向量的求解、数据缩放的重要性、R语言实现代码以及PCA在数据可视化、聚类分析和回归建模中的应用。同时，还介绍了K-means聚类和层次聚类的实现方法，并提供了多个练习题及详细解答。文章旨在帮助读者深入理解PCA及相关技术，并能够在实际问题中灵活运用。
25、手指静脉数据的生物特征分析：二维核主成分分析
ooo22的博客
06-10 17
本文探讨了基于二维核主成分分析（KPCA）的指静脉数据生物特征识别方法。通过比较不同核函数（如高斯核、指数核、拉普拉斯核和多项式核）在指静脉识别中的性能，实验表明KPCA具有优异的识别效果，尤其是高斯核和指数核在训练样本较多时准确率接近100%。文章还介绍了指静脉识别的应用场景、优势以及未来研究方向，为该技术的发展和优化提供了理论支持和实践指导。
PCA主成分分析
m0_63260018的博客
06-11 4177
目前图像特征的提取主要有两种方法：传统图像特征提取方法 和 深度学习方法。特征选择（feature selection）和特征提取（Feature extraction）都属于；PCA主成分分析是传统特征提取方法当中最常用的算法，没有之一，传统的特征提取方法没有深度学习那么严谨，智能，准确度也没那么高，但它在做法上没有深度学习那么复杂，因为深度学习还需要训练参数等等，比较耗时。很多情况下并不需要用到深度学习的知识，简单点说，就是杀鸡焉用牛刀。
中心化和标准化
qq_40245123的博客
10-31 2万+
一、中心化（又叫零均值化）和标准化（又叫归一化）概念及目的？ 1、在回归问题和一些机器学习算法中，以及训练神经网络的过程中，通常需要对原始数据进行中心化（Zero-centered或者Mean-subtraction（subtraction表示减去））处理和标准化（Standardization或Normalization）处理。 数据标准化（归一化）处理是数据挖掘的一项基础工作，不同评价指标
【Python机器学习】之 PCA 算法（二）
努力学习的大小宝
08-12 1166
PCA 算法 1、主成分分析 1.1、主成分分析介绍 ​ 主成分分析（PCA）是一种非常重要的无监督降维学习方法。其基本思想：找出原始数据最主要的方面来替代原始数据，使得在损失少部分原始信息的基础上极大地降低原始数据的维度。 ​ 这一方法利用正交变换把由线性相关变量表示的观测数据转换为由少数几个由线性无关变量表示的数据，线性无关的变量称为主成分。主成分的个数通常小于原始变量的个数，所以主成分分...
《scikit-learn机器学习》 - PCA算法原理解释和k-均值算法【单纯理解】
Bessie_Lee
11-23 808
目录PCA算法k-均值算法 PCA算法 PCA算法是Principal Component Analysis的简称 它是一种分析算法，目的是将维度约减的算法 白话文讲就是把高维度的数据在损失最小的情况下转化为低维度的数据的算法 n维的降成k维的时候，需要k个向量： 如果我们要将一个二维的数据降成一维的数据，那么需要有一个u 如果我们要将一个三维的数据降成二维数据，就需要一个u1和一个u2 要向量就是把数据的投影记录下来，然后最终使得投影的误差最小化，就是PCA算法的解法 在期间，我们会遇到很多问题，比
matlab的pca为什么要零均值化,特征归一化特性及其数学原理推导
weixin_42513387的博客
03-24 2273
前言买了本《百面机器学习》看着玩，虽然已经毕业了，机器学习还是放不下吧，希望以后新的机会出现能够及时抓住。书中第一章「特征工程」的“01 特征归一化”(第002-003页)提到：对数值类型的特征做归一化可以将所有的特征都统一到一个大致相同的数值区间内。最常用的方法主要有以下两种。(1)线性函数归一化(Min-Max Scaling)。它对原始数据进行线性变换，使结果映射到[0, 1]的范围，实现对...
23、降维技术中的数学原理与方法应用
最新发布
keras9composer的博客
07-22 18
本博客深入探讨了降维技术中的数学原理与方法应用，涵盖稀疏表达、主成分分析（PCA）与中心化处理、协方差矩阵与Gram矩阵的关系、从距离矩阵到Gram矩阵的转换、概率解释与最大似然方法以及Nyström近似等内容。通过详细的数学推导和实际应用场景分析，文章展示了如何高效处理高维数据，并提供了一系列操作步骤和方法对比，旨在帮助读者更好地理解和应用降维技术。
基于时间结构的独立成分分析（tICA）揭示了蛋白质波动的缓慢动力学: 域运动的情况
qq_55240560的博客
04-19 1191
介绍了一种全原子分子动力学 (MD) 模拟和基于时间结构的独立成分分析 (tICA) 研究长时间尺度的蛋白质动力学的方法。作者选择了赖氨酸，精氨酸，鸟氨酸结合蛋白 (LAO) 作为靶蛋白，并将LAO在开放状态下的结构域运动作为研究对象。首先，在600 ns内对显式水中的LAO进行MD模拟，观察到LAO的慢速和大幅度的域运动。
机器学习PCA学习(主成分分析)
silent1cat的博客
10-21 807
前言 主成分分析(Principal Components Analysis)，简称PCA，一种数据降维技术，常用于数据处理这一方面，好比说我们的数据集中有100个特征，这些特征可能有共性、无用的信息，或者我们想要将多特征融合，此时我们就需要用到PCA降维技术。 PCA实现原理 通俗来说，就是将数据从原始的向量空间转换到新的特征空间中去。比如：我们有在原始向量空间中的四维数据(a,b,c,d)，需要将其降到三维，那么原理是通过某种方法，用新的坐标(a0,b0,c0,d0)来表示原始坐标。(在新的特征空间中，
PCA(主成分分析)思想及实现
瞳瞳瞳呀
07-06 3389
PCA的概念： PCA是用来实现特征提取的。 特征提取的主要目的是为了排除信息量小的特征，减少计算量等。 简单来说： 当数据含有多个特征的时候，选取主要的特征，排除次要特征或者不重要的特征。 比如说：我们要区分猫和狗。那么，猫和狗是否有胡子就变得尤为重要，这属于主要特征，但是猫和狗的颜色就变得不重要了，这就属于不重要特征了。但是当我们要区分猫的种类的时候，猫的颜色又变成主要特征了。这说明主要特征是相对的，而不是绝对的。而我们要保留那些对结果更重要的特征，减少不重要的特征，这就是主成分分析。 PCA的实现：
主成分分析
张之海的博客
09-04 1277
1 主成分分析的步骤 在详述主成分分析之前，需要像语文阅读理解那样，通读全文（不用关注细节），知道这个方法要干什么，有什么计算步骤。
一文速学数模-降维模型(一)PCA（主成分分析法）原理以及应用+代码实现
master_hunter的博客
03-05 4万+
前言 PCA多用于对数据特征集进行降维，也方便对数据集进行可视化操作，说白了最后进行结果展示那么多特征向量要一起表示的话肯定很难展示，超过三维的数据就很难展示了。而PCA可对特征集进行简化，通俗的来讲也就是合并好理解。PCA应用的范围很广因此很有必要要学习，原理肯定还是数学证明，在特征工程上经常使用。希望读者看完能够提出错误或者看法，博主会长期维护博客做及时更新。纯分享，希望大家喜欢。 一、为什么需要PCA？（为什么要降维） 在各个领域进行数据收集或是数据采样时往往都是存在多个指标或是特征...
主成分分析（PCA）学习笔记
weixin_34132725的博客
12-01 2217
首先回顾一下PCA，即主成分分析法的步骤 对数据计算协方差矩阵S 求出矩阵的特征值和特征向量 选择主成分 计算协方差矩阵 1. 计算样本均值 2. 计算协方差 ...
数据预处理方式（去均值、归一化、PCA降维）
热门推荐
马飞飞的博客
08-31 5万+
一.去均值 1.各维度都减对应维度的均值，使得输入数据各个维度都中心化为0，进行去均值的原因是因为如果不去均值的话会容易拟合。 这是因为如果在神经网络中，特征值x比较大的时候，会导致W*x+b的结果也会很大，这样进行激活函数（如relu）输出时，会导致对应位置数值变化量太小，进行反向传播时因为要使用这里的梯度进行计算，所以会导致梯度消散问题，导致参数改变量很小，也就会易于拟合，效果不好。 ...
PCA降维原理(主成分分析)小结
rcoon
12-04 1万+
PCA降维PCA是什么目的和原则 PCA是什么 PCA（Principal Component Analysis）是一种常用的数据分析方法 PCA通过线性变换将原始数据变换为一组各维度线性无关表示，可用于提取数据的主要特征分量及高维数据的降维 目的和原则 目的： 在机器学习中，实际处理的数据有成千上万甚至几十万的维度，这种情况下机器学习的资源消耗是不可接受的，并且对算法的复杂度也有很大的影响，因此...
深度学习图像预处理中为什么使用零均值化(zero-mean)
会意的博客
08-22 2万+
在深度学习中，一般我们会把喂给网络模型的训练图片进行预处理，使用最多的方法就是零均值化(zero-mean) / 中心化，即让所有训练图片中每个位置的像素均值为0，使得像素值范围变为[-128,127]，以0为中心。 举个例子，假设训练图片有5000张，图片大小为32*32，通道数为3，则用python表示如下： x_train = load_data(img_dir) # 读取图片数据 x...
神经网络基本原理-4.3数据预处理(零中心化+归一化+PCA+白化)
hongxue8888的博客
12-11 4068
本节主要内容： 设置数据和模型 数据预处理 权重初始化 批量归一化（Batch Normalization） 正则化（L2/L1/Maxnorm/Dropout） 损失函数 小结
深度学习中的数据预处理之中心化（零均值化）与标准化（归一化）
freedom的博客
04-30 8975
在机器学习回归问题，以及训练神经网络过程中，通常需要对原始数据进行中心化（零均值化）与标准化（归一化）预处理。 目的：通过中心化和标准化处理，最终得到均值为0，标准差为1的服从标准正态分布的数据。 原理： 中心化（又叫零均值化）：是指变量减去它的均值。其实就是一个平移的过程，平移后所有数据的中心是（0，0）。 标准化（又叫归一化）：是指数值减去均值，再除以标准差。...
主成分分析法PCA函数：快速封装程序应用
资源摘要信息:"PCA.zip_PCA函数_pca_主成分_主成分分析" PCA.zip是一份包含了PCA（主成分分析）相关程序的压缩文件。PCA是一种常用的数据降维技术，它可以将数据从原有的高维空间映射到较低维度的新空间，同时尽...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值