ML笔记——主成分分析（PCA）

最新推荐文章于 2022-11-22 18:50:02 发布
最新推荐文章于 2022-11-22 18:50:02 发布
阅读量585 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： Machine Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Fancy_Real/article/details/80594014
本文探讨了如何通过简化高维问题为低维问题来更好地理解数据，特别介绍了主成分分析（PCA）作为数据降维的一种有效手段。讨论了PCA与线性回归、支持向量机（SVM）之间的区别，强调了数学理论在这些方法中的应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

想法

有时对于高维问题往往转化为低维问题更简单明了，如解二元一次方程组，将一个变量用另一个变量表示，转化为一元一次方程求解。
PCA也是将部分变量用其他变量替换，从而得到更简单的数据

数学表达

这篇文章（作者：刘建平Pinard）已经把要写的都写了

胡思乱想时刻

  1. PCA、线性回归、SVM的差别
    PCA是将数据降低维数，是对原数据的改变
    线性回归和SVM的作用是对原数据做出预测，并未对原数据进行改变
    线性回归是对数据进行拟合，SVM是对数据进行分类
  2. 论数学的重要性
    默默去温习线代和概率论
常见ML算法 ---- PCA主成分分析（Principal components analysis）
Dufert的博客
04-07 457
上周，整理了一份1年多之前的关于LDA的学习记录，还有很多存货，后续一一发出，并不会涉及太多背景介绍，主要帮助自己记录并回顾，本次同样进行降维方法的介绍 ： PCA意义解析： PCA的核心思想是，将高维的数据投影到低维使得在低维空间尽量分得更开，及（各样本方差更大，保留更多信息），这其间需要求解一个投影矩阵W，而后使得各特征正交，且目标是，使下式差异最小。 相对于LDA，PCA的使用更...
ML-PCA
worldnoworth的博客
02-03 189
主成分分析前言PCA简介原理过程 前言 2021寒假，机器学习随笔 PCA简介 主成分分析（Principal Component Analysis）是一种非监督方法，不使用输出信息；需要最大化的准则是方差。主成分是这样的ω1\omega_1ω1​,样本投影到ω1\omega_1ω1​上之后最分散，使得样本点之间的差别最明显，也就是方差最大。 原理过程 为了得到为一解且是的该方向成为最重要的因素，我们要求ω1\omega_1ω1​的范数等于1 。 ...
ML - PCA 主成分分析法
AI工程化、开源分享、文档翻译、代码笔记
01-02 687
文章目录求解高维数据 的主成分代码封装 主成分分析 Principal Component Analysis 一个非监督的机器学习算法 主要用于数据的降维 通过降维，可以发现更便于人类理解的特征 其他应用：可视化;去噪 样本间距大，区分度就更佳明显 问题：如何找到让样本间间距最大的轴？ 如何定义样本间距？---- 使用方差（Varience） 方差表达式： Var(x)=1m∑i=1m(xi−x‾)2 Var(x) = \frac{1}{m} \sum^m_{i=1}(x_i - \overli
ML基本知识（四）PCA理论基础
更木的博客
11-05 607
PCA
【ML学习笔记】22：尝试PCA主成分分析和性能比较
大桔骑士的学习笔记
02-01 1059
说”尝试PCA”实在不敢说”认识PCA”，关于PCA这部分迟早要恶补一下。降维后分类性能好差，先记录下来这些代码。 对样本集降维以后，再使用Bayes和Fisher分类器做分类。 go.py 引导脚本。 #!/usr/local/bin/python3.5 import myPCA myPCA.Go() myPCA.py 主成分分析降维和调用其它分类器。 #!/usr/l
机器学习实战笔记4——主成分分析
weixin_44916097的博客
04-25 2150
任务安排 1、机器学习导论       8、稀疏表示 2、KNN及其实现       9、核方法 3、K-means聚类      10、高斯混合模型 4、主成分分析  &nbsp...
PRML读书笔记——连续潜在变量
GZGlenn的博客
04-16 2476
这一章主要讲解PCA相关的技术 包括PCA的两种推导形式、概率PCA、核PCA以及隐变量模型的几个应用
【PCA降维技巧】主成分分析在简化数据结构中的应用：专家指南
![【PCA降维技巧】主成分分析在简化数据结构中的应用：专家指南]...主成分分析（PCA）是数据科学中的一个重要工具，尤其在高维数据的降维处理领域具有重要应用。PCA的核心思想是通
机器学习实战笔记5——线性判别分析
weixin_44916097的博客
04-30 2782
任务安排 1、机器学习导论       8、稀疏表示 2、KNN及其实现       9、核方法 3、K-means聚类      10、高斯混合模型 4、主成分分析  &nbsp...
PCA(Principal Components Analysis)
01-10 2705
文章目录一、定义符号二、中心化和标准化三、Z-score 标准化四、PCA 算法的基本思想五、求解 μ 与降维六、参考 一、定义符号 主成分分析（Principal Components Analysis, PCA）是一种降维方法。为了更好的解释该算法，首先假设数据集为 {x(i);i=1,2,…,m}\{x^{(i)}; i=1,2, \dots, m\}{x(i);i=1,2,…,m}，其中 ...
机器学习PCA学习(主成分分析)
silent1cat的博客
10-21 798
前言 主成分分析(Principal Components Analysis)，简称PCA，一种数据降维技术，常用于数据处理这一方面，好比说我们的数据集中有100个特征，这些特征可能有共性、无用的信息，或者我们想要将多特征融合，此时我们就需要用到PCA降维技术。 PCA实现原理 通俗来说，就是将数据从原始的向量空间转换到新的特征空间中去。比如：我们有在原始向量空间中的四维数据(a,b,c,d)，需要将其降到三维，那么原理是通过某种方法，用新的坐标(a0,b0,c0,d0)来表示原始坐标。(在新的特征空间中，
主成分分析（PCA）原理总结
霖的博客
09-04 772
我只是一名搬运工，以下内容来自：刘建平Pinard：https://www.cnblogs.com/pinard/p/6239403.html 1. 前言   主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。一般我们提到降维最容易想到的算法就是PCA，下面我们就对PCA的原理做一...
刘建平Pinard的博客配套代码
qq_43539664的博客
11-22 845
# 刘建平Pinard的博客配套代码 http://www.cnblogs.com/pinard 刘建平Pinard 之前不少朋友反应我博客中的代码都是连续的片段，不好学习，因此这里把文章和代码做一个整理。 代码有部分来源于网络，已加上相关方版权信息。部分为自己原创，已加上我的版权信息。
PCA推导及应用
qq_24509229的博客
05-30 3233
转：https://blog.youkuaiyun.com/zyy848877920/article/details/79026734一、协方差、协方差矩阵：方差是描述一维数据样本本身相对于均值的偏离程度。思考：如果遇到含有多维数据的数据集，比如要统计多个学科的考试成绩，面对这样的数据集，我们当然可以按照每一维独立的计算其方差，但是通常我们还想了解更多，比如，某个考生数学成绩很好（数学成绩平均值高，且其方差小...
刘建平Pinard
gengyanpeng's csdn blog
11-08 8525
The page is: 1 The url is: http://www.cnblogs.com/pinard/default.html?page=1 2017-06-22 条件随机场CRF(二) 前向后向算法评估标记序列概率 2017-06-19 条件随机场CRF(一)从随机场到线性链条件随机场 2017-06-13 用hmmlearn学习隐马尔科夫模型HMM 2017-06-1
主成分分析（PCA）
对算法理论、算法工程落地、大数据工具等感兴趣
11-14 1103
本文参考： 《机器学习》周志华 主成分分析（PCA）原理总结——刘建平 有关Pca的使用：样本数目和降维数目的关系 ———————————————————————————————————— 主成分分析（Principal Component Analysis）简称PCA，是一种最常用的降维方法。从名字里就可以看出，它追求的是找到主成分，在低维度的情况下尽可能的代表原来的数据情况。 从上图就可以看...
PCA和SVD傻傻分不清楚？
learn process of Hanna
04-06 2万+
c以前学习PCA和SVD的时候都是分开学的，也只是记住了求解方法，对于原理理解一直处于懵圈状态，查看了别人的解释，也尝试自己总结一下。如果哪里理解错了，那就gg了 ​​PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。现在我们将数据抽象为一组向...
PCA(主成分分析方法)
热门推荐
YMilton的专栏
04-13 3万+
目录 1. 降维问题 2. 向量与基变换 2.1 内积与投影 2.2 基 2.3 基变换的矩阵 3.协方差矩阵及优化目标 3.1 方差 3.2协方差 3.3协方差矩阵 3.4协方差矩阵对角化 4. 算法与实例 4.1 PCA算法 4.2 实例 5. 讨论 PCA（Principal Component Analysis）是常用的数据分析方法。...
斯坦福机器学习课程笔记：主成分分析PCA与应用
本文将详细探讨主成分分析（Principal Component Analysis, PCA）算法，这是一种在机器学习和数据分析中广泛使用的统计方法。PCA的主要目的是通过线性变换将原始数据变换为一组各维度线性无关的新坐标系，同时尽可能...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值