ML笔记——主成分分析（PCA）

最新推荐文章于 2022-11-22 18:50:02 发布
原创 最新推荐文章于 2022-11-22 18:50:02 发布 · 611 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了如何通过简化高维问题为低维问题来更好地理解数据，特别介绍了主成分分析（PCA）作为数据降维的一种有效手段。讨论了PCA与线性回归、支持向量机（SVM）之间的区别，强调了数学理论在这些方法中的应用。
部署运行你感兴趣的模型镜像

目录

想法

有时对于高维问题往往转化为低维问题更简单明了，如解二元一次方程组，将一个变量用另一个变量表示，转化为一元一次方程求解。
PCA也是将部分变量用其他变量替换，从而得到更简单的数据

数学表达

这篇文章（作者：刘建平Pinard）已经把要写的都写了

胡思乱想时刻

  1. PCA、线性回归、SVM的差别
    PCA是将数据降低维数，是对原数据的改变
    线性回归和SVM的作用是对原数据做出预测，并未对原数据进行改变
    线性回归是对数据进行拟合，SVM是对数据进行分类
  2. 论数学的重要性
    默默去温习线代和概率论

您可能感兴趣的与本文相关的镜像

Stable-Diffusion-3.5

Stable-Diffusion-3.5

图片生成
Stable-Diffusion

Stable Diffusion 3.5 (SD 3.5) 是由 Stability AI 推出的新一代文本到图像生成模型，相比 3.0 版本，它提升了图像质量、运行速度和硬件效率

常见ML算法 ---- PCA主成分分析（Principal components analysis）
Dufert的博客
04-07 488
上周，整理了一份1年多之前的关于LDA的学习记录，还有很多存货，后续一一发出，并不会涉及太多背景介绍，主要帮助自己记录并回顾，本次同样进行降维方法的介绍 ： PCA意义解析： PCA的核心思想是，将高维的数据投影到低维使得在低维空间尽量分得更开，及（各样本方差更大，保留更多信息），这其间需要求解一个投影矩阵W，而后使得各特征正交，且目标是，使下式差异最小。 相对于LDA，PCA的使用更...
机器学习实战笔记4——主成分分析
weixin_44916097的博客
04-25 2192
任务安排 1、机器学习导论       8、稀疏表示 2、KNN及其实现       9、核方法 3、K-means聚类      10、高斯混合模型 4、主成分分析  &nbsp...
ML-PCA
worldnoworth的博客
02-03 215
主成分分析前言PCA简介原理过程 前言 2021寒假，机器学习随笔 PCA简介 主成分分析（Principal Component Analysis）是一种非监督方法，不使用输出信息；需要最大化的准则是方差。主成分是这样的ω1\omega_1ω1​,样本投影到ω1\omega_1ω1​上之后最分散，使得样本点之间的差别最明显，也就是方差最大。 原理过程 为了得到为一解且是的该方向成为最重要的因素，我们要求ω1\omega_1ω1​的范数等于1 。 ...
ML - PCA 主成分分析法
AI工程化、开源分享、文档翻译、代码笔记
01-02 730
文章目录求解高维数据 的主成分代码封装 主成分分析 Principal Component Analysis 一个非监督的机器学习算法 主要用于数据的降维 通过降维，可以发现更便于人类理解的特征 其他应用：可视化;去噪 样本间距大，区分度就更佳明显 问题：如何找到让样本间间距最大的轴？ 如何定义样本间距？---- 使用方差（Varience） 方差表达式： Var(x)=1m∑i=1m(xi−x‾)2 Var(x) = \frac{1}{m} \sum^m_{i=1}(x_i - \overli
ML基本知识（四）PCA理论基础
更木的博客
11-05 625
PCA
【ML学习笔记】22：尝试PCA主成分分析和性能比较
大桔骑士的学习笔记
02-01 1121
说”尝试PCA”实在不敢说”认识PCA”，关于PCA这部分迟早要恶补一下。降维后分类性能好差，先记录下来这些代码。 对样本集降维以后，再使用Bayes和Fisher分类器做分类。 go.py 引导脚本。 #!/usr/local/bin/python3.5 import myPCA myPCA.Go() myPCA.py 主成分分析降维和调用其它分类器。 #!/usr/l
PRML读书笔记——连续潜在变量
GZGlenn的博客
04-16 2517
这一章主要讲解PCA相关的技术 包括PCA的两种推导形式、概率PCA、核PCA以及隐变量模型的几个应用
【PCA降维技巧】主成分分析在简化数据结构中的应用：专家指南
![【PCA降维技巧】主成分分析在简化数据结构中的应用：专家指南]...主成分分析（PCA）是数据科学中的一个重要工具，尤其在高维数据的降维处理领域具有重要应用。PCA的核心思想是通
机器学习实战笔记5——线性判别分析
weixin_44916097的博客
04-30 2841
任务安排 1、机器学习导论       8、稀疏表示 2、KNN及其实现       9、核方法 3、K-means聚类      10、高斯混合模型 4、主成分分析  &nbsp...
PCA(Principal Components Analysis)
01-10 2772
文章目录一、定义符号二、中心化和标准化三、Z-score 标准化四、PCA 算法的基本思想五、求解 μ 与降维六、参考 一、定义符号 主成分分析（Principal Components Analysis, PCA）是一种降维方法。为了更好的解释该算法，首先假设数据集为 {x(i);i=1,2,…,m}\{x^{(i)}; i=1,2, \dots, m\}{x(i);i=1,2,…,m}，其中 ...
机器学习PCA学习(主成分分析)
silent1cat的博客
10-21 867
前言 主成分分析(Principal Components Analysis)，简称PCA，一种数据降维技术，常用于数据处理这一方面，好比说我们的数据集中有100个特征，这些特征可能有共性、无用的信息，或者我们想要将多特征融合，此时我们就需要用到PCA降维技术。 PCA实现原理 通俗来说，就是将数据从原始的向量空间转换到新的特征空间中去。比如：我们有在原始向量空间中的四维数据(a,b,c,d)，需要将其降到三维，那么原理是通过某种方法，用新的坐标(a0,b0,c0,d0)来表示原始坐标。(在新的特征空间中，
主成分分析（PCA）原理总结
霖的博客
09-04 793
我只是一名搬运工，以下内容来自：刘建平Pinard：https://www.cnblogs.com/pinard/p/6239403.html 1. 前言   主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。一般我们提到降维最容易想到的算法就是PCA，下面我们就对PCA的原理做一...
刘建平Pinard的博客配套代码
qq_43539664的博客
11-22 889
# 刘建平Pinard的博客配套代码 http://www.cnblogs.com/pinard 刘建平Pinard 之前不少朋友反应我博客中的代码都是连续的片段，不好学习，因此这里把文章和代码做一个整理。 代码有部分来源于网络，已加上相关方版权信息。部分为自己原创，已加上我的版权信息。
PCA推导及应用
qq_24509229的博客
05-30 3256
转：https://blog.youkuaiyun.com/zyy848877920/article/details/79026734一、协方差、协方差矩阵：方差是描述一维数据样本本身相对于均值的偏离程度。思考：如果遇到含有多维数据的数据集，比如要统计多个学科的考试成绩，面对这样的数据集，我们当然可以按照每一维独立的计算其方差，但是通常我们还想了解更多，比如，某个考生数学成绩很好（数学成绩平均值高，且其方差小...
刘建平Pinard
gengyanpeng's csdn blog
11-08 8637
The page is: 1 The url is: http://www.cnblogs.com/pinard/default.html?page=1 2017-06-22 条件随机场CRF(二) 前向后向算法评估标记序列概率 2017-06-19 条件随机场CRF(一)从随机场到线性链条件随机场 2017-06-13 用hmmlearn学习隐马尔科夫模型HMM 2017-06-1
非监督学习-Apriori(关联)，PCA(降维), k-means(聚类)
weixin_39915444的博客
10-14 2446
Apriori算法原理总结 - 刘建平Pinard - 博客园Apriori算法是常用的用于挖掘出数据关联规则的算法，它用来找出数据值中频繁出现的数据集合，找出这些集合的模式有助于我们做一些决策。比如在常见的超市购物数据集，或者电商的网购数据集中，如果我们找到了https://www.cnblogs.com/pinard/p/6293298.html 非监督学习（Unsupervised Learning，UL），这类算法的工作原理是从无标签的训练数据中学习数据的底层结构。进一步地，非监督学习又可细分为如
主成分分析（PCA）
对算法理论、算法工程落地、大数据工具等感兴趣
11-14 1152
本文参考： 《机器学习》周志华 主成分分析（PCA）原理总结——刘建平 有关Pca的使用：样本数目和降维数目的关系 ———————————————————————————————————— 主成分分析（Principal Component Analysis）简称PCA，是一种最常用的降维方法。从名字里就可以看出，它追求的是找到主成分，在低维度的情况下尽可能的代表原来的数据情况。 从上图就可以看...
pca
suv1234的博客
05-25 729
参考http://www.cnblogs.com/pinard/p/6239403.html
机器学习项目实战笔记本合集
对于无监督学习，项目可能展示了聚类算法（如K-Means、层次聚类、DBSCAN）以及降维技术（如主成分分析PCA、t-SNE）的应用场景，常用于客户细分、异常检测或高维数据可视化。此外，项目还可能引入半监督学习或自监督...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值