机器学习算法面试—口述（6）：数据的简化（PCA、SVD）

最新推荐文章于 2024-09-06 21:50:51 发布
原创 最新推荐文章于 2024-09-06 21:50:51 发布 · 3.3k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #PCA #SVD

本文介绍了PCA和SVD两种降维技术在机器学习面试中的重要性。PCA寻找数据的主成分，通过最大化方差进行降维；SVD将数据矩阵分解，提取关键信息。两者常用于降低数据复杂性，但可能损失部分信息。

这个系列是为了应对找工作面试时面试官问的算法问题，所以只是也谢算法的简要介绍，后期会陆续补充关于此

算法的常见面问题


一、PCA（主成分分析）

最低0.47元/天 解锁文章
机器学习/人工智能的笔试面试题目——PCA降维相关问题总结
FPGA/MATLAB学习教程/源码/项目合作开发
08-24 758
协方差矩阵的特征向量。
机器学习面试-降维算法LDA和PCA（白板推导）
qq_38489833的博客
07-01 2857
降维算法分为： 1.直接降维， 特征选择 2. 线性降维， PCA， MDS等 3. 分流线， 流线包括lsomap , LLE等 降维的目的： 1. 减少预测变量的个数 2. 确保这些变量是相互独立的 3. 数据在低纬度时候更容易处理， 更容易使用 4. 去除噪数据噪声 5. 降低算法的运算开销 1. 线性判别分析LDA LDA的 核心思想就是投影后类内方差小， 类间方差最大 LDA算法的优缺点： 优点： 可以使用类别的先验知识 以标签， 类别衡量差异性的 有监督降维算法， 相对于PCA的模糊性，
数据分析面试【机器学习】总结之-----PCA主成成分分析 常见面试题整理
天阑之蓝的博客
08-14 3797
阅读之前看这里????：博主是正在学习数据分析的一员，博客记录的是在学习过程中一些总结，也希望和大家一起进步，在记录之时，未免存在很多疏漏和不全，如有问题，还请私聊博主指正。 博客地址：天阑之蓝的博客，学习过程中不免有困难和迷茫，希望大家都能在这学习的过程中肯定自己，超越自己，最终创造自己。 目录1.PCA定义2.PCA具体计算步骤3.降维之后的维度怎么确定4.降维的必要性5.降维的目的：6.给你一个数据集。该数据集包含很多变量，你知道其中一些是高度相关的。经理要求你用PCA。你会先去掉相关的变量吗？为什
机器学习面试必知：最大方差理论和最小平方误差理论下的PCA(主成分分析)的公式推导
Neekity的博客
02-25 3502
最大方差理论 PCA（主成分分析），旨在找到数据中的主成分，并利用这些主成分表征原始数据从而达到降维的目的。在信号处理领域，我们认为信号具有较大方差，而噪声具有较小方差。因此我们不难引出PCA的目标即最大化投影方差，也就是让数据在主轴上投影的方差最大（在我们假设中方差最大的有用信号最大化减少了噪声的影响）。 对于给定的一组数据点{v1,...,vn}\left\{v_{1},...,v_{n}...
机器学习面试题之PCA（八）
jaffe507的博客
03-27 3661
1.PCA降维 降维的必要性 多重共线性–预测变量之间相互关联。多重共线性会导致解空间的不稳定，从而可能导致结果的不连贯。 高维空间本身具有稀疏性。一维正态分布有68%的值落于正负标准差之间，而在十维空间上只有0.02%。 过多的变量会妨碍查找规律的建立。 仅在变量层面上分析可能会忽略变量之间的潜在联系。例如几个预测变量可能落入仅反映数据某一方面特征的一个组内。 降维的目的： 减少预测变量...
机器学习：对数据进行降维（PCA和SVD）
纸上得来终觉浅
09-06 2859
对数据进行降维（PCA和SVD）
机器学习——降维算法PCA和SVD（sklearn）
CXDNW的博客
07-20 1889
与特征选择类似，我们可以用不同的特征提取技术来减少数据集的特征数量。特征选择和特征提取的区别在于，当我们用诸如 逆序选择之类的特征选择算法 时，数据集的原始特征 保持不变，而当我们用 特征提取 方法时，会将数据变换 或投影到 新特征空间。在降维的背景下，我们可以 把特征提取理解为 数据压缩的一种方法，其目的是保持大部分的相关信息。在实际应用中，特征提取 不仅可以优化存储空间 或 机器学习算法 的计算效率，而且还可以 通过减少 维数 提高预测性能，尤其是当我们 处理非正则化 模型的时候。
课程设计大作业，机器学习实战案例，采用PCA算法对yale人脸数据集进行建模分析（PCA建模源码+YaleFaces人脸数据集）
06-21
课程设计大作业，机器学习实战案例，采用PCA算法对yale人脸数据集进行建模分析（PCA建模源码+YaleFaces人脸数据集） 课程设计大作业，机器学习实战案例，采用PCA算法对yale人脸数据集进行建模分析（PCA建模源码+...
精选资源
机器学习报告-基于PCA和KNN算法的毒蘑菇分类预测实验报告-机器学习高分大作业
11-18
实验采用了UCI机器学习库中的mushroom数据集，该数据集包含8124个样本，每个样本有22个特征，分为毒蘑菇和可食用蘑菇两类。PCA用于降低多维度特征，KNN则作为分类算法，由于其简单、精度高和对异常值不敏感的特性，...
机器学习-PCA-SVD
最新发布
02-13
在数据科学和机器学习领域中，主成分分析（PCA）和奇异值分解（SVD）是两种非常重要的技术。它们主要用于数据降维、特征提取、数据压缩等任务中，是处理高维数据不可或缺的工具。理解这两个概念以及它们之间的关系，...
小项目的几个面试问题【PCA/SVM/Resnet50】
nanmuchang的博客
09-11 1157
面试问题PCA基本原理PCA的劣势SVM问题一：SVM为什么要把原始函数转化为对偶函数？问题二：SVM和逻辑回归有什么区别？Resnet 50——Residual net(残差网络)现存问题核心思想网络结构神经网络问题一：为什么提取特征进行训练，不直接使用原始数据训练？问题二：单层神经网络同样可以通过降低loss完成任务，为什么要使用深层神经网络？Fat+Short v.s. Tall+Thin PCA 基本原理   PCA（Principal Component Analysis） 是一种常见的数据分析方
机器学习面试题——PCA与LDA
weixin_46838716的博客
05-03 1976
1）读过研究生的这点知识应该可以自己看懂 2）PAC和LDA都是降维算法，和t-SNE类似，在tensorboard中，可以将你的高威特征降维下来展示
面试题目
svdalv
08-11 445
局部最优解方法，梯度下降，牛顿迭代，区别，深度学习为什么不用牛顿迭代 全局最优的方法： 方差与偏差的区别 SVM与LR的区别， 损失函数的区别 随机森林与ADBOOST的方差与偏差的区别 防止过拟合的方法;L!与L2的区别，为什么 旋转不变特征：sift为什么具有旋转不便特征 边缘检测方法 CNN 防止过拟合的方法：drop out ,batch normalization
算法工程师面试之PCA降维
说文科技，做有态度的研究。
09-05 437
PCA降维以及其在文本领域的使用。
PCA和SVD总结
qq_31638535的博客
03-26 481
PCA实际上可以通过SVD去实现，PCA本质上就是SVD的列方向的一个降维，不仅SVD可以做列方向的降维，还能做行方向的降维。 PCA的推到需要用到两个方面的知识：矩阵求导和拉格朗日乘子法。 矩阵求导：https://blog.youkuaiyun.com/daaikuaichuan/article/details/80620518#commentBox 拉格朗日乘子法（看计算过程即可，大学学过，有点忘...
机器学习降维算法一：PCA (Principal Component Analysis)
weixin_34204722的博客
11-24 171
引言： 机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维度小于x的维度（当然提高维度也是可以的）。f可能是显式的或隐式的、线性的或非线性的。 当然还有一大类方法本质上也是做了降维，叫做feature s...
《机器学习十三、十四章 PCA、SVD简化数据》
weixin_43955530的博客
03-11 259
from numpy import * import matplotlib.pyplot as plt from scipy import * from numpy import linalg as la def loadDataSet(fileName, delim='\t'): fr = open(fileName) stringArr = [line.strip().sp...
机器学习：PCA和SVD的关系
huakai16的博客
01-06 846
原博客地址：从PCA和SVD的关系拾遗 自己写的代码，可视化博客的理论观点：点这里
py2.7《机器学习实战》利用PCA来简化数据
Kelisiya
03-24 821
最近看了PCA降维，很多地方还是不理解，还是线代学的太差了，但是书上总结的还是挺精简的 一、在Numpy中实现PCA 1、伪代码： （1）去除平均值 （2）计算协方差矩阵 （3）计算协方差矩阵的特征值和特征向量（利用Numpy中的linalg方法） （4）将特征值从大到小排序 （5）保留最上面的N个特征向量 （6）将数据转换到上述N个特征构建的新空间中
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值