PCA实战避坑指南:当统计学习方法遇到真实数据集时的5个关键检查点

PCA面试实战:从数学原理到工程避坑的20个关键问题 主成分分析(PCA)作为最基础的线性降维技术,其核心在于通过协方差矩阵对角化或奇异值分解(SVD)寻找数据最大方差方向。理解其数学本质——为何特征向量即主成分方向、为何必须中心化与标准化——是掌握PCA的前提;而工程落地中,标准化缺失、k值误选、数据泄露等常见陷阱,往往比理论更决定模型成败。在机器学习、数据分析及AI工程实践中,PCA不仅用于特征压缩,更深度关联白化、重构误差监控与下游任务性能权衡。本文聚焦真实面试高频场景与工业级排错经验,覆盖从SVD实现原理、方差解释率误用辨析,到多源异构数据融合中的PC 阅读详情

PCA实战避坑指南:当统计学习方法遇到真实数据集时的5个关键检查点

从教科书上干净整洁的二维矩阵,到业务系统中动辄百万行、包含缺失值和异常值的表格,这中间的鸿沟,大概是每个数据科学从业者都踩过的坑。主成分分析(PCA)的理论之美在于其数学上的优雅——通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量。然而,这份优雅在真实世界的数据面前,常常显得脆弱不堪。许多分析师在掌握了协方差矩阵、特征值分解的推导后,满怀信心地将PCA应用于实际项目,结果却可能得到难以解释、甚至完全错误的主成分。问题往往不出在算法本身,而在于从理论到实践的过渡地带,那些被教科书一笔带过,却对结果有决定性影响的细节。这篇文章,我想结合自己多次“翻车”又爬起来的经验,和你聊聊在真实数据上应用PCA时,必须死磕的五个关键检查点。这不是另一篇原理讲解,而是一份聚焦于“落地”的生存手册。

1. 数据预处理的“隐形陷阱”:远不止标准化那么简单

教科书上的PCA示例,数据通常是完美、干净且已经中心化的。但在实战中,你的数据可能来自多个数据库表,夹杂着文本标识、大量的空值,以及量纲各异的数值。第一步预处理,就藏着好几个容易失足的坑。

缺失值处理:简单填充的代价 最常见的做法是用均值或中位数填充缺失值。这听起来合理,但在PCA的语境下,这可能悄然引入偏差。PCA的核心是捕捉方差-协方差结构。用全局均值填充缺失值,相当于强行给那些缺失的观测赋予了“平均”的特性,这可能会人为地削弱变量之间的真实相关性,并扭曲数据的整体方差结构。特别是当缺失并非完全随机(MNAR)时,这种影响会更显著。

注意:对于计划进行PCA的数据,在缺失值处理前,务必先评估缺失模式。如果缺失率较高(例如超过15%),或者呈现明显的非随机模式,直接填充后进行PCA的风险很大。

更稳健的做法是考虑使用基于模型的方法,例如多元插补(MICE),或者在极端情况下,考虑对存在缺失值的特征或样本进行筛选。下面是一个简单的缺失模式检查示例:

import pandas as pd
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt

# 假设 df 是你的数据框
missing_summary = df.isnull().sum()
missing_percentage = (missing_summary / len(df)) * 100

# 可视化缺失情况
plt.figure(figsize=(10, 6))
sns.barplot(x=missing_percentage.index, y=missing_percentage.values)
plt.axhline(y=15, color='r', linestyle='--', label='15% 阈值')
plt.title('各特征缺失值百分比')
plt.ylabel('缺失百分比 (%)')
plt.xticks(rotation=45)
plt.legend()
plt.show()

量纲与分布:标准化 vs 归一化,选哪个? 几乎所有PCA教程都会强调“必须标准化”(即减去均值,除以标准差)。这是因为PCA对变量的尺度极度敏感。一个量纲为“万元”的销售额特征,其方差会轻易压倒量纲为“分”的评分特征。标准化(Z-score)确实是默认且最安全的选择。

但在某些场景下,你需要多问一句:我的数据分布如何?如果数据存在严重的偏态(Skewness),例如许多金融、网络流量数据,标准化虽然消除了量纲,但无法改变分布形状。极端值(异常值)在标准化后依然拥有巨大的杠杆作用,会强力拉拽主成分的方向向其倾斜。此时,你可能需要先进行非线性变换,例如对数变换(np.log1p)或Box-Cox变换,使数据分布更接近正态,然后再进行标准化。

预处理方法适用场景PCA前使用注意事项
Z-score标准化数据分布相对对称,无明显极端值。最通用。默认选择。确保计算均值和标准差时考虑了异常值的影响。
Robust标准化数据包含显著异常值。使用中位数和四分位距。能抵抗异常值影响,但可能改变变量间的线性关系,需谨慎评估。
Min-Max归一化必须将数据严格限制在[0,1]区间。不推荐用于PCA,因其缩放依赖于极值,且不保证处理后各特征方差可比。
对数变换后标准化高度右偏(正偏态)数据,如收入、点击量。先log(x+1)处理偏态,再进行Z-score标准化,效果往往更好。

一个实用的检查流程是:在标准化前后,分别计算特征的方差。标准化后,所有特征的方差应为1。如果某个特征在标准化后方差依然远大于1(比如>3),提示原始数据可能存在极端异常值,需要回头审查。

2. 协方差矩阵的“计算玄机”:np.cov 与手动计算的对决

理论上,PCA可以通过样本协方差矩阵的特征值分解,或对中心化数据矩阵直接进行奇异值分解(SVD)来实现。sklearn的PCA类默认使用SVD,因为它数值上更稳定。但当你需要手动计算,或者深入调试时,协方差矩阵的计算就成了一个关键检查点。

np.cov 的 bias 参数陷阱 NumPy的np.cov函数有一个关键参数bias,默认为False。当bias=False时,它计算的是无偏估计的样本协方差矩阵,分母是(n-1)。这正是我们统计学上通常需要的。然而,有些在线教程或自定义代码可能会忽略这一点,错误地使用bias=True(分母为n)或自己手动计算时忘了n-1。

import numpy as np

# 示例数据
X = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 9]]).T # 3个样本,3个特征
X_centered = X - X.mean(axis=0)

# 方法1:使用np.cov (正确,无偏估计)
cov_numpy = np.cov(X_centered, rowvar=False, bias=False) # rowvar=False表示每列是一个特征
print("np.cov (无偏):\n", cov_numpy)

# 方法2:手动计算 (正确,无偏估计)
n_samples = X.shape[0]
cov_manual = (X_centered.T @ X_centered) / (n_samples - 1)
print("手动计算 (无偏):\n", cov_manual)

# 方法3:错误的手动计算 (有偏估计)
cov_wrong = (X_centered.T @ X_centered) / n_samples
print("错误手动计算 (有偏):\n", cov_wrong)

你会发现cov_numpy和cov_manual结果一致,而cov_wrong的值会略小。在样本量不大时,使用有偏估计的协方差矩阵会导致特征值(主成分方差)被系统性低估,进而影响贡献率的计算。

SVD与特征分解的等价性验证 一个良好的实践是,在关键分析中,用两种方法(SVD和协方差矩阵特征分解)分别计算一次主成分,并验证结果是否一致(允许符号翻转)。这能有效排除计算库版本或自定义代码中的错误。

from sklearn.decomposition import PCA
from scipy.linalg import svd, eigh

# 使用sklearn PCA
pca_sklearn = PCA(n_components=2)
X_pca_sklearn = pca_sklearn.fit_transform(X_centered)

# 手动SVD
U, S, Vt = svd(X_centered, full_matrices=False)
# 主成分得分 (与sklearn可能差一个符号)
X_pca_svd = U[:, :2] * S[:2]

# 手动特征分解
cov_matrix = np.cov(X_centered, rowvar=False)
eigenvalues, eigenvectors = eigh(cov_matrix)
# 取最大的两个特征值对应的特征向量
idx = eigenvalues.argsort()[::-1]
eigenvectors = eigenvectors[:, idx]
X_pca_eig = X_centered @ eigenvectors[:, :2]

# 比较:检查方向是否一致(点积的绝对值是否接近1)
print("Sklearn vs SVD 第一主成分方向一致性:",
      np.abs(np.dot(pca_sklearn.components_[0], Vt[0])))
print("Sklearn vs 特征分解 第一主成分方向一致性:",
      np.abs(np.dot(pca_sklearn.components_[0], eigenvectors[:, 0])))

如果一致性接近1,说明计算流程正确。符号差异是允许的,因为特征向量的方向可以是正向或反向。

3. 特征向量方向的“不确定性”与结果解读

即使计算完全正确,PCA还有一个理论本身固有的“特性”:特征向量的符号是不确定的。对于一个特征值,如果 v 是其对应的特征向量,那么 -v 也同样是。这意味着,同一份数据,在不同运行环境、不同库版本下,得到的主成分载荷(components_)可能正好符号相反。

这在实际解读中会造成什么困扰? 假设你有一个主成分,在特征A和特征B上有很高的正载荷。一次运行显示载荷为 [0.8, 0.6],另一次可能显示为 [-0.8, -0.6]。如果你简单地根据“正载荷代表正向影响”来业务解读,就会得出完全相反的结论。

解决方案:固定符号约定 为了确保结果的可复现性和解读的一致性,我们需要一个固定的规则来约定特征向量的符号。一个广泛采用的约定是:让每个主成分(特征向量)在第一个非零元素上为正。你可以通过一个简单的后处理步骤来实现:

def standardize_components(components):
    """
    标准化主成分方向,确保每个主成分的第一个非零元素为正。
    """
    for i in range(components.shape[0]):
        # 找到该行(主成分)中绝对值最大的元素,以其符号为准进行标准化
        # 另一种常见规则:以第一个元素的符号为准
        if components[i, 0] < 0:
            components[i] = -components[i]
    return components

# 在获取PCA组件后
pca = PCA().fit(X_scaled)
components = pca.components_
components_standardized = standardize_components(components.copy())

此外,更稳健的业务解读不应依赖于单个特征的载荷符号,而应关注:

  1. 载荷的绝对值大小:识别对主成分贡献最大的特征。
  2. 同一主成分内特征的载荷相对关系:如果特征A和特征B载荷符号相同,说明它们在该主成分上变化方向一致;符号相反则变化方向相反。
  3. 结合主成分得分(transform的结果)进行观察:将样本投影到主成分上后,观察高得分和低得分的样本在原特征上有何具体差异。

4. 贡献率阈值选择的“艺术”与自动化策略

“保留多少个主成分?”这是PCA应用中最常见的问题。教科书会告诉你:保留累计方差贡献率(Cumulative Explained Variance Ratio)达到某个阈值(如80%、90%)的主成分。但在实战中,机械地使用固定阈值可能会出问题。

“拐点法”(肘部法则)的视觉陷阱 绘制方差贡献率(碎石图)并寻找拐点,是一个经典方法。但在高维数据中,拐点可能非常模糊,或者出现多个候选点,导致主观判断差异巨大。

import matplotlib.pyplot as plt

pca_full = PCA().fit(X_scaled)
explained_variance_ratio = pca_full.explained_variance_ratio_
cumulative_ratio = np.cumsum(explained_variance_ratio)

plt.figure(figsize=(12, 5))
plt.subplot(1, 2, 1)
plt.plot(range(1, len(explained_variance_ratio)+1), explained_variance_ratio, 'bo-')
plt.xlabel('主成分序号')
plt.ylabel('方差贡献率')
plt.title('碎石图 (Scree Plot)')
plt.grid(True, linestyle='--', alpha=0.7)

plt.subplot(1, 2, 2)
plt.plot(range(1, len(cumulative_ratio)+1), cumulative_ratio, 'ro-')
plt.axhline(y=0.9, color='g', linestyle='--', label='90% 阈值')
plt.xlabel('主成分序号')
plt.ylabel('累计方差贡献率')
plt.title('累计贡献率曲线')
plt.legend()
plt.grid(True, linestyle='--', alpha=0.7)
plt.tight_layout()
plt.show()

更稳健的自动化策略:平行分析 平行分析(Parallel Analysis)是一种基于模拟的、更客观的阈值选择方法。其核心思想是:保留那些解释的方差比随机数据(保持原有变量相关结构但打破变量间关系)中对应主成分解释的方差更大的主成分。

具体步骤:

  1. 对原始数据矩阵进行多次(如100次)随机排列(对每一列单独打乱),破坏变量间的相关性,但保持每个变量的分布。
  2. 对每个随机排列后的数据矩阵进行PCA,记录每个主成分的方差(特征值)。
  3. 计算这些随机数据特征值的平均值(或某个百分位数,如95%)。
  4. 将原始数据的特征值与这个随机基准线比较,保留那些大于基准线的特征值对应的主成分。
def parallel_analysis(X, n_permutations=100, percentile=95):
    """
    平行分析确定主成分保留数量。
    """
    n_samples, n_features = X.shape
    original_eigenvalues = PCA().fit(X).explained_variance_

    perm_eigenvalues = np.zeros((n_permutations, n_features))
    for i in range(n_permutations):
        # 对每一列独立打乱
        X_perm = np.apply_along_axis(np.random.permutation, 0, X.copy())
        perm_eigenvalues[i] = PCA().fit(X_perm).explained_variance_

    # 计算随机特征值的阈值(例如95分位数)
    threshold = np.percentile(perm_eigenvalues, percentile, axis=0)

    # 找出原始特征值大于阈值的成分
    n_components = np.sum(original_eigenvalues > threshold)
    return n_components, original_eigenvalues, threshold

n_comp, orig_eig, thresh = parallel_analysis(X_scaled, n_permutations=50)
print(f"平行分析建议保留的主成分数: {n_comp}")

# 可视化比较
plt.plot(range(1, len(orig_eig)+1), orig_eig, 'bo-', label='原始数据特征值')
plt.plot(range(1, len(thresh)+1), thresh, 'r--', label=f'随机数据 {95}% 分位数')
plt.xlabel('主成分序号')
plt.ylabel('特征值')
plt.title('平行分析')
plt.legend()
plt.grid(True)
plt.show()

平行分析能有效避免保留那些可能仅由随机噪声产生的“伪”主成分,在心理学、生态学等领域被认为是比简单阈值法更可靠的方法。

5. 结果验证与稳定性评估:你的PCA可靠吗?

完成PCA分析后,在将结果交付业务方或用于下游建模前,必须进行稳定性评估。真实数据往往存在抽样波动,你需要知道你的主成分结构是否足够稳定。

重采样验证:Bootstrap方法 通过Bootstrap重采样(有放回地抽取样本),可以评估主成分载荷的稳定性。具体做法:

  1. 从原始数据中多次(如500次)Bootstrap抽样,生成多个重采样数据集。
  2. 对每个重采样数据集进行PCA。
  3. 比较每次得到的主成分载荷(需解决符号翻转和顺序问题),计算每个载荷的置信区间。
def bootstrap_pca_stability(X, n_components=2, n_bootstraps=200):
    """
    使用Bootstrap评估PCA载荷的稳定性。
    """
    n_samples, n_features = X.shape
    bootstrap_components = []

    for i in range(n_bootstraps):
        # Bootstrap 抽样
        indices = np.random.choice(n_samples, n_samples, replace=True)
        X_boot = X[indices, :]
        # 拟合PCA
        pca_boot = PCA(n_components=n_components).fit(X_boot)
        comps = pca_boot.components_
        # 简单符号标准化(以第一个样本的载荷符号为准,需更严谨的匹配)
        # 此处为示例,实际中需考虑主成分顺序匹配问题(Procrustes分析)
        bootstrap_components.append(comps)

    bootstrap_components = np.array(bootstrap_components) # shape: (n_bootstraps, n_components, n_features)

    # 计算每个载荷的均值和95%置信区间
    mean_components = np.mean(bootstrap_components, axis=0)
    lower_ci = np.percentile(bootstrap_components, 2.5, axis=0)
    upper_ci = np.percentile(bootstrap_components, 97.5, axis=0)

    return mean_components, lower_ci, upper_ci, bootstrap_components

mean_comp, lower, upper, all_comps = bootstrap_pca_stability(X_scaled, n_components=2, n_bootstraps=100)

# 可视化第一个主成分的载荷及其置信区间
first_pc_loadings = all_comps[:, 0, :] # 所有Bootstrap样本的第一个主成分载荷
feature_names = [f'F{i+1}' for i in range(X_scaled.shape[1])]

plt.figure(figsize=(10, 6))
for i in range(len(feature_names)):
    plt.scatter([i]*len(first_pc_loadings[:, i]), first_pc_loadings[:, i], alpha=0.1, color='gray')
plt.errorbar(range(len(feature_names)), mean_comp[0], yerr=[mean_comp[0]-lower[0], upper[0]-mean_comp[0]],
             fmt='o', capsize=5, label='均值±95% CI')
plt.axhline(y=0, color='k', linestyle='-', linewidth=0.5)
plt.xlabel('原始特征')
plt.ylabel('第一主成分载荷')
plt.title('Bootstrap评估:第一主成分载荷稳定性')
plt.xticks(ticks=range(len(feature_names)), labels=feature_names)
plt.grid(True, axis='y', linestyle='--', alpha=0.7)
plt.legend()
plt.show()

如果某个特征在某个主成分上的载荷置信区间很宽,甚至包含0,说明该载荷不稳定,在解释时需要格外谨慎。如果主成分的顺序在不同Bootstrap样本间频繁变动,则说明前几个主成分的区分度可能不够。

下游任务性能验证 如果PCA的目的是降维以提升后续模型(如分类、回归)的性能,那么最直接的验证方法就是在交叉验证的框架下评估。比较使用原始特征、使用不同数量主成分作为特征时,下游模型的性能差异。切记,用于PCA拟合的数据必须仅限于训练集,然后用训练集得到的PCA模型去转换验证集/测试集,避免数据泄露。

from sklearn.model_selection import cross_val_score
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline

# 构建包含PCA的管道
pipeline = Pipeline([
    ('scaler', StandardScaler()),
    ('pca', PCA(n_components=0.95)), # 保留95%方差的成分
    ('classifier', LogisticRegression())
])

# 原始特征管道(仅标准化)
pipeline_raw = Pipeline([
    ('scaler', StandardScaler()),
    ('classifier', LogisticRegression())
])

# 交叉验证比较
X, y = your_data, your_target
cv_scores_pca = cross_val_score(pipeline, X, y, cv=5, scoring='accuracy')
cv_scores_raw = cross_val_score(pipeline_raw, X, y, cv=5, scoring='accuracy')

print(f"使用PCA降维后的平均准确率: {cv_scores_pca.mean():.4f} (+/- {cv_scores_pca.std()*2:.4f})")
print(f"使用原始特征的平均准确率: {cv_scores_raw.mean():.4f} (+/- {cv_scores_raw.std()*2:.4f})")

如果PCA能稳定提升下游任务性能或保持性能但大幅减少特征维度,那么你的PCA降维策略就是成功的。反之,如果性能下降,则需要重新审视PCA的必要性或检查预处理、主成分数量选择等步骤。

Sparse PCA 稀疏主成分分析 SPCA 稀疏主成分分析 算法的思路推演 和 必要的数学证明 阅读详情

相关推荐

PCA实战指南:从坐标系重装到工业降维落地

主成分分析(PCA)是一种经典的线性降维技术,其核心原理是通过正交变换重构数据坐标系,以最大化保留原始方差。它并非简单筛选特征,而是生成具有物理意义的新正交轴,广泛应用于高维数据压缩、可视化、噪声过滤与下游模型预处理。技术价值在于平衡信息保留与计算效率,尤其在传感器数据、图像特征、用户行为等场景中显著提升训练速度与可解释性。实际应用需严格遵循中心化、按需标准化、累计方差验证与重建误差评估四大工程约束。本文聚焦PCA的实操本质——如何用components_解读设备异常、用explained_variance

weixin_30700977的博客 462

用 PCA 方法进行数据降维

在进行数据分析时,我们往往会遇到多维数据,多维数据在处理时由于维度较大计算起来非常麻烦,这时我们需要对数据进行降维。而在所有降维方法中,PCA是我们最常用的方法之一,其在使用时可以消除指...

Python中文社区 8245

图像组训练过程的PCA和LDA应用方法

前言        在图像的训练中,通常会把图像的每一个像素看做是一个变量,所以在图形训练的时候,变量的个数非常多,继而出现比较大的问题是变量之间往往有很多存在相关性,变量间的相关性会造成信息的重叠和分析的复杂性,所以使用主成分分析(Principal Componen Analys,简称“PCA”)进行降维是一个基本的方法。        当使用了PCA进行降维后,我们介绍一个简单的分类器:

BE A CREATOR 2231

统计学习方法-PCA-读书笔记

![在这里插入图片描述](https://img-blog.csdnimg.cn/20191115151 另外一种方法

qq_38829768的博客 1067

《统计学习方法》笔记——PCA(未完待更)

16 主成分分析16.1 总体主成分分析16.1.1 基本想法16.1.2 定义和导出16.1.3 主要性质 16.1 总体主成分分析 16.1.1 基本想法 数据的变量之间可能存在相关性,以致增加了分析的难度。于是,考虑由少数不相关的变量来代替相关的变量,用来表示数据,并且要求能够保留数据中的大部分信息 主成分分析中, 首先对给定数据进行规范化,使得数据每一变量的平均值为0,方差为1 之后,对...

Aries_young的博客 757

机器学习实操指南:用UCI真实数据集跑通第一个模型

机器学习入门的核心在于理解数据与算法的协同关系,而非堆砌理论。真实数据集天然具备缺失值、分布偏斜、特征噪声等典型问题,这恰恰是掌握特征工程、缺失值处理、标准化时机等关键技能的实践场。基于scikit-learn的轻量级技术栈,无需GPU或深度学习框架,即可完成从UCI数据加载、EDA探索、KNN缺失填充、对数变换到交叉验证评估的完整闭环。其技术价值在于构建可复现、可调试、可交付的最小可行建模流程,广泛适用于房价预测、用户价值评估、区域风险建模等回归类业务场景。

chenzhuofei4155的博客 426

《统计学习方法》学习笔记目录

此篇为 李航老师著的《统计学习方法》的学习笔记汇总,准备学习并敲一敲代码,还请大家不吝赐教!

Michael是个半路程序员 8326

Python+whisper/vosk实现语音识别

Whisper 是一个由 OpenAI 开发的人工智能语音识别模型,它能够将语音转换为文本。Whisper 模型特别之处在于它的设计目标是能够理解和转录多种语言的语音,包括但不限于英语。Whisper 模型在训练时使用了大量不同语言的语音数据,这使得它具有很好的跨语言能力。Vosk 是一个开源的语音识别库,它可以在离线环境下工作,不依赖于任何外部服务。Vosk 基于Kaldi语音识别框架,支持多种语言,包括中文。Vosk提供了多种预训练模型,可以根据需求选择适合的模型进行语音识别。

weixin_44458771的博客 5943

统计学习方法:PCA

19世纪末到20世纪初,统计学家(最典型的是Pearson那篇论文)遇到一个很具体的麻烦:他们手里有一批样本,每个样本身上量了好几个指标(比如同一批人的身高、体重、头围、坐高……),这些指标彼此并不独立——量了身高,某种程度上就能猜个大概体重。当时的困扰是:这些指标高度"重叠信息",但没人知道怎么用一个数学上站得住脚的办法,把重叠的部分"挤掉",只留下真正独立、有信息量的少数几个新指标。

AggressiveYu的博客 498

从‘裸纤’到成品:手把手拆解光纤阵列(FA)的装配、点胶与端面研磨全流程

本文详细拆解了光纤阵列(FA)从裸纤到成品的全流程,包括装配、点胶与端面研磨等关键工艺。通过实战经验和数据对比,揭示了5G基站、数据中心等场景中FA的精密制造要点与常见故障解决方案,为光通信器件生产提供专业指导。

weixin_42652674的博客 753

三部对接 sora-2:OpenAI 最新视频模型快速接入指南

本文介绍OpenAI最新视频生成模型Sora-2的接入方案,重点解析其Chat格式调用功能。开发者可通过在提示词中嵌入"横屏/竖屏""时长""清晰度"等要求快速生成视频。文章分三部分:1)基础准备(环境配置与API密钥获取);2)核心调用(提供Python/Java示例代码);3)结果查询与优化建议。Sora-2支持多语言调用,简化了视频生成流程,适用于短视频、广告创意等场景。

2501_93565190的博客 3437

【Matlab】降维方法_基于稀疏PCA的Sparse Coding降维

鸢尾花(Iris)数据集是一个经典的数据集,用于机器学习和统计学习中的分类和聚类问题。该数据集包含了三种不同类型的鸢尾花(山鸢尾、变色鸢尾和维吉尼亚鸢尾)的测量数据,每种花各有50个样本。每个样本包含四个特征,即萼片长度、萼片宽度、花瓣长度和花瓣宽度,以及它所属的鸢尾花类型。该数据集最早由英国统计学家和生物学家Ronald Fisher在1936年的一篇论文中介绍,并一直被广泛用于分类和聚类问题的研究中。由于其简单性和广泛应用性,鸢尾花数据集已成为了机器学习和统计学习中的标准数据集之一。

敲代码两年半的练习生博客 2098

Unity AR开发实战:从Vuforia图片识别到实体识别全流程解析

增强现实(AR)技术通过计算机视觉算法将虚拟信息叠加到现实世界,其核心原理在于对现实环境的感知与理解。在移动端AR开发中,图像识别与物体识别是实现虚实融合的关键技术,它们决定了虚拟内容能否准确、稳定地与现实对象对齐。Vuforia作为成熟的商业AR SDK,为开发者提供了从平面图像识别(Image Target)到三维实体识别(Model Target)的完整解决方案,极大降低了计算机视觉技术的应用门槛。在工程实践中,Vuforia通过封装复杂的特征提取与匹配算法,使开发者能够专注于交互设计与内容制作,广泛

weixin_30972263的博客 303

机器学习理论《统计学习方法》学习笔记:主成分分析(PCA)

第十六章 主成分分析(PCA)摘要1 总体主成分分析1.1 基本思想1.2 总体主成分分析定义1.3 主成分的个数1.4 规范化变量的总体主成分分析2 样本主成分分析2.1 样本主成分的定义和性质 摘要 主成分分析(Principal component analysis, PCA)是一种常用的无监督学习方法。这一方法利用正交变换,把由线性相关变量表示的观测数据,转换为少数几个由线性无关变量表示的数据,线性无关的变量称为主成分。主成分的个数通常小于原始变量的个数,所以主成分分析属于降维方法。主成分分析主要用

紫芝的博客 3917

Visual C++与WPF混合开发:C++/CLI桥接技术实现现代化桌面应用

在桌面应用开发领域,混合编程技术是连接不同技术栈、复用核心资产的关键手段。其核心原理在于通过特定的桥接层,实现托管代码与非托管代码之间的互操作,从而打破语言和运行时环境的壁垒。这项技术的核心价值在于,它允许开发者将高性能、高稳定性的原生C++业务逻辑库,与现代化、高表现力的WPF用户界面无缝结合,避免了重写核心代码的巨大成本和风险。在工业控制、数据可视化、上位机软件等对性能和界面均有高要求的应用场景中,这种架构尤为适用。本文以C++/CLI作为桥接技术,详细演示了如何构建一个包含原生C++核心层、C++/C

weixin_33146151的博客 278

论文复现-基于NSGA-Ⅲ的梯级水电-火电机组多目标优化调度(全代码-约3000行)

火电是目前我国电网中提供调节能力的主要能源,而随着碳中和目标的提出,势必要降低火电在电网中的分量。梯级水电则是可以替代火电发挥调节作用的能源。基于电网中存在大量火电的背景,梯级水电如何与火电机组耦合调度呢?本代码通过NSGA-Ⅲ多目标优化算法的实现了该模拟过程。

WW、forever的博客 1467

基于PCA方法的ORL人脸识别及Python代码实现

基于PCA方法的人脸识别及Python代码实现参考文献 PCA的理论知识已经有很多博客做了清晰的解释,主要概括为找到投影的面使得类间误差最大,转化为找到构建的协方差的特征值与特征向量,在新的投影方向(特征向量)上投影,构建数据库和待检索的人脸进行比对,得到相似度最高的人脸作为查询结果,本文使用ORL人脸数据库基于PCA方法实现人脸识别。 机器学习理论《统计学习方法》学习笔记:主成分分析(PCA) 本文所用的是ORL人脸库,由英国剑桥实验室拍摄,共有40人,每人不同角度不同表情拍摄了10张,所以共有400个样

紫芝的博客 1万+

基于点云数据的统计滤波算法改进

随着三维视觉和点云处理技术的发展,点云数据在机器人、自动驾驶、增强现实等领域得到了广泛应用。而点云数据中常常包含着各种噪声和异常点,这些噪声和异常点会影响后续的数据处理和分析任务。因此,对点云数据进行滤波处理是必不可少的一步。在点云滤波算法中,统计滤波(Statistical Filtering)是一种常见且有效的方法。它通过对点云数据进行统计分析,将噪声和异常点剔除或修复,从而得到更为准确和可靠的点云数据。本文将介绍一种改进的统计滤波算法,并提供相应的源代码实现。

QfcaLinux的博客 293

《统计学习方法》之主成分分析PCA结合python实现

最近在学习李航老师的《统计学习方法》第16章-主成分分析(PCA),结合运用python代码实现,记录一下。

m0_46670850的博客 880

项目报告:基于Sentaurus TCAD的多沟道长度NMOS器件仿真、SPICE模型提取与环形振荡器电路验证

本项目基于Sentaurus TCAD工具,完成了从器件仿真到电路验证的全流程研究。首先构建了45nm、65nm和90nm三种沟道长度的NMOS器件,通过TCAD仿真分析了其电学特性,观察到明显的短沟道效应。随后提取了BSIM4 SPICE模型参数,并生成Hspice可用的模型文件。最后利用该模型设计了11级环形振荡器进行电路验证,证明了模型的实用性。研究结果表明,随着沟道长度缩短,器件性能虽有所提升,但短沟道效应导致关态电流显著增加,影响整体能效。本项目为纳米尺度MOSFET的建模与电路设计提供了完整的技

huanghm88的专栏 289

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

数据集特征提取_基于PCA算法实现鸢尾花数据集的特征提取任务

PCA算法的必要性多变量大数据集无疑会为研究和应用提供丰富的信息,但是许多变量之间可能存在相关性,从而增加了问题分析的复杂性。如果分别对每个指标进行分析,分析往往是孤立的,不能完全利用数据中的信息,因此盲目减少指标会损失很多有用的信息,从而产生错误的结论。因此如果可以在减少需要分析的指标同时,尽量减少原指标包含信息的损失,那么将有利于算法模型的搭建。由于各变量之间存在一定的相关关系,因此可以考虑将...

weixin_39622399的博客 2045

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

【Matlab】降维方法_主成分分析PCA

鸢尾花(Iris)数据集是一个经典的数据集,用于机器学习和统计学习中的分类和聚类问题。该数据集包含了三种不同类型的鸢尾花(山鸢尾、变色鸢尾和维吉尼亚鸢尾)的测量数据,每种花各有50个样本。每个样本包含四个特征,即萼片长度、萼片宽度、花瓣长度和花瓣宽度,以及它所属的鸢尾花类型。该数据集最早由英国统计学家和生物学家Ronald Fisher在1936年的一篇论文中介绍,并一直被广泛用于分类和聚类问题的研究中。由于其简单性和广泛应用性,鸢尾花数据集已成为了机器学习和统计学习中的标准数据集之一。

敲代码两年半的练习生博客 1628

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

复现经典:《统计学习方法》​第16章 主成分分析

第16章 主成分分析本文是李航老师的《统计学习方法》一书的代码复现。作者:黄海广备注:代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”,可以在这个专辑在线阅读...

fengdu78的博客 1459

Python实战:用NumPy手写PCA算法(附李航《统计学习方法》习题16解析)

本文详细介绍了如何使用NumPy从零实现PCA算法,并结合李航《统计学习方法》第16章的习题解析,深入理解PCA的数学本质和编程技巧。通过实战代码演示,帮助读者掌握数据降维的核心步骤,包括数据中心化、协方差矩阵计算和特征值分解,并提供了常见陷阱与优化方案。

weixin_42653691的博客 188

【统计学习方法 • 从无到有系列】— 【一】统计学习及监督学习概论

???? 本系列准备将吴恩达老师视频笔记和机器学习实战与《统计学习方法 - 第 2 版》中的内容进行综合,摒弃不加思考的笔记记录,从无到有,突出公式的推导过程以及对应的代码解析,力求完善机器学习的知识体系,夯实基础。

小牛肉的博客 917

统计学习路线图:从新手到专家的完整学习路径

掌握统计学习是成为优秀数据科学家的关键一步。无论你是初学者还是有一定经验的数据分析师,这份完整的统计学习路线图将为你提供从基础到高级的系统性学习指南。通过结合经典教材《Practical Statistics for Data Scientists》及其丰富的代码资源,你将能够快速掌握数据科学中50多个核心统计概念。 ## 📊 为什么统计学习如此重要? 在当今数据驱动的世界中,统计学习为数据

gitblog_00953的博客 816
上一篇: 告别默认状态栏!Android应用个性化状态栏设置实战教程
下一篇: TFT驱动原理深度解析:从场效应管到液晶显示控制
docker8compose
博客等级 码龄1天 0粉丝 1102原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值