【特征选择】单变量特征选择

【推荐系统】特征选择(单变量特征选择和基于模型的特征选择) 单变量特征选择能够对每一个特征进行测试,衡量该特征和响应变量之间的关系,根据得分丢弃不好的特征。单变量特征选择这种方法比较简单,易于运行,易于理解。 阅读详情

特征选择入门:单变量特征选择|原理+方法+Python实战全攻略

单变量特征选择是机器学习中最简单、最高效的特征筛选方法,核心逻辑是“逐个评估每个特征与目标变量的相关性”,筛选出对预测结果最有用的特征。它无需复杂模型,仅通过统计检验就能完成筛选,适合作为特征选择的“第一步”或“快速粗筛工具”。


一、单变量特征选择是什么?一句话看懂

单变量特征选择 = 对每个特征“单独打分”,只留分数高的特征。

核心逻辑:

  • 不考虑特征之间的相互关系,只看“单个特征”与“目标变量”的关联强度
  • 用统计方法给每个特征评一个“重要性分数”
  • 按分数排序,筛选出Top K个或分数达标的特征

形象比喻:招聘筛选简历

目标变量是“是否录用”,每个特征是简历上的一项(学历、工作年限、技能证书等):

  • 单变量特征选择就像HR逐个看每项指标:“学历是否达标?”“工作年限够不够?”
  • 只保留“单项表现好”的指标(特征),忽略单项表现差的,最终形成“合格简历清单”(筛选后的特征集)

二、3种核心方法(必学)

根据特征类型(分类/连续)和任务类型(分类/回归),选择对应的统计方法:

1. 卡方检验(Chi-square Test)

适用场景
  • 特征是分类变量(如性别:男/女、学历:本科/硕士)
  • 目标变量是分类变量(如是否购买:是/否、疾病类型:A/B/C)
核心原理

检验“特征类别”与“目标类别”是否独立:

  • 假设特征与目标独立(无关联),计算“实际观测频数”与“理论期望频数”的差异
  • 差异越大(卡方统计量越大),说明特征与目标关联越强
公式(简单理解)

χ2=∑(Oij−Eij)2Eij \chi^2 = \sum \frac{(O_{ij} - E_{ij})^2}{E_{ij}} χ2=∑Eij​(Oij​−Eij​)2​

  • OijO_{ij}Oij​:实际观测频数(如“男性+购买”的人数)
  • EijE_{ij}Eij​:理论期望频数(假设独立时,“男性+购买”的预期人数),计算方式:
    Eij=行合计×列合计总样本数E_{ij} = \frac{行合计 \times 列合计}{总样本数}Eij​=总样本数行合计×列合计​
选择规则
  • 卡方统计量越大 → 特征越重要
  • p值 < 0.05 → 特征与目标显著相关,保留;反之剔除

2. F检验(F-test/ANOVA)

适用场景
  • 特征是连续变量(如收入、年龄、成绩)
  • 目标变量是分类变量(如客户等级:高/中/低、疾病是否发生:是/否)
核心原理

通过方差分析判断“不同类别下,特征的均值是否有显著差异”:

  • 组间方差:不同类别间的特征均值差异(如高、中、低客户的收入均值差异)
  • 组内方差:同一类别内的特征波动(如高客户内部的收入波动)
  • F值 = 组间方差 / 组内方差 → F值越大,说明类别间差异越显著,特征越重要
公式(简单理解)

F=组间方差组内方差 F = \frac{组间方差}{组内方差} F=组内方差组间方差​

  • 组间方差:衡量类别间差异,∑i=1kni(Xˉi−Xˉ)2k−1\frac{\sum_{i=1}^k n_i (\bar{X}_i - \bar{X})^2}{k-1}k−1∑i=1k​ni​(Xˉi​−Xˉ)2​(k=类别数,nin_ini​=第i类样本数)
  • 组内方差:衡量类别内波动,∑i=1k∑j=1ni(Xij−Xˉi)2N−k\frac{\sum_{i=1}^k \sum_{j=1}^{n_i} (X_{ij} - \bar{X}_i)^2}{N-k}N−k∑i=1k​∑j=1ni​​(Xij​−Xˉi​)2​(N=总样本数)
选择规则
  • F值越大 → 特征越重要
  • p值 < 0.05 → 特征与目标显著相关,保留;反之剔除

3. 互信息(Mutual Information)

适用场景
  • 特征和目标变量不限类型(分类/连续均可)
  • 存在非线性关系(如特征与目标是U型、对数关系)
核心原理

衡量两个变量之间的“信息共享程度”:

  • 互信息越大,说明特征包含的“关于目标的信息”越多,关联越强
  • 不依赖线性假设,能捕捉复杂非线性关系
公式(简单理解)

I(X;Y)=∑x∈X∑y∈Yp(x,y)log⁡p(x,y)p(x)p(y) I(X;Y) = \sum_{x \in X} \sum_{y \in Y} p(x,y) \log \frac{p(x,y)}{p(x)p(y)} I(X;Y)=x∈X∑​y∈Y∑​p(x,y)logp(x)p(y)p(x,y)​

  • p(x,y)p(x,y)p(x,y):特征X和目标Y的联合概率(同时取x和y的概率)
  • p(x)p(x)p(x)、p(y)p(y)p(y):特征X和目标Y的边缘概率(各自取某值的概率)
选择规则
  • 互信息值越大 → 特征越重要,按值排序选择Top K个

方法选择速查表(直接照选)

特征类型目标类型推荐方法
分类特征分类目标卡方检验
连续特征分类目标F检验(ANOVA)
任意特征任意目标(含非线性)互信息
连续特征回归目标皮尔逊相关系数(单变量扩展)

三、单变量特征选择完整流程(必背)

  1. 数据预处理:
    • 区分特征类型(分类/连续)和目标类型(分类/回归)
    • 处理缺失值(填充/删除)
    • 连续特征标准化(F检验、互信息等方法对尺度敏感)
  2. 选择统计方法:按上述速查表选择卡方检验、F检验或互信息
  3. 计算特征分数:对每个特征单独计算统计量(卡方值、F值、互信息值)和p值
  4. 筛选特征:
    • 按分数排序,选择Top K个(如Top 10)
    • 按p值筛选,保留p < 0.05的特征(卡方/F检验)
  5. 模型训练与评估:用筛选后的特征训练模型,对比筛选前后的性能

四、Python 完整实战:葡萄酒分类特征选择

1. 导入库+加载数据

import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as plt
from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.feature_selection import SelectKBest, f_classif, chi2, mutual_info_classif
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import classification_report, confusion_matrix, accuracy_score

# 加载葡萄酒数据集(13个特征,3类目标)
wine = load_wine()
X = pd.DataFrame(wine.data, columns=wine.feature_names)
y = pd.Series(wine.target, name='wine_type')

print("样本数:", X.shape[0])
print("特征数:", X.shape[1])
print("特征名:", list(X.columns))
print("目标类别:", list(wine.target_names))
X.head()

2. 数据预处理(拆分+标准化)

# 1. 拆分训练集/测试集(7:3)
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.3, random_state=42, stratify=y
)

# 2. 标准化连续特征(F检验、互信息需标准化)
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

# 转换为DataFrame(方便后续查看)
X_train_scaled = pd.DataFrame(X_train_scaled, columns=X.columns)
X_test_scaled = pd.DataFrame(X_test_scaled, columns=X.columns)

3. 方法1:F检验(连续特征+分类目标)

# 1. 初始化选择器:选择Top 10个最重要特征
selector_f = SelectKBest(score_func=f_classif, k=10)
X_train_f = selector_f.fit_transform(X_train_scaled, y_train)
X_test_f = selector_f.transform(X_test_scaled)

# 2. 查看结果
selected_features_f = X.columns[selector_f.get_support()]
feature_scores_f = pd.Series(selector_f.scores_[selector_f.get_support()], index=selected_features_f)
feature_pvalues_f = pd.Series(selector_f.pvalues_[selector_f.get_support()], index=selected_features_f)

print("=== F检验筛选的特征 ===")
print("选择的特征:", list(selected_features_f))
print("\n特征分数(F值):")
print(feature_scores_f.sort_values(ascending=False))
print("\n特征p值:")
print(feature_pvalues_f.sort_values(ascending=True))

4. 方法2:互信息(捕捉非线性关系)

# 1. 初始化选择器:选择Top 10个最重要特征
selector_mi = SelectKBest(score_func=mutual_info_classif, k=10)
X_train_mi = selector_mi.fit_transform(X_train_scaled, y_train)
X_test_mi = selector_mi.transform(X_test_scaled)

# 2. 查看结果
selected_features_mi = X.columns[selector_mi.get_support()]
feature_scores_mi = pd.Series(selector_mi.scores_[selector_mi.get_support()], index=selected_features_mi)

print("\n=== 互信息筛选的特征 ===")
print("选择的特征:", list(selected_features_mi))
print("\n特征互信息值:")
print(feature_scores_mi.sort_values(ascending=False))

5. 特征分数可视化

# 可视化F检验特征分数
plt.figure(figsize=(12, 6))
feature_scores_f.sort_values().plot(kind='barh', color='skyblue')
plt.title("F检验特征重要性分数", fontsize=12)
plt.xlabel("F值(越大越重要)")
plt.grid(alpha=0.3, axis='x')
plt.tight_layout()
plt.show()

# 可视化互信息特征分数
plt.figure(figsize=(12, 6))
feature_scores_mi.sort_values().plot(kind='barh', color='lightcoral')
plt.title("互信息特征重要性分数", fontsize=12)
plt.xlabel("互信息值(越大越重要)")
plt.grid(alpha=0.3, axis='x')
plt.tight_layout()
plt.show()

6. 模型训练与性能对比

# 定义训练评估函数
def train_evaluate(X_train, X_test, y_train, y_test, title):
    model = LogisticRegression(max_iter=1000, random_state=42)
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    acc = accuracy_score(y_test, y_pred)
    print(f"\n=== {title} ===")
    print(f"准确率: {acc:.4f}")
    print("分类报告:")
    print(classification_report(y_test, y_pred, target_names=wine.target_names))
    return acc

# 1. 原始特征(13个)训练
acc_original = train_evaluate(X_train_scaled, X_test_scaled, y_train, y_test, "原始特征模型")

# 2. F检验筛选后(10个)训练
acc_f = train_evaluate(X_train_f, X_test_f, y_train, y_test, "F检验筛选后模型")

# 3. 互信息筛选后(10个)训练
acc_mi = train_evaluate(X_train_mi, X_test_mi, y_train, y_test, "互信息筛选后模型")

# 对比结果
print("\n=== 性能对比 ===")
print(f"原始特征准确率: {acc_original:.4f}")
print(f"F检验筛选准确率: {acc_f:.4f}")
print(f"互信息筛选准确率: {acc_mi:.4f}")

7. 优化:选择最优特征数量K

# 测试不同K值(5-13)的性能
k_values = list(range(5, X.shape[1]+1))
acc_scores = []

for k in k_values:
    # F检验选择K个特征
    selector = SelectKBest(score_func=f_classif, k=k)
    X_train_k = selector.fit_transform(X_train_scaled, y_train)
    X_test_k = selector.transform(X_test_scaled)
    
    # 训练模型
    model = LogisticRegression(max_iter=1000, random_state=42)
    model.fit(X_train_k, y_train)
    acc = accuracy_score(y_test, model.predict(X_test_k))
    acc_scores.append(acc)

# 可视化K值与准确率关系
plt.figure(figsize=(10, 6))
plt.plot(k_values, acc_scores, marker='o', color='green', linewidth=2)
plt.title("特征数量K与模型准确率关系", fontsize=12)
plt.xlabel("选择的特征数量K")
plt.ylabel("测试集准确率")
plt.xticks(k_values)
plt.grid(alpha=0.3)
plt.tight_layout()
plt.show()

# 最优K值
best_k = k_values[np.argmax(acc_scores)]
best_acc = max(acc_scores)
print(f"\n最优特征数量K: {best_k}")
print(f"最优准确率: {best_acc:.4f}")

8. 混淆矩阵可视化(最优模型)

# 用最优K值训练模型
selector_best = SelectKBest(score_func=f_classif, k=best_k)
X_train_best = selector_best.fit_transform(X_train_scaled, y_train)
X_test_best = selector_best.transform(X_test_scaled)

model_best = LogisticRegression(max_iter=1000, random_state=42)
model_best.fit(X_train_best, y_train)
y_pred_best = model_best.predict(X_test_best)

# 绘制混淆矩阵
cm = confusion_matrix(y_test, y_pred_best)
plt.figure(figsize=(8, 6))
sns.heatmap(cm, annot=True, fmt='d', cmap='Blues',
            xticklabels=wine.target_names, yticklabels=wine.target_names)
plt.title(f"最优模型混淆矩阵(K={best_k})", fontsize=12)
plt.xlabel("预测类别")
plt.ylabel("真实类别")
plt.tight_layout()
plt.show()

五、单变量特征选择的优缺点(必背)

优点

  1. 简单易懂:原理基于基础统计检验,本科生也能快速理解
  2. 计算高效:逐个评估特征,无复杂迭代,适合中小型数据集
  3. 适用性广:支持分类/回归任务,可搭配卡方、F检验、互信息等多种方法
  4. 快速粗筛:能快速剔除完全无关的特征,减少后续建模复杂度
  5. 无模型依赖:不依赖复杂模型,仅通过统计量就能筛选,结果稳定

缺点

  1. 忽略特征交互:独立评估每个特征,无法捕捉“特征A+特征B”的协同作用(如“高学历+多年经验”才重要)
  2. 无法处理多重共线性:若两个特征高度相关且都重要,可能误删其中一个
  3. 线性假设局限:卡方检验、F检验依赖线性关系,对非线性关系捕捉能力弱(需用互信息弥补)
  4. 可能丢失关键信息:过度依赖单个特征的相关性,可能遗漏“单独看不重要但组合重要”的特征

六、与其他特征选择方法对比

方法核心逻辑优点缺点适用场景
单变量特征选择逐个评估特征与目标的相关性简单、快速、无模型依赖忽略特征交互、不处理共线性快速粗筛、特征独立、中小型数据
L1正则化(Lasso)惩罚系数绝对值,使部分系数为0嵌入建模、处理高维数据对共线性敏感、随机删除相关特征高维数据、稀疏建模
递归特征消除(RFE)训练模型逐步删除最不重要特征考虑特征交互、精度高计算量大、依赖模型特征交互强、对精度要求高
树模型特征重要性(RF/XGBoost)基于节点分裂增益评估重要性捕捉非线性、抗共线性计算量大、可能过拟合非线性数据、复杂特征关系

七、适用场景与替代方案

优先用单变量特征选择的情况

  1. 数据预处理阶段快速粗筛(剔除完全无关特征)
  2. 特征数量较多(几十到几百个)且特征间独立
  3. 任务是线性关系为主(如逻辑回归、线性回归)
  4. 对计算效率要求高,无需复杂建模

考虑其他方法的情况

  1. 特征间存在强交互作用(如“年龄+收入”共同影响消费):用RFE或树模型
  2. 特征高度相关(多重共线性):用L2正则化或ElasticNet
  3. 数据存在复杂非线性关系:用互信息或树模型
  4. 高维数据(上千个特征):用L1正则化或树模型

八、最简单总结(背诵版)

  1. 单变量特征选择 = 逐个给特征打分,只留高分特征
  2. 核心方法:分类特征用卡方检验,连续特征用F检验,非线性用互信息
  3. 优点:简单、快速、高效,适合快速粗筛
  4. 缺点:忽略特征交互,不处理共线性
  5. 最佳用法:作为特征选择的第一步,后续用更复杂方法精筛
【Python实例第33讲】单变量特征选择 机器学习训练营——机器学习爱好者的自由交流空间(qq 群号:696721295) 这是一个单变量特征选择的例子。这个例子将无信息的噪因特征添加到iris数据集里。对于每一个特征,我们画出单变量特征选择的p-value和一个SVM对应的权重。结果显示:有信息的特征具有更大的权值。 在整个的特征集里,仅仅有4个是显著的,它们具有最高的单变量特征选择分数。SVM同时也选择了很多无信息的特征。在SVM... 阅读详情

相关推荐

Scikit Learn中支持单变量特征选择的SVM示例

支持向量机(SVM)是一种强大的机器学习算法,用于分类和回归分析。它是基于找到两个类之间的最佳边界,最大限度地提高它们之间的差距的想法。然而,SVM的挑战在于它需要大量的计算能力,并且对特征的选择很敏感。这可能会使模型更加复杂,更难解释。单变量特征选择是一种用于选择数据集中最重要特征的方法。这种方法背后的思想是评估每个特征与目标变量的关系,并选择具有最强相关性的特征。对每个特征重复此过程,并根据定义的标准(如最高相关性或统计显著性)选择最佳特征。

python收藏家的博客 1392

机器学习——特征选择(一)

特征选择,又称变量选择、属性选择或变量子集选择,是选择相关特征子集用于模型构造的过程。简要地说,通过检测相关特征。摒弃冗余特征,获得特征子集,从而以最小的性能损失更好地描述问题。

qq_41566819的博客 2966

特征选择过滤器 - f_regression(单变量线性回归测试)

文章目录数学原理参数说明示例 官方网站:sklearn.feature_selection.f_regression sklearn.feature_selection.f_regression(X,y,center = True ) 数学原理 单变量线性回归测试。 用于测试许多回归变量各自的效果的线性模型。这是要在特征选择过程中使用的评分功能,而不是独立式特征选择过程。 分两个步骤完成: 计算每个回归变量与目标之间的相关性,即(((X [:, i]-mean(X [:, i]))(y-mean_y)

壮壮不太胖的学习笔记 6451

机器学习 特征选择

最终,单变量特征选择的目的是为了找到最有影响力的特征,提高模型的预测性能和解释性。需要注意的是,单变量特征选择可能不会考虑特征之间的相互作用,因此在某些情况下,组合多个特征可能会得到更好的预测结果。理论上,p值低于0.05对应的特征非常重要,但是如果数据集维度太高,p值极低并不表示这些是非常重要的特征,因为有非常大的数据和很多的特征,所以即使将p值设为0.01,仍有很多特征。:如果你希望找到多个特征,可以重复上述过程,每次添加一个新的特征,并重新计算MSE,直到找到所有你希望包含在模型中的特征。

qq_45876576的博客 478

Python 机器学习 基础 之 数据表示与特征工程 【单变量非线性变换 / 自动化特征选择/利用专家知识】的简单说明

Python是一种跨平台的计算机程序设计语言。是一种面向对象的动态类型语言,最初被设计用于编写自动化脚本(shell),随着版本的不断更新和语言新功能的添加,越多被用于独立的、大型项目的开发。Python是一种解释型脚本语言,可以应用于以下领域: Web 和 Internet开发、科学计算和统计、人工智能、教育、桌面界面开发、软件开发、后端开发、网络爬虫。Python 机器学习是利用 Python 编程语言中的各种工具和库来实现机器学习算法和技术的过程。

仙魁XAN 1197

C语言版数字锁相放大器实现指南:从复数运算到嵌入式MCU移植的坑我都帮你踩了

本文详细介绍了C语言实现数字锁相放大器的关键技术,包括复数运算优化、嵌入式MCU移植的实战经验及内存管理策略。针对STM32等资源受限平台,提供了从浮点到定点数转换的优化方案,帮助工程师高效处理微弱信号提取问题。

weixin_30721077的博客 433

[机器学习] 特征选择笔记2-单变量特征选择

特征选择 代码下载 本文主要介绍sklearn中进行特征选择的方法。 sklearn.feature_selection模块中的类可用于样本集的特征选择/降维,以提高估计量的准确性得分或提高其在超高维数据集上的性能。 单变量特征选择是通过单变量统计检验来选择最好的特征。它可以看作是估计器的预处理步骤。Scikit-learn将特征选择相关功能作为接口进行公开: SelectKBest删除除最高评分外的所有功能 SelectPercentile删除除用户指定的最高得分百分比以外的所有特征 对每个特征使用通用

You and Me 4975

UE5入门第二周总结:基于蓝图的国际象棋的实现

在C++的学习中,这是一个入门级别的项目。我们的目标是灵活运用蓝图的特性和强大的可视化功能,做出这一入门级项目的同时,思考如何优化并改进算法,并尽可能的用面向对象的方法实现,用蓝图中的继承和多态简化编码过程。

YoungeYang的博客 1264

特征选择-单变量特征选择

1.SelectKBest可以依据相关性对特征进行选择,保留k个评分最高的特征。 ①方差分析 分类问题使用f_classif,回归问题使用f_regression。 f_classif:分类任务 跟目标的分类,将样本划分成n个子集,S1,S2,..,Sn,我们希望每个子集的均值μ1,μ2,...,μn不相等。 我们假设H0:μ1=μ2=...=μn,当然我们希望拒绝H0,所以我们希望构造...

wangyj705的专栏 6083

ROS2 DDS中间件(图文并茂+超详细)

DDS 的目标场景在端上,致力于使端上的应用可以更容易的进行通信,由于它的完全分布式架构,可以方便的将端上的应用拆分为多进程架构,从而提高端的容错能力。从产品定位角度来讲,它和 Chromium 中的 mojo 都是端上的通信中间件,只不过 mojo 不强调分布式,内部集成了更多的特定于端上的机制,比如句柄的传输,消息的缓存等。但由于 mojo 生于 Chromium,目前官方并没有把它独立出来,所以用起来比较不方便。而 DDS 或许可以在简单的场景下作为 mojo 的替代品。

weixin_39939185的博客 5287

ZYNQ Linux环境下PS端I2C驱动OV5640摄像头全流程解析

本文详细解析了在ZYNQ Linux环境下,通过PS端I2C驱动OV5640摄像头的完整流程。内容涵盖从Vivado硬件配置、PetaLinux系统构建、设备树节点添加,到用户空间I2C编程与寄存器配置实战,并提供了关键的调试技巧与常见问题排查方法,帮助开发者快速实现嵌入式视觉应用的传感器配置。

vulkan6gpu的博客 854

单变量特征选择:Univariate feature selection

sklearn中的单变量特征选择 单变量的特征选择是通过基于一些单变量的统计度量方法来选择最好的特征,比如卡方检测等。Scikit-learn 将单变量特征选择的学习器作为实现了 transform方法的对象: sklearn中实现的方法有: SelectKBest 保留评分最高的 K 个特征 SelectPercentile 保留最高得分百分比之几的特征 对每个特征应用常见的单变量统计测

FontTian的博客 9226

在F1C100s上跑GBA游戏:手把手教你用Buildroot配置SDL和移植gpsp模拟器

本文详细介绍了在全志F1C100s开发板上配置Buildroot、移植SDL库和gpsp模拟器的完整流程,帮助开发者实现在ARM9平台上流畅运行GBA游戏。内容涵盖环境配置、交叉编译、常见问题解决及性能优化技巧,特别针对'段错误'和'无声音'等典型问题提供实用解决方案。

weixin_42566424的博客 399

sklearn pipeline_使用python+sklearn实现单变量特征选择

本文描述了一个单变量特征选择的示例。本文我们将噪声(无信息)特征会添加到鸢尾花(iris)数据中,并应用单变量特征选择。对于每个特征,我们绘制单变量特征选择的p值以及SVM的相应权重。我们可以看到单变量特征选择会选择有信息的特征,并且这些特征具有较大的SVM权重。在全部特征中,只有前四个是有意义的。我们可以看到它们在单变量特征选择时得分最高。SVM会为这些特征分配较大的权重,但会选择许多...

weixin_39517289的博客 316

看我如何用kali实时截获隔壁"小姐姐"的上网隐私(结尾有彩蛋)

看我如何用kali实时截获隔壁&amp;amp;amp;quot;小姐姐&amp;amp;amp;quot;的手机图片等信息(结尾有彩蛋哦) 首先圈下重点:《刑法》第二百八十五条 【非法侵入计算机信息系统罪;非法获取计算机信息系统数据、非法控制计算机信息系统罪】违反国家规定,侵入国家事务、国防建设、尖端科学技术领域的计算机信息系统的,处三年以下有期徒刑或者拘役。违反国家规定,侵入前款规定以外的计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或...

SoulCat 2万+

VBOX 3iS实战:如何用GNSS+IMU搞定车辆动态坡度测量(附避坑指南)

本文详细介绍了VBOX 3iS在车辆动态坡度测量中的高阶应用,通过GNSS+IMU融合技术和卡尔曼滤波算法,有效解决了传统测量方法在动态环境中的局限性。文章提供了设备配置、实战策略和数据后处理的实用指南,帮助工程师提升测量精度和效率。

weixin_42520796的博客 322

【Python机器学习】自动化特征选择——单变量统计

在单变量统计中,我们计算每个特征和目标值之间的关系是否存在统计显著性,然后选择具有最高置信度的特征。对于分类问题,这也被称为方差分析(ANOVA)。这些测试的一个关键性质就是他们是单变量的。即它们只单独考虑每个特征。因此如果一个特征只有在与另一个特征合并时才具有信息量,那么这个特征将被舍弃。单变量测试的计算速度通常很快,并且不需要构建模型。另一方面,他们完全独立于你可能想要在特征选择之后应用的模型。

weixin_39407597的博客 617

17. ADC开发

bes2700 支持2路ADC。

雪飞_海 343

特征选择利器:深入理解SelectKBest与单变量特征选择

特征选择是机器学习中降低维度、提高模型性能的关键步骤。本文深入探讨了单变量特征选择方法及其在scikit-learn中的实现SelectKBest,分析了不同统计检验方法(如ANOVA F值、卡方检验、互信息等)的适用场景,并通过鸢尾花分类案例展示了SelectKBest的实际应用。该方法通过独立评估每个特征与目标变量的关系,选择最优的K个特征,具有计算高效、易于理解等优点,但也存在忽略特征交互等局限性。文章还详细解析了SelectKBest的数学原理和算法流程,为特征选择提供了实用指导。

软件科学-郝学胜 994

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

boost原理与sklearn源码_sklearn中的特征选择:单变量选择法【上】

在特征选择中,最适合在探索阶段使用的就是过滤式的方法,比如方差阈值法和单变量选择法。在上一篇文章中我们介绍了如何在sklearn中使用方差阈值法,那么今天我们就进一步介绍更加实用、有效的单变量选择法。sklearn中的单变量选择法单变量选择法的主要思路是根据某些统计检验的方法分别对每个变量进行检验,得到一组分数、p-value数据,然后我们排序选择分数最高(或p-value最小等)的那些特征。在s...

weixin_39826971的博客 231

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

单变量特征选择

import pandas as pd from numpy import set_printoptions from sklearn.feature_selection import SelectKBest from sklearn.feature_selection import chi2 data=pd.read_excel(‘C:\Users\Administrator\Desktop...

qq_41235445的博客 512

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

特征选择方法_特征选择总结之 过滤式特征选择(附代码)——单变量过滤式特征选择方法总结...

单变量过滤方法主要是基于特征变量和目标变量之间的相关性、互信息等计算出来的,总结如下:1、最简单的方差选择法from sklearn.feature_selection import VarianceThreshold result=VarianceThreshold(threshold=0.5).fit_transform(data.data) #然后根据各个特征的方差的结果来删除方差太...

weixin_39966225的博客 1771

boost原理与sklearn源码_sklearn中的特征选择:单变量选择法从理论到实战[上]

在特征选择中,最适合在探索阶段使用的就是过滤式的方法,比如方差阈值法和单变量选择法。在上一篇文章中我们介绍了如何在sklearn中使用方差阈值法,那么今天我们就进一步介绍更加实用、有效的单变量选择法。sklearn中的单变量选择法单变量选择法的主要思路是根据某些统计检验的方法分别对每个变量进行检验,得到一组分数、p-value数据,然后我们排序选择分数最高(或p-value最小等)的那些特征。在s...

weixin_39824801的博客 144

Scikit-learn Python机器学习 - 特征降维 压缩数据 - 特征选择 - 单变量特征选择 SelectKBest - 选择Top K个特征

Scikit-learn Python机器学习 - 特征降维 压缩数据 - 特征选择 - 单变量特征选择 SelectKBest - 选择Top K个特征

java1234的博客 857
上一篇: 【特征选择方法】L2正则化(岭回归)
下一篇: 【特征选择】方差阈值法
「已注销」
博客等级 码龄1年 312粉丝 132原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

「已注销」

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值