特征工程小记

stm32H743基于CubeMX配置为双ADC多通道DMA规则采样 stm32H743的ADC支持的最大频率为36MHz,有相关资料上说是可以超频,具体技术细节不多讨论。 需求: 使用stm32H743的ADC采集5路ovrc 阅读详情

特征和数据是结果的上限,模型只是接近结果上限的路径。

特征归一化

①算法结果往往偏向于数值差别大的特征,常常会对做数据无量纲化处理。
②如下图,未归一化的特征方向上图形教长,使用梯度下降时,达到最优解的速度会更慢。在这里插入图片描述
③特征归一化大多数情况下是非常有用的,但是有的模型却不需要这样做。例如:朴素贝叶斯、决策树,他们都是概率模型,只与数据分布有关,与数值大小无关。

类别特征编码

除了决策树等少数模型外,多数模型不能输入类别特征,常见的类别特征编码有:

  • 序号编码:适用于各个编号间有大小、等级关系,如高中低、上中下
  • 独热编码(one-hot):对每个特征取值构造一个特征,该维度的值为1,其余取值构造的特征维度为0。类别值较多时需要注意的问题 :
    • 类别值较多,one-hot构造的特征维度较多,会占用大量的内存。可以用稀疏向量来表示所构造的维度特征以有效节约内存空间。sklearn中的onehot可以用sparse参数来控制。
    • 类别值较多通常会带来三个问题:高维空间中距离度量困难(如KNN等聚类算法需要度量距离、SVM的间隔距离度量)、过拟合(特征多了,通常都会过拟合,一般需要数据数量为特征的10倍以上才能获得较好的结果)、特征冗杂(通常只有部分特征是有效的,对结果有帮助)。故我们可以对其进行特征选择。
  • 二进制编码:相当于把序号编码中的序号转换为二进制,如总的有5种类别,则2转换为010,5转为101。从数值上看也许你觉得她仍然是有大小关系的,实际上这样会构造了三列特征,每列特征上的数值只有0和1,是没有明显的大小关系的。从一定程度上减少了内存占用、减弱了编号间的大小关系。
  • 平均数编码:是一种专门针对类别特征取值特别多的一种特征处理方案。主要思想是:目标总共有C个类,构造C-1个特征,计算每一种取值属于每个类的概率作为对于构造特征的编码值。概率为先验概率和后验概率的线性组合,权重因子根据实际情况做调整。只构造C-1个特征的原因是:所有概率和为1,知道了C-1个就知道第C个的概率。具体可以参考http://www.bewindoweb.com/217.html、https://zhuanlan.zhihu.com/p/26308272

特征组合

很多时候我们仅仅使用获得的原始特征不能得到很好的结果,例如用户、商家,他们分别是一种特征,但是不同的用户有不同的商家偏好、不同的商家面向不同的用户群体,所以我们需要联合用户和商家特征来构造特征以更好的刻画用户。通常的特征取值较少的时候,这样直接结合的方式感觉太完美了,但是如果特征取值很多的时候就会出现问题。例如推荐系统中用户和商家的数据是都是很大的,两两结合构成的维度是M*N,M为商家数、N为用户数,构造的特征会占用特别大的内存空间、同时对模型的运算能力要求极大的增加以至于很可能无法学习。很多商家或者用户群体他们都有很相似,山寨模仿嘛。这个时候我们可以把用户和商家聚类成低纬度的特征,再做特征组合。另外我们也可以对用户和商家的特征进行降维再做特征组合。

有效的构造特征组合

即使我们像上面那样在构造特征组合前对特征做了处理,但仍然会有产生很多的冗杂特征。一种处理方法是根据业务知识选择哪些特征来做组合。一种方法是利用GBDT等决策树做特征组合:决策树的一条路径就是一个规则,则把一条路径上的特征作为一个组合,但是由于仅仅用一条规则来组合,并不能包含把两个特征可能组成的所有组合。由于GBDT等梯度提升树的下一棵树是建立在上一课树的残差上,故我们可以使用梯度提升树来构造特征组合。

uniapp [安卓苹果App端] - 在“安卓app/苹果app“平台端打包编译后,微信授权登录报错 login:fail [:-1]未能完成操作。(PGWXAPI错误-1。)错误码code:-10 uni-app,安卓Android,苹果ios,安卓app端,苹果App端,uniapp苹果安卓app,微信授权登录,uniAppAPP端微信登录报错,出现微信确认登录界面后点击登录报错,BundleID,应用ID,微信登录,app微信一键登录,微信登录绑定点确定就出错,AppSecrect,login:fail[:-1]未能完成操作。(PGWXAPI错误-1。),"errCode":-100,"code":-100,在uniappmanifest.json配置了AppSecrect还是报错无 阅读详情

相关推荐

软考中级-系统集成项目管理工程师**的超详细知识点笔记。

软考中级系统集成项目管理工程师核心知识点摘要 综合知识:涵盖信息化基础(国家信息化六要素、信息系统开发方法)、系统集成特点(高技术性、团队协作)、IT服务管理(ITIL流程)、网络技术(OSI模型、TCP/IP)、信息安全(CIA三要素、加密技术)、软件工程(生命周期、测试类型)、面向对象分析与设计(UML图)、新一代信息技术(云计算、大数据、物联网)。 案例分析:聚焦项目管理十大知识领域,重点包括: 整体管理(项目章程、变更控制流程) 范围管理(WBS分解、需求跟踪矩阵) 进度管理

最爱で毛毛熊的博客 1993

高维多元数据拟合回归如何进行???

一、高维多元数据非线性/线性拟合: Matlab绘制三维空间网格散点图,使用cftool工具箱实现三维空间绘图。cftool工具箱是应用程序中的Curve Fitting应用。选择拟合曲线的类型,工具箱提供的拟合类型有: Custom Equations:用户自定义的函数类型。根据需求自行设定,但是有时候要根据实际数据情况设定,不然会出现偏差太大的问题,特别是对于实验结果数据拟合时,要根据变量与因变量之间的实际潜在趋势关系进行合理设定。 Exponential:指数逼近,有2种类型, aexp(bx) 、

橙子Blue不加冰 1万+

RouterOS v7.6实战:5分钟搞定IPv6双栈配置(含光猫桥接避坑指南)

本文详细解析了在RouterOS v7.6系统中配置IPv6双栈网络的实战步骤,特别针对家庭网络光猫桥接模式下的常见问题提供了避坑指南。文章涵盖了从基础配置到企业级部署的进阶内容,包括IPv6前缀获取、DHCPv6客户端设置、路由通告以及安全优化,帮助用户充分利用v7.6版本在IPv6支持上的改进与优势。

embedding5hiker的博客 1290

特征构造

1. 风控建模流程 1.1 评分卡 贷前 申请评分卡 Application score card 贷中 行为评分卡 Behavior score card 贷后 催收评分卡 Collection score card A B逾期的客户是正样本 C 能够被内催催回来的客户 1.2 机器学习模型的完整工程流程 准备 明确需求 模型设计 业务抽象成分类/回归问题 定义标签(目标值) 样本设计 特征工程 数据处理,选取合适的样本,并匹配出全部的信息作为基础特征 特征构建 特

weixin_46072106的博客 3306

Microchip Studio 7.0 从零开始:下载、安装到首个AVR工程实战

本文为AVR单片机开发新手提供了Microchip Studio 7.0的完整入门指南。从官方下载、避坑安装,到创建首个GCC C工程、编写LED闪烁代码,再到项目配置、仿真调试与程序烧录,手把手带你完成从零到一的实战过程,是掌握AVR开发环境的必备教程。

weixin_29200741的博客 526

PDPS16.0单机版与SPLMLicenseServer授权避坑指南:从安装到冲突解决

本文详细解析了PDPS16.0单机版的安装与授权流程,重点阐述了如何正确配置SPLMLicenseServer本地许可证服务器以实现软件激活。针对安装过程中常见的许可证冲突问题,提供了清晰的排查思路和解决方案,并介绍了通过设置环境变量等替代授权方法,帮助用户高效避坑,确保Tecnomatix Process Simulate顺利运行。

weixin_29231221的博客 570

特征工程系列:时间特征构造以及时间序列特征构造

0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,特征工程在机器学习中占有相当重要的地位。在实际应用当中,可以说特征工程是机器学习成功的关键。那特征工程是什么?特征工程是利用数据领域的相关知识来创建能够使机器学习算法达到最佳性能的特征的过程。特征工程又包含了 Data PreProcessing(数据预处理)、Feature Extraction(特征提取...

木东居士 1万+

告别深度学习!用5个麦克风搞定多说话人分离:ReTM算法保姆级教程

本文详细介绍了ReTM算法,这是一种无需深度学习、仅需5个麦克风即可实现多说话人语音分离的创新信号处理方法。它通过估计相对传递矩阵,利用空间物理信息在混响环境中分离语音,具有数据需求低、计算复杂度小、无需先验几何信息等优势,特别适合嵌入式设备和资源受限场景。

desk3的博客 160

068《精通特征工程》小记

只能说自己的英文太差,看翻译的作品,感觉还是会理解存在一定的偏差。 或许是看的太粗略了,觉得自己有点似是而非,好似知晓了一些特征工程方面的东西,但又不甚了解。 还是找书多看看,多动手实践吧,纸上觉来终觉浅,大概就是这个意思吧。 《精通特征工程》作者:[美]爱丽丝·郑,[美]阿曼达·卡萨丽,译者:陈光欣,出版社:人民邮电出版社,出版时间:2019-04,ISBN:9787115509680 ...

积跬步,慕至千里的博客 225

Allegro Design Entry HDL(OrCAD Capture HDL)原理图是设计快速入门图文教程

Allegro Design Entry HDL是Cadence公司开发的原理图设计工具,也可与Allegro PCB设计工具无缝对接,虽然板级开发中不如Design Entry CIS(又名 OrCAD Capture CIS)的使用那么广泛,但是由于Design Entry HDL支持芯片的开发,所以有不少公司尤其是芯片背景公司,选择使用Design Entry HDL进行原理图设计。两个原理图开发工具的使用方法大同小异,本文简单介绍使用Allegro Design Entry HDL开始一个新的设计,

fydar的博客 4139

Python爬虫实战:新浪财经股票金融数据全方位抓取教程

本教程系统介绍了新浪财经股票数据爬取技术,从静态网页解析、实时接口请求到异步爬取和数据存储,帮助你搭建了一个完整的金融数据采集流程。未来,可以结合深度学习模型进行行情预测,或者将数据接入量化交易系统,实现自动化投资。

2201_76125261的博客 2210

NLP一般流程小记

NLP一般流程小记 1.获取语料 语料,是NLP任务所研究的内容,通常用一个文本集合作为语料库(Corpus)来源:已有语料,积累的文档, 下载语料 2. 语料预处理 1)语料清洗:留下有用的,删掉噪音数据 常见的数据清洗方式:人工去重、对齐、删除和标注等,或者规则提取内容、正则表达式匹配、根据词性和命名实体提取、编写脚本或者代码批处理等。 2)分词:将文本分成词语 常见的分词算法:基于字符串匹配的分词方法、基于理解的分词方法、基于统计的分词方法和基于规则的分词方法 3) 词性标注:给词语打词类标签,如形容

weixin_45557267的博客 804

车载网络测试实操源码_使用CAPL脚本进行UDS刷写及其自动化测试

本文主要讲解如何使用CAPL脚本进行UDS刷写及其自动化测试,并结合了几个测试实例进行介绍,希望对大家有所帮助。

文章主要涉及嵌入式软件开发、测试、项目管理等,欢迎交流,共同进步。 1558

软件工程小记——概述

因为快期末考试了,这里整理了一下软件工程这门课的一些知识点。 其实整理这些软件工程的知识点并不只是为了考试,我真正的目的是让自己真正学到一些东西。 1.软件工程采用:系统工程学和管理学。 2.软件工程的基本目标:高质量和高生产力。     高质量:最大限度地满足客户需求、帮助客户获得成功。     高生产力:以最小的成本获得最好的收益。 3.软件工程的产生:软件危机。 4.软件生命周期3个时期...

fu_jian_ping的博客 382

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

网易游戏测试工程师面试小记

题记:前一阵子跟风投了网易的游戏测试,这边过去好像直接算内推的,没有笔试。昨天通知我去面试,百度地图真是坑爹,输入网易地址 网商路599号 给出的是阿里巴巴的位置,害我找了一会儿。 过程:先是自我介绍,然后开始问问题,3个人,一个主问,一个插两句,一个坐在那里对简历发呆。然后就问我平常用什么语言,答曰,以前C,现在C++ 问题: 1、C++里虚函数的作用    

hewei0241的专栏 1万+

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

SIFT算法学习小记

SIFT算法学习小记http://www.cnblogs.com/saintbird/archive/2008/08/20/1271943.html    Sift是David Lowe于1999年提出的局部特征描述子,并于2004年进行了更深入的发展和完善。Sift特征匹配算法可以处理两幅图像之间发生平移、旋转、仿射变换情况下的匹配问题,具有很强的匹配能力。在Miko

ding_net的专栏 1340

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

(Python)小记2

1、data.drop_duplicates(inplace = True) # 去除重复项 data.index = range(data.shape[0]) # 删除之后,要恢复索引,否则默认行数还是不变,只是将内容删除 2、# 查看每一列的缺失情况 data.isnull().sum() / data.shape[0] 《===等价===》data.isnull().mean() 3、# 显示这一列所有的取值 data.loc[...

bingbangx的博客 496

软件工程小记——软件维护

第七章 软件维护与项目管理 1.软件维护:     软件维护是指软件系统交付使用以后,为了改正软件运行错误,或者为了满足用户新的     需求而加入新功能的修改软件的过程。 2.软件维护的分类     a.正确性维护         正确性维护是指改正在系统开发阶段已发生而系统测试阶段尚未发现的错误。     b.适应性维护         适应性维护是指使用软件适应信息技术变化和管理需求变化而进...

fu_jian_ping的博客 365

软件工程小记——面向对象分析

第八章 面向对象分析 1.传统软件工程方法对应的软件过程模型(或者软件生命周期模型)通常是瀑布模型,划分为以下阶段:     a.问题定义;     b.需求分析;     c.可行性研究;     d.概要设计;     e.详细设计;     f.编码;     h.测试;     i.维护      2.目前通常将通用的传统软件工程方法划分为以下阶段:     a.需求分析;     b....

fu_jian_ping的博客 1263

MLSQL 的小记

???? MLSQL 的小记 MLSQL 解决了哪些问题 一. 配置 MLSQL 源码地址 engine和cluster 源码地址 console 1. mlsql-engine 模块 下图 mlsql_18.png 为 节点启动mlslq-engine 命令打印出的 为命令谁需要的变量 windows环境下调试代码:idea 打包在下载代码,修改package.cmd 。执行package.cmd 即可打包。 set MLSQL_SPARK_VERSIOIN=2.4 set DRY_RUN=false

qq_42496461的博客 839

OpenMLDB - 小记

关于 OpenMLDB 发展 架构

AI工程化、开源分享、文档翻译、代码笔记 263

CTR小记

合格的网络营销人员都应该熟悉下面的常见英文缩写,这些都是我们必须知道的名词解释: CVR (Click Value Rate): 转化率,衡量CPA广告效果的指标 CTR (Click Through Rate): 点击率 CPC (Cost Per Click): 按点击计费 CPA (Cost Per Action): 按成果数计费 CPM (Cost Per Mille): 按千次展现计费...

qq_30735079的博客 1087

图像处理和OpenCV小记

不管是图像处理还是计算机视觉,都越来越需要机器学习做特征集的训练了。但是feature engineer或者说图像本身各种关键特征的提取也是很关键的。今天在pysearch上看到了这句话也正是一样, A clever use of contour properties can save you from training complicated machine learning models.

193

2023-2-06随堂小记

听课笔记

Prime me的博客 350

软件工程小记——编码与测试

第六章 编码与测试 1.程序设计语言分为两大类:     面向机器语言:         面向机器语言包括机器语言和汇编语言;     高级语言:         高级语言分为专用语言和通用语言;          2.程序设计语言的选择     理想标准、实用标准、系统用户的要求、工程的规模、软件的运行环境、可以得到的软件开发工具、     软件开发人员的知识、软件的可移植性要求。      ...

fu_jian_ping的博客 1447
上一篇: 集成学习
下一篇: 模型评估小记
酸辣椒炒青椒
博客等级 码龄11年 9粉丝 19原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值