xyxc202的博客

背景介绍​ 给定一个大小为 nnn 的数据集 {yi,xi1,...,xid}ni=1{yi,xi1,...,xid}i=1n\{y_i,x_{i1},...,x_{id}\}_{i=1}^n，其中xi1,...,xidxi1,...,xidx_{i1},...,x_{id}是第 iii 个样本 ddd 个属性上的取值，yiyiy_i是该样本待预测的目标。线性回归模型假设目标 yiyiy_...

独立成分分析ICA原理一 简介​ 经典的鸡尾酒宴会问题（cocktail party problem）: 假设在party中有n个人，他们可以同时说话，我们也在房间中一些角落里共放置了n个声音接收器（Microphone）用来记录声音。​ 宴会过后，我们从n个麦克风中得到了一组数据 x(i)(x1(i),x2(i),⋯ ,xn(i)),i=1,⋯&Thin...

文章目录1.瑞典汽车保险数据集3.比马印第安人糖尿病数据集4.怀孕次数5.声纳数据集6.钞票数据集7.鸢尾花卉数据集9. 电离层数据集10.小麦种子数据集11.波士顿房价数据集12.1单变量时间序列数据集洗发水销售数据集（Shampoo Sales Dataset）日较低温度数据集（Minimum Daily Temperatures Dataset）每月太阳黑子数数据集（Monthly Suns...

文章目录2.线性SVM2.1 数学建模（1）"决策面"方程（2）"分类间隔"方程（3）约束条件（4）线性SVM优化问题基本描述（5）求解准备（6）拉格朗日函数（7）KKT条件2、SMO算法（2）SMO算法的解法四、编程求解线性SVM1、可视化数据集2、简化版SMO算法五、总结###1. 什么是SVM？​ SVM(Support Vector Machines，支持向量机)是用于分类的一种算法。...

PCANet — 用于图像分类的深度学习基准前言论文网站：http://arxiv.org/abs/1404.3606论文下载地址：PCANet: A Simple Deep Learning Baseline for Image Classification?论文的matlab代码（第一个就是）：Matlab Codes for Download本文的C++ 和 Scala 代码：ht...

Generalized Linear Models​ 在线性回归模型的推导中，我们用到了高斯分布；逻辑回归模型的介绍中用到了伯努利分布，今天我们将讲到，这两中分布都是在一个更广义的模型里面——Generalized Linear Models。​ 我们在建模的时候，关心的目标变量 yyy 可能服从很多种分布。像线性回归，我们会假设目标变量 yyy 服从正态分布；而逻辑回归，则假设服...

​ 分类问题和线性回归问题问题很像，只是在分类问题中我们预测的 yyy 值包含在一个小的离散数据集里。首先，认识一下二元分类(binary classification)，在二元分类中，yyy 的取值只能是 0 和 1。例如，我们要做一个垃圾邮件分类器，则 x(i)x(i)x^{(i)} 为邮件的特征，而对于 yyy，当它为1，则为垃圾邮件，为0 则表示邮件为正常邮件。所以 0 称之为负类（n...

指数族分布​ 如果一类分布可以写成如下形式，则它可以叫做 指数族分布 (exponential family distributions) 。 p(y;η)=b(y)exp(ηTT(y)−a(η))p(y;η)=b(y)exp(ηTT(y)−a(η))p(y;\eta) = b(y) exp(\eta^TT(y) - a(\eta)) ​ 其中 ηη\eta 是自然参数（也叫...

Fisher’s Linear Discriminant（LDA) 线性判别模型​ LDA（Linear Discriminant Analysis线，性判别分析），是一种supervised learning，是由Fisher在1936年提出的。 LDA通常作为数据预处理阶段的降维技术，其目标是将数据投影到低维空间来避免维度灾难（curse of dimensionality）引起的过拟合，同...