weixin_44132485的博客

简单介绍在不使用kernel function的情况下,SVM只可以用来解决线性可分问题,面对线性不可分问题时,使用效果不佳.但是加入kernel function后,SVM的表达能力将会显著增加,下面将会简单介绍其原因,并使用PyTorch加以实现.源代码以及题目等文件见博客原理SVM的原理不再进行赘述,具体可见博客.我们需要理解两个方面,1.为什么要使用kernel function....

简单介绍SVM(support vector machine)在没有使用核函数时,类似于Logistic Regression,但与Logistic Regression存在差别,最直观的差别便是Logistic Regression输出的为概率,而SVM直接返回判定结果.下面将详细介绍SVM的具体理论.源代码以及题目等文件见博客原理支持向量机原始的支持向量机只可解决线性可分问题.考虑下...

简单介绍K-means clustering属于无监督学习(unsupervised learning)的范畴,由于设计思想易于理解,并且计算相对简单,因此实现起来较为简单,本文将采用PyTorch进行实现.源代码以及题目等文件见博客原理K-means clustering主要分为两步:找到各类的中心点(记为centroids1,centroids2,...,centroidskcentr...

简单介绍本文内容为通过一定手段,判断模型是否处于欠拟合或者过拟合.主要以线性回归为依托,完成该次实验.值得注意的是,当代码量增多时,尽量将代码模块化,分模块完成,并且每完成一个模块,都需要认真的进行模块检验.如果在模块组装完成后再进行调试,将会提高调试的难度.源代码以及题目等文件见博客线性回归导入必要的包并读取数据import torchimport torch.nn as nni...

简单介绍本博客承接Multi-class classification的最后部分.在Multi-class classification中的最后部分,作者构造了跟本文同样结构的Neural network,但并未进行网络训练,而是直接使用已经训练好的权重矩阵对网络进行初始化,本文将对Neural network进行训练,用来完成手写识别任务,并测试训练效果.值得注意的是,在Multi-cla...

简单介绍本文主要分为两个内容.一.使用Logistic回归完成多分类任务,值得注意的是,完成的过程中并未使用SoftMax,所以各类的可能性相加并不为1,可以把它看作使用Logistic完成多个二分类任务.二.使用多层神经网络完成多分类任务,本文并未自行训练,而是直接使用已经训练好的权重矩阵对网络进行初始化,即fine-tune.此次多分类任务为手写识别,使用两种方法均可以达到不错的效果,...

简单介绍本博客为作者自行完成的吴恩达机器学习课后练习题目录,均使用PyTorch进行实现,无法保证对错,仅供参考.作业题目以及源代码百度盘连接提取码：njjk题目的命名方式与下表中的作业名称一致.源代码统一放在Code文件夹下,命名方式与主要内容一致(英文).目录作业名称主要内容地址machine-learning-ex1线性回归传送门machine-...

简单介绍当模型过于复杂时,会出现过拟合的现象,此时需要使用正则化.正则化即是通过减小权重值的大小,来达到降低模型复杂程度的目的,进而应对过拟合问题.以多项式拟合为例:y=anxn+an−1xn−1+...+a1x+a0y = a_nx^n+a_{n-1}x^{n-1}+...+a_1x+a_0y=an​xn+an−1​xn−1+...+a1​x+a0​如果ana_nan​足够小,我们就可...

简单介绍Logistic regression相比Linear regression多了激活函数,目的在于为目标方程添加非线性部分.实现起来,难度与Linear regression相差不大,理论同样相对简单.本文将采用PyTorch进行实现.导入包并读取数据# load package and load dataimport torchimport torch.nn as nnimp...

简单介绍线性回归实际上即是数学中的线性拟合,原理十分简单,不再介绍.本文采用PyTorch进行实现,除了线性模块和归一化为自己实现,其余部分均为PyTorch已经封装好的,值得注意的是,实际上PyTorch已经对线性回归进行了封装,调用方式为nn.Linear(input_channel, output_channel).本文通过两种方法完成线性回归.第一种为通过最优化的方法,通过训练数据,...