
机器学习入门
文章平均质量分 90
furuit
机会是留给有实力,物竞天择,优胜劣汰,弱肉强食,适者生存。
展开
-
转梯度算法的理解
梯度从数学的角度理解:就是对多元函数进行分别的求偏导数,把各个的参数对应的偏导数一起以向量的形式表示出来。向量即(x,y),几何上就是有一定的方向也(假设在二维平面上)。沿着这个方向上的函数是变化最快的。特例:梯度下降换成人话就是:比如我们正在山顶上,我要以最快的速度走到山底去,咋办?肯定是找向下的一步一步的走下坡路且是下降最厉害的那个方向下去,才能是最快到达山底。这里的下坡路就是梯度为负值,而且...原创 2017-09-20 21:52:42 · 597 阅读 · 0 评论 -
朴素贝叶斯分类算法快速理解
参考:https://blog.youkuaiyun.com/AMDS123/article/details/70173402贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单,也是常见的一种分类方法。这篇文章我尽可能用直白的话语总结一下我们学习会上讲到的朴素贝叶斯分类算法,希望有利于他人理解。1 分类问题综述...原创 2018-11-10 18:12:51 · 2659 阅读 · 0 评论 -
梯度优化算法Adam(续)
进一步优化梯度下降现在我们要讨论用于进一步优化梯度下降的各种算法。1. 动量梯度下降法(Momentum)SGD方法中的高方差振荡使得网络很难稳定收敛,所以有研究者提出了一种称为动量(Momentum)的技术,通过优化相关方向的训练和弱化无关方向的振荡,来加速SGD训练。换句话说,这种新方法将上个步骤中更新向量的分量’γ’添加到当前更新向量。V(t)=γV(t−1)+η∇(θ).J...原创 2018-10-14 16:19:55 · 4947 阅读 · 0 评论 -
神经网络优化算法:从梯度下降到Adam方法
转自:https://www.sohu.com/a/149921578_610300 调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还是Adam方法?这篇文章介绍了不同优化算法之间的主要区别,以及如何选择最佳的优化方法。 什么是优化算法?优化算法的功能,是通过改善训练方式,来最小化(或最大化)损...原创 2018-10-14 11:38:34 · 8524 阅读 · 1 评论 -
SVM简要介绍
转自:https://blog.youkuaiyun.com/liugan528/article/details/79448379SVM1. 基本概念支持向量机(Support Vector Machine, SVM)的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法(实际上还有多分类,此文没涉及),在引入了核方法之后SVM也可以用...原创 2018-10-05 18:41:47 · 13682 阅读 · 0 评论 -
SVM为什么走下“神坛”?
原文转载自:https://blog.youkuaiyun.com/u013709270/article/details/776199451、历史的惊人巧合 曾几何时,SVM在神经网络研究和应用中几乎无所不在。SVM是几乎所有有关神经网络计算机视觉期刊会议离不开的重要组成。SVM的最大化分类边界理论不知迷倒了多少科研院所和高科技公司的研发人员,支持向量(Support Vector) 概念本身也衍生...原创 2018-10-05 17:02:38 · 737 阅读 · 1 评论 -
Python机器学习及实践二:基础篇3
无监督学习无监督学习(Unsupervised Learning)着重于发现数据本身的分布特点。与监督学习 (Supervised Learning)不同,无监督学习不需要对数据进行标记。这样,在节省大量人工的同时,也让可以利用的数据规模变得不可限量。从功能角度讲,无监督学习模型可以帮助我们发现数据的“群落”,同时也可以寻找“离群”的样本;另外,对于特征维度非常高的数据样本,我们同样可以通过无监督...原创 2018-05-05 18:50:20 · 387 阅读 · 0 评论 -
Python机器学习及实践二:基础篇2
监督学习经典摸型机器学习中监督学习模型的任务重点在于,根据已有经验知识对未知样本的标记进行预测。根据目标预测变量的类型不同,我们把监督学习任务大体分为分类学习与回归预测两类。前文讲了分类学习,现在简要介绍一下回归预测。回归预测回归问题和分类问题的区别在于:其待预测的目标是连续变量,比如:价格、降水量等等。由于个人对回归预测运用的不多,所以不打算讲的太细,其实个人觉得回归和分类思想类似也,只是用途不...原创 2018-05-05 17:41:52 · 228 阅读 · 0 评论 -
Python机器学习及实践二:基础篇
监督学习经典摸型机器学习中监督学习模型的任务重点在于,根据已有经验知识对未知样本的标记进行预测。根据目标预测变量的类型不同,我们把监督学习任务大体分为分类学习与回归预测两类。尽管如此,我们仍然可以对它们的共同点进行归纳,整理出如图所示的监督学习任务的基本架构和流程:首先,准备训练数据,可以是文本、图像、音频等;然后抽取所需要的特征,形成特征向量(Feature Vectors);接着,把这些特征向...原创 2018-05-05 17:15:17 · 411 阅读 · 0 评论 -
Python机器学习及实践一:简介篇
1 。机器学习综述:机器学习系统所解决的都是无法直接使用固定规则或者流程代码完成的问题。所谓具备“学习”能力的程序都是指它能够不断地从经历和数据中吸取经验教训,从而应对未来的预测任务。我们习惯地把这种对未知的预测能力叫做泛化力。该书侧重2个基础方面:监督学习和无监督学习。============监督学习包括:回归和分类。回归是指:是预测问题,只是预测的目标往往是连续变量。比如,根据房屋的面积、地理...原创 2018-05-05 11:51:45 · 400 阅读 · 0 评论 -
人脸数据库
具体信息请点别人的链接,我就懒得搬运了。http://blog.youkuaiyun.com/lilai619/article/details/51178971https://www.cnblogs.com/GarfieldEr007/p/5519337.html原创 2017-11-27 21:39:24 · 309 阅读 · 0 评论 -
ubuntu 14.4 安装开机后报the system is running in low-graphics mode错误
我安装好了Ubuntu操作系统,可是没有可视化Ubuntu界面,很无语。注意以下操作皆是在命令行窗口完成的,没有Linux基础,或实在不想做的请绕行。网上试过很多方法,无奈别人的方法就是用不了,所以花了3天才搞定的,本着开源精神所以把它贴出来了,当然也参考了很多人的资料才搞定的。分析原因是Ubuntu14.04系统的显卡驱动与我电脑的显卡gtx1070不兼容,所以得升级到相应显卡驱动。1下载驱动:...原创 2017-10-24 20:39:17 · 3871 阅读 · 0 评论 -
caffe安装 Ubuntu 14.04 + CUDA8.0 + cuDNN v5 + caffe的简要版
最近跟着导师研究深度学习,DL最重要的是GPU和内存。所以GPU的性能是越高越好,内存最好SSD,SSD也是越大越好,唯恐你的GPU太烂啦,O(∩_∩)O哈哈~,显卡计算能力大于3.0。另一个跑GPU速度很快,cuDNN更快,所以得用GPU。再补一句话:不要用虚拟机,听说虚拟机不能用GPU,有精力的可以跳进坑里试试。说说我的版本:1 Linux系统:Ubuntu14.04,博主看了Ubuntu16...原创 2017-10-27 19:38:23 · 452 阅读 · 0 评论 -
Ubuntu14.04 +caffe+pycaffe安装
注意Ubuntu14.04 不如果不是,那建议你参考即可,别抱太大希望。再一个我没装Python3,用的是Python2.7.有效期是半年啊,因为这个东西版本更新太多了,依赖的包太多了,不同版本安装与否就不同了,他们的之间兼容性就未知啦。最近在和老师一起学习深度学习,用的是caffe框架,在Linux系统上搞起来的。所以我们的整体方向是:1--安装Linux,(PS:自己搞定) 2--安装caff...原创 2017-11-09 10:05:02 · 2538 阅读 · 0 评论 -
通俗理解信息熵
参考原文:https://blog.youkuaiyun.com/hearthougan/article/details/76192381-----------------建议:慢慢看,确实有点枯燥,但不难理解--------------------------------------------------------------距离有近有远,时间有长有短,温度有高有低,我们知道可以用米或者千米来...原创 2019-04-11 20:22:49 · 889 阅读 · 0 评论