- 博客(19)
- 资源 (1)
- 收藏
- 关注
转载 训练和调参的理解
近年来,深度学习作为机器学习中比较火的一种方法出现在我们面前,但是和非深度学习的机器学习相比(我将深度学习归于机器学习的领域内),还存在着几点很大的不同,具体来说,有以下几点:深度学习,顾名思义,网络变深了,这就意味着这种深度学习类的网络可能有更多的layers,这意味着什么呢?也即表示这种深层的网络需要学习更多的参数,尽管我们知道在CNN中有共享参数等等技巧,但在此前提下,不妨认为随着网络层数的增多,需要学习的参数也在增加,那问题又来了,参数增加有什么问题吗?当然有问题,这是我们在机器学习领域内探讨的
2021-07-26 18:01:05
567
转载 机器学习算法——岭回归(Ridge Regression)
一、一般线性回归遇到的问题 在处理复杂的数据的回归问题时,普通的线性回归会遇到一些问题,主要表现在:预测精度:这里要处理好这样一对为题,即样本的数量和特征的数量时,最小二乘回归会有较小的方差时,容易产生过拟合时,最小二乘回归得不到有意义的结果模型的解释能力:如果模型中的特征之间有相互关系,这样会增加模型的复杂程度,并且对整个模型的解释能力并没有
2017-04-11 16:21:22
1955
转载 机器学习算法——lasso
[+]一、lasso 前面已经叙述了基本的线性回归,局部加权线性回归,以及岭回归。其中,局部加权线性回归做的工作就是进行了特征的选择,选择的策略是进行局部的约束;岭回归是采用的正则化的方法进行特征的选择,使用的是。而lasso采用的则是,即lasso是在平方误差的基础上增加:, 0" src="http://latex.codecogs.com/gif.late
2017-04-11 16:19:12
1515
转载 最小二乘法 MATLAB
有了前面对最小二乘法估计学习过,了解了原理(参考:一元线性回归模型:最小二乘估计),于是用MATLAB看了一下效果,后期再对RANSAC学习一下。[plain] view plain copy print?close all clear,clc x=[1 2 3 4 5 6 7 8 9 10 11 12 13
2017-03-29 16:50:34
1441
转载 RANSAC算法MATLAB实验
RANSAC是“RANdom SAmple Consensus(随机抽样一致)”的缩写。它可以从一组包含“局外点”的观测数据集中,通过迭代方式估计数学模型的参数。它是一种不确定的算法——它有一定的概率得出一个合理的结果;为了提高概率必须提高迭代次数。该算法最早由Fischler和Bolles于1981年提出。 RANSAC的基本假设是:(1)数据由“局内点”组成,例如:数据的分布可以
2017-03-29 16:36:34
6844
转载 RANSAC介绍(Matlab版直线拟合+平面拟合)
一、RANSAC介绍 随机抽样一致算法(RANdom SAmple Consensus,RANSAC),采用迭代的方式从一组包含离群的被观测数据中估算出数学模型的参数。维基百科中的RANSAC该算法最早由Fischler和Bolles于1981年提出。RANSAC算法假设数据中包含正确数据和异常数据(或称为噪声)。正确数据记为内点(inliers),异常数据记为外点(outliers)
2017-03-29 16:20:02
1226
1
转载 分类算法评价(集合)
一、引言 分类算法有很多,不同分类算法又用很多不同的变种。不同的分类算法有不同的特定,在不同的数据集上表现的效果也不同,我们需要根据特定的任务进行算法的选择,如何选择分类,如何评价一个分类算法的好坏,前面关于决策树的介绍,我们主要用的正确率(accuracy)来评价分类算法。 正确率确实是一个很好很直观的评价指标,但是有时候正确率高并不能代表一个算法就好。比如某个地区某天地震的预测,假
2016-10-14 12:02:22
3121
转载 随机变量的分布与分位数概念
在质量工程师的培训中,我们经常询问学员以下图形是什么曲线,学员普遍能够回答是正态分布曲线,但进一步询问学员该曲线的纵轴f(x)表示什么,许多同学以为是概率值。其实这个曲线是正态分布概率密度曲线,f(x)是指随机变量X在观察值为x时的概率密度,如果随机变量X的单位为mm,则f(x)的单位为%/mm。曲线与X轴所围成的面积表示概率,该面积等于1,因为随机变量的所有可能取值(即:100%)都在X轴上。
2016-09-23 13:00:00
8596
转载 用SIFT特征和RANSAC算法进行两幅图片的匹配
大家知道相机可以做到将几个不同场景的图片匹配形成一幅图,此处用sift特征与ransac算法相结合的方法来进行图像的匹配。详细过程见程序如下:(运行前装库文件vlfeat)%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%两幅图的匹配%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
2016-06-03 21:55:08
3873
1
转载 在matlab中配置vlfeat
在VLFeat官网上是这么介绍VLFeat的:VLFeat开源库实现了很多著名的机器视觉算法,如HOG, SIFT, MSER, k-means, hierarchical k-means, agglomerative information bottleneck, SLIC superpixels, 和 quick shift。VLFeat开源库是用C语言写的,以确保其效率和兼容性,同时
2016-05-29 17:17:54
808
转载 最小二乘拟合&基于RANSAC的直线拟合&椭圆拟合
1.最小二乘拟合最小二乘拟合是一种数学上的近似和优化,利用已知的数据得出一条直线或者曲线,使之在坐标系上与已知数据之间的距离的平方和最小。2.RANSAC算法参见王荣先老师的博文 http://www.cnblogs.com/xrwang/archive/2011/03/09/ransac-1.html3,直线拟合建立模型时利用直线的一般方程AX+BY+C=
2016-03-31 10:51:13
5453
1
转载 整理:深度学习 vs 机器学习 vs 模式识别
【编者按】本文来自CMU的博士,MIT的博士后,vision.ai的联合创始人Tomasz Malisiewicz的个人博客文章,阅读本文,你可以更好的理解计算机视觉是怎么一回事,同时对机器学习是如何随着时间缓慢发展的也有个直观的认识。以下为正文:本文我们来关注下三个非常相关的概念(深度学习、机器学习和模式识别),以及他们与2015年最热门的科技主题(机器人和人工智能)
2016-03-18 17:39:26
349
转载 机器学习算法汇总:人工神经网络、深度学习及其它
【编者按】机器学习的算法很多。很多时候困惑人们都是,很多算法是一类算法,而有些算法又是从其他算法中延伸出来的。这里,我们从两个方面来给大家介绍,第一个方面是学习的方式,第二个方面是算法的类似性。本文来自IT经理网。学习方式根据数据类型的不同,对一个问题的建模有不同的方式。在机器学习或者人工智能领域,人们首先会考虑算法的学习方式。在机器学习领域,有几种主要的学
2016-03-18 17:35:50
356
转载 RANSAC与其改进
1. 经典RANSAC 由Fischer和Bolles在1981年的文章[1]中首先提出,简要的说经典RANSAC的目标是不断尝试不同的目标空间参数,使得目标函数 C 最大化的过程。这个过程是随机(Random)、数据驱动(data-driven)的过程。通过反复的随机选择数据集的子空间来产生一个模型估计,然后利用估计出来的模型,使用数据集剩余的点进行测试,获得一个得分,最终返
2016-03-11 09:49:06
1203
转载 数学符号及读法
数学符号及读法1 Α α alpha a:lf 阿尔法 角度;系数2 Β β beta bet 贝塔 磁通系数;角度;系数3 Γ γ gamma ga:m 伽马 电导系数(小写)4 Δ δ delta delt 德尔塔 变动;密度;屈光度5 Ε ε epsilon ep`silon 伊普西龙 对数之基数6 Ζ ζ zeta zat 截塔 系数;方位角;阻抗;相对粘度;原
2016-03-10 09:47:20
5846
转载 matlab练习程序(随机抽样一致RANSAC)
RANSAC在图像拼接中有所使用,有时候也在图像理解的相关算法中有所使用。算法简介如下(摘自《图像处理、分析与机器视觉(第3版)》):1.假设我们要将n个数据点X={x1,x1,...,xn}拟合为一个由至少m个点决定的模型(m2.设迭代计数k=1。3.从X中随机选取m个项并拟合一个模型。(我这里直线拟合,选了2个项)4.给定偏差ε,计算X中相对于模型的残差
2016-02-29 22:40:02
5784
转载 RANSAC
RANSAC是“RANdom SAmple Consensus(随机抽样一致)”的缩写。它可以从一组包含“局外点”的观测数据集中,通过迭代方式估计数学模型的参数。它是一种不确定的算法——它有一定的概率得出一个合理的结果;为了提高概率必须提高迭代次数。该算法最早由Fischler和Bolles于1981年提出。核心思想就是随机性和假设性,随机性用于减少计算,循环次数是利用正确数据出现的概率。所谓的假
2016-02-29 19:47:27
529
转载 DistanceMeasure (数据点间的距离计算方法)
Mahout-DistanceMeasure (数据点间的距离计算方法) 在分类聚类算法,推荐系统中,常要用到两个输入变量(通常是特征向量的形式)距离的计算,即相似性度量.不同相似性度量对于算法的结果,有些时候,差异很大.因此,有必要根据输入数据的特征,选择一种合适的相似性度量方法.令X=(x1,x2,..,xn)T,Y=(y1,y2,...yn)T为两个输入向量,
2016-02-03 11:50:39
2252
转载 Clustering by fast search and find of density peaks
作者在这篇文章中介绍了一种新型的聚类算法 -- 基于密度的聚类算法。灵感来源经典的聚类算法K-means是通过指定聚类中心,再通过迭代的方式更新聚类中心的方式,由于每个点都被指派到距离最近的聚类中心,所以导致其不能检测非球面类别的数据分布。虽然有DBSCAN(density-based spatial clustering of applications with noise)对于
2016-02-03 10:42:10
753
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人