
机器学习
文章平均质量分 71
chouchou00
这个作者很懒,什么都没留下…
展开
-
关联挖掘算法Apriori和FP-Tree学习
Apriori算法和FPTree算法都是数据挖掘中的关联规则挖掘算法,处理的都是最简单的单层单维布尔关联规则。Apriori算法Apriori算法是一种最有影响的挖掘布尔关联规则频繁项集的算法。是基于这样的事实:算法使用频繁项集性质的先验知识。Apriori使用一种称作逐层搜索的迭代方法,k-项集用于探索(k+1)-项集。首先,找出频繁1-项集的集合。该集合记作L1。L1用于找频繁2-项集转载 2015-04-28 16:10:33 · 533 阅读 · 0 评论 -
logistic和softmax原理、联系
logistic原文:http://blog.youkuaiyun.com/ariessurfer/article/details/41310525softmax原文:http://blog.youkuaiyun.com/pi9nc/article/details/19336629Logistic回归为概率型非线性回归模型,是研究二分类观察结果与一些影响因素之间关系的一种多变量分析方法。通常的问题转载 2015-09-11 21:17:22 · 7538 阅读 · 0 评论 -
主题模型-LDA浅析
原文:http://blog.youkuaiyun.com/huagong_adu/article/details/7937616(一)LDA作用 传统判断两个文档相似性的方法是通过查看两个文档共同出现的单词的多少,如TF-IDF等,这种方法没有考虑到文字背后的语义关联,可能在两个文档共同出现的单词很少甚至没有,但两个文档是相似的。 举个例子,有两个句子转载 2015-08-06 10:22:02 · 2066 阅读 · 0 评论 -
机器学习中的范数规则化:L0、L1与L2范数,核范数和规则项参数选择
http://blog.youkuaiyun.com/zouxy09/article/details/24971995/http://blog.youkuaiyun.com/zouxy09/article/details/24972869转载 2015-08-26 09:50:37 · 451 阅读 · 0 评论 -
损失函数
原文:http://www.cnblogs.com/rocketfan/p/4083821.htmlhttp://www.ics.uci.edu/~dramanan/teaching/ics273a_winter08/lectures/lecture14.pdfLoss Function损失函数可以看做 误差部分(loss term) + 正则化部分(regulariz转载 2015-07-27 09:01:08 · 625 阅读 · 0 评论 -
人工蜂群算法
原文:http://blog.youkuaiyun.com/fashionxu/article/details/7823290前言人工蜂群算法(Artifical Bee Colony)是一种元启发式智能算法,由Karaboga in 2005在2005年引入,用来求解数值优化问题。它受启发于蜜蜂的觅食行为。这种算法主要基于 Tereshko 和Loengarov (2005) 提出的蜂群觅食转载 2015-06-15 20:45:22 · 10717 阅读 · 1 评论 -
深入理解拉格朗日乘子法(Lagrange Multiplier) 和KKT条件
原文:http://blog.youkuaiyun.com/xianlingmao/article/details/7919597在求取有约束条件的优化问题时,拉格朗日乘子法(Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法,对于等式约束的优化问题,可以应用拉格朗日乘子法去求取最优值;如果含有不等式约束,可以应用KKT条件去求取。当然,这两个方法求得的结果只是必要条件,只转载 2015-05-26 09:28:01 · 743 阅读 · 0 评论 -
遗传算法解决TSP问题
原文:http://blog.youkuaiyun.com/mylovestart/article/details/8977005遗传算法(Genetic Algorithm)是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法遗传算法的基本运算过程如下:a)初始化:设置进化代数计数器t=0,设置最大进化代数T,随机生成M个个转载 2015-06-08 18:35:40 · 2171 阅读 · 0 评论 -
遗传算法介绍(内含实例)
原文:http://blog.youkuaiyun.com/b2b160/article/details/4681298现代生物遗传学中描述的生物进化理论:遗传物质的主要载体是染色体(chromsome),染色体主要由DNA和蛋白质组成。其中DNA为最主要的遗传物质。基因(gene)是有遗传效应的片断,它存储着遗传信息,可以准确地复制,也能发生突变,并可通过控制蛋白质的合成而控制生物的状态转载 2015-06-08 10:06:22 · 397 阅读 · 0 评论 -
非常好的理解遗传算法的例子
原文:http://blog.youkuaiyun.com/b2b160/article/details/4680853/遗传算法的手工模拟计算示例为更好地理解遗传算法的运算过程,下面用手工计算来简单地模拟遗传算法的各 个主要执行步骤。 例:求下述二元函数的最大值: (1) 个体编码 遗传算法的运算对象是表示个体的符号串,所以必须转载 2015-06-07 11:45:38 · 391 阅读 · 0 评论 -
Fisher Discriminant
也叫Fisher linear discriminant analysis(LDA或FDA)1、线性判别分析是统计学上的一种分析方法,用于在已知的分类之下遇到有新的样本时,选定一个判别标准,以判定如何将新样本放置于哪一个类别之中。主要用于二分类问题,对于多类问题则可以多次运用该方法就可以了;2、Fisher线性判别分析的主要原理是将带有类别标签的高维样本投影到一个向量w(一维空间)上,原创 2015-06-26 09:55:25 · 1187 阅读 · 0 评论 -
决策树之ID3、C4.5、C5.0算法
原文:http://m.blog.youkuaiyun.com/blog/dragonhwwn2009/38510137决策树之ID3,说一个例子,就会明白,拿 Tom M .mitchen 的《Machine Learing》第三章中的例子。我们先解释一下这张表,表中有14条实例数据,就是我们的训练数据,其中 Outlook,Temperature,Humidity ,Wind转载 2015-06-24 11:10:40 · 1677 阅读 · 0 评论 -
隐马尔可夫模型
隐马尔可夫模型 (Hidden Markov Model,HMM) 最初由 L. E. Baum 和其它一些学者发表在一系列的统计学论文中,随后在语言识别,自然语言处理以及生物信息等领域体现了很大的价值。平时,经常能接触到涉及 HMM 的相关文章,一直没有仔细研究过,都是蜻蜓点水,因此,想花一点时间梳理下,加深理解,在此特别感谢 52nlp 对 HMM 的详细介绍。 考虑下面交通灯的转载 2015-06-20 18:56:27 · 493 阅读 · 0 评论 -
Tri-training, 协同训练算法
原文地址:http://www.cnblogs.com/liqizhou/archive/2012/05/11/2496162.html最初的协同训练算法(或称为标准协同训练算法)是A. Blum和T. Mitchell [BlumM98] 在 1998年提出的。他们假设数据集有两个充分冗余(sufficient and redundant)的视图(view),即两个满足下述条件的属性集:转载 2015-05-20 08:53:52 · 1150 阅读 · 0 评论 -
聚类分析学习笔记
原文地址:http://www.educity.cn/wenda/418948.html一、主要聚类方法的分类 算法的选择取决于数据的类型, 聚类的目的和应用 大体上,主要的聚类算法可以划分为如下几类: 划分方法(partitioning methods):给定一个n 个对象或元组的数据库,一个划分方法构建数据的k个划分,每个划分表示一个聚类,并且k转载 2015-05-13 15:42:18 · 3252 阅读 · 0 评论 -
Apriori算法
由啤酒和尿布引出:在一家超市中,人们发现了一个特别有趣的现象:尿布与啤酒这两种风马牛不相及的商品居然摆在一起。但这一奇怪的举措居然使尿布和啤酒的稍量大幅增加了。这可不是一个笑话,而是一直被商家所津津乐道的发生在美国沃尔玛连锁超市的真实案例。原来,美国的妇女通常在家照顾孩子,所以她们经常会嘱咐丈夫在下班回家的路上为孩子买尿布,而丈夫在买尿布的同时又会顺手购买自己爱喝的啤酒。这个发现为商家带来转载 2015-04-28 14:11:47 · 566 阅读 · 0 评论 -
梯度下降(批量&随机)和非负矩阵分解
原文:http://blog.youkuaiyun.com/lilyth_lilyth/article/details/8973972http://wenku.baidu.com/link?url=8FLAapLxSIkdpjZbsmlBr9QiiaCIdkWvEL05Bnao-120hLM9aLADyjOrUt_bO_RsVhG1uydtzoxY5IHDwEhkxTSe-VFatvXzm转载 2015-08-08 17:05:18 · 1711 阅读 · 0 评论