<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[但行好事，莫问前程]]></title><description><![CDATA[专注推荐系统，机器学习，大数据技术]]></description><link>https://blog.youkuaiyun.com/Allenalex</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; Allenalex]]></copyright><item><title><![CDATA[参数模型VS非参数模型]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/103621796</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/103621796</guid><author>Allenalex</author><pubDate>Thu, 19 Dec 2019 23:23:18 +0800</pubDate><description><![CDATA[&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;我们在机器学习中学习到的很多的算法模型，都可以分为参数（parametric）和非参数（nonparametric）。理解这两个概念，并知道如何区分哪些是非参数，哪些是参数，对于你深入的理解机器学习中的算法，熟悉各算法的优缺点，以及如何在实践中选择合适的算法模型都会有帮助。所以，...]]></description><category></category></item><item><title><![CDATA[KL散度和交叉熵]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/103443060</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/103443060</guid><author>Allenalex</author><pubDate>Tue, 10 Dec 2019 23:17:48 +0800</pubDate><description><![CDATA[在学习机器学习的过程中，我们经常会碰到这两个概念：KL散度（kl divergence）以及交叉熵，并且经常是同时出现的。很多同学对这两个概念都理解的不是很透彻，造成经常会搞混他们两者。本文最主要的目的就是带大家深入理解这两个重要的概念，同时搞懂，区别的理解他们，保证以后不会再搞混它们。
如果你学过信息论，区分两者就更加容易：

KL散度就是相对熵，

参考资料

...]]></description><category></category></item><item><title><![CDATA[详解RankNet原理及实践]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/83714346</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/83714346</guid><author>Allenalex</author><pubDate>Sun, 11 Nov 2018 14:43:42 +0800</pubDate><description><![CDATA[0.pair-wise rank简介
&amp;amp;nbsp; &amp;amp;nbsp; &amp;amp;nbsp; &amp;amp;nbsp; &amp;amp;nbsp;pair-wise rank的主要思想是把排序形式化为成对分类（pairwise classification）或成对回归（pairwise regression）问题。和point-wise 最大的区别是，pair-wise的样本是有一对item的相对关系组成的。例如对于某个用户u, 物品i...]]></description><category></category></item><item><title><![CDATA[用两张图帮你入门机器学习]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/83685324</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/83685324</guid><author>Allenalex</author><pubDate>Sat, 03 Nov 2018 15:50:35 +0800</pubDate><description><![CDATA[什么是机器学习？
&amp;amp;amp;nbsp;&amp;amp;amp;nbsp;&amp;amp;amp;nbsp;&amp;amp;amp;nbsp;&amp;amp;amp;nbsp;&amp;amp;amp;nbsp;深度学习的成功使得人工智能，机器学习受到前所未有的关注。相关岗位的薪资的水涨船高也吸引了大批软件开发相关的人奋不顾身的转机器学习相关应用的岗位（广告策略，推荐算法，图像识别等）。这同样催生了机器学习相关教育培训的无比火热。但老实说，对于几乎没有什么基础的人来说，想通过各种所谓高]]></description><category></category></item><item><title><![CDATA[你是哪种数据科学家？--《Analyzing the Analyzers》阅读笔记]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/80233265</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/80233265</guid><author>Allenalex</author><pubDate>Sat, 02 Jun 2018 15:07:51 +0800</pubDate><description><![CDATA[&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;&amp;amp;nbsp;今天花了点时间看了一本小册子《Analyzing the Analyzers：An Introspective Survey of Data 
Scientists and Their Work》。书是2013年出版的，非常薄：加上封面啥的，也就39页。书主要讲了：在当今时代，数据科学家很火。但是很多人，甚至包括有相关技术背景的人，都对数据科学家存在...]]></description><category></category></item><item><title><![CDATA[机器学习中的方差和偏差]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/80034666</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/80034666</guid><author>Allenalex</author><pubDate>Mon, 23 Apr 2018 23:23:01 +0800</pubDate><description><![CDATA[最近补充看了一些偏差-方差的资料。前面也做了两篇相关的笔记（翻译）了。感兴趣的，可以先看看


理解 Bias 与 Variance 之间的权衡
机器学习速成课（part 4）–偏差和方差困境




概念&amp;amp;意义

&amp;nbsp;   &amp;nbsp;   &amp;nbsp;   &amp;nbsp;为什么需要理解方差和偏差？ 
   &amp;nbsp;   &amp;nbsp;   &amp;nbsp;   &amp;nbsp; 偏差和...]]></description><category></category></item><item><title><![CDATA[机器学习速成课（part 4）--偏差和方差困境]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79982644</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79982644</guid><author>Allenalex</author><pubDate>Thu, 19 Apr 2018 23:35:10 +0800</pubDate><description><![CDATA[这里有一个谜题： 
 &amp;nbsp; &amp;nbsp; 下列序列的下一个数值是？ 
                 &amp;nbsp; &amp;nbsp; &amp;nbsp; &amp;nbsp; &amp;nbsp; &amp;nbsp; &amp;nbsp; &amp;nbsp;   1，3，5，7，？ 
 &amp;nbsp; &amp;nbsp; &amp;nbsp;  一个正确的解：217314 
 是不是感觉不可置信？正常人脑海蹦出来的第一个答案应该是‘9’。但‘217...]]></description><category></category></item><item><title><![CDATA[推荐系统经典论文]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79491483</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79491483</guid><author>Allenalex</author><pubDate>Thu, 08 Mar 2018 23:06:36 +0800</pubDate><description><![CDATA[下面提供的论文，可以说基本都是经典中的经典。读完这些论文，相信对推荐系统的认识肯定会有质的飞越：（不够再找我。O(∩_∩)O~）

综述类:

1、Towards the 
Next Generation of Recommender Systems: A Survey of the State-of-the-Art and 
Possible Extensions。最经典的推荐算法综述

2、C...]]></description><category></category></item><item><title><![CDATA[使用Spark cache来保障正确的一个例子]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79431047</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79431047</guid><author>Allenalex</author><pubDate>Sat, 03 Mar 2018 16:14:19 +0800</pubDate><description><![CDATA[我们通常以为Spark cache就是一个用来优化spark程序性能的。本文举的例子会告诉你，cache的作用有时候可能比提高性能更重要。（原文标题：Using Spark’s cache for correctness, not just performance）

在学习Apache Spark的时候，我们被告知RDD是不可变的。但是，我这里要将到一个和这点冲突的一个小程序。这个Scala程序...]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》--第五章（2）一般系统架构]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79428501</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79428501</guid><author>Allenalex</author><pubDate>Sat, 03 Mar 2018 10:17:21 +0800</pubDate><description><![CDATA[下图是一个典型的web推荐系统的架构： 
  

主要包含4个组块： 
  &amp;nbsp;&amp;nbsp; 1. Recommendation service –推荐服务；从web服务器获得推荐请求，然后返回推荐物品； 
    &amp;nbsp;&amp;nbsp;2.Storage systems–存储系统；主要存储用户特征（以及潜在因子）、物品特征（和因子）、模型的参数。并且能够通过有效的索引检索到物品。 
 ...]]></description><category></category></item><item><title><![CDATA[决策树基础知识点整理]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79365659</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79365659</guid><author>Allenalex</author><pubDate>Sat, 24 Feb 2018 22:36:24 +0800</pubDate><description><![CDATA[1、基本算法流程

决策树的构造是一个递归的过程，有三种情形会导致递归返回：(1) 当前结点包含的样本全属于同一类别，这时直接将该节点标记为叶节点，并设为相应的类别；(2) 当前属性集为空，或是所有样本在所有属性上取值相同，无法划分，这时将该节点标记为叶节点，并将其类别设为该节点所含样本最多的类别；(3) 当前结点包含的样本集合为空，不能划分，这时也将该节点标记为叶节点，并将其类别设为父节点中所含...]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》--第五章（1）推荐问题设定和系统架构]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79294030</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79294030</guid><author>Allenalex</author><pubDate>Thu, 08 Feb 2018 22:07:24 +0800</pubDate><description><![CDATA[可以将网站分为以下四类，对应每类，再选择推荐模型的时候会有各自的考虑： 
 &amp;nbsp; &amp;nbsp; 1.  general portals；也就是综合的门户网站，比如雅虎，新浪等； 
 &amp;nbsp; &amp;nbsp; 2. Personal portals；个性化网站；应该指的是类似个人博客一类的网站 
  &amp;nbsp; &amp;nbsp;3. Domain-specific sites；领域特定的网站...]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》阅读笔记--第4章（1）评估方法--数据切分及线上评估方法]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79253166</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79253166</guid><author>Allenalex</author><pubDate>Sun, 04 Feb 2018 16:08:17 +0800</pubDate><description><![CDATA[评估主要分两种： 
  ● 部署前的离线评估。关于这部分的指标大家可以参考我的另外两篇博客： 
              1）http://blog.youkuaiyun.com/allenalex/article/details/51318270 
               2）http://blog.youkuaiyun.com/allenalex/article/details/78161915 
  ● 部]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》阅读笔记--第三章（2）推荐系统中的EE问题]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79251952</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79251952</guid><author>Allenalex</author><pubDate>Sun, 04 Feb 2018 12:18:35 +0800</pubDate><description><![CDATA[这章节提到一种解决诸如采用的训练数据由于时间影响（比如用早上的数据，训练后预测晚上的；或者使用历史数据）带来偏差的问题的方法——Kalman filter。具体参考《Applied Bayesian Forecasting and Time Series Analysis》。这块自己研究不深，工作中也没有太过在意，不过最近团队有同事提出了这个问题。后面考虑研究下。 
    对用户聚类分群，然后在]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》阅读笔记--第三章（1）--EE问题]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79145947</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79145947</guid><author>Allenalex</author><pubDate>Tue, 23 Jan 2018 23:18:33 +0800</pubDate><description><![CDATA[插一句：这个问题，我之前写过三篇相关的博客（有一篇竟然不知道怎么被不小心覆盖了。悲伤。。。），感兴趣的可以先参考： 
     ● http://blog.youkuaiyun.com/allenalex/article/details/78220926 
     ● http://blog.youkuaiyun.com/allenalex/article/details/78242068 
   当然，这本书里的这一]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》阅读笔记--第二章]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79120275</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79120275</guid><author>Allenalex</author><pubDate>Sun, 21 Jan 2018 14:43:49 +0800</pubDate><description><![CDATA[经典算法

通常可利用的信息有一下几种： 
 1)物品的相关信息 
 2)用户的相关信息 
 3）用户和物品的交互信息

利用前两种信息的经典算法包括： 
  1、基于用户人口统计属性的推荐（最近邻推荐) 
  2、基于内容的推荐

这两种推荐都是需要将用户和物品转换成特征向量表示。 
然后基于向量来计算两两之间（用户-用户，物品-物品，用户-物品）相似度来实现推荐。这种在书中，作者称之为无监督方]]></description><category></category></item><item><title><![CDATA[《Statistical Methods for Recommender Systems》阅读笔记---第一章]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/79117264</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/79117264</guid><author>Allenalex</author><pubDate>Sat, 20 Jan 2018 22:19:28 +0800</pubDate><description><![CDATA[关于推荐系统的书籍目前市面上常见的有这三本：《推荐系统实践》、《推荐系统》（《Recommender Systems:An Introduction》）和《推荐系统:技术、评估及高效算法》（Recommender Systems Handbook）。《Statistical Methods for Recommender Systems》这本书是自己无意间发现的。关于推荐系统的资料虽然众多（有想要]]></description><category></category></item><item><title><![CDATA[理解 Bias 与 Variance 之间的权衡]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/78940684</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/78940684</guid><author>Allenalex</author><pubDate>Sun, 31 Dec 2017 09:37:00 +0800</pubDate><description><![CDATA[有监督学习中，预测误差的来源主要有两部分，分别为 bias  与 variance，模型的性能取决于 bias 与 variance 的 tradeoff ，理解 bias 与 variance 有助于我们诊断模型的错误，避免 over-fitting 或者 under-fitting.   在统计与机器学习领域权衡 Bias  与 Variance 是一项重要的任务，因为他可以使得用有限训练数据训]]></description><category></category></item><item><title><![CDATA[如何通过分区来提高spark的性能（java代码）]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/78311810</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/78311810</guid><author>Allenalex</author><pubDate>Sun, 22 Oct 2017 18:29:50 +0800</pubDate><description><![CDATA[RDD是Spark上最重要的概念。可以将RDD理解为是包含很多对象的集合，这些对象实质上是存储在不同的分区上的。当在RDD上执行计算时，这些分区能够并行执行。通过修改分区，我们能够有效的提高spark job的性能。下面通过一个简单的例子来说明下。 
举例：找素数 
 假如我们想找出200万以内的所有素数。简单的方法是，我们可以先找出所有的非素数。然后对全部数字，执行清除所有这些非素数。剩下的就是素]]></description><category></category></item><item><title><![CDATA[bandit算法（3）--UCB算法]]></title><link>https://blog.youkuaiyun.com/Allenalex/article/details/78242068</link><guid>https://blog.youkuaiyun.com/Allenalex/article/details/78242068</guid><author>Allenalex</author><pubDate>Sun, 15 Oct 2017 17:22:04 +0800</pubDate><description><![CDATA[引言

前面已经介绍了两种bandit算法—ϵ\epsilon-greedy算法和softmax算法。现在我们来总结下这两种算法的共有属性：


两种算法在每一轮选择时，默认都是选择到目前为止最好的臂；
除此之外，算法会尝试去探索一些目前看起来不是最好的臂： 
      -ϵ\epsilon-greedy算法探索的时候完全是随机的。 
      -softmax算法探索是基于到当前时刻臂的收益]]></description><category></category></item></channel></rss>