一个IT菜鸟的自白

生成学习算法本次课程大纲：1、 生成学习算法2、 高斯判别分析（GDA，Gaussian Discriminant Analysis）-          高斯分布（简要）-          对比生成学习算法&判别学习算法（简要）3、 朴素贝叶斯4、 Laplace平滑 复习：分类算法：给出一个训练集，若使用logi

源代码下载地址：http://download.youkuaiyun.com/detail/huhui_bj/5248056参考资料：http://www.ibm.com/developerworks/cn/java/j-lo-mahout/http://blog.sina.com.cn/s/blog_541086000100qh2j.htmlQQ：667818771 Ma

最优间隔分类器问题本次课程大纲：1、 最优间隔分类器2、 原始优化问题&对偶优化问题（KKT条件）3、 SVM对偶问题4、 核方法（下一讲） 复习：支撑向量机中改动的符号：输出y∈{-1,+1}h输出的假设值也改为{-1,+1}g(z) = { 1 , 如果z>=0;  -1, 如果zhw.b(x)=g

朴素贝叶斯本次课程大纲：1、 朴素贝叶斯-          朴素贝叶斯事件模型2、 神经网络（简要）3、 支撑向量机（SVM）铺垫 – 最大间隔分类器 复习：1、 朴素贝叶斯一种生成学习算法，对p(x|y)建模。 例：垃圾邮件分类以邮件输入流作为输入，输出y为{0,1}，1为垃圾邮件，0为非垃圾邮件。

牛顿方法本次课程大纲：1、  牛顿方法：对Logistic模型进行拟合2、 指数分布族3、  广义线性模型（GLM）：联系Logistic回归和最小二乘模型 复习：Logistic回归：分类算法假设给定x以为参数的y=1和y=0的概率：求对数似然性：对其求偏导数，应用梯度

欠拟合与过拟合概念本次课程大纲：1、  局部加权回归：线性回归的变化版本2、  概率解释：另一种可能的对于线性回归的解释3、  Logistic回归：基于2的一个分类算法4、  感知器算法：对于3的延伸，简要讲 复习： –第i个训练样本令，以参数向量为条件，对于输入x，输出为：n为特征数量 

本课内容：1、  线性回归2、  梯度下降3、  正规方程组  （复习）监督学习：告诉算法每个样本的正确答案，学习后的算法对新的输入也能输入正确的答案 1、 线性回归例：Alvin汽车，先让人开车，Alvin摄像头观看（训练），而后实现自动驾驶。本质是一个回归问题，汽车尝试预测行驶方向。 例：上一节课的

开始看Andrew Ng的经典课程机器学习，随堂做的学习笔记机器学习的动机与应用工具：需正版：Matlab，免费：Octave 定义（Arthur Samuel 1959）：在不直接针对问题进行编程的情况下，赋予计算机学习能力的研究领域。例：Arthur的下棋程序，计算走每一步获胜的概率，最终打败程序作者本人。（感觉使用决策树思想） 

http://blog.youkuaiyun.com/flydreamgg

学习概率的时候，大家一定都学过马尔科夫模型吧，当时就觉得很有意思，后来看了数学之美之隐马模型在自然语言处理中的应用后，看到隐马尔科夫模型竟然能有这么多的应用，并且取得了很好的成果，更觉的不可思议，特地深入学习了一下，这里总结出来。马尔科夫过程马尔科夫过程可以看做是一个自动机，以一定的概率在各个状态之间跳转。考虑一个系统，在每个时刻都可能处于N个状态中的一个，N个状态集合是 {S

在这里贴出，我用Mahout实现的简单的三个算法：UserCF,ItemCF,SlopeOne基于用户的协同过滤算法（UserCF）

公开课网址http://v.163.com/special/opencourse/machinelearning.html

recommenderlab 是R语言非常强大的包，能帮助使用者针对评分数据或者0-1(不喜欢/喜欢)二分数据开发和测试推荐算法，本文就是利用该包对于 movielens 的电影评分数据进行预测和推荐，会对比基于用户的协同过滤和基于项的协同过滤在推荐效果上的差别。1 获取电影数据电影数据来源于http://grouplens.org/datasets/movielens/网站，本文

前言：找工作时（IT行业），除了常见的软件开发以外，机器学习岗位也可以当作是一个选择，不少计算机方向的研究生都会接触这个，如果你的研究方向是机器学习/数据挖掘之类，且又对其非常感兴趣的话，可以考虑考虑该岗位，毕竟在机器智能没达到人类水平之前，机器学习可以作为一种重要手段，而随着科技的不断发展，相信这方面的人才需求也会越来越大。纵观IT行业的招聘岗位，机器学习之类的岗位还是挺少的，国