huhu0769的博客

机器学习中的规则化范数(L0, L1, L2, 核范数)目录：一、L0，L1范数二、L2范数三、核范数 今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看法

损失函数(Loss Function) -1http://www.ics.uci.edu/~dramanan/teaching/ics273a_winter08/lectures/lecture14.pdfLoss Function损失函数可以看做 误差部分(loss term) + 正则化部分(regularization term)1

Hadoop2.6版本集群环境搭建[日期：2015-01-08]来源：Linux社区 作者：stark_summer[字体：大 中 小]一、环境说明1、机器：一台物理机 和一台虚拟机2、linux版本：[spark@S1PA11 ~]$ cat /etc/issueRed Hat Enterprise Linux Server r

Ensemble Learning目前的Ensemble Learning主要存在着三种类型分别是：bagging， boosting和stackingbagging是通过从训练集中抽样出一些样本来训练各个基分类器。如果基分类器的相关程度较高将会导致Ensemble的效果降低，所以在bagging的时候需要尽量保证随机抽取的训练样本的差距较大。在随机抽样的时候既可以从训练样本中随机的抽取出实例加入

由于cuda7.5还没有支持ubuntu16.04,如果在ubuntu16.04上安装cuda7.5会出现各种问题，处理起来比较麻烦。一个简单的解决方法是安装cuda8.0。cuda8.0下载地址。cuda8.0目前需要先注册然后才能下载。在如下页面中我们选择runfile下载。 然后到该.sh文件所在的目录执行sudo sh cuda_8.0.27_linux.run 安装完毕后，再声明一下环

本次的博客内容是根据自己对theano的scan官方教程的总结。点击scan官方教程scan函数在theano中提供循环迭代。 scan的函数签名如下： theano.scan(fn, sequences=None, outputs_info=None, non_sequences=None, n_steps=None, truncate_gradient=-1, go_backward