huangbo1221的博客

机器学习中的范数规则化之（一）L0、L1与L2范数zouxy09@qq.comhttp://blog.youkuaiyun.com/zouxy09        今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看法

Adaboost 算法的原理与推导0 引言    一直想写Adaboost来着，但迟迟未能动笔。其算法思想虽然简单：听取多人意见，最后综合决策，但一般书上对其算法的流程描述实在是过于晦涩。昨日11月1日下午，在我组织的机器学习班 第8次课上讲决策树与Adaboost，其中，Adaboost讲得酣畅淋漓，讲完后，我知道，可以写本篇博客了。    无心啰嗦，本文结合机器学习班决策树与Adaboost 的

标签数据转one_hot向量        跑一个小的训练程序，需要制作one_hot标签，结果在作标签时一直出错，也是无语。下面就将自己知道的制作one_hot向量标签的方法记录一下，顺便再熟悉一遍。1、利用numpyimport numpy as np label = np.array([0,3,2,8,9,1])##标签数据，标签从0开始 classes = max(label) + 1 #...