MinCong Luo的博客

K-Means是一种聚类算法，其核心思想是针对一个训练集通过预先给定的初始点和初始的聚类数目、迭代地将数据集拆分成多个类别。然后我们会把多个K-Means弱分类器集合起来，构成一个更强的集成分类器。 我们要写的K-means算法 核心idea:迭代地寻找和当前几个中心对应的最近向量,然后根据最新的划分更新这些中心; 我们要写的集成算法 核心idea:根据弱分类器的表现不断更新它们的权重,最终...

今天开始又开一个新坑叫“徒手写机器学习算法”，先说明一下实际上你徒手写出的这些算法没什么毛用，但是如今天天在写paper，感觉远离了之前的统计机器学习算法和编程，所以弄个这个专栏督促自己复习一下不要忘了之前学的东西。 关于这个系列“徒手写机器学习算法” 首先既然是徒手肯定就别想什么”import tensorflow as tf”之类的了，准备还是用c++和几个基础库来写，就e...

Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来，构成一个更强的最终分类器（强分类器）。 我们要写的AdaBoost算法 我们假设要训练的就是之前的感知器算法，也就是每个弱学习器都是一个线性感知机。其流程可以这样描述: 解释一下这个算法流程图: 初始化训练数据（每个样本）的权值分布DDD：如果有mmm个样...

今天来看一个非常简单的算法:SGD随机梯度下降,说实话它有些不起眼,但是当今AI算法的各个场景都能见到它的身影.应该是众多机器学习算法中最常用的优化方法.几乎当前每一个先进的(state-of-the-art)机器学习库或者深度学习库都会包括梯度下降算法的不同变种实现. 图解 SGD随机梯度下降及其变种的示意图 算法详情 用处是什么？ GD和SGD中,都会在每...

【徒手写机器学习算法】再谈数据源:从普通图片到Cifar-10(使用C++) 在本系列的第一篇文章里,关于机器学习的数据源的问题被一笔带过(使用csv格式的数据),这一篇文章我会给出关于图片数据制作的两个示例. 所需前提 在开始之前我说一下需要准备的东西: g++编译器(废话..) opencv2或opencv3 Cifar-10数据集(待会儿会说) 又是Le...

简单的Q-learning算法实现 Q-Learning算法下，目标是达到目标状态(Goal State)并获取最高收益，一旦到达目标状态，最终收益保持不变。因此，目标状态又称之为吸收态。 Q-Learning算法下的agent，不知道整体的环境，知道当前状态下可以选择哪些动作。 通常，我们需要构建一个即时奖励矩阵R，用于表示从状态s到下一个状态s’的动作奖励值。 ...