蜗牛遥遥

本博客主要实现adaboost算法依据以下数据集，如果关于adaboost算法有一些理论知识还不是很明白的，可以参考一下这篇博客程序是我自己根据公式编写的，如果有错误的地方欢迎指正。目前感觉代码能力很一般，以后还会进一步对这个程序进行修改。采用机器学习书中的算法步骤：第一步：定义标签和数据集def dataset():data=[0,1,2,3,4,5,6,7,8,9]label...

最近看了一下聚类算法，然后根据书上的代码实现了用k-mean分类鸢尾花数据集。书中的算法：from sklearn.datasets import load_irisimport pdbimport matplotlib.pyplot as pltfrom sklearn.model_selection import train_test_splitimport randomimp...

最近看了k-means算法，网上这个算法很多都是用来分割二维图片的，所以想尝试用这个算法做一下三维图片的分割。那么我们先来介绍一下二维图片的分割：原理是这样的，我们把二维图片中的每一个像素点的值作为一个特征值，如果是彩色图片，那么一个像素点就可以由3个特征值组成，因为有三个颜色通道。代码：from scipy.cluster.vq import *from scipy.misc impo...

当我安装好了cuda之后，查看cuda是否安装成功，输入：nvcc -V就会报错：nvcc fatal : Cannot find compiler ‘cl.exe’ in PATH我在这里安装的是Visual Studio 2015，报错原因就是找不到VS中的cl.exe文件。一般cl.exe的地址是在：你安装的Visual Studio \VS\VC\bin\amd64里面，如果是默认安...

最近看了聚类算法，所以根据自己的理解写了一个思维导图。同时也自己根据书中的代码写了k-means算法的程序，可以点这里

注意力机制就是让计算机模拟人类大脑，在看东西的时候，将注意力集中在比较感兴趣的物体上。1. 引入注意力机制的目的：1、计算能力的限制：越复杂的模型才能记住更多的信息，但是当前计算能力依然是限制人工神经网络发展的瓶颈2、优化算法的限制：虽然局部连接、权重共享以及pooling等优化操作可以让神经网络变得简单一些，有效缓解模型复杂度和表达能力之间的矛盾；但是，信息“记忆”能力并不高2. 按照...

在机器学习和深度学习中，我们通常会需要掌握三个步骤就可以完成了，拿起数据（特征），搭上模型（目标函数，损失函数，代价函数）,不断优化（优化函数-梯度下降，adam，动量-找到最优的W），就可以完成了1. 损失函数、代价函数与目标函数损失函数（Loss Function）：是定义在单个样本上的，是指一个样本的误差。代价函数（Cost Function）：是定义在整个训练集上的，是所有样本误差的...