qimingxia的博客

实验要求：定义一个卷积神经网络：准备数据输入定义网络输出定义损失函数定义优化器定义精度启动TF训练模型保存和日志代码：实验结果：使用tensorboard可视化：结果分析 在MNIST数据集上训练卷积神经网络，循环20000次训练，训练采用的是交叉熵损失函数，用ADAM优化器来做梯度下降，学习率为0.0001，最后可以得到99.19%的准确率。...

运行一个聚类算法； 要求： 1) 数据自选，例如：iris 2) 修改给出的代码，运行得到结果，例如修改类别、修改算法参数、更换聚类算法等；3）打印出评价指标；K-means实验代码import matplotlib.pyplot as pltimport numpy as npfrom sklearn.cluster import KMeansfrom sklearn import ...

集成学习实验实验要求实验要求1.模型：Random Forest和Gradient Tree Boosting；2.数据：自行下载；3.要求：对比两种方法的回归/分类；import pandas as pdfrom sklearn.cross_validation import train_test_splitfrom sklearn.ensemble import RandomFo...

集成学习一，个体与集成二，AdaBoosting算法原理三，基于单层决策树的AdaBoost算法python实现一，个体与集成集成学习通过构建并结合多个学习器来完成学习任务，也被称为多分类系统，基于委员会的学习。上图为集成学习的一般结构。若集成中包含同类的个体学习器，则该集成称为同质集成，其中的个体学习器，称之为“基学习器”，反之称为异质集成，其中的个体学习器称为“组件学习器”。说明一个...

决策树一，基本流程二，划分选择2.1信息增益2.2增益率三，剪枝处理3.1 预剪枝3.2 后剪枝一，基本流程决策树是一类常见的机器学习方法。一般的，一棵决策树包含一个根节点，若干个内部节点和若干个叶节点。叶节点对应于决策结果，其他每个节点则对应于一个属性测试；每个节点包含的样本集合根据属性测试的结果被划分到子节中；根节点包含样本全集。⋅\cdot⋅基本流程遵循“分而治之”策略。树的构建流...

逻辑回归一、逻辑回归1，数据可视化2，sigmoid函数3，代价函数以及梯度下降一、逻辑回归1，数据可视化定义plotData.m函数，可视化数据集，分布在二维平面function plotData(X, y)%PLOTDATA Plots the data points X and y into a new figure % PLOTDATA(x,y) plots the dat...

神经网络一，神经网络模型建立1.1 前向传播在上一次多类别分类器练习中，通过多类别逻辑回归算法实现了识别数字笔迹。但是，逻辑回归算法不能得到一个更为复杂的假设函数，因为它仅仅只是一个线性分类。一，神经网络模型建立建立模型示意图：上图所示神经网络一共有三个层，分别是输入层（input layer），隐藏层（hidden layer），输出层（output layer）。1.1 前向传播...

单变量线性回归1，线性回归将数据集拟合成一条直线，当变量唯一时，即为单变量线性回归。假设单变量线性回归的函数为：hθ(x)=θ0+θ1xh_{\theta }(x)=\theta _{0}+\theta_{1}xhθ​(x)=θ0​+θ1​x代价函数为：J(θ)=12m∑i=1m(hθ(x(i))−y(i))2J(\theta )=\frac{1}{2m}\sum_{i=1}^{m} ...

模型评估与预测1.1经验误差与过拟合1.2 评估方法1.2.1留出法（hold-out）1.2.2交叉验证法1.2.3 自助法1.3性能度量1.3.1 查准率，查全率与F11.1经验误差与过拟合定义几个概念:⋅\cdot⋅ 错误率（error rate）E=amE=\frac{a}{m}E=ma​其中a表示样本分类错误数，m是样本总数⋅\cdot⋅ 精度（accuracy）为1−am1...

多类别分类一、模型建立二、一对多分类方法(one-vs-all)三、分类器实现1，加载数据集（Dateset），可视化2，训练分类器一、模型建立对于二元分类的数据模型如下；使用两种符号表示两个不同的数据集。对于二元分类，上一篇博课已经给出分析：二元分类原理分析，及代码实现过程运用逻辑回归，很好地实现了分类的功能。对于一个多分类问题，以三元分类为例，建立数据模型如下，使用三种符号，...