- 博客(18)
- 收藏
- 关注
RSS订阅原创 西瓜书第6章之SVM_2
西瓜书第6章之SVM_2核函数SMO核函数核函数是将低维线性不可分数据例如椭圆形状结构，映射至高维空间使其线性可分。但发现若映射至1000维甚至更高维度这样的计算量太大。经过先辈的努力，提出核函数。核函数可以映射至高维空间，实质是在低维空间上计算。接下来列举一些常用的核函数。线性核函数K(x,z)=x⋅zK(x,z) = x \centerdot zK(x,z)=x⋅z多项式核函数K...
2018-11-10 15:59:22
369
原创 深度学习总结六:GoogleNet
深度学习总结六:GoogleNet网络特性网络训练网络特性增加网络深度的同时，增加网络的宽度(增加网络的复杂度，会导致过拟合)。2.使用全连接层代替平均池化(top1分类提升0.6%)网络训练对图像数据使用min-subtraction处理对输入数据使用1X1卷积降低网络输入层的维度。使用分布式机器学习系统训练。异步随机梯度下降0.9动量对图像的各个大小块进行采样，其大小均...
2018-11-06 21:26:55
662
原创 深度学习总结六:VGG
深度学习总结六:VGG网络结构网络特性网络训练论文代码网络结构网络特性证明了网络的深度在一定程度上提升了模型的效果。2个33的卷积核相当于1个55的卷积核，并且前者训练参数更少。网络C比B多一个1*1的卷积核，即增加一个非线性函数，增加模型复杂度。网络D在C的基础上将11卷积核修改为33卷积核，增大感受野，效果更好。网络训练使用带有动量的mini-batch梯度下降法，...
2018-10-30 23:18:24
1190
原创 深度学习总结五:AlexNet
深度学习__AlexNet成就特点结构论文链接代码成就2012年ImageNet项目的大规模视觉识别挑战(ILSVRC)冠军。特点使用ReLU函数代替sigmoid作为激活函数，避免梯度消失。因为sigmoid函数的导数属于(0,1/4)，在反向传播过程中(1/4)n(1/4)^n(1/4)n就趋近0。ReLU函数的导数为常数。使用dropout防止过拟合。提出LRN(较少使用)...
2018-10-29 22:05:52
484
原创 深度学习总结四：逻辑回归总结
深度学习总结四：逻辑回归总结逻辑回归步骤常见问题参考逻辑回归代码公式推导逻辑回归步骤逻辑回归是一个分类算法。所以大致步骤如下：sigmoid函数二分类对线性函数y=wx+by = wx + by=wx+b使用sigmoid函数包装为σ(y)\sigma(y)σ(y)，输出[0,1][0,1][0,1]的概率值。大于0.5为正样本，小于0.5为负样本。优点：计算代价不高，易于理解和实...
2018-10-15 20:26:10
760
原创 深度学习总结三：特征处理流程
深度学习总结三：特征处理流程数据审查判断共线性（相关性）的方法：判断异常值的方法：数据清洗缺失值处理噪声值处理不一致数据处理异常值处理重复值处理共线性处理数据集成实体识别冗余属性识别数据变化简单函数变化数据标准化连续数据离散化属性构造小波变化判断是否改变量纲和分布数据规约数据验证相关性分析-xmind正态性检验一致性检验特征选择sklearn中总结的衡量指标)+λψ(w)w^* = argmin_w \sum_iL(y_i, f(x_i;w)) + \lambda\psi(w)w∗=argminwi∑L(yi,f(xi;w))+λψ(w)监督学习过程：最小化误差同时规划参数。例如公式中的L项作用是拟合数据，λψ(w)\lambda\ps...
2018-10-14 10:50:31
1302
原创 剑指offer13~15题
剑指offer13~15题调整数组顺序使奇数位于偶数前面链表中倒数第k个结点反转链表调整数组顺序使奇数位于偶数前面输入一个整数数组，实现一个函数来调整该数组中数字的顺序，使得所有的奇数位于数组的前半部分，所有的偶数位于数组的后半部分，并保证奇数和奇数，偶数和偶数之间的相对位置不变。class Solution: def reOrderArray(self, array): ...
2018-10-09 22:29:20
217
原创 论文阅读1
论文阅读1特征生成训练效果细节阅读文章为Wide & Deep Learning for Recommender Systems先贴出模型图：图1特征生成图1continuous features特征标准化：i−1nq−1\frac{i-1}{n_q-1}nq−1i−1图1的cross product transformation方框内使用图2公式产生新的稀疏组合特征，因...
2018-10-09 19:55:32
325
原创 剑指offer10~12题
##剑指offer10~12题###10、矩形覆盖题目描述我们可以用21的小矩形横着或者竖着去覆盖更大的矩形。请问用n个21的小矩形无重叠地覆盖一个2*n的大矩形，总共有多少种方法？思路：类似于斐波那契数列# -*- coding:utf-8 -*-class Solution: def rectCover(self, number): # write code...
2018-09-23 22:28:49
170
原创 剑指offer7~9题
剑指offer7~9题7、斐波那契数列大家都知道斐波那契数列，现在要求输入一个整数n，请你输出斐波那契数列的第n项（从0开始，第0项为0）。 n<=39。 斐波那契数列表达式：F(0) = 0，F(1) = 1，F(n) = F(n-1) + F(n-2)class Solution: def Fibonacci(self, n): # write c...
2018-09-16 19:26:09
126
原创 剑指offer4~6题
剑指offer4~6题<\center>4、重建二叉树输入某二叉树的前序遍历和中序遍历的结果，请重建出该二叉树。假设输入的前序遍历和中序遍历的结果中都不含重复的数字。例如输入前序遍历序列{1,2,4,7,3,5,6,8}和中序遍历序列{4,7,2,1,5,3,8,6}，则重建二叉树并返回。 前序遍历：首先访问根结点然后遍历左子树，最后遍历右子树。 中序遍历：首先遍历左子...
2018-09-09 13:28:13
210
原创 顶会论文阅读体会__前期准备
顶会论文阅读之一前期准备接下来会间隔一周阅读一篇顶会论文，请大家监督。做一个前期准备—–顶会汇总，怕量太多暂时汇总A+和A。 Acronym Standard Name Rank AAAI National Conference of the American Association for Artificial Intelligence A+ A...
2018-09-01 12:17:29
4387
原创 剑指offer1~3题
剑指offer1~3题1 二维数组中的查找在一个二维数组中（每个一维数组的长度相同），每一行都按照从左到右递增的顺序排序，每一列都按照从上到下递增的顺序排序。请完成一个函数，输入这样的一个二维数组和一个整数，判断数组中是否含有该整数。 分析：当选中数组的某个确定的值例如x，右侧和下侧都是大于x，，做好的做法是找到一个特殊的位置例如右上角（或者左下角），因为右上角的左侧小于本身，下侧大于本...
2018-08-30 21:28:41
223
原创 西瓜书第3章之LDA
西瓜书第3章公式推导四3.3.1 LDA(线性判别分析)LDA：给定训练集，将样本投影到一条直线上，使得投影后的异类样本尽可能远离argmax(||wTu0−wTu1||)argmax(||wTu0−wTu1||)argmax(||w^Tu_0-w^Tu_1||)同类样本尽可能靠近 argmin(wT∑0w+wT∑1w)argmin(wT∑0w+wT∑1w)argmin(w^T\sum_...
2018-08-28 20:15:43
1606
1
原创 西瓜书第3章之类别不平衡问题
西瓜书第3章公式推导四3.5类别不平衡问题类别不平衡是指分类任务中不同类别数目差距大。 例如负样本与正样本比为10：1。 3.5.1解决类别不平衡-欠采样(下采样)减少负样本的训练集，使正样本与负样本接近。 代表算法：EasyEnsemble 原理：将负样本随机取出与正样本数目接近集合，组成训练集用于训练。重复以上多次产生多个基分类器。将各个基分类器集成输出最终决策。...
2018-08-24 14:16:59
860
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人