Sun7_She的专栏

本节我们讲3种求解线性回归问题的方法：梯度下降法，牛顿法，正规方程法

RESNET跳跃连接RESNEXT拆分-转换-合并增加基数（独立路径的数量）来提高准确度比网络加深或扩大来提高准确度更有效。（为什么呢？）DENSENET相加改为相并联加强shortcut，将所有层直接连接在一起DPN将残差通道和densely connected path相融合，实现优缺互补------------------------...

one stageSSD:SSD是Faster-RCNN和YOLO中做了一次的分类和检测过程放在不同的图像大小上做了多次RETINANET:RESNET+FPN+FOCAL LOSS

其相对于FASTER RCNN改进如下：1. 分割，检测，分类同时进行2. 引入ROI ALIGN（对分类影响不大，对分割影响大，因为ROI POOLING对应回图像中的像素会有偏差，该方法会相对准确）代替faster rcnn中的ROI POOLINGROI ALIGN:https://www.cnblogs.com/wangyong/p/8523814.html对于检测图片中...

在讲fast-rcnn之前，我们先来看一下spp net吧？～spp net对r-cnn的改进主要有两点： 1. 只对原图提取一次特征。输入是图片，在feature层对应位置找到候选框的位置。 2. 结合空间金字塔方法实现cnns的对不同尺度的输入。实现数据的多尺度输入。分别划分不同的小块对feature进行pooling。对比r-cnn提速100倍左右...

transfer learning: 包含所有的source  or target, labeled or unlabeled, finetune, multi-task learning的情况。总而言之一句话，训练的过程中用（单个数据集做supervised learning）之外的所有情况都算在transfer learning中。supervised learning: 训练数据都有标签...

https://www.jianshu.com/p/9dc9f41f0b29一直好奇rnn一个一个生成句子里边那么多字是怎么更新weight的，尤其是前半段只管输入，后半段只管输出。其实是生成一句话之后统一计算每一个字的loss，然后一起更新的。lstm设计的巧妙之处在于解决了rnn短时记忆问题。lstm有一个信息通路，用于将之前的信息直接传输到后边。在每一个小模块里，又会判断哪一部分需要记住，哪...

好久木有写博客了，生疏了不少，第一段删了改改了删，新更博文第一句只想说：hi，老朋友！好久不见～文中的图片来自莫烦python视频。视频内容真心很赞，一天就可以看完，有兴趣的朋友可以点击下边的链接哦https://space.bilibili.com/243821484/#/channel/detail?cid=26359come on, babies! 让我们一起来聊一下增强学习吧～hhhh增强...

1. 《统计学完全教程》 All of statistics 卡耐基梅隆 沃塞曼2. 第四版《概率论与数理统计》 莫里斯。德格鲁特（Morris H.DeGroot）和马克。舍维什（Mark J.Shervish）3. 《线性代数导论》 吉尔伯特。斯特朗--网上视频教程堪称经典4. 《数值线性代数》 特蕾菲森。劳埃德 和 戴维。鲍适合本科生的教材5. 《机器学习基础之预

很久之前就学了SVM，总觉得不就是找到中间那条线嘛，但有些地方模棱两可，真正编程的时候又是一团浆糊，参数随意试验，毫无章法。既然又重新学到了这一章节，那就要把之前没有搞懂的地方都整明白，再也不要做无用功了，嗯~以下使用到的图片来自上海交大杨旸老师的课件，网址如下：http://bcmi.sjtu.edu.cn/~yangyang/

很多时候算法没有搞明白其实是一堆符号没有明白是神马意思...所以本文，着重告诉大家，这堆符号，到底都，代表神马！以下使用到的图片来自上海交大杨旸老师的课件，网址如下：http://bcmi.sjtu.edu.cn/~yangyang/ml/我们首先来宏观认识一下EM算法。其实EMs就是K-means的升级版，也是

本文没有讲：GMM和GGM以下使用到的图片来自上海交大杨旸老师的课件，网址如下：http://bcmi.sjtu.edu.cn/~yangyang/ml/ 分类比较简单，就简单写写了。分类就是我们拿到一堆数据，怎么把它们分到不同的类别中呢？训练过程可以是监督或者非监督的。主要思想就是：距离近的就是一类，距离远的就分为别的类了。 那么什么是距离？距离需要满足以下特性：

以下内容主要在讲：我们怎样选取一个好的模型，判断模型好坏的指标或者选取策略是神马到目前为止我觉得下边说了这么多分割线前边有用的就一句——我们选取模型的时候需要考虑两个条件，1、error（基于约束条件）尽可能小，2、d（模型维数）尽可能小分割线后边还是比较有用的以下使用到的图片来自上海交大杨旸老师的课件，网址如下：http://bcmi.sjtu.edu.cn/~yangyang/

如果你不是数学系的，就不要看这个了。因为以下内容全都在证明机器学习的方法是有效的，你可以用机器学习来得到你想要的结果。然而对于编程或者使用这个方法的人来说，你只要放心大胆地用就行了。就像你知道1+1=2，你并不需要知道它为什么等于，反正你可以用。以下使用到的图片来自上海交大杨旸老师的课件，网址如下：http://bcmi.sjtu.edu.cn/~yangyang/ml/写在前边，

1 learning a deep convnet for multi-label classification with partial labels深度学习在单标签分类任务中表现很好，但是日常生活中的图像本质上是多标签的。多标签分类比单标签分类更困难，因为输入图像和输出标签空间都更复杂。与单标签相比，大规模收集干净的多标签注释更难。为了降低标注成本，我们建议训练带有部分标签的模型，即每个图...