weixin_44474718的博客

原创 生成式对抗网络（GAN）-（Generative Adversarial Networks）算法总结（从原始GAN到....目前）

本文将按时间顺序总结gan的paper（非所有，会挑选个人认为比较重要的），并将参考其它博客（会给出链接），如有侵权，请私信删除。???? （2014.06-arXiv）GAN:Generative Adversarial Nets【论文原文】【参考文章】????contributions：开山之作；原理：生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本，判别网络则尽可能去判别该样本是真实样本，还是生成的假样本。采用JS散度作为评判依据。loss函数（原始gan损失函数的详细解释）：

原创 深度学习知识点训练技巧总结

2、防止过拟合（overfit）的方法正则化：即在对模型的目标函数（objective function）或代价函数（cost function）加上正则项。（L1正则与L2正则）提前停止迭代：当迭代过程中准确率不再上升时停止，或者是损失函数停止下降的时候。dropout：在每次训练过程中随机将部分神经元的权重置为0，即让一些神经元失效，这样可以缩减参数量。数据集增广：重采样、加噪音、...

原创 语义分割-深度学习算法总结（从FCN到....目前）

按时间顺序总结paper，看语义分割的结构是如何演变的。分别有FCN 、SegNet 、Dilated Convolutions 、DeepLab (v1 & v2) 、RefineNet 、PSPNet 、Large Kernel Matters 、DeepLab v3 …FCN...

原创 图像处理知识点总结

图像：可以用矩阵表示，行列表示图像的长高，矩阵的元素值可以表示灰度值的大小。图像深度：表示分辨率，如灰度图像，每个像数有8位深度，则2^8=256。区域：表示一幅图像中一个任意的像素子集，不就是ROI嘛？？？一般图像处理过程：...

原创 机器学习知识点总结

1、xgboost和gdbtGDBT在优化时只用到一阶导数信息，而XGBoost用的时泰勒展开，同时用到了一阶和二阶信息，并且可以自定义代价函数。损失函数更精确。XGboost用到了正则项，为了防止过拟合。2、防止过拟合（overfit）的方法正则化：即在对模型的目标函数（objective function）或代价函数（cost function）加上正则项。（L1正则与L2正则...

原创 目标检测-深度学习算法总结（从R-CNN到......最新..........)

版权声明：本文为博主原创文章，未经博主允许不得转载。仅作为个人笔记：● R-CNN（2013.11）：二阶基础● OverFeat：（2014）主要特征：集成的处理识别（Recognition）、定位（Localization）、检测（Detection）三个问题，做到一个网络解决所有问题。并且通过一个卷积网络，实现对输入支持多尺度（multiscale）、滑动窗口的变换。学习FCN、...

原创 深度学习之多尺度卷积的发展总结

????（2019.04-arXiv）ScaleNet:Data-Driven Neuron Allocation for Scale Aggregation Networks【论文原文】???? 原理：文本语义分割的mix；分组采用不同的卷积核大小进行计算；两种分组方法：等分、指数分割????（2019.07-arXiv）MixConv:MixConv: Mixed Depthwise Convolutional Kernels【论文原文】【代码】???? 原理：深度可分离卷积的mix

原创 二叉树的遍历方式（前序遍历、中序遍历、后序遍历、层序遍历、深度优先遍历、广度优先遍历）

一、先序遍历步骤：根节点->左子树->右子树二、中序遍历步骤：左子树->根节点->右子树三、后序遍历步骤：左子树->右子树->根节点四、层序遍历步骤：按层，从上到下，从左到右遍历五、深度优先遍历（Depth First Search）步骤：对每一个可能的分支路径深入到不能再深入为止，而且每个节点只能访问一次。深度优先遍历需要使用到栈这...

原创 python3运算符中（除/、取模%、取整数//、与&、或|、非~、异或^）的简单实现

更多细节【参考】运算符描述实列+加5+6 的输出结果：11-减5-6 的输出结果：-1*乘5*6 的输出结果：30:/除5/6 的输出结果：0.8333333333333334、11/6 的输出结果：1.8333333333333333%取模5%6 的输出结果：5、11%6 的输出结果：5**幂2**3...

原创 堆栈与队列的区别及使用场景（python实现）

堆栈：先入后出，只能在一端进行操作队列：先入先出，一端进入，一端出列※ 堆栈和队列的适用场景堆栈：用于符号的匹配：在编译器的语法检查中，一个过程就是检查各种括号是否匹配，比如 ([]) ，这就是匹配的，而 {[}] 就不匹配了。用于计算代数式：如果我们要计算 6 + 4 * 8 ，要考虑到优先级的问题；先要把代数式构造成 6 4 8 * + 的形式；逐个读取数据，当读到数字时，把数字入...

原创 目标检测模型中NMS、soft-NMS、softer-NMS的原理、LNMS文本检测系列（python代码实现）

非极大值抑制NMS的作用：是目标检测框架中的后处理模块，主要用于删除高度冗余的bbox。????一、NMS非极大值抑制NMS的过程：根据置信度得分进行排序；选择置信度最高的边界框添加到最终输出列表中，将其从原始边界框列表中删除；计算所有边界框的面积；计算置信度最高的边界框与其它候选框的IoU；删除IoU大于阈值的边界框；（一般IOU取0.3~0.5）重复上述过程，直至原始边界框列...

转载 XGBoost原理的详细解释推导及面试常见问题

论文原文：（2016.03）XGBoost: A Scalable Tree Boosting System问题：XGBoost中树结点分裂的依据是什么？如何计算树节点的权值？为防止过拟合，XGBoost做了哪些改进？一、XGBoost的目标函数XGBoost的目标函数由训练损失和正则化项两部分组成，目标函数定义如下：其中：（1）l 代表损失函数，常见的损失函数有：（2）...

转载 PCA和LDA原理及异同点最通俗易懂的解释

点我点我

原创 冒泡排序python实现及其改进

原始代码：def bubble_sort(alist): count = 0 # 计算循环次数 for j in range(0,len(alist) - 1): # 整个数列排序循环，元素从头走到尾，走完一次，排好一个数 for i in range(0,len(alist) -...

原创 机器学习中的各种距离公式（欧式距离、曼哈顿距离、切比雪夫距离、余弦距离……）

原创 GoogLeNet:inception V1、V2、V3、V4、Inception-ResNet V1、V2详解

原创 神经网络基础模型VGG、GoogLeNet（inception）、ResNet、dense Net、SqueezeNet、Xception的网络结构

原创 优快云写文章输入不同颜色的文字及标题居中

1、优快云输入不同红色的字体2、优快云输入不同红色的字体3、优快云输入不同红色的字体4、优快云输入不同红色的字体5、优快云输入不同红色的字体6、优快云输入不同红色的字体7、优快云输入不同红色的字体8、优快云输入不同红色的字体9、优快云输入不同红色的字体10、优快云输入不同红色的字体11、优快云输入不同红色的字体12、优快云输入不同红色的字体13、CS...

原创 史上最简单的git教程

参考：https://www.liaoxuefeng.com/wiki/896043488029600一、git的简介1991年，Linus创建了开源的Linux；2005年，Linus花了两周时间自己用C写了一个分布式版本控制系统，这就是Git！2008年，GitHub网站上线了，它为开源项目免费提供Git存储，无数开源项目开始迁移至GitHub，包括jQuery，PHP，Ruby等等。...

原创 深度学习之anchor机制

anchor机制由Faster-RCNN提出，而后成为主流目标检测器的标配，例如SSD、Yolov2、RetinaNet等等。为了解决：分而治之（将scale和aspect ratio空间划分为几个子空间，降低问题难度，降低模型学习难度）和解决gt box与gt box之间overlap过大导致gt box丢失问题。三个方法：pyramids of images：pyramids of f...

原创 残差网络ResNet到ResNeXt解读，最强ResNeXt预训练模型已开源及如何使用

它叫ResNeXt WSL，有超过8亿个参数，用Instagram上面的9.4亿张图做了 (弱监督预训练) ，用ImageNet做了微调。ResNet （2015）ResNeXt （2016）ResNeXt WSL（2019）如何使用：import torchmodel = torch.hub.load('facebookresearch/WSL-Images', 'resnext10...

原创 《免费下载论文的网站》

1. 谷歌学术镜像http://ac.scmor.com/谷歌学术虽然好用，但无法正常登陆。不如试试谷歌学术镜像网站吧！单个链接容易失效，所以它丧心病狂地提供了多达 20 个的入口。只要显示【现在访问】的，就表明该镜像可用。2. 百度学术一个综合的学术资源检索网站，每篇论文会给出多种获取渠道，除了知网、万方、维普，还有道客巴巴、豆丁网、爱学术等。网站提供【求助全文】功能，可以向网友求助...

原创 语义分割-深度学习算法总结（2018）-论文翻译（附带相关数据集）

太优秀了，收藏用！转载自：https://www.cnblogs.com/Jie-Liang/archive/2017/06/29/6902375.html论文原文地址：https://arxiv.org/abs/1704.06857应用于语义分割问题的深度学习技术综述摘要应用场景：自动驾驶、室内导航、甚至虚拟现实与增强现实等。一、引言语义分割：（应用于静态2D图像、视频甚至3D数据、...

原创 NVIDIA安装程序失败解决方法

如下所示，NVIDIA在安装过程中出现，NVIDIA安装程序失败，状态都是未安装解决方法：一般CUDA安装失败都是由于其中Visual Studio(VS) Intergration无法安装导致的：所以在安装过程中选择自定义安装，并且Visual Studio(VS) Intergration选择不安装，如下图所示：...

原创 Linux快速入门

在所有Linux版本中，都会涉及到以下几个重要概念：内核：内核是操作系统的核心。内核直接与硬件交互，并处理大部分较低层的任务，如内存管理、进程调度、文件管理等。Shell：Shell是一个处理用户请求的工具，它负责解释用户输入的命令，调用用户希望使用的程序。命令和工具：日常工作中，你会用到很多系统命令和工具，如cp、mv、cat和grep等。在Linux系统中，有250多个命令，每个命令都...

原创 AI算法工程师-从入门到上瘾

设定一个非常清晰的目标清晰的目标就比如说你要做NLP，你要知道NLP的应用有智能问答，机器翻译，搜索引擎等等。然后如果你要做智能问答你要知道现在最发达的技术是深度学习，使用的算法有RNN/LSTM/Seq2Seq/等等一系列。而我的清晰目标是在实习的时候给我的任务。当任务很明确的时候，所需要的语言就明确了，所要学习的算法也就明确了，很多东西就顺理成章了不用一头乱撞了。机器学习是人工智能的一种，...

原创 程序员需要知道的10大基础算法及python代码实现

一、快速排序算法快速排序（Quicksort）是对冒泡排序的一种改进。原理：快速排序由C. A. R. Hoare在1960年提出。它的基本思想是：通过一趟排序将要排序的数据分割成独立的两部分，其中一部分的所有数据，都比，另外一部分的所有数据，都要小，然后再按此方法对这两部分数据分别进行快速排序，整个排序过程可以递归进行，以此达到整个数据变成有序序列。设要排序的数组是A[0]……A[N-1...

原创 2019目标检测方法进展简单总结

参考：https://mp.weixin.qq.com/s?__biz=MzIxOTczOTM4NA==&mid=2247487298&idx=1&sn=0c7166808ef88b5c527c8951d1883cec&chksm=97d7ead5a0a063c3dfc7adb9b262bccd01a2a08011b4d8ec8fbffc565668bed20fdf...

原创 高效轻量级深度模型的研究与实践

原文： https://mp.weixin.qq.com/s/pWaU4Q2fAL6LcY8nC2eWDw一、背景众所周知，CNN 模型已是现代深度视觉系统的一个核心部分，作为基础模型，它起到了特征抽取器的作用，被应用于很多业务场景如人脸识别、物体检测与语义分割等等；之所以将基础模型称为“核心部分”，有以下 2 个原因：基础模型设计的好坏在很大程度上会影响整个系统的精度；由于 CNN 模型...

原创 轻量级神经网络：MobileNetV1到MobileNetV3

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision ApplicationsMobileNetV1（2017）：https://arxiv.org/abs/1704.04861?context=csMobileNetV2: Inverted Residuals and Linear Bottlenecks...

原创 轻量级神经网络：ShuffleNetV1到ShuffleNetV2

论文名：ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design论文地址：https://arxiv.org/abs/1807.11164会议：ECCV2018大规模的神经网络和小规模的神经的网络的之间有什么区别？ 为什么有了大规模神经网络的精度后还要去研究小规模的神经网络呢？（大网络：存储空间，GPU...

原创 深度学习模型压缩与加速综述

本文转自微信公众号SIGAI全文PDF见：http://www.tensorinfinity.com/paper_167.html目前在深度学习领域分类两个派别，一派为学院派，研究强大、复杂的模型网络和实验方法，为了追求更高的性能；另一派为工程派，旨在将算法更稳定、高效的落地在硬件平台上，效率是其追求的目标。复杂的模型固然具有更好的性能，但是高额的存储空间、计算资源消耗是使其难以有效的应用在...

原创 RuntimeError: CuDNN error: CUDNN_STATUS_SUCCESS

问题一：RuntimeError: CuDNN error: CUDNN_STATUS_SUCCESS File "C:\Users\tyy\AppData\Local\Continuum\Anaconda3\lib\site-packages\torch\nn\modules\module.py", line 477, in __call__ result = self.forwa...

原创 win10激活

以管理员身份运行PowerShell依次输入以下命令slmgr.vbs /upkslmgr /ipk W269N-WFGWX-YVC9B-4J6C9-T83GXslmgr /skms zh.us.to

原创 win10+anaconda3+python3.6+CUDA9.0+CUDNN7.0配置tensorflow-gpu=1.8+pytorch-gpu=0.4+opencv

环境：win10+anaconda3+python3.6+CUDA9.0+CUDNN7.0tensorflow-gpu=1.8：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow-gpu==1.8.0pip install protobuf==3.6.0pip install keraspytorch...

原创 深度学习算法总结

LeNet（1998）：现在一般指LeNet5，（输入层、卷积、池化、卷积、池化、全连接、输出共5层）主要特征：卷积层和下采样层相结合作为网络的基本结构。所有神经元共享权值，但偏置可能不同。激活函数：软最大函数（softmax）。AlexNet（2012）：普遍认为深度学习的开端是2006年，但是广泛关注从2012开始。（输入层、5个卷积（其中3个卷积进行最大池化）、3个全连接、输出层共8层）...

原创 anaconda安装tensorflow和scikit-learn出现An error ocurred while starting the kernel的问题

Win10系统 安装Anaconda+TensorFlow+Keras参考：https://www.cnblogs.com/zeroingToOne/p/8407059.html之后自己安装scikit-learn运行程序出现如下错误Using TensorFlow backend.RuntimeError: module compiled against API version 0xc ...