<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[a119334的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/a119334</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; a119334]]></copyright><item><title><![CDATA[PyTorch 并行训练极简 Demo]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/127593765</link><guid>https://blog.youkuaiyun.com/a119334/article/details/127593765</guid><author>a119334</author><pubDate>Sat, 29 Oct 2022 23:09:03 +0800</pubDate><description><![CDATA[我来分享一份非常简单的PyTorch并行训练代码，希望没有学过的读者能够在接触尽可能少的新知识的前提下学会写并行训练。]]></description><category></category></item><item><title><![CDATA[从零理解熵、交叉熵、KL散度]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/127307556</link><guid>https://blog.youkuaiyun.com/a119334/article/details/127307556</guid><author>a119334</author><pubDate>Thu, 13 Oct 2022 19:25:49 +0800</pubDate><description><![CDATA[在这篇文章里，我会从非常易懂的例子中引入熵这个概念，并介绍和熵相关的交叉熵、相对熵（KL散度） 等概念，使大家一次性理解熵的原理。]]></description><category></category></item><item><title><![CDATA[图像超分经典网络 SRGAN 解析 ~ 如何把 GAN 运用在其他视觉任务上]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126351480</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126351480</guid><author>a119334</author><pubDate>Mon, 15 Aug 2022 17:46:54 +0800</pubDate><description><![CDATA[在这篇文章中，我将主要面向深度学习的初学者，介绍SRGAN[1]这篇论文，同时分享以下知识：
* GAN的原理与训练过程
* 感知误差(Perceptual Loss)
* 基于的GAN的SR模型框架]]></description><category></category></item><item><title><![CDATA[COCO目标检测数据集的读取方法与Python工具脚本]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126304213</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126304213</guid><author>a119334</author><pubDate>Fri, 12 Aug 2022 15:43:05 +0800</pubDate><description><![CDATA[COCO (Common Objects in COntext) 是一个大型的图像数据集，提供了目标检测、分割、看图说话等多个任务的标签。COCO的标注文件是用json格式编写的，初次接触时需要花十来分钟熟悉一下COCO的标注格式。
本文将简明地介绍COCO目标检测数据集的读取方法，并给出可以调用的Python脚本。读取其他任务的标签时也可以借鉴这些思路。......]]></description><category></category></item><item><title><![CDATA[ResNet 论文概览与精读]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126252455</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126252455</guid><author>a119334</author><pubDate>Tue, 09 Aug 2022 17:39:09 +0800</pubDate><description><![CDATA[摘要的前三句话开门见山地介绍本文要解决的问题以及解决的方法。较深的神经网络很难训练。本文的工作：提出了一种能够轻松训练比以往的网络要深得多的残差学习框架。本文方法的进一步解释：神经网络的层将拟合一个基于输入的残差函数，而不是一个没有参考的函数。经实验而非理论证明，增加深度后，模型的训练效果和测试效果都得到了提升。精度打败了当时所有的分类模型。深度高达152，大幅超过了当时较火的19层的VGG，同时并没有增加多少计算量。精度打败了当时所有的检测、分割等任务的模型。............]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（十三）：CNN应用：人脸识别与风格迁移]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126250246</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126250246</guid><author>a119334</author><pubDate>Tue, 09 Aug 2022 16:36:55 +0800</pubDate><description><![CDATA[如上图所示，在神经网络风格迁移中，输入一张表示内容的图©和一张表示画家风格的图(S)，我们可以借助神经网络生成一幅融合内容与风格的图片(G)。接下来实现神经网络风格迁移时，我们会关注CNN浅层和深层提取出来的特征。因此，在具体介绍风格迁移的实现之前，我们先来看看CNN各层网络究竟学到了什么。这节课主要介绍了人脸识别和神经网络风格迁移两项任务，最后顺便介绍了1D和3D上的卷积。人脸识别人脸验证与人脸识别任务的定义如何对单样本学习建模孪生网络基于三元组误差和二分类误差的人脸识别网络。...]]></description><category></category></item><item><title><![CDATA[目标检测 NMS 的 Python 实现（附算法动图）]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126247149</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126247149</guid><author>a119334</author><pubDate>Tue, 09 Aug 2022 16:10:25 +0800</pubDate><description><![CDATA[在目标检测算法中，为了尽量不漏掉物体，会输出大量的检测结果（每一条结果由检测概率与检测框组成）。这些检测结果很可能有重复的，即会有多个框标出了同一个物体。下图就是一个例子，算法正确识别出了两辆车，但却有多个检测框标出了同一辆车。我们需要一个算法来过滤多余的检测框。最常用的算法就是NMS(Non-Maximum Suppresion, 非极大值抑制)。该算法的思路很简单：只保留局部概率最大的检测框，与其重合的其他检测框都会被舍去。...]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（十二）：目标检测与语义分割简介 (YOLO, U-Net)]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/126246853</link><guid>https://blog.youkuaiyun.com/a119334/article/details/126246853</guid><author>a119334</author><pubDate>Tue, 09 Aug 2022 14:24:40 +0800</pubDate><description><![CDATA[让我们把前几节的内容总结一下，看一下YOLO算法的全貌。在训练前，我们要对数据做预处理。首先，我们要指定以下超参数：图片切分成多大的格子、每个格子里有多少个锚框。之后，根据这些信息，我们可以得到每一个训练标签张量的形状。比如3×3×2×83×3×2×8的一个训练标签，表示图片被切成了3×33 \times 33×3的格子，每个格子有两个锚框。这是一个三分类问题，对于每一个检测出来的物体，都可以用一个长度为888的向量表示。其中，pcp_cpc​。...]]></description><category></category></item><item><title><![CDATA[用 TensorFlow 实现 ResNet 并验证残差连接的有效性]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965815</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965815</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:48:48 +0800</pubDate><description><![CDATA[在这篇文章中，我展示了ResNet-18和ResNet-50的TensorFlow实现。这份代码包括了经典ResNet中两种残差块的两种实现，完整地复现了原论文的模型模块。同时，经实验分析，我验证了ResNet残差连接的有效性。未来我还会写一篇ResNet的PyTorch实现，并附上论文的详细解读。httpshttpshttpshttps。......]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（十一）: CNN示例学习：VGG, ResNet, MobileNet]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965330</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965330</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:39:48 +0800</pubDate><description><![CDATA[这节课是CNN中最重要的一节课。通过学习一些经典的CNN架构，我们掌握了很多有关搭建CNN的知识。早期CNN卷积、池化、全连接边长减小，通道数增加ResNet为什么使用ResNet？梯度问题是怎么被解决的？残差块的一般结构输入输出通道数不同的残差块了解ResNet的结构(ResNet-18,ResNet-50)Incpetion网络1x1卷积用1x1卷积减少计算量Inception网络的基本模块MobileNet逐深度可分卷积https。......]]></description><category></category></item><item><title><![CDATA[反向传播的实现思路（以NumPy版卷积为例）]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965300</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965300</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:10:22 +0800</pubDate><description><![CDATA[卷积反向传播的NumPy实现如何用PyTorch手动求导如何编写完整的算子单元测试实现算子正向传播、反向传播的思路如果你也想把代码基础打牢，一定一定要像这样自己动手从头写一份代码。在写代码，调bug的过程中，一定会有很多收获。由于现在的编程框架都比较成熟，搞科研时基本不会碰到自己动手写底层算子的情况。但是，如果你想出了一个特别棒的idea，想出了一个全新的神经网络模块，却在写代码时碰到了阻碍，那可就太可惜了。学一学反向传播的实现还是很有用的。在模型部署中，反向传播可能完全派不上用场。......]]></description><category></category></item><item><title><![CDATA[torch.conv2d 参数解析与 NumPy 复现]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965240</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965240</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:07:51 +0800</pubDate><description><![CDATA[《深度学习专项》只介绍了卷积的stride, padding这两个参数。实际上，编程框架中常用的卷积还有其他几个参数。在这篇文章里，我会介绍如何用NumPy复现PyTorch中的二维卷积`torch.conv2d`的前向传播。如果大家也想多学一点的话，建议看完本文后也自己动手写一遍卷积，彻底理解卷积中常见的参数。............]]></description><category></category></item><item><title><![CDATA[简单的 PyTorch CNN 二分类器示例]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965202</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965202</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:04:56 +0800</pubDate><description><![CDATA[学完了CNN的基本构件，看完了，让我们再用PyTorch来搭建一个CNN，并用这个网络完成之前那个简单的猫狗分类任务。这份PyTorch实现会尽量和TensorFlow实现等价。同时，我也会分享编写此项目过程中发现的PyTorch与TensorFlow的区别。项目网址https。......]]></description><category></category></item><item><title><![CDATA[简单的 TensorFlow CNN 二分类器示例]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965170</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965170</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:02:35 +0800</pubDate><description><![CDATA[学完了CNN的基本构件，让我们用TensorFlow来搭建一个CNN，并用这个网络完成之前那个简单的猫狗分类任务。项目网址https。]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（十）：卷积神经网络的基础构件]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965120</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965120</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 22:00:20 +0800</pubDate><description><![CDATA[在这堂课中，我们认识了CNN的三大基础构件卷积、池化、全连接。其中，卷积和池化是新学的知识。这堂课的内容非常多，也非常重要，让我们来回顾一下。CNN的优点CNN与全连接网络的参数比较权重共享、稀疏连接卷积操作基本运算流程填充步幅示例边缘检测卷积层对多通道图像卷积输出多通道图像加上bias，送入激活函数池化层运算流程最大池化与平均池化CNN示例如何组合不同类别的层卷积接池化，最后全连接。图像边长变小，通道数变大。https。...]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》第三阶段总结与第四阶段预览]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125965072</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125965072</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 21:55:11 +0800</pubDate><description><![CDATA[在过去两周里，我们学习了改进深度学习模型的一些策略。让我们来回顾一下。首先，我们应该设置好任务的目标。选取开发/测试集时，应参考实际应用中使用的数据分布。设置优化指标时，应使用单一目标。可以设置一个最优化目标和多个满足目标。在搭建模型时，我们可以根据现有的数据量、问题的难易度，选择端到端学习或者是多阶段学习。训练模型前，如果有和该任务相似的预训练模型，我们可以采取迁移学习，把其他任务的模型权重搬过来；如果我们的模型要完成多个相似的任务，可以同时训练多个任务的模型。...]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（九）：错误分析、数据集匹配、多任务学习、端到端学习]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125954900</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125954900</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 00:40:03 +0800</pubDate><description><![CDATA[错误分析用表格做错误分析统计错标数据数据不匹配何时使用数据分布不同的训练集和开发/测试集训练开发集如何诊断数据不匹配问题完成多个任务迁移学习的定义与常见做法预训练、微调多任务学习的定义多个二分类任务迁移学习与多任务学习的优劣、使用场景端到端深度学习认识端到端学习的例子何时使用端到端学习和上周一样，这周的知识都是一些只需要了解的概念，没有什么很复杂的公式。大家可以较为轻松地看完这周的内容。另外，这周也没有官方的编程作业。httpshttps。...]]></description><category></category></item><item><title><![CDATA[吴恩达《深度学习专项》笔记（八）：如何降低误差以达成优化目标]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125954894</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125954894</guid><author>a119334</author><pubDate>Sun, 24 Jul 2022 00:37:41 +0800</pubDate><description><![CDATA[我们经常能看到AI与人类比较的新闻什么AlphaGo在围棋上战胜人类了，什么在ImageNet上AI的分类准确率超过了人类啊，等等。除了博眼球的新闻外，业内同样也会时常将机器学习模型和人类比较。这是为什么呢？在许多任务中，人类的表现都非常出色。当AI超过了人类后，往往也达到了这类问题的最优精度。获取人类标注的数据。从手动误差分析中获得启发为什么人就能做对？更好地分析偏差与方差。其中，第1条是显然的，第2条会在下周介绍。接下来，我们看看第3条是怎么回事。正交化目标单一指标。......]]></description><category></category></item><item><title><![CDATA[Windows/Linux安装PyTorch并实现多分类任务]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125670004</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125670004</guid><author>a119334</author><pubDate>Fri, 08 Jul 2022 01:13:30 +0800</pubDate><description><![CDATA[配编程环境考察的是利用搜索引擎的能力。在配环境时，应该多参考几篇文章。有英文阅读能力的应该去参考官方给的配置教程。出了问题把问题的出错信息放到搜索引擎上去查。一般多踩几次坑，多花点时间，环境总能配好。本文只能给出一个大概率可行的指导，不能覆盖所有情况。如果在执行本文的安装步骤时出了问题，请灵活使用搜索引擎。配置深度学习编程框架时，强烈推荐配置GPU版本。本文会介绍PyTorch GPU版本的配置。如果只想用......]]></description><category></category></item><item><title><![CDATA[Windows/Linux安装TensorFlow并实现多分类任务]]></title><link>https://blog.youkuaiyun.com/a119334/article/details/125669967</link><guid>https://blog.youkuaiyun.com/a119334/article/details/125669967</guid><author>a119334</author><pubDate>Fri, 08 Jul 2022 01:08:45 +0800</pubDate><description><![CDATA[配编程环境考察的是利用搜索引擎的能力。在配环境时，应该多参考几篇文章。有英文阅读能力的应该去参考官方给的配置教程。出了问题把问题的出错信息放到搜索引擎上去查。一般多踩几次坑，多花点时间，环境总能配好。本文只能给出一个大概率可行的指导，不能覆盖所有情况。如果在执行本文的安装步骤时出了问题，请灵活使用搜索引擎。配置深度学习编程框架时，强烈推荐配置GPU版本。本文会介绍TensorFlow GPU版本的配置。如果只想用CPU版本的话，跳过“CUDA与cuDNN”一节即可。本文会同时介绍Windows和Linux下]]></description><category></category></item></channel></rss>