<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[For_learning的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/For_learning</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; For_learning]]></copyright><item><title><![CDATA[Java Arrays自定义排序的五种写法]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/130660145</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/130660145</guid><author>For_learning</author><pubDate>Sat, 13 May 2023 17:53:35 +0800</pubDate><description><![CDATA[使用Arrays.sort自定义排序方法，包括接口、匿名类、Lambda表达式、方法引用等内容]]></description><category></category></item><item><title><![CDATA[操作系统八股文06-补充-程序相关知识]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365904</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365904</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:13:36 +0800</pubDate><description><![CDATA[操作系统八股文06-补充-程序相关知识]]></description><category></category></item><item><title><![CDATA[操作系统八股文05-补充-PV操作、管程、生产者消费者]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365853</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365853</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:12:30 +0800</pubDate><description><![CDATA[操作系统八股文05-补充-PV操作、管程、生产者消费者]]></description><category></category></item><item><title><![CDATA[操作系统八股文04-设备管理]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365813</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365813</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:10:54 +0800</pubDate><description><![CDATA[操作系统八股文04-设备管理]]></description><category></category></item><item><title><![CDATA[操作系统八股文03-内存管理]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365756</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365756</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:09:08 +0800</pubDate><description><![CDATA[操作系统八股文03-内存管理]]></description><category></category></item><item><title><![CDATA[操作系统八股文02-进程管理]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365732</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365732</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:07:17 +0800</pubDate><description><![CDATA[操作系统八股文02-进程管理]]></description><category></category></item><item><title><![CDATA[操作系统八股文01-概述]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/127365637</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/127365637</guid><author>For_learning</author><pubDate>Mon, 17 Oct 2022 16:05:52 +0800</pubDate><description><![CDATA[操作系统八股文01-概述]]></description><category></category></item><item><title><![CDATA[基于Tensorflow2 和Keras的模型构建及训练过程的几种写法]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/121793797</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/121793797</guid><author>For_learning</author><pubDate>Wed, 08 Dec 2021 16:07:45 +0800</pubDate><description><![CDATA[以分类任务为例，对多种模型构建方法和模型训练方法继续讨论。]]></description><category></category></item><item><title><![CDATA[区分Batch Normalization、Layer Normalization、Instance Normalization、Group Normalization]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/120828613</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/120828613</guid><author>For_learning</author><pubDate>Mon, 18 Oct 2021 16:18:56 +0800</pubDate><description><![CDATA[Batch Normalization、Layer Normalization、Instance Normalization、Group Normalization
本文针对神经网络中常见的Normalization Layer进行解释，以区分其中的不同。其中主要包括Batch Normalization、Layer Normalization、Instance Normalization、Group Normalization四种。
以CNN为例，假设某一卷积层包括C个kernel（即通道数为c），则卷积]]></description><category></category></item><item><title><![CDATA[关于深度学习中交叉验证的探讨]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/120186582</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/120186582</guid><author>For_learning</author><pubDate>Wed, 08 Sep 2021 19:01:12 +0800</pubDate><description><![CDATA[关于深度学习中交叉验证的探讨
1 交叉验证目的
对于给定的模型，通过交叉验证评价模型的泛化性能。
交叉验证通常用于数据集较小的情况，当数据不足时，随机划分数据集会使模型的泛化误差（测试集上的误差）波动较大，此时需要交叉验证来辅助评估模型的性能。
当数据充足的情况下，直接按照一定比例划分训练集、验证集和测试集即可。
2 交叉验证步骤

以K折交叉验证为例：

将数据集等分为互不相交的K个数据子集
在K个数据子集中随机选取一个数据子集作为测试集，剩余的K-1个数据子集作为训练集
在选定的训练集上训练模型，在测试]]></description><category></category></item><item><title><![CDATA[深度学习 问题 batch_descriptor: {count: 0 feature_map_count: 64 spatial: 7 7 4 value_min: 0.000000 value_]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/120066583</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/120066583</guid><author>For_learning</author><pubDate>Thu, 02 Sep 2021 17:42:42 +0800</pubDate><description><![CDATA[深度学习 问题 batch_descriptor: {count: 0 feature_map_count: 64 spatial: 7 7 4  value_min: 0.000000 value_max: 0.000000 layout: BatchDepthYX}
问题描述
Keras/Tensorflow在进行分布式（单机多GPU）训练时，出现如下问题，导致模型训练中止。
batch_descriptor: {count: 0 feature_map_count: 64 spatial: 7 7 4]]></description><category></category></item><item><title><![CDATA[知识蒸馏 示例代码实现及下载]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/117304450</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/117304450</guid><author>For_learning</author><pubDate>Wed, 26 May 2021 20:23:53 +0800</pubDate><description><![CDATA[知识蒸馏 代码实现

论文《Distilling the Knowledge in a Neural Network》

1. 数据集
本文使用fashion_mnist数据集，输入图像大小为28*28，共分为10类。
通过tensoflow加载数据，并对label进行one hot编码。
import tensorflow as tf
from tensorflow import keras
import numpy as np

fashion_mnist = tf.keras.datasets.fas]]></description><category></category></item><item><title><![CDATA[Xception详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/117045395</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/117045395</guid><author>For_learning</author><pubDate>Wed, 19 May 2021 20:33:57 +0800</pubDate><description><![CDATA[Xception 详解

论文《Xception: Deep Learning with Depthwise Separable Convolutions》

1 主要思想
传统的卷积操作同时对输入的feature mapping的跨通道交互性（cross-channel correlations）、**空间交互性（spatial correlations）**进行了映射。
Inception系列结构着力于将上述过程进行分解，在一定程度上实现了跨通道相关性和空间相关性的解耦。
文章在Inception的基础]]></description><category></category></item><item><title><![CDATA[ResNeXt详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/116996078</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/116996078</guid><author>For_learning</author><pubDate>Tue, 18 May 2021 17:12:01 +0800</pubDate><description><![CDATA[ResNeXt详解

论文《Aggregated Residual Transformations for Deep Neural Networks》

1 主要思想
随着CNN网络的发展，很多SOTA的网络结构被提出，同时引入了一些新的结构设计方法。
VGG网络作为一个经典模型，它提出了叠加相同形状的块（stacking block）来增加模型深度的策略，后续提出的深层CNN模型也基本使用了这一策略。
Inception系列网络提出了split-transform-merge的策略，通过多分支卷积实现在低]]></description><category></category></item><item><title><![CDATA[ShuffleNet详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/116935156</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/116935156</guid><author>For_learning</author><pubDate>Mon, 17 May 2021 15:33:00 +0800</pubDate><description><![CDATA[ShuffleNet详解

论文《ShuffleNet：An Extremely Efficient Convolutional Neural Network for Mobile Devices》

1 主要思想
轻量级CNN网络近年备受关注，与传统的高准确度但较为复杂的CNN，轻量级网络受限实际任务中计算资源的限制，重点关注模型复杂度和准确度的权衡。
已存在一些SOTA的轻量级模型，如Xception、ResNeXt等，但在这些网络中的pointwise convolutions（1*1 conv）计算]]></description><category></category></item><item><title><![CDATA[MLP-Mixer详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/116654386</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/116654386</guid><author>For_learning</author><pubDate>Tue, 11 May 2021 14:41:36 +0800</pubDate><description><![CDATA[MLP-Mixer详解

论文《MLP-Mixer: An all-MLP Architecture for Vision》

1 主要思想
作为Google ViT团队最近刚提出的一种的CV框架，MLP-Mixer使用多层感知机（MLP）来代替传统CNN中的卷积操作（Conv）和Transformer中的自注意力机制（Self-Attention）。
MLP-Mixer整体设计简单，在ImageNet上的表现接近于近年最新的几个SOTA模型。
2 模型结构
MLP-Mixer主要包括三部分：Per-pat]]></description><category></category></item><item><title><![CDATA[BP算法实现 Python]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/115673784</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/115673784</guid><author>For_learning</author><pubDate>Tue, 13 Apr 2021 17:27:58 +0800</pubDate><description><![CDATA[BP算法实现
1 项目信息
项目名称：bp算法实现
语言：python
平台：jupyter
2 功能介绍
实现网络定义：网络结构、激活函数、softmax、损失函数
实现前向传播、后向传播过程
实现批量数据的BP 过程
3 具体代码
import numpy as np

3.1 网络结构定义
输入模型的相关参数以确定模型的具体结构。
模型参数包括模型的层数、每层的神经元数、所使用的激活函数以及学习率。
模型默认提供ReLU和sigmoid激活函数，损失函数默认设置为交叉熵。
layerNum = int]]></description><category></category></item><item><title><![CDATA[WRN详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/115180176</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/115180176</guid><author>For_learning</author><pubDate>Wed, 24 Mar 2021 16:25:21 +0800</pubDate><description><![CDATA[WRN

《Wide Residual Network》

1 提出问题
​	随着卷积神经网络模型的发展，网络的深度问题也一直被关注。到底是选择浅层网络好还是深层网络好？这个问题也一直没有被解答。
​	ResNet中提出的bottleneck块（如下图）进一步增加了网络的深度。bottleneck块中加入了1*1的conv，主要用于embedding和减少参数。但bottleneck进一步使得网络变得更深更窄（deeper，thiner）。ResNet最大深度已经达到了1001层。

​	ResNet深度的]]></description><category></category></item><item><title><![CDATA[ResNet详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/115103172</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/115103172</guid><author>For_learning</author><pubDate>Mon, 22 Mar 2021 22:36:59 +0800</pubDate><description><![CDATA[ResNet

论文《Deep Residual Learning for Image Recognition》

1 现状
​	随着卷积神经网络（CNN，Convolutional Neural Network）的不断发展，出现了很多新的模型，例如AlexNet、ZFNet、NIN、VGG、Inception v1/v2/v3等，其中各类模型共通点就是CNN的深度在不断增加。
​	但随着深度增加，CNN出现了网络退化问题（degradation）：随着网络深度增加，模型的准确度趋于饱和，并开始下降。
​	]]></description><category></category></item><item><title><![CDATA[ZFNet详解]]></title><link>https://blog.youkuaiyun.com/For_learning/article/details/115072826</link><guid>https://blog.youkuaiyun.com/For_learning/article/details/115072826</guid><author>For_learning</author><pubDate>Mon, 22 Mar 2021 12:37:42 +0800</pubDate><description><![CDATA[ZFNet

论文《Visualizing and Understanding Convolutional Neural Networks》

1 论文思想
文章主要用于实现卷积神经网络（CNN，Convelutional Neural Network）的可视化工作，主要是针对于CNN每层得到的特征映射（feature mapping）的可视化。

博客中提到的feature mapping指的是一般化的特征映射，即经过卷积激活池化后得到的特征映射，这一点与论文中的表述有所冲突，请注意分辨。

文中指出，C]]></description><category></category></item></channel></rss>