独行穿落叶，闲坐数流萤

本文首先讲解BN[1]， LN[2]， IN[3]， GN[4]和SN[5]的异同，其次讲解BN为何有效的可能原因[6]。BN、LN、IN、GN和SN的异同参考上图：BN是在batch上，对N，H，W做归一化，对小batchsize效果不好，应优先考虑LN在通道方向上，对C，H，W做归一化，主要用于RNNIN在图像像素上，对H， W做归一化，主要用于风格迁移， GANGN将通道分...

排序算法，在严蔚敏著作《数据结构（C语言版）》单独为一章，在高德纳著作《计算机程序设计艺术》，这套圣经里，单独为一卷（PS，真的厚）。本文并不准备深入每一个角落，而是先简要的总结，之后分别对Timesort和Introsort做深入的分析。本文仅作为个人学习总结，受个人知识上界限制，如有疏漏，恭请指正。第一部分、各种基本排序策略的简要总结：（1)插入排序基本思想：讲一个记录插入到已经排...