
Deep Learning
文章平均质量分 90
开心就哈哈
这个作者很懒,什么都没留下…
展开
-
Pytorch 加权交叉熵实现分析
此文不涉及公式。假设模型对输入图像数据(1(batch size) * 1 (channels) * 3 (height) * 3 (width))的分割输出结果为1 * 2 (只有两类,前景,背景)* 3 (height)* 3 (width),ground truth为 target ( 1 (batch size) * 3 * 3)。假设模型的分割结果为input, ground truth 为target。根据文献[1],计算交叉熵损失有两中方式,一种是用F.nll_loss();.原创 2020-06-09 21:01:10 · 8861 阅读 · 5 评论 -
使用tensorflow 提取特征图(How to use tensorflow to extract feature map from checkpoint)
如何使用tensorflow 提取特征图 ?》首先模型训练结束后,我们会得到关于【3】【4】检查点的四个文件:.data, .index, .meta, checkpoint;其中.meta是图结构,也就是神经网络的结构,在训练过程中图结构水不不变的,保存一次即可。实现:saver = tf.train.Saver(), saver.save(less, ‘model-name’,w...原创 2020-03-02 20:57:08 · 1763 阅读 · 0 评论 -
Xavier权重初始化方法理解
转载:https://www.jiqizhixin.com/articles/2018-01-08-3转载 2019-03-14 09:48:27 · 1414 阅读 · 0 评论 -
Batch Normalization 理解
转载:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/5-13-A-batch-normalization/转载 2019-03-13 10:24:46 · 157 阅读 · 0 评论 -
RuntimeWarning: divide by zero encountered in log
实验内容: 使用多项逻辑斯蒂回归实现MNIST分类。在编写好相关程序之后,进行参数调整。使用学习率为0.0001,程序正常运行。但是修改学习率为0.001,0.01。程序就会出现以下错误:解决方法:epsilon = 1e-5np.log(P + epsilon)参考文献:https://stackoverflow.com/questions/38125319/pyth...原创 2019-04-07 18:50:04 · 14229 阅读 · 3 评论 -
DensetNet 笔记
特征融合的方式:summation-加,缺点:阻碍网络中信息流。concatenation- 串联密度连接模式的一个可能反直觉效果是它需要更少的参数相比较于传统的卷积网络,由于不需要重新学习冗余的feature-maps。传统的前馈传播架构可以被当作带有状态的算法,状态从一个层传到另一个层。每层从它的之前网络层读取状态,并将状态写到后面一层。这样不经改变了状态,而且传递所需要保存的信息...原创 2019-04-27 09:16:01 · 1000 阅读 · 0 评论