
神经网络
文章平均质量分 76
Winter Lin
深度学习爱好者
展开
-
MSRA初始化和Xavier初始化权值
神经网络权值初始化方法引言神经网络权值的初始化对于网络训练速度以及收敛性有很大影响,因此我们需要合适的方法。传统的初始化的方法是使用固定标准差的高斯分布,在caffe中使用的是经典的Xavier初始化方法,当然直接进行预训练也是初始化的一种好的方法,一个好的初始化可以有助于收敛到一个优秀的局部最优解,且收敛速度快。但这些方法在ReLU系列以及网络层数较深时,这样的初始化无法得到很好的结果。何凯明大佬提出了MSRA初始化。MSRA初始化可以说是专门为ReLU系列激活函数特意设计的。具体可参考文章《De原创 2021-02-27 22:23:49 · 500 阅读 · 0 评论 -
Neural network state estimation for full quantum state tomography笔记
一.引言量子态层析(估计)(Quantum state tomography,QST)通过量子测量重建量子系统的量子态,在各种量子信息处理任务(包括量子计算和量子通信)中,对量子器件的验证和基准测试起着重要作用。QST一般由两个过程组成:系统上的量子测量(数据收集)和从测量结果中估计量子状态(数据分析)。这两个过程都很重要。到目前为止,已经提出了许多减少测量需求的方法。例如,一些人使用压缩感知来重建低秩的量子态];有的采用高效的层析成像方法重建矩阵积态;有的利用置换不变层析成像来获得置换下的常数信息;与原创 2021-02-20 00:43:49 · 1359 阅读 · 1 评论 -
DnCNN降噪器
这里写自定义目录标题DnCNN降噪器网络结构训练过程测试过程DnCNN降噪器本文主要介绍去噪的卷积神经网络(Denoising Convolutional Neural Network, DnCNN)的结构和功能,我第一次读到它是在《Learned D-AMP:Principled Neural Network Based compressive image recovery》文章中,它在DAMP算法中担任降噪器的功能,可以单独拿出来训练,也可以独自在DAMP算法中进行端到端训练。网络结构在DnCN原创 2021-02-13 14:54:57 · 3643 阅读 · 1 评论