- 博客(93)
- 问答 (1)
- 收藏
- 关注
原创 关于“Non-trainable params“的解答
在深度学习实验时遇到如下问题一个简单的1D-CNN网络,结构也并不是很复杂。因为是初学,首次看到Non-trainable params: 128这一行代码是有些纳闷的?为什么这里会有128个不训练的参数。查阅了一些资料后了解到,"Non-trainable params"这类参数可能是因为BN层中的参数是使用均值和方差的方式更新,而无需利用反向传播法进行更新,因此在神经网络中这部分参数就可不必在网络训练中更新。如果将网络结构中的BN层删去,可看到如下结果此时所有参数都是可
2022-03-22 20:20:04
5071
原创 TensorFlow Deep Learning
资料来源:fuqiuai/TensorFlow-Deep-Learning: 用TensorFlow搭建CNN/RNN/LSTM/GRU/BiRNN/BiLSTM/BiGRU/Capsule Network等deep learning模型 (github.com)https://github.com/fuqiuai/TensorFlow-Deep-Learning1 Tensorflow入门1.1 张量和图TensorFlow是一种采用数据流图,用于数值计算的开源软件库。其中Tensor代表传递
2022-01-14 15:37:27
396
原创 脑电分析工具MNE教程
资料来源:脑电分析系列 | MNE-Python汇总1.安装与使用在windows系统下,基于Anaconda安装MNE-python。具体步骤见资料,此处不予展示。2.数据结构RawRaw对象用于存储连续型数据,核心数据为n_channels和times,raw.info中还包括ch_names,chs等。通常raw的数据访问方式如下:data, times = raw[picks, time_slice]其中picks是根据条件挑选出来的索引,time_slice是时间切
2022-01-11 18:19:24
6738
1
原创 Python 深度学习 Class 8:生成式深度学习
8.1 LSTM生成文本用深度学习生成序列数据的通用方法,就是使用前面的标记作为输入,训练一个网络(通常是循环神经网络或卷积神经网络)来预测序列中接下来的一个或多个标记8.2 DeepDream8.3 神经风格迁移将参考图像的风格应用于目标图像,同时保留目标图像的内容8.4 用变分自编码器生成图像8.5 生成式对抗网络...
2022-01-01 16:15:13
917
原创 Python 深度学习 Class 7:高级的深度学习的优化实践
目录7.1 Keras函数式API1.API简介2.多输入模型3.多输出模型4.层组成的有向无环图5.共享层权重6.将模型作为层7.2 使用回调函数和TensorBoard检查并监控深度学习模型1.回调函数作用于模型2.TensorBoard7.3 发挥模型性能1.高级架构模式2.超参数优化3.模型集成4.结论7.1 Keras函数式APISequential模型:Inception模块:残差连接:1.API...
2022-01-01 11:45:16
951
原创 Python 深度学习 Class 6:深度学习用于文本和序列
用于处理序列的两种基本的深度学习算法分别是循环神经网络(recurrent neural network)和一维卷积神经网络6.1 处理文本序列文本向量化(vectorize)是指将文本转换为数值张量的过程。(1)将文本分割为单词,并将每个单词转换为一个向量(2)将文本分割为字符,并将每个字符转换为一个向量。(3)提取单词或字符的 n-gram,并将每个 n-gram 转换为一个向量。n-gram 是多个连续单词或字符的集合(n-gram 之间可重叠)。1.one-hot编码
2022-01-01 10:29:27
974
原创 Python 深度学习 Class 5:深度学习用于计算机视觉
5.1 卷积神经网络简介卷积神经网络接收形状为(image_height, image_width, image_channels)的输入张量(不包括批量维度)1.卷积运算Dense 层从输入特征空间中学到的是全局模式,卷积层学到的是局部模式。卷积神经网络具有平移不变性(卷积神经网络在图像某处学到某个模式之后,它可以在任何地方识别这个模式),并可以学到模式的空间层次结构(1)边界效应与填充输出特征图的空间维度与输入相同,那么可以使用填充。填充是在输入特征图的每一边添加适当数目的行和列
2021-12-31 12:10:57
623
原创 Python 深度学习 Class 4:机器学习基础
目录4.1 机器学习分支1.监督学习2.无监督学习3.自监督学习4.强化学习4.2 评估机器学习模型1.数据划分2.注意事项4.3 数据预处理、特征工程和特征学习1.预处理2.特征工程4.3 过拟合与欠拟合1.减小网络大小2.权重正则化3.Dropout4.5 通用工作流程1.定义问题,收集数据集2.选择成功指标3.确定评估方法4.准备数据5.模型开发6.开发过拟合模型7.正则化和调节超参数玫瑰花香永不消逝.
2021-12-30 21:19:59
510
空空如也
神经网络训练中数据丢失
2022-08-02
TA创建的收藏夹 TA关注的收藏夹
TA关注的人