
深度学习
Gwiqudo
期待你的花会开
展开
-
label smoothing
label smoothing背景:当我们将交叉熵损失函数用于分类任务的时候,我们期望真实的标签为1,而其他虚假的标签为0。换句话来说,我们认为原始数据的标注是准确无误的。但是,真实情况并不是这样,在某些领域,或者使用一些数据增强的方法时,都会存在着一些标注错误的问题出现。因此,label smoothing的方法可以降低我们对于标签的信心,比如我们将损失目标的值从1降低到0.9,当然与此同时我们需要稍微增加一下其他label(label==0)的目标值。这种方法被称为标签平滑。操作方式:impor原创 2020-10-12 14:10:24 · 505 阅读 · 0 评论 -
使用keras手写layerNormaliztion , attention,self_attention,multi_head_attention代码
from keras.models import Model, load_modelfrom keras.layers import Input, BatchNormalization, Activation, Add, Multiply, Dotfrom keras.layers import Embedding, Permute, Reshape, GaussianNoisefrom ...原创 2019-12-02 21:01:08 · 1219 阅读 · 1 评论 -
kaggle-地震预测-LANL Earthquake Prediction
kaggle-地震预测-LANL Earthquake Prediction比赛记录1.baseline加入这次比赛的时间比较晚,所以直接先follow了别人的一个baseline来start找找思路,链接如下:https://www.kaggle.com/artgor/seismic-data-eda-and-baseline2.比赛记录时间:2019/04/17,10:35AM ...原创 2019-04-17 14:58:15 · 2714 阅读 · 0 评论 -
module 'tensorflow' has no attribute 'get_default_graph'
解决方法:都用tensorflow导入即可:from tensorflow.keras import Sequentialfrom tensorflow.keras.layers import Dense,TimeDistributed,LSTM,Dropoutfrom tensorflow.keras.optimizers import RMSpropfrom tensorflo...原创 2019-05-24 17:21:45 · 3235 阅读 · 0 评论