- 博客(3)
- 问答 (2)
- 收藏
- 关注
RSS订阅原创 2021-05-21
python导包代码快速版代码pip install torch -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com网址替换清华：https://mirrors.aliyun.com/pypi/simple/中科大： https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple/腾讯：https://mirrors.cloud.tencent.com/py
2021-05-21 15:22:55
76
原创 2021-05-12
Transformer遇到Torch not compiled with CUDA enabled问题然后把所有的".cuda()“换成”.to(device)",还有不要忘了"Transformer"后面的"（）"。pycharm种"ctrl"+“f”，查找；find“ctrl”+“r”，查找并替换。replace
2021-05-12 11:01:09
82
转载 nice-learning
学习来源Transformer 学习左边Encoder(编码)，右边Decode(解码)，如下图所示。Encoder&DecoderEncoder单挑出Encoder，详细分析输入部分1.EmbeddingNLP入门知识，举例如下图。输入12个字，按字切分，每个字定义512维向量。2.位置编码2.1为什么要进行位置编码？首先说一下RNN，对于RNN来说，其参数U，W，V是共享的（RNN梯度消失，总梯度被近距离梯度主导，远的被忽略不计，与一半神经网络的连乘梯度消失不太相同
2021-05-06 20:57:41
385
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人