- 博客(3)
- 问答 (2)
- 收藏
- 关注
RSS订阅原创 2021-05-21
python导包代码快速版 代码 pip install torch -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com 网址替换 清华：https://mirrors.aliyun.com/pypi/simple/ 中科大： https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple/ 腾讯：https://mirrors.cloud.tencent.com/py
2021-05-21 15:22:55
72
原创 2021-05-12
Transformer遇到Torch not compiled with CUDA enabled问题 然后把所有的".cuda()“换成”.to(device)",还有不要忘了"Transformer"后面的"（）"。 pycharm种"ctrl"+“f”，查找；find “ctrl”+“r”，查找并替换。replace
2021-05-12 11:01:09
75
转载 nice-learning
学习来源 Transformer 学习 左边Encoder(编码)，右边Decode(解码)，如下图所示。 Encoder&Decoder Encoder 单挑出Encoder，详细分析 输入部分 1.Embedding NLP入门知识，举例如下图。 输入12个字，按字切分，每个字定义512维向量。 2.位置编码 2.1为什么要进行位置编码？ 首先说一下RNN，对于RNN来说，其参数U，W，V是共享的（RNN梯度消失，总梯度被近距离梯度主导，远的被忽略不计，与一半神经网络的连乘梯度消失不太相同
2021-05-06 20:57:41
380
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人