- 博客(3)
- 收藏
- 关注
原创 NLP—机器翻译
机器翻译是指将一段文本从一种语言自动翻译到另一种语言。因为一段文本序列在不同语言中的长度不一定相同,所以我们使用机器翻译为例来介绍编码器—解码器和注意力机制的应用。
2024-06-27 10:09:36
1525
原创 NLP—基于Transformer实现机器翻译
这里我们服务器实在是计算能力有限,按照以下配置可以训练但是效果应该是不行的。如果想要看到训练的效果请使用你自己的带GPU的电脑运行这一套代码。当你使用自己的GPU的时候,NUM_ENCODER_LAYERS 和 NUM_DECODER_LAYERS 设置为3或者更高,NHEAD设置8,EMB_SIZE设置为512。EMB_SIZE = 512 # 嵌入层的维度大小NHEAD = 8 # 注意力头的数量FFN_HID_DIM = 512 # FeedForward层的隐藏单元数。
2024-06-27 01:19:07
1367
原创 自然语言处理前馈网络(实验课作业)
1. 实验内容感知器是现存最简单的神经网络。感知器的一个历史性的缺点是它不能学习数据中存在的一些非常重要的模式。例如,查看图4-1中绘制的数据点。这相当于非此即彼(XOR)的情况,在这种情况下,决策边界不能是一条直线(也称为线性可分)。在这个例子中,感知器失败了。在这一实验中,我们将探索传统上称为前馈网络的神经网络模型,以及两种前馈神经网络:多层感知器和卷积神经网络。多层感知器将多个感知器分组在一个单层,并将多个层叠加在一起。
2024-06-16 23:44:52
1709
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅