- 博客(6)
- 收藏
- 关注
原创 seq2seq with attention代码实现
seq2seq with attention代码实现 带有注意力的seq2seq模型理论,请参考:seq2seq + attention 详解 带有Luong attention 的seq2seq模型实现如下: # coding = utf-8 # author = 'xy' """ model2: encoder + attn + decoder we use Bi-gru as our...
2018-06-29 09:26:38
3339
原创 beamsearch 实现(python)
beamsearch beamsearch 算是一种单模型的集成算法,在decoder端的每一步,不再是单纯的只生成一个token,而是beam_size大小的token,这样会生成beam_size个备选序列 而由beam_size个备选序列,继续向后扩展,会生成beam_size*beam_size个备选序列,对其进行截断,保留概率最大的beam_size备选序列 重复上述过程,直到达到...
2018-06-29 09:18:13
8423
原创 git 使用指南
git使用指南 git 是一种代码版本管理工具,可以在不同版本项目代码中进行自由切换。 另外,git主要管理纯文本对象,如.txt,.py等,不能管理图片,.doc等文件 git工作原理:可以被视为一系列文件变化的“累积” 1. 安装 windows:官网下载,直接安装 ubuntu: sudo apt-get install git-all 2. git 流程图 g...
2018-06-15 10:30:40
453
原创 pytorch 入门指南
pytorch 入门指南 1. pytorch 概述 pytorch是facebook 开发的torch(Lua语言)的python版本,于2017年引爆学术界 官方宣传pytorch侧重两类用户:numpy的gpu版、深度学习研究平台 pytorch使用动态图机制,相比于tensorflow最开始的静态图,更为灵活 当前pytorch支持的系统包括:win,linux,macos ...
2018-06-14 09:56:54
1211
原创 最基础的seq2seq模型
Seq2seq(encoder + decoder) 最基础的一个seq2seq模型,参见paper “Sequence to Sequence Learning with Neural Networks” 代码如下: # coding = utf-8 # author = 'xy' """ model1: encoder + decoder we use Bi-gru as our...
2018-06-07 17:19:53
922
原创 seq2seq + attention 详解
seq2seq + attention 详解 作者:xy_free \qquad 时间:2018.05.21 1. seq2seq模型 seq2seq模型最早可追溯到2014年的两篇paper [1, 2],主要用于机器翻译任务(MT)。seq2seq本质上是一种encoder-decoder框架,以翻译任务中的“英译汉”为例,模型首先使用编码器对英文进行编码,得到英文的向量化表示S,然后使...
2018-05-21 20:35:02
35752
6
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅