LSTM Character-Aware Language Model

DeepDGA中提到的自编码器

• 在字符级语言建模中非常有用
• DeepDGA中，作者用该自编码器与生成对抗网络的效果作了对比
• 项目地址：https://github.com/yoonkim/lstm-char-cnn

代码来自 AAAI 2016 论文《Character-Aware Neural Language Models》。

这是一个仅建立在字符输入上的一个神经语言模型（NLM）。预测还是在词水平上进行。当输入一个LSTM循环神经网络语言模型（RNN-LM）时，该模型在字符上启用了一个卷积神经网络（CNN）。也可选择让该CNN的输出通过一个 Highway Network，这能提升表现。

多数基础代码来源于Andrej Karpathy的字符RNN实现：https://github.com/karpathy/char-rnn。

Window 系统上安装 Lua

window下可以使用"SciTE"IDE环境来执行lua程序，下载地址为：

Github 下载地址：https://github.com/rjpcomputing/luaforwindows/releases
Google Code下载地址 : https://code.google.com/p/luaforwindows/downloads/list
Lua 官方推荐的方法使用 LuaDist：http://luadist.org/