weixin_43857576的博客

01 问答系统SQuAD数据集给定一段文字作为context，给定一个问题question，从context中寻找一段连续的文字(text span)作为问题的答案。https://rajpurkar.github.io/SQuAD-explorer/代码 https://github.com/galsang/BiDAF-pytorchSQuAD数据集02 文本摘要03 大规模预训练语言模型代码资源...

代码实现Seq2Seq, Attention¶褚则伟 zeweichu@gmail.com在这份notebook当中，我们会(尽可能)复现Luong的attention模型由于我们的数据集非常小，只有一万多个句子的训练数据，所以训练出来的模型效果并不好。如果大家想训练一个好一点的模型，可以参考下面的资料。更多阅读课件cs224d论文Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machin

01Neural Style Transfer图片风格迁移图片表示使用VGG network来表示内容图片风格图片风格迁移后的新图片Content LossStyle Loss02 Generative Adversarial NetworkGenerator: 生成器，目标是让生成的数据接近真实数据Discriminator: 分类器，目标是能够鉴别真实数据和生成的假数据DCGAN03 CycleGANNetwork模型架构损失

import torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimfrom torchvision import datasets, transformsprint("PyTorch Version: ",torch.version)PyTorch Version: 1.0.0首先我们定义一个基于ConvNet的简单神经网络class Net(nn.Module):def

01语言模型语言模型（languagemodel，LM）在自然语言处理中占有重要的地位，它的任务是预测一个句子在语言中出现的概率。截至目前，语言模型的发展先后经历了文法规则语言模型、统计语言模型、神经网络语言模型。语言模型的评价基于神经网络的语言模型(Neural Language Model)循环神经网络(Recurrent Neural Network)02文本分类双向RNN堆叠循环神经网络CNN用作文本分类CNN实验结果复习思维导图代码实现imp

01词向量在计算机中表示一个词离散表示: One-hot表示离散表示：Bag of Words离散表示：Bi-gram和N-gram离散表示的问题词编码需要保证词的相似性简单 词/短语 翻译词嵌入效果评估: 词类比任务02语言模型语言模型语言模型的评价基于神经网络的语言模型(Neural Language Model)循环神经网络(Recurrent Neural Network)h0一般就是一个全部为0的向量如何训练？Cross Entropy损失

01 神经网络快速入门Modeling, Inference, Learning什么是深度学习？什么是神经网络？激活函数前向神经网络Recurrent Neural Networks（RNN循环神经网络)Seq2Seq with Attention02 用PyTorch构建深度学习模型深度学习模型框架概览PyTorch可以做什么？03 PyTorch精彩项目介绍图像分类 ResNet项目地址Object Detection