keras搬砖系列-序贯模型简单例子

这篇博客介绍了Keras中序贯模型的应用,包括如何构建softmax分类器进行多分类任务,利用MLP(多层感知器)进行二分类问题,以及如何结合LSTM进行序列数据的处理。

keras搬砖系列-序贯模型简单例子

最近实验室又开始搬位子,,,有点小烦,搬来搬去并不能加快学习啊。利用好手里这批人才是关键,为什么大家心理不想想自己熟不熟悉这个领域就开始搞。。。可能最近要做语音识别了。

softmax分类器

# -*- coding: utf-8 -*-
"""
Created on Mon Jan 15 01:14:26 2018

@author: Administrator
"""
import keras
from keras.models import Sequential
from keras.layers import Dense,Dropout,Activation
from keras.optimizers import SGD

## Generate dummy data
import numpy as np
X_train = np.random.random((1000,20))
Y_train = keras.utils.to_categorical(np.random.randint(10,size=(1000,1)),num_classes=10)
X_test = np.random.random((100,20))
Y_test = keras.utils.to_categorical(np.random.randint(10,size=(100,1)),num_classes=10)

## Build a model
model = Sequential()
model.add(Dense(64,activation='relu',input_dim=20))
model.add(Dropout(0.5))
model.add(Dense(64,activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(10,activation='softmax'))

sgd = SGD(lr=0.01,decay=1e-6,momentum=0.9,nesterov=True)
model.compile(loss='categorical_crossentropy',optimizer=sgd,metrics=['accuracy'])
model.fit(X_train,Y_train,epochs=20,batch_size=128)
score = model.evaluate(X_test,Y_test,batch_size=128)
这是一个简单的回归例子,产生数据大致形式是这样的。
X_train建立了一个[1000,20]的矩阵,所以维数位20维。数字范围为[0-1]Y_train是标签集,有10维,每一维有1000个样本,数值全部为0,1.
模型大概是一个全连接层,然后是全连接层,然后再加一个softmax激活函数进行分类。很简单,大家可以用model.summary来进行打印模型的参数。

MLP的二分类

# -*- coding: utf-8 -*-
"""
Created on Mon Jan 15 01:14:26 2018

@author: Administrator
"""
import numpy as np
from keras.models import Sequential
from keras.layers import Dense,Dropout

X_train = np.random.random((1000,20))
Y_train = np.random.randint(2,size=(1000,1))
X_test = np.random.random((100,20))
Y_test = np.random.randint(2,size=(100,1))

model = Sequential()
model.add(Dense(64,input_dim=20,activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(64,activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(64,activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(64,activation='relu'))
model.add(Dropout(0.7))
model.add(Dense(1,activation='sigmoid'))

model.compile(loss='binary_crossentropy',optimizer='rmsprop',metrics=['accuracy'])
model.fit(X_train,Y_train,epochs=20,batch_size=128)
score = model.evaluate(X_test,Y_test,batch_size=128)
print(score)
产生X_train的大小为1000*20Y_train为1维的1000*1的数据。
很简单的几层进行01分类。

使用LSTM

from keras.models import Sequential
from keras.layers import Dense,Dropout
from keras.layers import Embedding
from keras.layers import LSTM

model=Sequential()
model.add(Embedding(max_features,output_dim=256))
model.add(LSTM(128))
model.add(Dropout(0.5))
model.add(Dense(1,activation='sigmoid'))
model.compile(loss='binary_crossentropy',optimizer='rmsprop',
              metrics=['accuracy'])
model.fit(X_train,Y_train,batch_size=16,epochs=10)
score = model.evaluate(X_test,Y_test,batch_size=16)



addition_rnn.py 执行序列学习以执行两个数字(作为字符串)的添加。 antirectifier.py 演示如何为Keras编写自定义图层。 babi_memnn.py 在bAbI数据集上训练一个内存网络以进行阅读理解。 babi_rnn.py 在bAbI数据集上训练一个双支循环网络,以便阅读理解。 cifar10_cnn.py 在CIFAR10小图像数据集上训练一个简单的深CNN。 conv_filter_visualization.py 通过输入空间中的渐变上升可视化VGG16的过滤器。 conv_lstm.py 演示使用卷积LSTM网络。 deep_dream.py 深深的梦想在克拉斯。 image_ocr.py 训练一个卷积堆叠,后跟一个循环堆栈和一个CTC logloss函数来执行光学字符识别(OCR)。 imdb_bidirectional_lstm.py 在IMDB情绪分类任务上训练双向LSTM。 imdb_cnn.py 演示使用Convolution1D进行文本分类。 imdb_cnn_lstm.py 在IMDB情绪分类任务上训练一个卷积堆栈,后跟一个循环堆栈网络。 imdb_fasttext.py 在IMDB情绪分类任务上训练一个FastText模型。 imdb_lstm.py 在IMDB情绪分类任务上训练一个LSTM。 lstm_benchmark.py 比较IMDB情绪分类任务上不同的LSTM实现。 lstm_text_generation.py 生成尼采文字的文字。 mnist_acgan.py 在MNIST数据集上实现AC-GAN(辅助分类器GAN) mnist_cnn.py 在MNIST数据集上训练一个简单的convnet。 mnist_hierarchical_rnn.py 训练一个分级RNN(HRNN)来分类MNIST数字。 mnist_irnn.py Le等人在“以简单的方式初始化整流线性单元的反复网络”中再现具有逐像素连续MNIST的IRNN实验。 mnist_mlp.py 在MNIST数据集上训练一个简单的深层多层感知器。 mnist_net2net.py 在“Net2Net:通过知识转移加速学习”中再现带有MNIST的Net2Net实验。 mnist_siamese_graph.py 从MNIST数据集中的一对数字上训练暹罗多层感知器。 mnist_sklearn_wrapper.py 演示如何使用sklearn包装器。 mnist_swwae.py 列出了一个堆栈,其中AutoEncoder在MNIST数据集上的剩余块上构建。 mnist_transfer_cnn.py 转移学习玩具的例子。 neural_doodle.py 神经涂鸦。 neural_style_transfer.py 神经样式转移。 pretrained_word_embeddings.py 将预训练的词嵌入(GloVe embeddings)加载到冻结的Keras嵌入层中,并使用它在20个新闻组数据集上训练文本分类模型。 reuters_mlp.py 在路透社newswire主题分类任务上训练并评估一个简单的MLP。 stateful_lstm.py 演示如何使用有状态的RNN有效地建模长序列。 variational_autoencoder.py 演示如何构建变体自动编码器。 variational_autoencoder_deconv.py 演示如何使用反褶积层使用Keras构建变体自动编码器。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值