【cntk速成】cntk图像分类从模型自定义到测试

文章首发于微信公众号《有三AI》

【cntk速成】cntk图像分类从模型自定义到测试

欢迎来到专栏《2小时玩转开源框架系列》，这是我们第七篇，前面已经说过了caffe，tensorflow，pytorch，mxnet，keras，paddlepaddle。

今天说cntk，本文所用到的数据，代码请参考我们官方git

https://github.com/longpeng2008/LongPeng_ML_Course

作者 | 言有三

编辑 | 言有三

 

01 CNTK是什么

地址：https://github.com/Microsoft/CNTK

CNTK是微软开源的深度学习工具包，它通过有向图将神经网络描述为一系列计算步骤。在有向图中，叶节点表示输入值或网络参数，而其他节点表示其输入上的矩阵运算。 

CNTK允许用户非常轻松地实现和组合流行的模型，包括前馈DNN，卷积网络（CNN）和循环网络（RNN /LSTM）。与目前大部分框架一样，实现了自动求导，利用随机梯度下降方法进行优化。

cntk有什么特点呢？

1.1 性能较高

按照其官方的说法，比其他的开源框架性能都更高。

笔者在实际进行实验的时候，确实也发现它的训练比较快。

1.2 适合做语音

CNTK本就是微软语音团队开源的，自然是更合适做语音任务，使用RNN等模型，以及在时空尺度分别进行卷积非常容易。

当然，现在的背靠python的这些框架已经大同小异，未来实现大一统并非不可能。

 

02 CNTK模型训练

pip安装一条命令即可，可以选择安装cpu或者gpu版本。

pip install cntk/cntk-gpu。

接下来就是数据的准备，模型的定义，结果的保存与分析。

在此之前，我们先看官方的分类案例，直观感受一下，代码比较长。

from __future__ import print_function

import numpy as np

import cntk as C

from cntk.learners import sgd

from cntk.logging import ProgressPrinter

from cntk.layers import Dense, Sequential

def generate_random_data(sample_size, feature_dim, num_classes):

    # Create synthetic data using NumPy.
    Y = np.random.randint(size=(sample_size, 1), low=0, high=num_classes)

    # Make sure that the data is separable
    X = (np.random.randn(sample_size, feature_dim) + 3) * (Y + 1)
    X = X.astype(np.float32)
    # converting class 0 into the vector "1 0 0",
    # class 1 into vector "0 1 0", ...
    class_ind = [Y == class_number for class_number in range(num_classes)]
    Y = np.asarray(np.hstack(class_ind), dtype=np.float32)
    return X, Ydef ffnet():
   inputs = 2
   outputs = 2
   layers = 2
   hidden_dimension = 50

   # input variables denoting the features and label data
   features = C.input_variable((inputs), np.float32)
   label = C.input_variable((outputs), np.float32)

   # Instantiate the feedforward classification model
   my_model = Sequential ([
                   Dense(hidden_dimension, activation=C.sigmoid),
                   Dense(outputs)])
   z = my_model(features)

   ce = C.cross_entropy_with_softmax(z, label)
   pe = C.classification_error(z, label)

   # Instantiate the trainer object to drive the model training
   lr_per_minibatch = C.learning_parameter_schedule(0.125)
   progress_printer = ProgressPrinter(0)
   trainer = C.Trainer(z, (ce, pe), [sgd(z.parameters, lr=lr_per_minibatch)], [progress_printer])

   # Get minibatches of training data and perform model training
   minibatch_size = 25
   num_minibatches_to_train = 1024

   aggregate_loss = 0.0
   for i in range(num_minibatches_to_train):
       train_features, labels = generate_random_data(minibatch_size, inputs, outputs)
       # Specify the mapping of input variables in the model to actual minibatch data to be trained with
       trainer.train_minibatch({features : train_features, label : labels})
       sample_count = trainer.previous_minibatch_sample_count
       aggregate_loss += trainer.previous_minibatch_loss_average * sample_count

   last_avg_error = aggregate_loss / trainer.total_number_of_samples_seen

   test_features, test_labels = generate_random_data(minibatch_size, inputs, outputs)
   avg_error = trainer.test_minibatch({features : test_features, label : test_labels})
   print(' error rate on an unseen minibatch: {}'.format(avg_error))
   return last_avg_error, avg_errornp.random.seed(98052)ffnet()

上面就是一个两层的全连接神经网络，使用input_variable封装数据，使用Sequential定义模型，使用train_minibatch({features : train_features, label : labels})来feed数据，与tf，pytorch等框架都是一样的，的确是没有什么好说的。

2.1 数据读取

这里需要用到接口，io.ImageDeserializer与C.io.StreamDefs，C.io.StreamDef。

它可以直接输入如下格式的txt文件用于图像分类问题。

../../../../datas/mouth/1/182smile.jpg1    

../../../../datas/mouth/1/435smile.jpg1    

../../../../datas/mouth/0/40neutral.jpg0    

../../../../datas/mouth/1/206smile.jpg1    

注意上面采用的分隔符是'\t'，这一点与MXNet相同，与caffe不同，完整的解析代码如下：

C.io.MinibatchSource(C.io.ImageDeserializer(map_file, C.io.StreamDefs(    

features = C.io.StreamDef(field='image', transforms=transforms),    

labels   = C.io.StreamDef(field='label', shape=num_classes)    

)))    

在对图像数据进行封装的时候，添加了transform，所以可以在这里进行数据预处理操作。

常用的裁剪与缩放如下：

transform.crop(crop_type='randomside', side_ratio=0.8)

transform.scale(width=image_width, height=image_height, channels=num_channels,interpolations='linear')

C.io.MinibatchSource的返回就是数据指针，可以直接用于训练。

2.2 网络定义

与tensorflow和pytorch颇为相似，如下

def simpleconv3(input, out_dims):
   with C.layers.default_options(init=C.glorot_uniform(), activation=C.relu):
       net = C.layers.Convolution((3,3), 12, pad=True)(input)
       net = C.layers.MaxPooling((3,3), strides=(2,2))(net)

       net = C.layers.Convolution((3,3), 24, pad=True)(net)
       net = C.layers.MaxPooling((3,3), strides=(2,2))(net)

       net = C.layers.Convolution((3,3), 48, pad=True)(net)
       net = C.layers.MaxPooling((3,3), strides=(2,2))(net)

       net = C.layers.Dense(128)(net)
       net = C.layers.Dense(out_dims, activation=None)(net)

   return net

2.3 损失函数与分类错误率指标定义

如下，model_func就是上面的net，input_var_norm和label_var分别就是数据和标签。

z = model_func(input_var_norm, out_dims=2)    

ce = C.cross_entropy_with_softmax(z, label_var)    

pe = C.classification_error(z, label_var)   

2.4 训练参数

就是学习率，优化方法，epoch等配置。

epoch_size     = 900    

minibatch_size = 64      

lr_per_minibatch       = C.learning_rate_schedule([0.01]*100 + [0.003]*100 + [0.001],    

C.UnitType.minibatch, epoch_size)    

m = C.momentum_schedule(0.9)    

l2_reg_weight          = 0.001    

learner = C.momentum_sgd(z.parameters,    

lr = lr_per_minibatch,    

momentum = m,    

l2_regularization_weight=l2_reg_weight)    

progress_printer = C.logging.ProgressPrinter(tag='Training', num_epochs=max_epochs)    

trainer = C.Trainer(z, (ce, pe), [learner], [progress_printer])    

注意学习率的配置比较灵活，通过learning_rate_schedule接口，上面的C.learning_rate_schedule([0.01]*100 +[0.003]*100 + [0.001]意思是，在0～100 epoch，使用0.01的学习率，100～100+100 epoch，使用0.003学习率，此后使用0.001学习率。

2.5 训练与保存

使用数据指针的next_minibatch获取训练数据，trainer的train_minibatch进行训练，可以看出cntk非常强调minibatch的概念，实际上学习率和优化方法都可以针对单个样本进行设置。

for epoch in range(max_epochs):    

   sample_count = 0      

   while sample_count < epoch_size:    

      data = reader_train.next_minibatch(min(minibatch_size, epoch_size -sample_count), input_map=input_map)    

      trainer.train_minibatch(data)    

模型的保存就一行代码：

z.save("simpleconv3.dnn")

2.6 可视化

需要可视化的内容不多，就是loss曲线和精度曲线，所以可以直接自己添加代码，用上面的模型训练最后的loss如下，更好参数可自己调。

 

03 CNTK模型测试

测试就是载入模型，做好与训练时同样的预处理操作然后forward就行了。

import ***
model_file = sys.argv[1]
image_list = sys.argv[2]
model = C.load_model(model_file)

count = 0
acc = 0
imagepaths = open(image_list,'r').readlines()
for imagepath in imagepaths:
   imagepath,label = imagepath.strip().split('\t')
   im = Image.open(imagepath)
   print imagepath
   print "im size",im.size
   image_data = np.array(im,dtype=np.float32)
   image_data = cv2.resize(image_data,(image_width,image_height))
   image_data = np.ascontiguousarray(np.transpose(image_data, (2, 0, 1)))
   output = model.eval({model.arguments[0]:[image_data]})[0]
   print output
   print label,np.argmax(np.squeeze(output))
   if str(label) == str(np.argmax(np.squeeze(output))):
       acc = acc + 1
   count = count + 1
print "acc=",float(acc) / float(count)

最终模型训练集准确率91%，测试集准确率88%，大家可以自己去做更多调试。

 

总结

相比于tensorflow，pytorch，cntk固然是比较小众，但也不失为一个优秀的平台，尤其是对于语音任务，感兴趣大家可以自行体验，代码已经上传至https://github.com/longpeng2008/LongPeng_ML_Course。

 

转载文章请后台联系

侵权必究

本系列完整文章：

第一篇：【caffe速成】caffe图像分类从模型自定义到测试

第二篇：【tensorflow速成】Tensorflow图像分类从模型自定义到测试

第三篇：【pytorch速成】Pytorch图像分类从模型自定义到测试

第四篇：【paddlepaddle速成】paddlepaddle图像分类从模型自定义到测试

第五篇：【Keras速成】Keras图像分类从模型自定义到测试

第六篇：【mxnet速成】mxnet图像分类从模型自定义到测试

第七篇：【cntk速成】cntk图像分类从模型自定义到测试

第八篇：【chainer速成】chainer图像分类从模型自定义到测试

第九篇：【DL4J速成】Deeplearning4j图像分类从模型自定义到测试

第十篇：【MatConvnet速成】MatConvnet图像分类从模型自定义到测试

第十一篇：【Lasagne速成】Lasagne/Theano图像分类从模型自定义到测试

第十二篇：【darknet速成】Darknet图像分类从模型自定义到测试

感谢各位看官的耐心阅读，不足之处希望多多指教。后续内容将会不定期奉上，欢迎大家关注有三公众号 有三AI！