tensorflow2caffe(1) : caffemodel解析，caffemodel里面到底记录了什么？

   在本文正式开始之前，笔者要先和各位读者朋友们道个歉。因为身为研一小白的笔者实在身不由己，除了各种任务之外，还要应付繁忙的课程，忙于各种考试像一只咸鱼。因此耽误了博文的撰写，对不起各位读者朋友，笔者在忙完6月进入研二之后一定再接再厉。下面开始干货~

   本篇还是一个插播的博客，旨在向大家分享caffemodel里面记录的信息。在我们使用caffe框架训练网络时，最终总会生成一个caffemodel，我们大概知道里面记录了模型的参数。而作为初学者的笔者，总是不分青红皂白地就直接在模型的验证阶段就调用了。从来没有去看过caffemodel里面到底讲了什么，那么，本篇中笔者就解析一下caffemodel。

   有读者朋友未免会问，笔者是出于什么目的想解析caffemodel的呢？这说来话长，是笔者最近做的项目需要将model拆开并进行改动，因此需要去解析caffemodel。那么笔者是怎么摸索的呢？各位读者朋友们是否还记得，笔者前两期的博客里面提及的caffe官方提供的classification.cpp文件，里面在执行Classifier类的构造函数的时候，有一个net_指针，并且执行了一个操作：

[cpp]  view plain  copy

1. net_->CopyTrainedLayersFrom(trained_file);  

   这个CopyTrainedLayersFrom函数就是从caffemodel里面载入我们需要的参数了。然后笔者就从这个函数开始挖，进入net.cpp文件：

[cpp]  view plain  copy

1. template <typename Dtype>  
2. void Net<Dtype>::CopyTrainedLayersFrom(const string trained_filename) {  
3.   if (H5Fis_hdf5(trained_filename.c_str())) {  
4.     CopyTrainedLayersFromHDF5(trained_filename);  
5.   } else {  
6.     CopyTrainedLayersFromBinaryProto(trained_filename);  
7.   }  
8. }  

   在这里很明显执行了else下面的语句，从二进制文件中去读取了参数，然后，笔者又找到了CopyTrainedLayersFromBinaryProto函数，很巧就在CopyTrainedLayersFrom函数的下方：

[cpp]  view plain  copy

1. template <typename Dtype>  
2. void Net<Dtype>::CopyTrainedLayersFromBinaryProto(  
3.     const string trained_filename) {  
4.   NetParameter param;  
5.   ReadNetParamsFromBinaryFileOrDie(trained_filename, &parm);  
6.   CopyTrainedLayersFrom(param);  
7. }  

   在里面首先执行了一个ReadNetParamsFromBinaryFileOrDie函数，把二进制文件中的参数读到parm里面，parm是一个NetParameter类型的，NetParameter继承了实际是一个Message，Message是proto类型的，详细的笔者后话解析。然后笔者去找了一下ReadNetParamsFromBinaryFileOrDie函数，这个函数在upgrade_proto.cpp里面：

 

[cpp]  view plain  copy

1. void ReadNetParamsFromBinaryFileOrDie(const string& param_file,  
2.                                       NetParameter* param) {  
3.   CHECK(ReadProtoFromBinaryFile(param_file, param))  
4.       << "Failed to parse NetParameter file: " << param_file;  
5.   UpgradeNetAsNeeded(param_file, param);  
6. }  

   这个函数完成的功能是首先进行ReadProtoFromBinaryFile，然后执行了一个更新的操作。然后笔者就去找这个ReadProtoFromBinaryFile函数，这个函数在io.cpp里面：

[cpp]  view plain  copy

1. bool ReadProtoFromBinaryFile(const char* filename, Message* proto) {  
2.   int fd = open(filename, O_RDONLY);  
3.   CHECK_NE(fd, -1) << "File not found: " << filename;  
4.   ZeroCopyInputStream* raw_input = new FileInputStream(fd);  
5.   CodedInputStream* coded_input = new CodedInputStream(raw_input);  
6.   coded_input->SetTotalBytesLimit(kProtoReadBytesLimit, 536870912);  
7.   
8.   bool success = proto->ParseFromCodedStream(coded_input);  
9.   
10.   delete coded_input;  
11.   delete raw_input;  
12.   close(fd);  
13.   return success;  
14. }  

   这个函数就比较底层了，读者朋友们可以看到，这个函数里面就使用了open函数，和一些底层的google::protobuf的数据流。在这里我们其实就明白，是先把二进制文件(caffemodel)转化成文件流，再放入proto里面。

   那么，笔者大胆猜想，能读就能写。

   其实io.cpp里面已经定义了这种接口：

[cpp]  view plain  copy

1. void WriteProtoToTextFile(const Message& proto, const char* filename) {  
2.   int fd = open(filename, O_WRONLY | O_CREAT | O_TRUNC, 0644);  
3.   FileOutputStream* output = new FileOutputStream(fd);  
4.   CHECK(google::protobuf::TextFormat::Print(proto, output));  
5.   delete output;  
6.   close(fd);  
7. }  

   也就是说：先用ReadProtoFromBinaryFile函数将二进制文件读入proto里面，再将proto文件读入txt文件就行了。

   笔者迫不及待地拿lenet网络训练生成的caffemodel做了个测试：

[cpp]  view plain  copy

1. #include <caffe/caffe.hpp>  
2. #include <google/protobuf/io/coded_stream.h>  
3. #include <google/protobuf/io/zero_copy_stream_impl.h>  
4. #include <google/protobuf/text_format.h>  
5. #include <algorithm>  
6. #include <iosfwd>  
7. #include <memory>  
8. #include <string>  
9. #include <utility>  
10. #include <vector>  
11. #include <iostream>  
12. #include "caffe/common.hpp"  
13. #include "caffe/proto/caffe.pb.h"  
14. #include "caffe/util/io.hpp"  
15.   
16. using namespace caffe;  
17. using namespace std;  
18. using google::protobuf::io::FileInputStream;  
19. using google::protobuf::io::FileOutputStream;  
20. using google::protobuf::io::ZeroCopyInputStream;  
21. using google::protobuf::io::CodedInputStream;  
22. using google::protobuf::io::ZeroCopyOutputStream;  
23. using google::protobuf::io::CodedOutputStream;  
24. using google::protobuf::Message;  
25.   
26. int main()  
27. {  
28.     NetParameter proto;  
29.     ReadProtoFromBinaryFile("/home/cvlab/files/caffe-master/data/mnist/lenet_iter_10000.caffemodel", &proto);  
30.     WriteProtoToTextFile(proto, "/home/cvlab/files/caffe-master/data/mnist/test.txt");  
31.     return 0;  
32. }  

   笔者训练了一个lenet训练生成的二进制文件，并将其写入了一个名为test.txt的文件中。

   其对应的CMakeLists.txt文件为：

[cpp]  view plain  copy

1. cmake_minimum_required (VERSION 2.8)  
2.   
3. project (pt_test)  
4.   
5. add_executable(pt_test pt.cpp)  
6.   
7. include_directories ( /home/cvlab/files/caffe-master/include  
8.     /usr/local/include  
9.     /usr/local/cuda/include  
10.     /usr/include )  
11.   
12. target_link_libraries(pt_test  
13.     /home/cvlab/files/caffe-master/build/lib/libcaffe.so  
14.     /usr/lib/x86_64-linux-gnu/libglog.so  
15.     /usr/lib/x86_64-linux-gnu/libboost_system.so  
16.     )  

   编译执行：

   然后我们打开test.txt文件可以见到：

   一共43万多行，记录了lenet-5的网络参数。因为lenet-5使用了全连接层，因此参数规模是庞大的(全连接层的参数约占了总体参数规模的90%)。

   同时也可以看到，读出的二进制文件中参数规格是按照caffe.proto中协定的格式来的。

   到此，我们就能清晰地看到caffemodel中记载的数据和格式了。

   欢迎阅读笔者后续博客，各位读者朋友的支持与鼓励是我最大的动力！

written by jiong

故上兵伐谋，其次伐交，其次伐兵，其下攻城；攻城之法为不得已。