win10+python3.66+vs2017+cuda9.2下运行tensorflow版的faster-Rcnn编译训练

本文介绍了在win10系统、python3.66、Visual Studio 2017和CUDA 9.2环境下，如何配置并运行Tensorflow版本的Faster-RCNN。由于大多数教程基于python3.5，作者通过修改源码和编译解决了在py3.6下的问题。主要内容包括TensorFlow-GPU的安装、环境配置、Faster-RCNN源码的调整、PyCOCO数据集的下载及处理、模型训练和演示的运行等。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

win10+python3.66+vs2017+cuda9.2下运行tensorflow版的faster-Rcnn

配置Faster-RCNN（网上找的的都是基于python3.5的，不支持py3.6，本文主要尝试用py3.6配置）

python3.5版本 https://github.com/dBeker/Faster-RCNN-TensorFlow-Python3.5

由于上述版本中的python都是基于linux环境编写的，windows运行需要进行改动。

基础环境配置：

安装TensorFlow的GPU版本，具体安装步骤可以参照这里。
安装一些必要的库：cython，easydict，python-opencv，库的安装可以直接用pip 命令，当然这里的安装位置要在你自己建的的TensorFlow-gpu环境中。
在命令行中 cd 一下进入源码中所给的 /data/coco/PythonAPI文件夹下，运行编译提供的 setup.py
强调一下，最好按照源码给的参考装python 3.5。偷懒不想换原来装的其他版本会出会问题的，我就是，结果被一个bug坑了好久，我的基础环境已经装好，就不重复了。需要什么模块大家直接安装。

我的运行环境：tensorflow-gpu 1.10
win10 64bit
i7-8700k+32G+gtx1070
CUDA:9.2
IDE:VS2017

This is the branch to compile Faster R-CNN on Windows. It is heavily inspired by the great work done here and here. I have not implemented anything new but I fixed the implementations for Windows and Python 3.5.

python3.5是必须的。我安装了python3.66，but各种不行。如果你安装python3.5，估计都没什么问题了，如果你不想折腾，你就安装一个python3.5，如果想和我一样折腾一下，就继续往下看。

先运行一下demo.py

我们需要对Faster RCNN项目当中的setup.py进行一点点修改。G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\data\coco\PythonAPI\setup.py,原始的是下面这样的

我们在程序的16行加上

,
    Extension( 'lib.utils.cython_bbox',
               sources=['../../../lib/utils/bbox.c','../../../lib/utils/bbox.pyx'],
               include_dirs = [np.get_include(), '/lib/utils'], 
               extra_compile_args=[], )

加完这些代码之后的Setup.py代码情况如下：

然后重新进行编译，

C:\Users\WWWW>g:

G:\>cd G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\data\coco\PythonAPI

G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\data\coco\PythonAPI>python setup.py build_ext --inplace

G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\data\coco\PythonAPI>python setup.py build_ext install

编译成功之后在相应文件夹下，生成一个新的cython_bbox的文件（这里是针对Py36的版本）。我们将这个文件放入对应位置：

然后把 G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\data\coco\PythonAPI\build\lib.win-amd64-3.6\lib\utils\cython_bbox.cp36-win_amd64.pyd这个文件复制到 G:\Tensorflow\Faster-RCNN-TensorFlow-Python3.5-master\lib\utils\目录下

下载PyCoco database

可以在这里下载：http://host.robots.ox.ac.uk:8080/pascal/VOC/voc2007/#devkit

http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtrainval_06-Nov-2007.tar
http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCtest_06-Nov-2007.tar
http://host.robots.ox.ac.uk/pascal/VOC/voc2007/VOCdevkit_08-Jun-2007.tar

将下载后的三个压缩包解压到同一个文件夹下，以WinRAR为例，同时选中三个压缩包，右键，然后选择解压到当前文件夹

可以得到VOCDevkit文件夹，将VOCDevkit重命名为VOCDevkit2007，然后将这个文件夹拷贝到你自己的Faster-RCNN中data目录下。

我的放置后的目录结构见下文，供参考：

----\data\VOCDevkit2007\create_segmentations_from_detections.m
----\data\VOCDevkit2007\devkit_doc.pdf
----\data\VOCDevkit2007\example_classifier.m
----\data\VOCDevkit2007\example_detector.m
----\data\VOCDevkit2007\example_layout.m
----\data\VOCDevkit2007\example_segmenter.m
----\data\VOCDevkit2007\local