XNOR-Net-PyTorch实验

最新推荐文章于 2025-04-09 10:25:54 发布

原创

最新推荐文章于 2025-04-09 10:25:54 发布 · 1.4k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#神经网络 #深度学习 #pytorch #机器学习

XNOR-Net-PyTorch测试

在CNN中有两个非常有名的二进制类的网络模型，一个叫做Binary-Weighted-Networks，一个叫做XNOR-Net。二元权重网络中，卷积核用两个值来近似表示，从而节省32倍的存储空间。在XNOR网络中，卷积核和卷积层输入都是用两个值（1和-1）表示的。 XNOR网络主要使用二元运算进行卷积运算。这使得卷积操作速度提高了58倍，节省了32倍的内存。 XNOR网络实现了在CPU（而不是GPU）上实时运行最先进网络的可能。

参考

代码来源于GitHub，项目地址；

实验结果

Data_set	基础网络模型	Test Accuracy	模型大小
MNIST	Lenet-5	99.00%	1.64M
CIFAR-10	NIN	86.12%	3.72M

实验过程

基于LeNet-5的XNOR-net在MNIST数据集上的训练结果

Namespace(arch='LeNet_5', batch_size=128, cuda=True, epochs=60, evaluate=False, log_interval=100, lr=0.01, lr_epochs=15, momentum=0.9, no_cuda=False, pretrained=None, seed=1, test_batch_size=128, weight_decay=1e-05)
LeNet_5(
  (conv1): Conv2d(1, 20, kernel_size=(5, 5), stride=(1, 1))
  (bn_conv1): BatchNorm2d(20, eps=0.0001, momentum=0.1, affine=False, track_running_stats=True)
  (relu_conv1): ReLU(inplace)
  (pool1): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
  (bin_conv2): BinConv2d(
    (bn): BatchNorm2d(20, eps=0.0001, momentum=0.1, affine=True, track_running_stats=True)
    (conv): Conv2d(20, 50, kernel_size=(5, 5), stride=(1, 1))
    (relu): ReLU(inplace)
  )
  (pool2): MaxPool2d(kernel_size=2, str