模型加速--LCNN: Lookup-based Convolutional Neural Network

LCNN:加速CNN训练
最新推荐文章于 2024-08-16 08:04:03 发布
原创 最新推荐文章于 2024-08-16 08:04:03 发布 · 1.2k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了一种名为LCNN的新型卷积神经网络，它通过构建共享字典来代替权重张量的重建和卷积操作，从而实现快速卷积。这种方法不仅能够加速CNN在网络层的训练和计算，还能够在嵌入式设备上进行有效的CNN训练。实验表明，LCNN在较少迭代次数下就能达到更高的准确率。

LCNN: Lookup-based Convolutional Neural Network
CVPR2017
https://github.com/ildoonet/tf-lcnn
https://github.com/hessamb/lcnn

本文使用查表法加速CNN网络训练和计算，可以在嵌入式设备终端进行CNN网络训练

本文对每个网络层构建一个 字典 Dictionary，每个 weight filter 可以由这个字典中的某些向量线性组合得到
在这里插入图片描述

Fast Convolution using a Shared Dictionary
在这里插入图片描述

instead of reconstructing the weight tensor W and convolving with the input, we can convolve the input with all of the dictionary vectors, and then compute the output according to I and C
我们将输入向量和整个字典里的向量进行卷积，使用这个卷积结果经过 查表得到 输入和滤波器W 的卷积结果

Experiments
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

LCNN can obtain higher accuracy on few iterations by transferring the dictionaries D from a shallower architecture
在这里插入图片描述

11

matlab中批量导入图像代码-lcnn:LCNN：端到端线框解析
05-20
matlab中批量导入图像代码L-CNN —端到端线框解析 该存储库包含该论文的官方PyTorch实现： ，，。 ICCV 2019 。 介绍 是从概念上讲简单却有效的神经网络，用于从给定图像中检测线框。 它在很大程度上优于以前的最新线框和线检测器。 我们希望该存储库可以作为该领域未来研究的易于复制的基准。 主要结果 定性措施 神经网络 地面真相 在本文中可以找到更多随机抽样的结果。 量化措施 下表报告了上的几个线框和线检测器的性能指标。 上海科技（sAP 10 ） 上海科技（AP H ） 上海科技（F H ） 上海科技（mAP J ） / 52.0 61.0 / 24.4 69.5 77.2 23.3 5.1 67.8 72.6 40.9 神经网络 62.9 82.8 81.2 59.3 精确调用曲线 代码结构 下面是每个文件功能的快速概述。 # ########################## Data ########################### figs/ data/ # default folder for placing the data wireframe/
l-曲线matlab代码-ADV_LCNN:ADV_LCNN
05-24
l-曲线矩阵代码L-CNN —端到端线框解析 该存储库包含该论文的官方PyTorch实现： ，，。 ICCV 2019 。 介绍 是一个概念简单却有效的神经网络，用于从给定图像中检测线框。 它在很大程度上优于以前的最新线框和线检测器。 我们希望该存储库可以作为该领域未来研究的易于复制的基准。 主要结果 定性措施 神经网络 地面真相 在本文中可以找到更多随机抽样的结果。 量化措施 下表报告了上的几个线框和线检测器的性能指标。 上海科技（sAP 10 ） 上海科技（AP H ） 上海科技（F H ） 上海科技（mAP J ） / 52.0 61.0 / 24.4 69.5 77.2 23.3 5.1 67.8 72.6 40.9 神经网络 62.9 82.8 81.2 59.3 精确调用曲线 代码结构 下面是每个文件功能的快速概述。 # ########################## Data ########################### figs/ data/ # default folder for placing the data wireframe/ # folde
Convolutional Neural Network-based Place Recognition 基于卷积神经网络的地点识别算法
Chen_Xieyuanli的博客
01-07 2323
本博客仅为作者记笔记之用，不对之处，望见谅，欢迎批评指正。 更多相关博客请查阅：http://blog.youkuaiyun.com/weixin_39779106； 如需转载，请附上本文链接：http://blog.youkuaiyun.com/weixin_39779106/article/details/78993604 原论文链接 一、摘要 二、介绍 三、相关工作 四、本文算法 特...
READING NOTE:LCNN: Lookup-based Convolutional Neural Network
joshua_1988
11-24 1969
TITLE: LCNN: Lookup-based Convolutional Neural Network
【亲测免费】 LCNN: 实时轻量级卷积神经网络框架
gitblog_00090的博客
04-18 1090
在深度学习领域，实时和低功耗应用的需求日益增长，而LCNN（Lightweight Convolutional Neural Network）正是为此而生的项目。它是一个专为资源有限的设备设计的轻量化、高效的深度学习库，致力于实现高精度与计算效率之间的平衡。 ## 技术分析 LCNN的核心是其独特的网络结构和优化算法。项目采用了一种叫做"通道分组卷积"的技术，这种技术能够减少计算量，同时保持模...
【论文解读】【论文翻译】【线框分析】LCNN
lz867422770的博客
11-10 7580
1. 文章背景： 2018年的CVPR会议上，来自上海科技大学信息学院的团队提出了《Learning to Parse Wireframes in Images of Man-Made Environments》论文来进行现实场景中图片框线结构的检测分析研究，与此同时，他们贡献出了一个带标注的开源的数据集wireframe。本文正是基于该数据集进行的框线分析问题研究。这篇论文旨在为业界的...
Convolutional Neural Network-based Place Recognition
xiaofei0801的博客
06-05 1124
1 Introduction        自20世纪90年代初推出以来，卷积神经网络（CNN）已经被用于诸如手写字体识别和人脸检测等各种任务中，并取得出色的表现。最近，监督的深度卷积神经网络已经显示出在更具挑战性的分类任务上提供高水​​平的性[Krizhevsky，et al 2012]。这些令人印象深刻的结果背后的关键支撑因素是他们使用大量标签数据学习数千万个参数的能力。一旦以这种方式进行了
深度学习模型压缩与加速技术（五）：紧凑网络
十二月未央未眠
04-25 3859
文章目录总结参数共享定义特点1.卷积核级别新型卷积核简单filter组合2.层级别3.网络结构级别参考文献 深度学习模型的压缩和加速是指利用神经网络参数的冗余性和网络结构的冗余性精简模型，在不影响任务完成度的情况下，得到参数量更少、结构更精简的模型。被压缩后的模型计算资源需求和内存需求更小，相比原始模型能够满足更加广泛的应用需求。在深度学习技术日益火爆的背景下，对深度学习模型强烈的应用需求使得人们对内存占用少、计算资源要求低、同时依旧保证相当高的正确率的“小模型”格外关注。利用神经网络的冗余性进行深度学习
（十一：2020.08.28）CVPR 2017 追踪之论文纲要（译）
Jojo论文基地
08-28 4100
CVPR 2017 追踪之论文纲要（修正于2020.08.28）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这1400篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 下面皆为机器翻译以方便我第一次筛选，我会慢慢修正，但现在请结合。有兴趣的可以问我要处理这些论文并自动翻译的脚本。 Respect！ 论文目录
CVPR 2017论文集锦（论文分类）—— 附录部分翻译
热门推荐
denghe优快云的博客
08-23 2万+
作为计算机视觉领域的三大顶级会议之一，CVPR 2017 又收录了很多优秀的文章。具体可参见 CVPR 的论文官网：http://www.cvpapers.com/cvpr2017.html        Machine Learning 1 （机器学习） Spotlight 1-1A  （关注的焦点 1-1 A） Exclusivity-Consistency Regular
CVPR 2017论文
YongqiangGao的专栏
08-16 1万+
近期在看CVPR2017的文章，顺便就把CVPR2017整理一下，分享给大家，更多的 Computer Vision的文章可以访问Computer Vision Foundation open access、CVPapers。Machine Learning 1Spotlight 1-1AExclusivity-Consistency Regularized Multi-View Subspace
CNN--based Network Architectures
博观而约取，深研而广求
08-20 337
主要参考资料为： cs231n–Lecture9: CNN Architectures
ABC-CNN: An Attention Based Convolutional Neural Network for Visual Question Answering
lsh894609937的专栏
04-06 2018
VQA的相关应用及其挑战：   VQA is of great importance to many applications, including image retrieval, early education, and navigation for blind people as it provides user-specific information through the unders
LCNN 开源项目教程
最新发布
gitblog_00916的博客
08-16 868
LCNN（Line-CNN）是一个基于卷积神经网络（CNN）的计算机视觉项目，专门用于检测和处理图像中的直线。该项目由zhou13开发，并在GitHub上开源，地址为：[https://github.com/zhou13/lcnn](https://github.com/zhou13/lcnn)。LCNN通过深度学习技术，能够高效地识别图像中的直线结构，适用于多种场景，如建筑检测、自动驾驶等。 ...
LCNN_SSD（Open Source）
samylee的博客
03-17 933
LCNN_SSD 1. Forward C++ Code of the SSD based on CAFFE, CPU support only. 2.No third-party libraries except OpenBlas. Github https://github.com/samylee/LCNN_SSD Description The model ...
lcnn复现
weixin_44417398的博客
11-30 3461
conda create -y -n lcnn-9.2 python=3.6 source activate lcnn-9.2 # Replace cudatoolkit=10.1 with your CUDA version: https://pytorch.org/ conda install -y pytorch==1.2.0 torchvision==0.4.0 cudatoolkit=9.2 -c pytorch conda install -y tensorboardx -c conda-fo.
LCNN论文阅读笔记
feynman233的博客
04-08 4560
卷积神经网络因为参数越来越多对计算机硬件要求越来越高，因此需要更高效的神经网络算法。我认为作者的切入点是CNN有很多相互关联的参数，进而充分利用参数之间的关联性来进行优化。他把权向量组合成字典来表示参数空间。训练网络就变成了去训练一个字典和一些线性组合关系。字典的规模就需要找到效率和准确率之间的平衡。LCNN解决了两个问题：训练集数目少的问题和减少循环迭代次数的问题。他减少迭代次数的办法是让字典可以
【深度学习】经典CNN模型梳理与Pytorch实现：LeNet、AlexNet、NiN、VGGNet、ResNet
DwD-的博客
03-19 1632
1. 前言 经典永不过时。这篇文章中，我们要回顾卷积神经网络发展史上几个经典模型：LeNet、AlexNet、NiN、VGGNet、ResNet，梳理它们的发展脉络，总结它们各自的特点，并借助Pytorch完成实现。 2. 模型及实现 2.1 LeNet LeNet是LeCun在1998年提出的用于解决手写数字识别任务的卷积神经网络模型，这一网络模型奠定了之后CNN的基本架构。它又被称为LeNet-5，5表示第5代版本。LeNet-5的基本结构是：卷积、池化、卷积、池化、全连接。 LeNet.
DeepLung 开源项目使用教程
gitblog_01168的博客
08-16 320
DeepLung 开源项目使用教程 1. 项目的目录结构及介绍 DeepLung 项目的目录结构如下： DeepLung/ ├── data/ ├── models/ ├── utils/ ├── prepare.py ├── config_training.py ├── train.py ├── test.py └── README.md 目录介绍 data/: 存放数据集的目录。 mode...
ADV_LCNN: 端到端线框检测PyTorch实现
压缩包子文件的名称‘ADV_LCNN-master’显示了项目采用的是主分支版本的源代码。该名称表明用户可以获取到项目的最新稳定版本，包含了开发过程中的所有更新和改进。" 知识点说明: 1. 端到端线框解析技术：这是一种...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值