[pytorch]thop计算模型算力和参数量

原创

已于 2023-06-04 15:52:38 修改 · 1.5k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #python #深度学习

于 2023-03-17 12:23:08 首次发布

本文介绍了如何使用THOP库来计算PyTorch模型的FLOPs和MACs，这两个指标是衡量深度学习模型计算复杂度的关键。通过示例展示了安装和使用THOP的方法，以及如何自定义规则计算第三方模块。此外，文中还提供了多个流行模型的参数和计算量数据，帮助理解不同模型的性能差异。FLOPs等于两倍的MACs，因此THOP得到的MACs需乘以2来获取FLOPs值。

从github官网上转载的：
Count the MACs / FLOPs of your PyTorch model.

THOP: PyTorch-OpCounter

How to install

pip install thop (now continously intergrated on Github actions)

pip install --upgrade git+https://github.com/Lyken17/pytorch-OpCounter.git

How to use

Basic usage

from torchvision.models import resnet50
from thop import profile
model = resnet50()
input = torch.randn(1, 3, 224, 224)
macs, params = profi

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

尼口666

关注关注

1
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

pytorch轻松计算模型的参数总量、占用显存量以及flops

羊城迷鹿的博客

05-08

1万+

from torchstat import stat import torchvision.models as models model = models.resnet152() stat(model, (3, 224, 224))

Pytorch中统计模型的计算量(FLOPs)和参数量(Params)

qq_36771396的博客

03-29

2万+

get_model_complexity_info 函数的参数 as_strings=True 表示返回的结果以字符串形式表示，print_per_layer_stat=True 表示打印每个层的统计信息。然后，我们定义了模型的输入尺寸，并使用 get_model_complexity_info 函数来计算模型的乘积累加操作（MACs，可以近似为 FLOPs）和参数量。最后，我们将结果打印出来。在深度学习中，FLOPs 用于衡量模型的总计算量，包括所有的乘法、加法和其他可能的操作（如激活函数的计算）。

参与评论您还未登录，请先登录后发表或查看评论

PyTorch thop包计算模型Params和FLOPs

关于我的学习记录

12-26

1456

PyTorch thop包计算模型Params和FLOPs

【Pytorch】如何获取模型的参数量和计算量

咖啡味儿的咖啡

03-11

1万+

How to install Through PyPi pip install thop Using GitHub (always latest) pip install --upgrade git+https://github.com/Lyken17/pytorch-OpCounter.git How to use Basic usage from tor...

【YOLOv5问题记录】thop库的安装

weixin_51972142的博客

05-05

2万+

YOLOv5问题-thop库的安装

pytorch计算模型算力与参数大小

weixin_47062350的博客

11-17

8802

目录ptflops介绍get_model_complexity_info()栗子 ptflops介绍官方链接这个脚本设计用于计算卷积神经网络中乘法-加法操作的理论数量。它还可以计算参数的数量和打印给定网络的每层计算成本。支持layer：Conv1d/2d/3d，ConvTranspose2d，BatchNorm1d/2d/3d，激活(ReLU, PReLU, ELU, ReLU6, LeakyReLU)，Linear，Upsample，Poolings (AvgPool1d/2d/3d、MaxPool

计算pytorch模型算力和参数的大小

ze1336365763的博客

10-17

2143

设计神经网络时需要根据硬件考虑模型参数量和算力，故需要计算神经网络模型的params和Flops，python的三方库ptflops就可以很好的做这件事，show code： import torch.nn as nn import torch from ptflops import get_model_complexity_info class Net(nn.Module): def __init__(self,in_c,class_num): super(Net, self)

用thop去获得模型参数量和计算量（pytorch）

菊头蝙蝠的博客

02-22

1万+

用thop去得到模型参数量和计算量（pytorch）1. 安装2. 使用（获得计算量（flops）和参数量（params））2.1计算tochvision自带的模型大小2.2计算自定义的模型的大小 Thop github地址 1. 安装 pip install thop 2. 使用（获得计算量（flops）和参数量（params）） 2.1计算tochvision自带的模型大小其中输入的x，只影响计算量，不影响参数量 model = torchvision.models.segmentation.fc

模型推理速度与硬件算力

生命在于折腾！

11-28

4959

模型推理速度与硬件算力 1. 模型大小衡量指标 参数量 这里的参数量就是指模型的权重，对于 CNN 网络而言，主要就集中在 Conv 和 FC 层。 参数量主要会体现在模型的物理大小（硬盘占用大小），在运行时也会体现在内存（显存）占用上，对运行速度没有直接的影响（间接的影响显然是存在的）。具体来说就是，如果模型硬盘占用很大，显然会影响最终软件的大小，如果模型内存占用很多，显然会影响一块显卡（或其他硬件）能同时加载模型的数量。计算量 FLOPs（Floating Point Operations）浮点计

深度学习中小知识点系列(十七) 解析对深度学习中计算量(FLOPs)和参数量(Params)的理解以四种计算方法总结(详尽)

专注于人工智能学习，总结

12-11

1386

计算量对应我们之前的时间复杂度，参数量对应于我们之前的空间复杂度，这么说就很明显了也就是计算量要看网络执行时间的长短，参数量要看占用显存的量。

thop.profile

10-11

THOP (Tensor Hot Pot) 是一个专门针对深度学习模型性能...# 使用 thop.profile 计算模型的算力和参数数 flops, params = profile(model, inputs=(input_data,)) print(f"模型FLOPs: {flops}, 参数数: {params}") ```

判断onnx模型是计算密集还是访存密集