tensorflow 计算参数量

最新推荐文章于 2024-08-01 14:42:58 发布

转载最新推荐文章于 2024-08-01 14:42:58 发布 · 315 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/u/4017456/blog/2906986

本文介绍了一种使用TensorFlow计算所有可训练变量尺寸的方法，通过numpy的sum和prod函数结合TensorFlow的trainable_variables获取模型参数总量。

部署运行你感兴趣的模型镜像

参考自https://blog.youkuaiyun.com/feynman233/article/details/79187304，记录下方便之后查看。

print np.sum([np.prod(v.get_shape().as_list()) for v in tf.trainable_variables()])

转载于:https://my.oschina.net/u/4017456/blog/2906986

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。它提供了一个灵活的平台,用于构建和训练各种机器学习模型

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

choupeng8596

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

Tensorflow2.0 评价模型复杂度：参数量、FLOPs 和 MACC 计算

cocofisher的博客

07-27

6295

文章目录项目介绍代码实现1、迁移学习不带分类层的简化版 MobileNet V2 网络2、查看网络结构3、提取需要分析的层4、计算 FLOPs 和 MACC 项目介绍在论文写作时，我们经常会对所提出模型的复杂度进行分析，主要用到的评价指标包括参数量、FLOPs 和 MACC，它们的计算原理可以参考《卷积、可分离卷积的参数量、计算量与 MACC 的对比》一文，在此文章中，我们着重介绍如何在 Tensorflow2.0 中计算这些参数。代码实现我们使用迁移学习到的 MobileNet V2 网络举例。 1

keras, tensorflow 模型参数总量计算

苏打水的杯子的博客

11-13

2364

一、keras计算参数量：model.summary()，放到网络的后面。 import keras from keras.datasets import mnist from keras.models import Sequential from keras.layers import Dense, Dropout, Flatten, Activation from keras.layers import Convolution2D as Conv2D from keras.layers import

参与评论您还未登录，请先登录后发表或查看评论

Tensorflow计算网络参数量和计算量FLOPs

Jolen_xie的博客

10-30

5922

先引入头文件 import tensorflow as tf 1.计算参数量 def count_param(): # 计算网络参数量 total_parameters = 0 for v in tf.trainable_variables(): shape = v.get_shape() variable_parameters = 1 for dim in shape: variable_paramete

tensorflow计算参数量和浮点数，亲测有效

qq_42012888的博客

08-01

553

适用于2.x以上版本的tensorflow计算参数量和浮点数的方法。

tensorflow 获取模型所有参数总和数量的方法

09-20

今天小编就为大家分享一篇tensorflow 获取模型所有参数总和数量的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

tensorflow中如何计算参数量

bonjourdeutsch的博客

10-22

5871

所谓的参数量，其实就是可训练的所有张量，每一个张量有多少位数字，然后统计一下数字的个数。比如我们的网络中一共有两个可训练的张量，一个的形状是[5,3,2]，另外一个是[5,2]，网络的参数量就是：从checkpoint中计算参数量的代码如下： ckpt = tf.train.get_checkpoint_state("./ckpt_path/").model_checkpoint_...

2.x以上版本的tensorflow计算参数量和浮点数的方法

weixin_46888495的博客

05-30

503

2.x以上版本的tensorflow计算参数量和浮点型的方法。

tensorflow 模型浮点数计算量和参数量估计

ZhaoDongyu_AK47的博客

09-16

4913

文章目录写在前面的话计算量、参数量实验统计模型的内存、耗时情况写在前面的话之前在pytorch统计参数量和计算量用stat非常的方便，现在转到tensorflow后发现tensorflow的参数量和计算量的统计相对来说就没那么方便了。在网上也搜了一些相关教程，发现用profiler来进行统计是最方便的。本文参考了：tensorflow 模型浮点数计算量和参数量估计和TensorFlow程序分析（profile）实战，他们都整理的都非常好，我在这里重新整理一遍方便自己看。计算量、参数量实验 stat

模型参数量、计算量统计。TensorFlow、pytorch

庆志的小徒弟

07-29

4487

1、TensorFlow和keras https://robertlexis.github.io/2018/08/28/Tensorflow-模型浮点数计算量和参数量统计/ 2、pytorch 一个比较好的包，查看pytorch下的网络信息和参数：https://java.ctolib.com/sksq96-pytorch-summary.html https://github.co...

TensorFlow 模型浮点数计算量

pandamax的博客

03-28

3965

1.TensorFlow 模型浮点数计算量和参数量统计 2.FLOP calculation by tf.profiler might be wrong #19746 3.Tensorflow Profile Model Architecture

pytorch和tensorflow关于神经网络的参数量估计和运算量估计（Parameters和FLOPs）

TheTopMing的博客

02-17

1736

这里写自定义目录标题浮点运算数估计和参数量估计PytorchTensorflow总结浮点运算数估计和参数量估计简单地记录一下关于神经网络参数估计和计算量估计的心得。 Pytorch Pytorch没有tensorflow那么繁琐，这里推荐使用Thop包来进行计算。下面是一个例子： from thop import profile from importlib import import_module MODEL = import_module(args.model) model = MODEL.Net

Tensorflow学习一：基本参数和方法整理

xckkcxxck的博客

04-21

393

一：计算图的知识：1.tensorflow会将定义的计算转化为计算图上的结点。2.tf会维护一个默认的计算图，通过 tf.get_default_graph 可以得到当前默认的计算图。假设张量 a,通过a.graph 可以得到张量所属的计算图。3. tf可以通过 tf.Graph函数生成新的计算图，不同的计算图上的张量和运算不会共享。二：张量：多维数组1.张量不保存数字，保存的是得到...

如何从ckpt中得到层名和参数量

u012363389的博客

05-21

477

import tensorflow as tf saver = tf.train.import_meta_graph('xxx.meta') variables = tf.trainable_variables() total_parameters = 0 for variable in variables: shape = variable.get_shape() variable_parameters = 1 for dim in shape: variable_

tensorflow2.x多层感知机模型参数量和计算量的统计

qunsorber的博客

12-29

1575

采用graphviz和pydot模块，绘制网络模型结构采用keras_flops模块统计模型的计算量使用model.summary接口统计模型参数量使用psutil模块统计模型运行时的资源消耗情况参考文档python实现监控指定进程的cpu和内存使用率Python常用库之psutil使用指南如何计算 LSTM 的参数量tf.keras计算FLOPs。

tensorflow计算参数的数量以及FLOPs的估算

w_xiaomu的博客

07-12

1万+

1 参数量的计算该函数需要在训练的函数中调用即可执行，可以得出该网络执行的总参数。 def count(): total_parameters = 0 for variable in tf.trainable_variables(): # shape is an array of tf.Dimension shape = variable.get_...

tensorflow 获取模型所有参数总和数量

初学者的博客

04-15

4915

参数数量： np.sum([np.prod(v.get_shape().as_list()) for v in tf.trainable_variables()]) 浮点运算量： tf.contrib.tfprof.model_analyzer.print_model_analysis(tf.get_default_graph(), tfprof_options=tf.contrib.tfp...

tensorflow统计网络参数量

最新发布

03-23

### 如何在 TensorFlow 中计算深度学习模型的总参数量 在 TensorFlow 中，可以通过内置的方法来获取模型中的总参数量以及区分可训练与非可训练参数的数量。以下是具体的实现方式： #### 使用 `model.summary()` 方法 `model.summary()` 是一种简单有效的方式来查看模型架构及其参数统计信息。该方法会打印每一层的名称、输出形状以及参数数量，并汇总整个模型的总参数量。 ```python import tensorflow as tf # 假设已经定义了一个模型 model model = tf.keras.Sequential([ tf.keras.layers.Dense(64, activation='relu', input_shape=(784,)), tf.keras.layers.Dense(10, activation='softmax') ]) # 打印模型摘要 model.summary() ``` 通过上述代码运行后，可以清晰看到每层的参数数量以及总的 **可训练参数** 和 **非可训练参数** 数量[^1]。 --- #### 访问模型参数属性如果需要更灵活的方式访问这些数值，则可以直接调用模型对象的相关属性： - `model.trainable_variables`: 返回所有可训练变量列表。 - `model.non_trainable_variables`: 返回所有不可训练变量列表。下面是一个示例代码展示如何手动计算参数总数： ```python total_params = sum([tf.size(var).numpy() for var in model.variables]) trainable_params = sum([tf.size(var).numpy() for var in model.trainable_variables]) non_trainable_params = total_params - trainable_params print(f"Total Parameters: {total_params}") print(f"Trainable Parameters: {trainable_params}") print(f"Non-trainable Parameters: {non_trainable_params}") ``` 此代码片段利用了 TensorFlow 提供的张量操作函数 `tf.size()` 来逐个累加各变量所占存储空间大小，从而得出精确的结果[^2]。 --- 需要注意的是，在某些特殊情况下（例如残差网络 ResNet 或其他复杂结构），可能存在部分层未被正确初始化或者配置错误的情况，这可能导致报告出来的 shape 不完整等问题。此时应仔细检查模型构建逻辑并修正相应缺陷[^3]。 --- #### 特殊情况处理建议对于卷积神经网络 (CNN)，尤其是像 ResNet 这样的深层架构设计时，由于存在 shortcut connection 需要保证输入输出维度匹配，因此可能引入额外的 \(1 \times 1\) 卷积用于调整 channel size 。这种机制虽然增加了少量参数开销，但却有助于提升整体表现力。 ---