【tensorflow入门】11、tensorboard可视化--绘制直方图histogram+标量信息scalas

最新推荐文章于 2025-06-07 00:07:46 发布

PrincessLin

最新推荐文章于 2025-06-07 00:07:46 发布

阅读量1.2k

点赞数

CC 4.0 BY-SA版权

分类专栏：学习笔记文章标签： tensorflow tensorboard 可视化

本文链接：https://blog.youkuaiyun.com/PrincessLin/article/details/90720614

本文介绍了在TensorFlow中使用TensorBoard进行直方图和标量信息的可视化过程中遇到的问题及解决办法，包括函数更新、图形冲突和显示异常。关键代码展示了如何创建scalar和histogram，并使用`tf.summary.merge_all()`和`tf.summary.FileWriter`进行数据写入。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文为tensorboard的进一步使用，tensorboard的安装及最初使用方法见【tensorflow入门】10、可视化--Tensorboard的安装、使用、排雷

代码见文章最后。

一、踩雷！

本人跟着莫烦教程学习，莫烦教程视频中的tensorflow代码现在已不适用，我改了好久！

1、几个函数更新：

tf.train.SummaryWriter 改为：tf.summary.FileWriter
tf.merge_all_summaries() 改为：summary_op = tf.summary.merge_all()
tf.histogram_summary() 改为：tf.summary.histogram()
tf.scalar_summary() 改为：tf.summary.scalar()

否则会报错！

2、tensorboard的图好像每次只能使用一个，不然会报奇怪的错误：

错误特别长，报错的具体内容：

InvalidArgumentError: You must feed a value for placeholder tensor 'inputs/x_input' with dtype f

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

PrincessLin

关注关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

tensorflow的可视化工具Tensorboard的使用——直方图（histogram,distributions）的使用

wgj99991111的博客

12-02

1万+

今天学习tensorboard中直方图的使用。首先了解下直方图的含义： GB/T3358.1—2009对“直方图”的定义是:频数分布的一种图形表示，由一些相邻的长方形组成，每个长方形的底宽等于组距，面积与组的频数成比例。也就是说，直方图是表示频次分布情况的一种图像，在tensorboard中，用直方图显示张量，主要就是显示张量中每个值的出现频次。一、代码添加首先在层的应用函数中加入数据采集代...

tensorboard的histogram数据解读

windows2的专栏

10-13

5131

仔细研究了一下tensorboard的直方图表示参考文献, 官方文档:https://www.tensorflow.org/get_started/tensorboard_histograms import tensorflow as tf k = tf.placeholder(tf.float32) # Make a normal distribution, with a shifti

参与评论您还未登录，请先登录后发表或查看评论

Tensorboard图表Histogram和Distribution

最新发布

yyc_Young的博客

06-07

265

Tensorboard中Histogram和Distribution的介绍

tensorflow----tensorboard之histogram与distributions

xys430381_1的专栏

06-13

5555

https://blog.youkuaiyun.com/akadiao/article/details/79551180 https://blog.youkuaiyun.com/wgj99991111/article/details/84708255 在训练神经网络时，当需要查看一个张量在训练过程中值的分布情况时，可通过tf.summary.histogram()将其分布情况以直方图的形式在TensorBoard直方图仪...

Tensorflow学习记录6 Tensorboard-histogram

RonnyChan的博客

03-12

302

""" 输出结果可视化2 histogram """ import tensorflow as tf import numpy as np def add_layer(inputs, in_size, out_size, n_layer, activation_function=None): # add one more layer and return the output of ...

tensorflow histgram

Evan Programming

02-29

227

最开始用的时候，我把一个正态分布clip掉小于0的部分，但是结果总是这种奇奇怪怪的图。后来我发现是clip不是删掉小于0的部分，而是把小于0的部分变成0.这样的话0的比重就会非常大，以至于左边有一个峰。另外一点为什么在左边有一个斜坡，我猜测是数值计算的问题，或者是画图显示的问题。后来保证clip掉的点不会有太大的影响，就没有什么问题了。下面这个图是把绝对值大于10的clip掉。还有一...

【Pytorch】Tensorboard用法：标量曲线图、直方图、模型结构图

Jnchin的博客

11-03

1万+

在机器学习中，我们一般需要记录模型训练的评估指标、参数等等。TensorBoard就是一个功能极为强大的机器学习实时检测并可视化的工具。它可以实时跟踪并可视化loss、acc等标量，可以使用直方图、分布图来展示权重和梯度分布的变化，也可以展示出模型的架构图，还可以将将嵌入向量投影到较低维度的空间从而可视化等等。起源 TensorBoard最早是TensorFlow 的可视化工具包。早期PyTorch是不支持Tensorboard的，于是lanpa大佬就开发了一个完全支持PyTorch的Tensorboar

Tensorboard 直方图Summary使用指南

gaotihong的博客

10-30

761

参考文献： https://www.jianshu.com/p/d059ffea9ec0 https://blog.youkuaiyun.com/u010099080/article/details/77426577 https://zhuanlan.zhihu.com/p/37022051 主要内容：如何解读Histogram Dashboard的信息用途当你想查看一个tensor在训练过程的...

tensorflow 可视化（tensorboard显示）——histogram，scalar

zangba9624的博客

12-13

881

scalar是用来显示accuracy，cross entropy，dropout等标量变化趋势的函数。通过scalar可以看到这些量随着训练加深的一个逐步变化的过程，进而可以看出我们模型的优劣。注意： 1）scalar只能用于单个标量的显示，不能显示张量； 2）scalar可以显示多次训练的结果变量变量则可使用Tensorflow.histogram_summary()方法： tf.hi...

tensorboard 添加histogram、scalar

m0_51328444的博客

04-05

429

添加输入 def add_layer(inputs,in_size,out_size,n_layer,activation_function=None): layer_name='layer%s'%n_layer#输出结果为layern_layer,以字符串形式编辑神经层 tf.summary.histogram(layer_name+'weights',Weights)#纵轴是weights,表示的是Weights tf.summary.histogram(layer_name+'.

Tensorboard（1）标量与直方图可视化

洪流之源

09-22

617

Tensorboard 标量与直方图可视化

tensorboard 数据降维分布图_TensorBoard 直方图信息中心

weixin_42467634的博客

12-10

494

2018 年我们发布了一篇TensorBoard：可视化学习指南，介绍了如何使用 TensorBoard 这套可视化工具。为了让大家更多的了解TensorBoard 的使用，昨天我们发布了TensorBoard：图的直观展示，图的直观展示可帮助您理解图并对图进行调试。今天，我们将介绍“TensorBoard 直方图信息中心”，TensorBoard 直方图信息中心用于显示在 Te...

OpenCV+Tensorflow 人工智能图像处理（三十一）—— 彩色直方图

qq_42006303的博客

03-27

261

import cv2 import numpy as np def ImageHist(image, type): #定义方法 color = (255, 255, 255) windowName = 'Gray' if type == 31: color = (255, 0, 0) windowName = 'B Hist' ...

TensorFlow学习－－tf.summary.histogram与直方图仪表板/tensorboard_histograms

热门推荐

akadiao的博客

03-14

3万+

在训练神经网络时，当需要查看一个张量在训练过程中值的分布情况时，可通过tf.summary.histogram()将其分布情况以直方图的形式在TensorBoard直方图仪表板上显示． tf.summary.histogram tf.summary.histogram(): 输出一个直方图的Summary protocol buffer . name：生成的节点名称.作为Tensor...

Histogram in Scala

bzhangusc的专栏

01-15

607

```.scala scala> val hist=Array("aa","bb","aa").foldLeft(Map[String,Int]()){ | (m,c) => m + (c -> (m.getOrElse(c,0)+1)) | } ``` or use the updated method of mutable Map ```.scala scala>

如何使用tensorboard add_histogram，如何观察HISTOGRAMS

duoyasong5907的博客

06-20

2742

tensorboard

tensorflow批量直方图快速计算

joey周琦

03-22

964

最近在实现DRRM, 计算直方图，官方的api, tf.histogram_fixed_width不支持批量的直方图计算在网上搜了一些方法，https://stackoverflow.com/questions/41764199/row-wise-histogram/，但是运算速度都比较慢，我自己想了一种，根据连续值转整型的方法，来进行批量计算直方图。 tensor: 是输入的tensor n...

TensorFlow+OpenCV图像处理（四图片美化——直方图处理、均衡化、图片修补）

qq_951274168的博客

06-20

634

文章目录4.1彩色图像直方图处理 4.1彩色图像直方图处理 import cv2 import numpy as np def ImageHist(image,type): color = (255,255,255) windowName = 'Gray' if type == 31: color = (255,0,0) windowName = 'B Hist' elif type == 32: color = (0,255,

请示范使用tensorflow架构下tensorboard可视化swin-transformer模型训练过程中的权重在图上的分布

03-14

<think>嗯，用户让我示范如何使用TensorBoard在TensorFlow架构下可视化Swin-Transformer模型训练过程中的权重分布。首先，我需要确认用户对Swin-Transformer和TensorBoard的了解程度。可能用户已经有一定的模型训练经验，但不太清楚如何集成可视化部分。首先，我应该回忆一下Swin-Transformer的结构。Swin-Transformer通常包含多个块，每个块里有窗口多头自注意力和MLP层。每个层都有相应的权重，比如查询、键、值的矩阵，还有MLP中的全连接权重。这些权重需要被记录下来，才能在TensorBoard中查看它们的分布。接下来，TensorBoard的权重分布通常通过tf.summary.histogram来实现。所以，用户需要在训练循环中，在每个步骤或每个epoch结束时，记录各个层的权重。但具体如何将这些钩子函数集成到模型中呢？特别是如果用户使用的是自定义模型或Keras API，可能需要重写call方法，或者在模型构建时添加跟踪权重的逻辑。然后，用户可能需要一个完整的步骤示例，包括模型构建、回调函数的设置、训练循环以及启动TensorBoard的命令。需要注意的是，如果用户使用的是TensorFlow 2.x，那么他们可能更倾向于使用Keras的高层API，所以示例代码需要符合这种风格。另外，要考虑到Swin-Transformer的实现可能有不同的变体，用户可能使用的是第三方库或者自己实现的模型。因此，示例代码需要足够通用，或者指导用户如何根据他们的模型结构添加跟踪代码。可能遇到的问题包括：如何访问模型中的各个层，特别是如果模型有嵌套结构（比如多个Swin块，每个块里又有多个子层）。这时候可能需要递归遍历模型的所有层，找到特定的层类型（比如Dense或Conv2D），然后记录它们的权重。还要提醒用户，记录所有层的权重可能会增加计算和存储的开销，尤其是在模型很大时。因此，可能需要根据实际情况调整记录的频率，比如每个epoch而不是每个batch。最后，确保示例代码中的路径正确，用户需要知道如何指定日志目录，并在训练后启动TensorBoard服务。可能还需要解释TensorBoard中如何查看直方图，并解读分布的变化，比如权重是否出现梯度消失或爆炸的情况。</think>以下是在TensorFlow中使用TensorBoard可视化Swin-Transformer权重分布的示范步骤： $$ \begin{aligned} &\text{Swin-Transformer权重直方图记录流程} \\ &1.\text{ 模型构建} \rightarrow 2.\text{ 回调函数配置} \rightarrow 3.\text{ 训练循环} \rightarrow 4.\text{ 可视化分析} \end{aligned} $$ --- **步骤1：模型构建（含权重跟踪）** ```python import tensorflow as tf from tensorflow.keras.layers import Layer class SwinBlock(Layer): def __init__(self, **kwargs): super().__init__(**kwargs) # 窗口多头注意力层 self.w_msa = tf.keras.layers.MultiHeadAttention( num_heads=4, key_dim=64) # MLP层 self.mlp = tf.keras.Sequential([ tf.keras.layers.Dense(256, activation='gelu'), tf.keras.layers.Dense(64) ]) def call(self, inputs): # 前向传播时记录权重 for w in self.w_msa.weights: # 记录注意力权重 tf.summary.histogram(f"{self.name}/W-MSA/{w.name}", w) for w in self.mlp.weights: # 记录MLP权重 tf.summary.histogram(f"{self.name}/MLP/{w.name}", w) return self.mlp(self.w_msa(inputs, inputs)) ``` --- **步骤2：配置回调函数** ```python log_dir = "logs/swin_weights" # 创建TensorBoard回调 tb_callback = tf.keras.callbacks.TensorBoard( log_dir=log_dir, histogram_freq=1, # 每个epoch记录直方图 update_freq='epoch' ) ``` --- **步骤3：模型训练** ```python # 构建示例模型 model = tf.keras.Sequential([ SwinBlock(name='swin_block1'), SwinBlock(name='swin_block2') ]) model.compile(optimizer='adam', loss='mse') # 假设有虚拟训练数据 X_train = tf.random.normal((100, 64)) y_train = tf.random.normal((100, 64)) # 开始训练并记录 model.fit(X_train, y_train, epochs=5, callbacks=[tb_callback]) ``` --- **步骤4：启动TensorBoard** ```bash tensorboard --logdir logs/swin_weights ``` --- **可视化分析要点：** 1. 访问 `http://localhost:6006` 查看直方图 2. 在`HISTOGRAMS`标签页中： - 检查权重分布是否呈现钟型（理想情况） - 监测梯度消失/爆炸（分布极端偏移） - 对比不同层权重范围差异 3. 典型权重分布示例： $$ \text{理想分布：} \mathcal{N}(\mu \approx 0, \sigma \approx 0.05) $$ $$ \text{梯度爆炸：} \mathcal{N}(\mu=1.2, \sigma=3.8) $$ --- **注意事项：** 1. 对于大型模型，建议设置`histogram_freq`为较大的间隔值 2. 使用`layer.name`确保权重标签唯一性 3. 可结合`tf.summary.scalar`记录标量统计量（均值/方差）