AUDIO 选项卡的右侧是GRAPHS 选项卡,也就是展示计算图可视化效果的地方。我们选择 GRAPHS 选项卡作为重点介绍的对象,实际上它也正是整个 TensorBoard 的灵魂所在 。在 GRAPHS 选项卡中可以看到整个 Tensor Flow 计算图的结构,如下图所示。

从上图可以看出,一些主要的部分己经用命名空间的名称表示出来,例如 layer_1 和 layer_y,以及 cross_entropy、 accuracy 和 train,这也正 是我们在程序中使用命名空间划分各部分的原因。通过命名空间手动调整计算图的可视化效果图是一种不错的做法,除此之外, TensorBoard 也会智 能调整计算图上的节点。例如,计算图中会有一些执行相同操作的节点,这会造成计算图中存在比较多的依赖关系,如果全部画在一张图上会使可 视化得到的效果图非常拥挤,于是 TensorBoard 将计算图分成了主图(Main Graph)和辅助图(Auxiliary Graph)两个部分来呈现。在上图中,左侧展示的是计算图的主图部分;右侧展示的是辅助图部分,辅助图部分包含 一些单独列出来的节点,从这些单独列出来的节点可以看到,layer_1 和 layer_y 和 train 都包含有 init 节点。我们先来关注网络的前向传播过程。
x-input节点代表训练神经网络需要输入的数据,这些输入数据会提供给第一个隐藏层 layer_1 以及 input_reshape (汇总图像数据的命名空间) , layer_1 处理之后的数据会传递到 layer_y, layer_y 的输出会传递到 cross_entropy 和 accuracy。cross_ entropy 和 accuracy 同时还接收了来自 y-input 节点的数据用于计算交叉熵损失和准确率。最后 cross_entropy节点的数据会提供给神经网络的优化过程,也就是图中位train 所代表的节点 。训练中 backward 的求解梯度和更新参数等操作是 Tenso

Tensorboard的GRAPHS选项卡展示TensorFlow计算图结构,通过命名空间区分不同部分,如layer_1和layer_y,以及cross_entropy和accuracy。计算图分为主图和辅助图,避免过于拥挤。节点间的实线边表示数据传输,边的粗细表示标量维度大小。单击节点可查看输入、输出和依赖关系,以及运行设备和参数。
最低0.47元/天 解锁文章
444

被折叠的 条评论
为什么被折叠?



