wu_demi的博客

模型介绍1 核心概念TensorFlow中的计算可以表示为一个有向图（directed graph),或称计算图（computation graph），其中每一个运算操作（operation）将作为一个节点（node），节点与节点之间的连接称为边（edge)。计算图中每一个节点可以有任意多个输入和任意多个输出，每一个节点描述了一种运算操作，节点可以算是运算操作的实例化（inst

TensorFlow的节点分配一个硬件设备时，计算图会按依赖关系被顺序执行。 一个节点的所有上游依赖都被执行完时（依赖数为0），此节点加入ready queue，同时下游节点依赖数减1。多个设备时： （1）每一个节点该让什么硬件设备执行 （2）如何管理节点间的数据通信 问题一，TensorFlow设计了一套节点分配设备的策略（贪婪策略，不能确保找到最优解）。 首先，策略需要计算一个代价