031-机器学习背后的思维-针对入门小白的概念算法及工具的朴素思考

本文将TensorFlow的数据流图比喻为工厂流水线设计图,详细介绍了数据流图中的节点和边,包括计算节点、存储节点、数据节点、张量及稀疏张量等,并阐述了使用图的方式描述映射关系的原因,即不仅便于人类理解,还利于任务并行化。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

11.2 TensorFlow 数据流图

TensorFlow的数据流图(graph),类比于一个工厂流水线的设计图。 你要设计每一 个车间的功能,每一个车间与其上下游车间的关系, 保证原材料可以流畅地从第一车 间开始, 经过粗加工,精加工,装配,包装等等工序, 最后成为一个产品。 既然是 图, 一定包括「边」和「结点 node」。 又因为它一个有向图, 所以, 边是带箭头指 明数据的流动方向。 前面我们也多次提到, 一个概念的名字就是这个概念最简洁的 解释。 Tensor就是多维数据,Flow就是流动。 TensorFlow就是多维数据在有向图中流 动。

讲到这里,我们提出一个问题,为什么要用图的方式来描述一个映射关系呢?

想一下? ···

其原因并不仅仅是方便人们用眼睛观察,设计与分析模型。 还有另一个〸分重要 的考量:用图描述模型方案,便于利用图论做任务并行化。 随着计算图的逐步开展, 我们可以根据入度为零的节点把当前计算图分割成若干个子图, 每一个子图可被指派 到不同的计算设备(如 CPU 或 GPU)中去进行计算。

数据流图中, 对节点和边做了更细致地分类来满足具体的需求。 譬如, 节点被 分为计算节点(operation), 存储节点(variable), 数据节点(placeholder)。 其 中, 这里计算除了包括数学操作, 也包括逻辑运算; 存储节点主用于存权重wiw_iwi 、偏 置bbb 的。 数据节点是为了描述输入数据xix_ixi 的维度形状以及数据类型的。

有向边被分为张量(tensor)和稀疏张量(sparse tensor)。 其中,稀疏张量的引 入是为了省一些存储空间, 因为高维数据中大部分为零,都存下来太浪费磁盘。 你也可以理解为是种数据压缩后的普通张量。

总结一下, 深度神经网络结点之间的高度互连以传播和加工数据(消息), 而且,这些结点是天然并行工作的,极大地提高了工作效率。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值