rmyd01的博客

版权信息 书名：TensorFlow技术解析与实战 ISBN：978-7-115-45613-7 本书由人民邮电出版社发行数字版。版权所有，侵权必究。 您购买的人民邮电出版社电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。 我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。 如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并...

内容提要 TensorFlow 是谷歌公司开发的深度学习框架，也是目前深度学习的主流框架之一。本书从深度学习的基础讲起，深入TensorFlow框架原理、模型构建、源代码分析和网络实现等各个方面。全书分为基础篇、实战篇和提高篇三部分。基础篇讲解人工智能的入门知识，深度学习的方法，TensorFlow的基础原理、系统架构、设计理念、编程模型、常用API、批标准化、模型的存储与加载、队列与线程，实现...

序 今天深度学习已经渗透到互联网技术和产品的方方面面，它从学术界的一个研究课题变成了被工业界最广泛应用的关键技术。对于每一个程序员，我认为都应该或多或少了解和掌握深度学习。对于初学者来说，从TensorFlow入手是很好的起点。TensorFlow有谷歌的强大支持，并且有广泛的社区。 本书的作者李嘉璇曾是百度的一名优秀工程师，一位非常勤奋的女生。她在工作之余致力于人工智能的研究，对深度学习框架...

前言 缘起 2017年2月，TensorFlow的首届开发者峰会（2017 TensorFlow Dev Summit）在美国的加利福尼亚州举行。在会上，谷歌公司宣布正式发布TensorFlow 1.0版本。本书就是基于最新的1.1.0版本来介绍TensorFlow的技术解析和实战。 人工智能大潮来了。2016年，AlphaGo击败围棋大师李世石后，人工智能的应用仿佛一夜之间遍地开花。在科技...

第一篇　基础篇 著名历史学家斯塔夫里阿诺斯在《全球通史》中，曾以15世纪的航海在“物理上”连通“各大洲”作为标志将人类历史划分为两个阶段。在我正在写作的《互联网通史》中，我把互联网这个“信息上”连通“人类个体”的物件作为划分人类历史的标志。而随着人工智能最近的崛起，我们又该思考重新划分了，因为人工智能将会在“信息上”连通“各个物体”。到那时各个物体都有“智能”，如智能汽车、智能电视、扫地机器人、...

第1章　人工智能概述 有人说，人工智能在世界范围的流行，是因为那盘围棋。2016年3月，谷歌公司的AlphaGo向韩国棋院围棋九段大师李世石发起挑战，而这棋局走法的可能性有361!种，最终AlphaGo战胜了这场“棋局数比可见宇宙中的原子数还多”的智力游戏。2015年11月9日（在距这场比赛前4个月），谷歌公司开源了它的第二代深度学习系统TensorFlow，也就是AlphaGo的基础程序。 ...

第2章　TensorFlow环境的准备 本章的主要任务就是准备TensorFlow环境。与安装其他软件（如Caffe）相比，TensorFlow极容易安装，环境部署极为轻松。 接下来我们先介绍下载TensorFlow代码仓库，然后介绍基于pip的安装方式、基于Java的安装方式以及使用Bazel的源代码编译安装方式。 2.1　下载TensorFlow 1.1.0 2017年5月，Tenso...

第3章　可视化TensorFlow 可视化是认识程序的最直观方式。在做数据分析时，可视化一般是数据分析最后一步的结果呈现。把可视化放到“基础篇”，是为了让读者在安装完成后，就能先看一下TensorFlow到底有哪些功能，直观感受一下深度学习的学习成果，让学习目标一目了然。 3.1　PlayGround PlayGround[1]是一个用于教学目的的简单神经网络的在线演示、实验的图形化平台，非...

第4章　TensorFlow基础知识 本章主要参考TensorFlow官方网站上的新手入门[1]和扩展教程[2]，讲解TensorFlow的基本概念。本章从系统架构、设计理念、编程模型、常用API、存储与加载模型、线程及队列、加载数据、自定义操作等多个方面进行讲解，相信通过本章的学习，读者会对TensorFlow的全貌有一个基本的认识。本章的学习对理解TensorFlow的原理和实战非常重要，读...

第5章　TensorFlow源代码解析 在了解了TensorFlow的基本原理、编程模型和常用API后，我们一起梳理一下TensorFlow的源代码，以便更深入地理解TensorFlow的设计，为今后学习各种模型示例做准备。 源代码解析往往是学习一门新技术时，能够整体理解其框架的重要途径，相信本章会是很多程序员最喜爱的一章。 5.1　TensorFlow的目录结构 我们仍然以TensorF...

第6章　神经网络的发展及其TensorFlow实现 卷积神经网络（convolutional neural network，CNN）的演进从LeNet到AlexNet，再到VggNet、GoogLeNet，最后到ResNet，演进的方式有一定规律，并且也在ImageNet LSVRC竞赛上用120万张图片、1000类标记上取得了很好的成绩。循环神经网络（recurrent neural netw...

第7章　TensorFlow的高级框架 得益于TensorFlow社区的繁荣，诞生出许多高质量的元框架（metaframework），如Keras、TFLearn、TensorLayer等。使用元框架能够大大减少编写TensorFlow代码的工作量，方便开发者快速搭建网络模型，并且使代码简单、可读性强。 本章我们主要讲解官方默认支持的Keras和老牌的TFLearn提供的高级API。 7.1...

第二篇　实战篇 经过基础篇的学习，相信读者对TensorFlow的基本概念已经掌握得很好了，而实战是一个程序员的自我修养。 俄罗斯著名的戏剧和表演理论家康斯坦丁·斯坦尼斯拉夫斯基在他的著作《演员的自我修养》里主张体验，让演员和角色合二为一，这样才能把角色内心生活的一切不可捉摸的细微变化和全部深度，艺术地表达出来。只有这样的艺术才能完全抓住观众的心，使观众弄明白舞台上所发生的一切，丰富观众的内心...

第8章　第一个TensorFlow程序 理解TensorFlow的运行方式对后面几章的具体实战非常重要。本章就用一个简单的例子来讲解TensorFlow的运行方式。 8.1　TensorFlow的运行方式 TensorFlow的运行方式分如下4步： （1）加载数据及定义超参数； （2）构建网络； （3）训练模型； （4）评估模型和进行预测。 下面我们以一个神经网络为例，讲解Tens...

第9章　TensorFlow在MNIST中的应用 MNIST[1]（Mixed National Institute of Standards and Technology）是一个入门级的计算机视觉数据集，数据集中都是美国中学生手写的数字。它的训练集包含6万张图片，测试集包含1万张图片，并且数字已经进行过预处理和格式化，做了大小调整并居中，图片尺寸也固定为28×28。这个数据集很小，但训练速度很...

第10章　人脸识别 人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，并自动在图像中检测和跟踪人脸，进而对检测　到的人脸进行一系列与脸部相关的技术处理，包括人脸检测、人脸关键点检测、人脸验证等。 在《麻省理工科技评论》（MIT Technology Review）发布的2017年全球十大突破性技术榜单中，支付宝的“刷脸支付”（Paying...

第11章　自然语言处理 自然语言处理[1]是计算机科学领域与人工智能领域中的另一个重要方向，其中很重要的一点就是语音识别（speech recognition）。语音识别要解决的问题是让计算机能够“听懂”人类的语音，将语音中包含的文字信息“提取”出来。 与语言相关的技术可以应用在很多地方。例如，日本的富国生命保险公司花费170万美元安装人工智能系统，把客户的语言转换为文本，并分析这些词是正面的...

第12章　图像与语音的结合 斯坦福大学人工智能实验室的李飞飞教授在2017年极客大会上曾经讲过，实现人工智能要有3个要素：语法（syntax）、语义（semantics）和推理（inference），如图12-1所示。 图12-1 语言和视觉是人工智能界非常关注的点，也就是说，在语言和视觉层面，通过语法（对语言来说是语法解析，对视觉来说是三维结构的解析）和语义（对语言来说是语义，对视觉来...

第13章　生成式对抗网络 生成式对抗网络（generative adversarial network，GAN）是由谷歌公司在2014年提出的一个网络模型，主要灵感来自于二人博弈中的零和博弈，也是目前最火热的非监督深度学习的代表。“GAN之父”Ian J. Goodfellow也被公认为人工智能的顶级专家。 Yann Lecun在Quora上答题时曾说，他最激动的深度学习进展是生成式对抗网络。...

第三篇　提高篇 终于学完基础篇和实战篇了，相信读者已经掌握了先阅读论文了解原理，然后复现模型、调整模型，最后用自己的数据训练模型的一整套方法。下面我们进入提高篇，提高篇主要着力于在训练集数据量极大、网络模型极大（也就是参数极多）的情况下，我们应该采用什么样的分布式架构设计，以及如何配合Kubernetes、Spark等工具来做训练。 除此之外，还介绍几个TensorFlow非常有潜力的新特性，...

第14章　分布式TensorFlow TensorFlow的一大亮点就是支持分布式计算。分布式TensorFlow是由高性能的gRPC库作为底层技术来支持的。本章我们就来学习分布式TensorFlow所支持的架构和适用场景。 本章前3节主要参考了Martín Abadi、Ashish Agarwal和Paul Barham等的论文《TensorFlow: Large-Scale Machine...

第15章　TensorFlow线性代数编译框架XLA XLA（Accelerated Linear Algebra）是用于线性代数领域的专用编译器（domain-specific compiler），用于优化TensorFlow计算。XLA通过即时（just-in-time，JIT）编译或提前（ahead-of-time，AOT）编译来进行实验，尤其有助于面向硬件加速的开发者。XLA框架目前还是...

第16章　TensorFlow Debugger[1] TensorFlow Debugger（tfdbg）是TensorFlow的专用调试器。它使用断点和计算机图形化来展现实时数据流，提供了运行TensorFlow图形的内部结构和状态的可视化。这种可视化非常有助于在训练和推理期间调试各种类型的模型错误。 本章会通过讲解如何调试TensorFlow模型开发中一种常见的错误类型——非数字（nan...

第17章　TensorFlow和Kubernetes结合 在AlphaGo中，每个实验使用1 000个节点，每个节点有4个GPU，也就是使用了4 000个GPU。在Siri中，每个实验2个节点，也就是使用了8个GPU。可想而知，AI研究的进行依赖于海量数据的计算，同时也离不开高性能计算资源的支持。 在第14章中我们已经讲解了TensorFlow的分布式原理以及部署方式。随着海量数据的出现和模型...

第18章　TensorFlowOnSpark 在第14章我们讲了TensorFlow的分布式运行，在第17章又介绍了使用Kubernetes集群对TensorFlow节点进行调度、监控和失败重启等功能。我们知道，Hadoop生态的大数据系统一般可以分为Yarn、HDFS和MapReduce计算框架，TensorFlow本身的分布式就相当于MapReduce计算框架部分，而Kubernetes就相...

第19章　TensorFlow移动端应用 深度学习在声频、图像、视频处理上已经取得了令人印象深刻的进步，但它通常运行在功能强大的计算机上，如果需要运行在手机等移动设备或者树莓派等嵌入式平台上呢？ TensorFlow目前是最有竞争力成为未来主流的深度学习框架，谷歌公司不仅为自己研发的操作系统——Android提供了TensorFlow移动端支持，而且对iOS和树莓派也提供了移动端支持。 19...

第20章　TensorFlow的其他特性 随着TensorFlow的版本不断迭代，目前它已经有很多新特性。除了第15章和第16章介绍的XLA和Debugger外，还有一个非常好的生产系统使用模型服务系统——TensorFlow Serving，以及支持动态图计算的TensorFlow Fold。此外，还有一些基于硬件的优化方法也是目前人工智能发展的趋势。本章就来介绍一下这些内容。 20.1　T...

第21章　机器学习的评测体系 当我们训练完一个模型之后，如何评价这个模型的好坏呢？准确率是一个评价标准，但它仅仅是相对于这个模型对测试集的预测结果。抛开这些，如何看待这个模型在解决语音或图像的某个具体问题时是否能发挥作用呢？这就涉及评价模型的性能指标。本章主要讲解人脸识别和智能聊天机器人的性能指标，以及机器翻译的评价方法和常用的通用评价指标。 21.1　人脸识别的性能指标 人脸识别的主要性能...

附录A　公开数据集 为了方便读者进行更多实践，本附录给读者介绍一些可用的公开数据集。 A.1　图片数据集 ImageNet[1]是目前世界上最大的图像识别数据集，包含14197122张图像，由斯坦福大学视觉实验室终身教授李飞飞创立。每年的ImageNet大赛是国际上计算机视觉的顶级赛事。 COCO[2]是微软创立的用于分割和加字幕标注的数据集。其主要特征如下： 目标分割； 通过...

附录B　项目管理经验小谈 终于到本书的最后部分了，相信通过前面的学习你已经对TensorFlow的基础知识和实战了解得很全面了，那就快快动手结合自己的业务实现一个Demo吧。作为一个技术人员，你也不可避免地会遇到职场上的管理和流程问题，而且随着工作年限的提高，你可能早晚都要做一个纯管理者或者技术管理者，或者是一个被别人经常请教技术方案的人。本章我就说一些在工作中的项目管理经验。 B.1　管理的...

欢迎来到异步社区！ 异步社区的来历 异步社区(www.epubit.com.cn)是人民邮电出版社旗下IT专业图书旗舰社区，于2015年8月上线运营。 异步社区依托于人民邮电出版社20余年的IT专业优质出版资源和编辑策划团队，打造传统出版与电子出版和自出版结合、纸质书与电子书结合、传统印刷与POD按需印刷结合的出版平台，提供最新技术资讯，为作者和读者打造交流互动的平台。 社区里都有什么...