一、人工智能基础

一、人工智能基础

内容参考来自https://github.com/dragen1860/Deep-Learning-with-TensorFlow-book开源书籍《TensorFlow2深度学习》，这只是我做的简单的学习笔记，方便以后复习。

1.人工智能的三起三落

第一次兴盛期：1958 年，美国心理学家 Frank Rosenblatt 提出了第一个可以自动学习权重的神经元模型，一般认为 1943 年~1969 年为人工智能发展的第一次兴盛期。

第一次寒冬：1969 年，美国科学家 Marvin Minsky 等人在出版的《Perceptrons》一书中指出了感知机等线性模型的主要缺陷，即无法处理简单的异或 XOR 等线性不可分问题。这直接导致了以感知机为代表的神经网络的相关研究进入了低谷期，一般认为 1969 年~1982 年为人工智能发展的第一次寒冬。

第二次兴盛期：1982 年，随着 John Hopfild 的循环连接的 Hopfield 网络的提出，开启了 1982 年~1995年的第二次人工智能复兴的大潮，这段期间相继提出了卷积神经网络、循环神经网络、反向传播算法等算法模型。1997 年，现在应用最为广泛的循环神经网络变种之一 LSTM 被 Jürgen Schmidhuber 提出；同年双向循环神经网络也被提出。

第二次寒冬：遗憾的是，神经网络的研究随着以支持向量机(Support Vector Machine，简称 SVM)为代表的传统机器学习算法兴起而逐渐进入低谷，称为人工智能的第二次寒冬。

第三次兴盛期：2006 年，Geoffrey Hinton 等人发现通过逐层预训练的方式可以较好地训练多层神经网络，并在 MNIST 手写数字图片数据集上取得了优于 SVM 的错误率，开启了第三次人工智能的复兴。

1943 年~2006 年之间的重大时间节点

2006 年~2019 年之间重大的时间节点。

2.深度学习的主要应用

• 计算机视觉
  • 图片识别(Image Classification)：图片识别是最早成功应用深度学习的任务之一，经典的网络模型有 VGG 系列、
    Inception 系列、ResNet 系列等。
  • 目标检测(Object Detection)：常见的目标检测算法有 RCNN、Fast RCNN、Faster RCNN、Mask RCNN、SSD、YOLO 系列等。
  • 语义分割(Semantic Segmentation)：常见的语义分割模型有 FCN、U-net、SegNet、DeepLab 系列等。
  • 视频理解(Video Understanding)：常见的视频理解任务有视频分类、行为检测、视频主体抽取等。常用的模型有 C3D、TSN、DOVF、TS_LSTM等。
  • 图片生成(Image Generation)：目前常见的生成模型有 VAE 系列、GAN 系列等
• 自然语言处理
  • 机器翻译(Machine Translation)：常用的机器翻译模型有 Seq2Seq、BERT、GPT、GPT-2 等
  • 聊天机器人(Chatbot)：常应用在咨询系统、娱乐系统、智能家居等中。
• 强化学习
  • 虚拟游戏：常用的强化学习算法有 DQN、A3C、A2C、PPO 等
  • 机器人(Robotics)
  • 自动驾驶(Autonomous Driving)

3.TensorFlow 三大核心功能

• 加速计算
• 自动梯度
• 常用神经网络接口

4.CUDA 安装

• CUDA 软件安装 ，打开 CUDA 程序的下载官网：https://developer.nvidia.com/cuda-10.0-download-archive
• cuDNN 神经网络加速库安装https://developer.nvidia.com/cudnn,下载完成 cuDNN 文件后，解压文件夹
• 环境变量 Path 配置

5.TensorFlow 安装

# GPU 安装
pip install -U tensorflow-gpu -i https://pypi.tuna.tsinghua.edu.cn/simple

# CPU 安装
pip install -U tensorflow -i https://pypi.tuna.tsinghua.edu.cn/simple