6.深度卷积神经网络

1.深度卷积神经网络ALexNet 2012

• 在深度学习之前的网络
  • 机器学习（SVM） 2010年之前
    • 提取特征
    • 选择核函数来计算相关性
    • 凸优化问题
    • 漂亮的定理（优点：有一套完整的数学定理支持）
  • 几何学 2000年
    • 抽取特征
    • 描述几何（例如多相机）
    • （非）凸优化
    • 漂亮定理
    • 如果假设满足了，效果非常好
  • 特征工程
    • 特征工程是关键
    • 特征描述子：SIFT SURF（特征提取算法）
    • 最后使用SVM

• 深度神经网络能再起，数据和运算起到关键作用

  • ImageNet（2010）
    • 图片：自然物体的彩色图片
    • 大小：469 * 387