神经网络与深度学习总结（1）

1.概述

作者本科阶段是自动化专业，主要做的是滑模控制相关的内容。读研阶段深感控制学科的局限性，于是决定投身于人工智能的学习。

这有一个很重要的契机，作者平时爱好画画，有时也会画些原创作品投到网站上，研一的时候偶然接触到了stable diffusion，在家里只用3060ti就可以完成通过别人预训练的模型，通过简单的提示词完成作品的绘制，这让我大受震惊，于是开始了对AIGC的学习和了解。

AIGC（AI Generated Content)属于人工智能的一个分支，主要涉及到的知识点就是神经网络与深度学习。于是我开始了从零开始的学习规划。

神经网络与深度学习更大一些的分支是机器学习，又称统计学习。神经网络是其中的重要分支，在如今的时代已经功高盖主了。

因为我经历了考研，所以概率论部分的数学知识还算扎实。就从Python和李航老师的《统计学习》开始了学习。

理论部分的学习现在来看对我受益匪浅，虽然目前我在读神经网络相关的文献时很少看到与这些相关的内容，但很多基础知识点的相通性很强。我个人认为传统的机器学习是很值得了解的部分，里面的诸多概念和方法在神经网络中依然适用。《统计学习》这本书第2版，分为了监督学习和非监督学习两部分，我的学习方式是逐章细读，自己推导公式，但后来发现这样进度很慢，最后进行到18章。回头来看的话，建议重点选择其中的部分章节细读，主要了解特征工程到参数学习每一步的理论，损失函数的推导与计算。打好基础很重要，个人比较推荐第1,2,4,5,6,7,8,10,15,16这些章。

2.神经网络与深度学习

进入到神经网络与深度学习部分，理论部分我开始用的书是邱锡鹏老师的《神经网络与深度学习》，这本书我个人是很推荐的，理论讲