Raki_J的博客

1.什么是RNN？有什么特点？ 2.有哪些应用模式？ 3.什么是LSTM？它的带来了什么改进？ 4.LSTM中为什么有的门用sigmoid函数有的用Tanh函数？ 5.为什么门控机制可以work？ 6.除了堆叠循环神经网络外，还有什么结构可以增加循环神经网络深度？（课后第六题） ...

1.卷积神经网络的特点？与前馈神经网络的异同点？ 2.不同的卷积核的作用是什么？ 3.汇聚层（pooling layer）的作用是什么？ 4.1x1卷积有什么作用？ 5.ResNet为什么可以训练那么深？残差连接为什么work？ ...

1.神经网络的主要特性是什么？ 2.为什么要有激活函数？激活函数需要具备什么特点？ 3.logistic函数和Tanh函数的异同点？ 4.ReLU函数为什么能被广泛应用，它有什么优缺点？ 5.根据通用近似定理，前馈神经网络能拟合任意函数，什么导致它达不到理想效果？ 6.什么是特征抽取 7.推导一下MLP的反向传播 8.为什么会出现梯度消失和梯度爆炸？如何减轻？ ...

1.什么是决策边界？ 2.logistic regression的激活函数的作用是什么？ 3.logistic regression的公式？ 4.softmax和logistic回归的异同点，在二分类的时候是等价的吗？ 5.描述三类SVM 6.核函数的作用？ 7.平方，hinge，交叉熵，感知器，0-1损失分别适用什么场景，有什么异同点 ...

1.什么是机器学习？ 通俗地讲，机器学习（Machine Learning，ML）就是让计算机从数据中进行自动学习，得到某种知识（或规律）．作为一门学科，机器学习通常指一类问题以及解决这类问题的方法，即如何从观测数据（样本）中寻找规律，并利用学习到的规律（模型）对未知或无法观测的数据进行预测． 2.为什么训练集每个样本都要独立同分布？ 知乎的问题：为什么机器学习中, 要假设我们的数据是独立同分布的? 3.机器学习三个基本要素？ 模型，学习准则，优化算法 4. 为什么模型会过拟合？有什么防止模型过拟合的方法？

1. 神经网络和深度学习是等价的吗？ 并不等价，深度学习可以采用神经网络模型，也可以采用其他模型（比如深度信念网络） 2. 浅层学习和深度学习的主要区别是什么？ 浅层学习的一个重要特点是不涉及特征学习，其特征主要靠人工经验或特征转换方法来抽取，而深度学习模型可以自动抽取特征 3. 什么是表示学习？什么是好的表示？有哪些表示方法？ 为了提高机器学习系统的准确率，我们就需要将输入信息转换为有效的特征（比如word embedding），或者更一般性地称为表示（Representation）．如果有一种算法可以自