机器学习与深度学习的基本知识介绍

深度学习（Deep Learning）是机器学习（Machine Learning）的一个分支

1. 机器学习的定义
   机器学习是一种利用算法和统计模型，使计算机能够通过数据学习和改进性能的技术。
   机器学习不需要显式编程，核心是设计模型从数据中提取规律，进而进行预测或分类。
   它包含多个子领域，比如监督学习、无监督学习、强化学习等。
2. 深度学习的定义
   深度学习是机器学习的一个子领域，它的灵感来源于人脑神经元的结构，核心是深度神经网络。
   深度学习通过多层神经网络（通常包含数十甚至数百层），实现对复杂数据模式的自动提取和表达。
3. 关系与区别
   
4. 联系
   深度学习的方法属于机器学习，它是一种实现机器学习的方式。
   机器学习的很多理论（比如监督学习和无监督学习的框架）同样适用于深度学习。
   深度学习在处理复杂问题（如图像识别、语音识别）时，显著提升了机器学习的能力。
5. 总结
   深度学习是机器学习发展的一个方向，其核心优势是对复杂数据的特征提取能力更强。但深度学习对计算资源和数据量的要求更高，在某些简单任务中，传统的机器学习算法依然有竞争力。
   
   深度学习是通过设计一个网络架构让机器自行学习。
   我们在大学中学到的函数往往是y=f(x)，而神经网络便是实现了f（）这个功能，实现将多种输入转入转化为所需要的数据。例如：f(生日)=星座。
   常见的神经网络输入包括
6. 标量（Scalar）数据
   定义：单一的数值特征。
   示例：
   房价预测中的面积、房间数量等。
   股票预测中的价格、交易量等。
   

处理方式：
特征归一化或标准化（如将数据缩放到 [0, 1] 或标准正态分布）。
输入到全连接（Dense）层。
2. 向量（Vector）数据（序列数据是一种特殊的 向量数据形式）
定义：一维特征序列，通常描述一个样本的多维属性。
示例：
文本分类中的词嵌入向量。
时间序列预测中的历史数据点。

处理方式：
对文本等离散数据，通常先进行嵌入（Embedding）转换为连续向量。
可以输入到循环神经网络（RNN）或长短期记忆网络（LSTM）处理序列关系。
3. 张量（Tensor）数据
定义：高维数据，通常用于描述多通道、多维度的复杂数据结构。
示例：
图像：每张图像可以表示为三维张量（宽度、高度、通道数，如 RGB 图像）。

视频：多帧图像数据，可表示为四维张量。

语音信号：二维张量（时间步、特征维度，如梅尔频谱）。
处理方式：
图像：输入到卷积神经网络（CNN）提取特征。
视频：结合 CNN 和时间序列模型（如 RNN、Transformer）处理。
语音信号：常用卷积或时间序列模型提取特征。

神经网络设计时，需要根据数据类型选择合适的输入形式和网络架构，以充分挖掘数据的潜在信息。
常见的神经网络输出(任务类别)

回归任务（填空题）：根据以前的温度推测明天的温度大概有多高。
分类任务（选择题）： 图片： 猫/狗。
生成任务（结构化）（简答题）
如何开启深度学习







数据x通过权重w生成，在通过损失b生成数据y
但这种仅通过这些wb生成的只能生成线性的，如果要生成非线性的例如曲线，我们仅仅通过线性操作是远远不够的。
这时候就需要引入一个新的东西。
激活函数
● 如果没有激活函数，无论网络多么复杂，最后的输出都是输入的线性组合，而纯粹的线性组合并
不能解决更为复杂的问题。
● 引入激活函数之后，由于激活函数都是非线性的，这样就给神经元引入了非线性元素，使得神经网络可以逼近任何非线性函数，这样使得神经网络应用到更多非线性模型中。
激活函数最重要的特性：能求导！


如图李哥考研讲解的，不同个数sigmoid图像是不一样的，不同个数的sigmoid是不是跟曲线多少个弯曲有关呢

这样我们就可以训练获得非线性的数据了。但是不是越多越好呢
我们可以看到并不是越多越好呢，图像中我们可以看出并不是这样的，太多了拟合的就会过度，处处拟合失去了我们训练的意义。而过少又像第一幅图一样欠拟合，训练不到位。