22、神经网络算法入门：原理、发展与应用

神经网络算法入门：原理、发展与应用

1. 监督学习回顾与神经网络引入

传统监督学习算法中的二元分类器可用于预测明天是否下雨。监督学习涵盖分类和回归算法，通过实际例子展示了多种算法，强调了在选择机器学习策略时，数据大小、特征复杂度和预测要求等因素的重要性。

如今，神经网络成为解决复杂问题的有力工具。过去七十年里，受计算能力和数字化数据不足的限制，其应用受限。但随着对复杂问题解决需求的增长、数据量的爆炸式增长以及云计算等技术的进步，神经网络得以广泛应用，推动了机器人技术、边缘计算、自然语言处理和自动驾驶汽车等前沿科技领域的发展。

2. 神经网络的进化历程

• 基本组成 ：神经网络的基本单元是神经元，多个神经元组成结构化的层，信息在层间逐步处理，最终产生输出。隐藏层使神经网络具备深度学习能力，能将原始输入数据转化为更有用的形式，提取高层特征，在语音识别、图像组织等方面有广泛应用。
• 历史背景 ：1957 年，Frank Rosenblatt受人类大脑神经元工作方式启发，提出神经网络概念。最初的简单神经网络没有隐藏层，被称为感知机，它是生物神经元的数学模拟，也是更复杂神经网络的基本构建块。
• AI 寒冬与春天 ：1969 年，Marvin Minsky 和 Seymour Papert发现感知机学习能力有限，无法处理复杂逻辑函数，导致机器学习和神经网络研究进入“AI 寒冬”。当时硬件计算能力不足且成本高昂，阻碍了 AI 发展。直到 20 世纪 90 年代末，分布式计算的进步提供了经济可用的基础设施，