MIT 6.S191 深度学习入门实验：Python中的TensorFlow/PyTorch基础与RNN音乐生成

MIT 6.S191 深度学习入门实验：Python中的TensorFlow/PyTorch基础与RNN音乐生成

introtodeeplearning Lab Materials for MIT 6.S191: Introduction to Deep Learning 项目地址: https://gitcode.com/gh_mirrors/in/introtodeeplearning

实验概览

本实验是MIT深度学习入门课程的核心实践环节，分为两个主要部分：第一部分介绍Python中两大主流深度学习框架TensorFlow和PyTorch的基础用法；第二部分则通过构建循环神经网络(RNN)实现音乐生成任务，让学习者体验深度学习的创造性应用。

第一部分：Python深度学习框架基础

TensorFlow/Keras基础

TensorFlow是Google开发的开源深度学习框架，其高层API Keras提供了直观的模型构建方式。实验将重点介绍：

1. 计算图概念：TensorFlow将数学运算表示为计算图中的节点，数据作为张量在图中流动
2. Keras API：通过Sequential模型快速堆叠神经网络层
3. 即时执行模式：TensorFlow 2.0引入的eager execution特性，使调试更直观

典型代码结构示例：

model = tf.keras.Sequential([
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])
model.compile(optimizer='adam', loss='categorical_crossentropy')

PyTorch基础

PyTorch由Facebook开发，以其动态计算图和Pythonic风格著称。实验内容包括：

1. 张量操作：PyTorch的核心数据结构torch.Tensor及其运算
2. 自动微分：autograd模块实现的反向传播自动求导
3. 模型构建：通过nn.Module基类定义自定义网络结构

PyTorch模型定义示例：

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.fc1 = nn.Linear(784, 256)
        self.fc2 = nn.Linear(256, 10)
    
    def forward(self, x):
        x = F.relu(self.fc1(x))
        return F.softmax(self.fc2(x))

第二部分：RNN音乐生成实践

音乐表示与预处理

实验使用ABC记谱法表示音乐，这是一种基于文本的音乐符号系统。预处理步骤包括：

1. 将音乐文件转换为字符序列
2. 构建字符到索引的映射字典
3. 创建训练用的输入-目标对序列

字符级RNN模型

采用基于LSTM的循环神经网络架构：

1. 嵌入层：将字符索引映射为密集向量
2. LSTM层：捕捉音乐序列中的时间依赖关系
3. 全连接层：输出下一个字符的概率分布

关键超参数包括：

• 隐藏层维度
• 序列长度
• 训练批次大小
• Dropout比率

音乐生成策略

训练完成后，采用以下策略生成新音乐：

1. 采样技术：从模型输出的概率分布中随机选取下一个字符
2. 温度参数：控制生成结果的随机性程度
3. 种子序列：使用初始音乐片段引导生成过程

实验价值

本实验通过理论与实践相结合的方式，帮助学习者：

1. 掌握两大主流深度学习框架的核心概念
2. 理解RNN处理序列数据的基本原理
3. 体验深度学习在创造性任务中的应用潜力
4. 培养模型调参和结果分析的实际能力

对于深度学习初学者，建议先充分理解第一部分的基础概念，再循序渐进地完成音乐生成任务。实验中的每个代码模块都配有详细注释，方便学习者逐步调试和理解。

introtodeeplearning Lab Materials for MIT 6.S191: Introduction to Deep Learning 项目地址: https://gitcode.com/gh_mirrors/in/introtodeeplearning