16、深度学习与世界银行数据探索

深度学习与世界银行数据探索

1. 深度学习 - 循环神经网络预测周期性信号

1.1 深度学习简介

大多数机器学习算法依赖预定义的表示和输入特征来实现良好的性能。机器学习算法通过优化权重来进行最终预测，而表示学习则试图自动学习良好的特征或表示。深度学习算法通过增加复杂度来尝试在多个表示层次上进行学习，深度架构由多个非线性操作层组成，如具有多个隐藏层的神经网络。深度学习技术的主要目标是学习特征层次结构，可分为三大类：用于无监督或生成式学习的深度网络、用于监督学习的深度网络以及混合深度网络。

1.2 循环神经网络预测周期性信号

1.2.1 振荡器介绍

振荡器是产生特定周期性波形（如方波、三角波、锯齿波和正弦波）的电路。为了产生输出，振荡器通常使用某种有源器件（如灯），周围环绕着电阻、电容和电感。振荡器主要分为弛豫振荡器和正弦振荡器两类。三角波、锯齿波和其他非正弦波形由弛豫振荡器产生，而正弦振荡器由带有外部组件的放大器组成以产生振荡。通常，纯正弦波中不存在谐波，且仅由单一频率组成。

1.2.2 准备工作

任务是从有噪声的正弦波中预测余弦波。使用 5Hz 频率的正弦波，并添加一些正态分布的噪声，同时使用平滑的余弦波。创建的数据集是一组 10 个序列，每个序列包含 40 个观测值。

1.2.3 操作步骤

1. 加载所需包 ：

> install.packages("rnn")
> library(rnn)