Nelson_hehe的博客

### 摘要 本文提出Transformer模型，基于自注意力机制构建，解决循环神经网络（RNN）无法并行计算、卷积网络长距离依赖需多层堆叠的问题。多头自注意力通过分割输入、并行计算多组注意力分布增强特征捕捉；解码器掩码自注意力避免信息泄露，适配自回归生成。模型引入层归一化、残差连接及正弦余弦位置编码，优化训练稳定性与位置感知。实验表明，其在机器翻译等任务中性能优于传统模型，并行计算与模块化设计为后续预训练模型奠定基础，推动自然语言处理长序列建模发展。

本文主要从计算机视觉、深度学习发展历史入门，介绍了一些比较权威的视觉领域数据集，介绍了CS231n课程的主要内容，包括计算机视觉和深度学习的基础知识、视觉应用领域和生成式视觉模型等内容。

本节将作为一个关于Python编程语言及其在科学计算中的使用的速成课程。介绍了Jupyter notebook，这是一种非常方便的编程Python代码的方式。介绍了Python的常用语法、数据类型、运算符、容器等内容。介绍了Numpy库、Scipy库以及Matplotlib库的作用以及常见的API用法，对我们科学计算、图片操作和绘图有很大的帮助。