z0816208的博客

AE是重构原始数据并尽可能贴近原始数据。VAE在AE的基础上可以产生不同于原始数据的新样本。VQVAE能够学习到数据的离散表示来生成重构数据，具有更高效的表示学习和数据压缩能力。

Transfomer是一种深度学习模型架构，用于处理的任务，如机器翻译、摘要生成和问答系统等。其核心思想是，能够同时处理输入序列中所有位置的信息，而不需要依赖于固定大小的窗口或者固定大小的卷积核。这使得Transformer模型在处理长序列时表现出色，并在各种自然语言处理任务中取得了很好的效果。Transformer模型由编码器（encoder）和解码器（decoder）组成，其中编码器负责将输入序列编码为一系列隐藏状态，解码器则利用这些隐藏状态生成目标序列。

AlexNet是一个8层的神经网络，包含5个卷积层和3个全连接层。

卷积神经网络的过程是先对数据卷积，卷积的过程中往往带有RELU函数，这和传统神经网络一样，随后就进行池化。但并不是完成所有卷积后才池化，而是每进行若干次卷积就进行一次池化，接着再卷积、再池化。N层卷积神经网络如何定义。在卷积神经网络中，只有带参数的才称之为层。比如卷积层带参数，池化层不带参数，全连接层带参数 ，则最后的N就等于卷积次数+1.11。

用到两个函数，一个是训练函数，接受图片和标签，然后输出模型；另一个是预测函数，接收一个模型，对图片种类进行预测。这种算法是在训练集中找到最相似的样本，从而给待识别的图片打上与样本一样的标签。