Icarus_的学习笔记

例如，如果在一个序列前面增加一个标记，则序列中的每个标记位置都变了，也就是它们对应的参数都发生了变化，那么模型预测的结果可能完全不同，这样显然不合理。如果输人为文本，即整数序列（假设已经利用词表映射工具将文本中每个标记映射为了相应的整数），在经过多层感知器之前，需要利用词向量层将输入的整数映射为向量。无论是深度学习还是传统的统计机器学习方法处理自然语言，都需要先将输入的语言符号（通常为标记Token），映射为大于等于0、小于词表大小的整数，该整数也被称作一个标记的索引值或下标。

首先，输出网络的参数值，包括两个线性映射层的权重和偏置项的值，然后，输出网络对训练数据的预测结果，[1, 0, 1, 0]，其与原训练数据相同，说明该组参数能够正确地处理异或问题（即线性不可分问题）

在PyTorch 中构建一个自定义神经网络模型非常简单，就是从torch.nn 中的Module 类派生一个子类，并实现构造函数和 forward 函数。其中，构造函数定义了模型所需的成员对象，如构成该模型的各层，并对其中的参数进行初始化等。而forward 函数用来实现该模块的前向过程，即对输人进行逐层的处理，从而得到最终的输出结果。PyTorch 提供的基本张量存储及运算功能，就可以实现多种神经网络模型，但是这种实现方式不但难度高，而且容易出错。

【代码】pytorch 手写数字识别模型。

【代码】pytorch波士顿房价预测模型。