weixin_43201090的博客

Google Colab环境下运行在Colab环境下安装包使用GPU获得训练集与测试集定义LSTM模型class RNN(nn.Module): def __init__(self,vocab_size,embedding_dim,hidden_dim): super(RNN,self).__init__() # [vocab_size 10000] => [embedding_dim:100] self.embedding = nn.Embedding(v

一、tf.constant()数据类型：intfloatdoubleboolstring（1）直接constant变量（2）constant()指定dtypetype要匹配，不然会报错二、tensor属性device转numpy()ndimrank三、类型判断isinstance()is_tenosr()x.dtype四、类型转换1.convert_to_tensor()   numpy -

一、数据处理与查看下载、解压数据集from pathlib import Pathimport requestsimport pickleimport gzipFILENAME = Path("D:/DataSet/mnist.pkl.gz")with gzip.open((FILENAME).as_posix(),"rb") as f: ((x_train,y_train),(x_valid,y_valid),_) = pickle.load(f,encoding="latin-

一、导入需要用到的库import numpy as npimport pandas as pd import matplotlib.pyplot as pltimport torchimport torch.optim as optimimport warningswarnings.filterwarnings("ignore")%matplotlib inline二、数据查看features = pd.read_csv("D:/DataSet/temps.csv")features

scalar 　　　　　　　　　　标量数值vector 　　　　　　　　　　矢量/向量matrix 　　　　　　　　　　矩阵n-dimensional tensor 　 　 　高维特征向量Scalar通常就是一个数值Vector例如： [-5., 2., 0.]，在深度学习中通常指特征，例如词向量特征，某一维度特征等????⃗ =[????1,????2,…,????????]Matrix一般计算的都是矩阵，通常都是多维的matmul做各种矩阵乘法...

一个典型的神经网络的训练过程如下：定义具有学习参数（或权重）的神经网络迭代输入数据集根据神经网络对输入数据集进行运算计算损失（输出与真实结果的距离，损失越小说明模型越准确）将梯度反向传播给神经网络的参数更新网络的权重（或参数）。通常使用一种简单的更新规则：权重 = 权重 - 学习率 * 梯度线性回归模型目标：构造一组输入数据 x 和其对应的标签 y ，让模型学习拟合出 w 和 b。我们这里要模拟出的线性回归函数：y = 2x + 1x 给的是从 0 - 10 一共11个数(11行1列

Pytorch框架：反向传播全都计算好了 无需手动计算

一、基本使用方法查看torch版本创建指定维度的空矩阵初始化一个随机数矩阵初始化一个全0矩阵初始化一个全1矩阵直接传入矩阵的数据根据已有矩阵形状创建新的标准正态分布的矩阵显示矩阵大小 numpy -> ,shape()    torch -> .size()索引 同numpy10.view操作可以改变矩阵维度 numpy->reshape()   torch->view

RNN——擅长处理sequence of data

一、SummaryWriter将输入直接转换成event files 写入 log_dir文件夹内（用TensorBoard打开）1. 初始化给定log_dir等参数writer = SummaryWriter()# folder location: runs/May04_22-14-54_s-MacBook-Pro.local/writer = SummaryWriter("my_experiment")# folder location: my_experiment2. add_sca

一、函数说明工具dir() 展示模块内“工具箱"help() "工具箱"内工具的介绍dir(torch) #torch中的工具dir(torch.cuda) #torch.cuda中的工具help(torch.cuda.is_available) #对is_available函数的介绍二、编辑器的选择代码是以块为一个整体运行的Pycharm以所有行的代码为块优点：通用、传播方便、适用于大型项目缺点：需要从头运行Python Console以每一行的代码为块优点

输入一个词，RNN输出截止到目前为止，下一个最可能的词我 昨天 上学 迟到 了其中，s表示序列的开始，e表示序列的结束向量化：one hot 高维稀疏概率语言模型语言模型要求的输出是下一个最可能的词，我们可以让RNN计算词典中每个词是下一个词的概率，这样，概率最大的词就是下一个最可能的词。因此，神经网络的输出向量也是一个N维向量，向量中的每个元素对应着词典中相应的词是下一个词的概率。Softmax层Softmax函数语言模型是对下一个词出现的概率进行建模让神经网络输出概

概念RNN模型——处理序列信息最先应用于NLP，用于为语言模型建模语言模型： 对一种语言的特征进行建模                   N-Gram:假设一个词出现的频率只与前面的N个词相关。         &nbs