weiwei935707936的博客

将一个有梯度的东西赋值给一个没梯度的东西是不行的，那一句加了.detach()才行。

GAE和VGAE快速入门

参考的知乎文章, 非常好:通过pytorch深入理解图注意力网络（GAT） - 知乎自己手动过程:

1.先在这个网站上找和你CUDA对应的:​​​​​​https://pytorch-geometric.com/whl/点进去, 下载, pip install2.pip install torch-geometric==1.2.1 安装自己代码需要的版本

模型的保存和加载:保存参数表torch.save(the_model.state_dict(), PATH)the_model = TheModelClass(*args, **kwargs)the_model.load_state_dict(torch.load(PATH))直接保存模型 (不是的, 你的pth变量会保存很多东西)torch.save(the_model, PATH)the_model = torch.load(PATH)模型的直接测试:在pre.

torch中的矩阵乘法:一.矩阵乘 二.矩阵乘三.对应元素相乘 torch.mul: 和普通标量也是对应元素相乘: #输入张量和标量相乘torch.mul(input, value, out=None) 例：>>> a = torch.randn(3)>>> a-0.9374-0.5254-0.6069[torch.FloatTensor of size 3]>>> tor...

如何很漂亮地直接打印dict的键值:如何遍历一个list, 并返回满足要求的值和其index:如何遍历一个dict:list转成dict, dict转list:

背景: 要实现这个矩阵乘法方案一: 自己低级的实现:每一个维度做for循环方案二: 师兄的方案, 大佬的实现方案三: 和义朋兄讨论之后, 实现的方案: torch.matmul()实现即, matmul直接可以实现维度不同的矩阵乘法...

异常停止, 也没有报错, 非常迷醉 积累的经验: 匹配路径这种事情没什么好怕的 有些包, 它会显示红色报错, 但是还是可以运行起来的(如果一个问题在网上百般查找无果, 就很有可能是自己的问题) 如果数值不对, 或者不理想: 检查初始化等技巧 采样的大小对, 程序是否正确运行的影响 :::::::::...

#应该直接出来一堆conda#创建一个新的环境 名字 python版本conda create -n mypytorch Python=3.8#环境列表conda env list#切换环境conda activate mypytorch#看这个环境帮我们安装了那些packageconda list#不需要这个环境时可以退出conda deactivate...

实验一: 只是单纯地添加了, e_e公式的部分, 没有dropout, 没有加层. (只跑到epoch30, 在普通笔记本上)结果:两个模型是可比的GCN: loss表现更好 NGCF: 在度量指标HR, ndcg上表现更好 (因为是在自己的电脑上跑的, 所以听到NGCF运行的时候声音更大, 风扇和硬盘读写啊, 感觉自己的心在滴血......我还是很爱惜自己的笔记本的)GCN:NGCF:实验二: GCN 对比GCN+e_e结果: ...总体来说结果还是...

torch.nn.functional.normalize:功能：将某一个维度除以那个维度对应的范数(默认是2范数)。 公式：积累技巧：dim到底是第几维：Tensor的形式：tensor([[[0.2425, 0.3714, 0.4472], [0.9701, 0.9285, 0.8944]], [[0.2425, 0.3714, 0.4472], [0.9701, 0.9285, 0.8944]]])dim=2: 碰到的第三个括号

torch.mul:核心：普通标量相乘 张量和标量相乘：每个元素×数值#输入张量和标量相乘torch.mul(input, value, out=None) 例：>>> a = torch.randn(3)>>> a-0.9374-0.5254-0.6069[torch.FloatTensor of size 3]>>> torch.mul(a, 100)-93.7411-52.5374-60.6908[to

均匀分布：torch.nn.init.uniform_(tensor, a=0, b=1)正太分布：torch.nn.init.normal_(tensor, mean=0, std=1)常数：torch.nn.init.constant_(tensor, val)Xavier：通过网络层时，输入和输出的方差相同，包括向前传播和反向传播 如果初始化值很小，那么随着层数的传递，方差就会趋于0，此时输入值 也变得越来越小，在sigmoid上就是在0附近，接近于线性，.

搜索文本：Ctrl + shift + F

一.正则化与正规化正则化是正规化更加学术的表达（顾名思义，给模型加入某些规则，来达到某些目的。在机器学习和深度学习中是为了防止过拟合）二.过拟合的解决思路获取更多样本 丢弃一部分特征，增强模型的容错能力（如PCA降维，Dropout机制） 保留所有特征，但减少参数的大小。确保所有特征对于预测都有一定贡献，而不是”偏爱“几种特征。三 .L2正则化公式： (即：原本的损失...

torch.optim.Adam（）：class torch.optim.Adam(params, lr=0.001, betas=(0.9, 0.999), eps=1e-08, weight_decay=0)[source]参数： params (iterable) – 待优化参数的iterable或者是定义了参数组的dict lr (float, 可选) – 学习率（默认：1e-3） betas (Tuple[float,float], 可选) – 用于计算梯度以及梯度平方的运行.

零.包import numpy as npimport torchimport torchvision一.基础配置检查Pytorch版本torch.__version__ # PyTorch versiontorch.version.cuda # Corresponding CUDA versiontorch.backends.cudnn.version() # Corresponding cuDNN versiontorc

检查Pytorch版本更新Pytorch固定随机种子： 需要生成随机数的实验中，确保每次实验生成固定的随机数 指定程序运行在特定GPU卡上设置为cuDNN benchmark模式清除GPU存储

独立于pytorch，关于图像操作，方便工具库库主要包含的包：vision.datasets:　 MNIST, Fashion-MNIST, KMNIST, EMNIST, FakeData, COCO torch.utils.data.DataLoader vision.models: AlexNet, VGG, ResNet, Densenet, 预训练好的参数 vision.transforms:　 随机切割，旋转，数据类型转换，图像到tensor, num...

一.构建神经网络neu=torch.nn.Sequential( #创建神经网络，储存到变量中 torch.nn.Linear(input_size,hidden_size), torch.nn.Sigmoid(), torch.nn.Linear(hidden_size,output_size),)二.建立损失函数和优化器cost=torch.nn.M...