wangwang的博客

Pytorch 1.9.0 + Tensorboard 2.5.0可视化工具使用记录这里主要记录Tensorboard所能够记录的日志，主要参考官网文档：https://pytorch.org/docs/stable/tensorboard.html创建写入器，写入图片和计算图的方法SummaryWriter：创建一个将把事件和摘要写出到事件文件的 SummaryWriterimport torchimport torchvisionfrom torch.utils.tensorboard i

anaconda 环境下，Pytorch 1.9.0使用tensorboard 2.5.0的时候浏览器白屏的可能解决办法：问题描述：在ubuntu 20.04环境下，在anaconda的base环境中，曾经安装过pytorh 1.8.1,更新pytorch到1.9.0以后，即使更新tensorboard到2.5.0，但是使用的时候，在浏览器里面不显示任何内容。解决方法：通过anaconda新创建一个空白环境conda create -n tensorboard python=3在这个新的环境里面

Ubuntu18.04 安装 显卡驱动 Nvidia Driver CUDA CUDNN 与GPU 版本的Pytorch2.1 为何选择PyTorch？Pytoch 由4个主要的包组成：torch: 类似于Numpy的通用数组库，可将张量类型转换为torch.cuda.TensorFloat,并在GPU上进行计算。torch.autograd: 用于构建计算图形并自动获取梯度的包torch.nn: 具有共享层和损失函数的神经网络库torch.optim: 具有通用优化算法（如SGD、Adam等

第三章 Pytorch基础 Chapter 3-1 神经网络核心组件核心组件包括层：神经网络的基本结构，将输入张量映射为输出张量；模型：层构成的网络；损失函数：参数学习的目标函数，通过最小化损失函数来学习各种参数；优化器：如何使损失函数最小的工具。多个层链接在一起构成一个模型或者网络，输入数据通过这个模型转换为预测值，然后损失函数把预测值与真实值进行比较，得到损失值（可以是距离，也可以是概率），该损失值用于衡量预测值与目标结果的匹配或相似程度，优化器利用损失值更新权重参数，从而使损失值

第二章 Pytorch基础 Chapter 2-7使用Tensor及Autograd实现机器学习本节使用PyTorch的一个自动求导的包——autograd，利用这个包及对应的Tensor，便可利用自动反向传播来求梯度，无须手动计算梯度。#! /usr/bin/env python3# coding=utf-8import torch as tfrom matplotlib import pyplot as pltfrom torch.autograd import Variable as V

给出一个数组x，然后基于表达式y=3x2+2y=3x^2+2y=3x2+2，加上一些噪音获取另一组数据y构建意见机器学习模型，学习表达式y=wx2+by=wx^2+by=wx2+b的两个参数w，b，利用数组x，y的数据作为训练数据采用梯度下降法，通过多次迭代，学习到w，b的值。#! /usr/bin/env python3# coding=utf-8import numpy as npfrom matplotlib import pyplot as pltnp.random.seed(1.

第二章 Pytorch基础 Chapter 2-5 Tensor与Autograd  torch.autograd 包就是用于自动求导的。  Autograd包为张量上所有的操作提供了自动求导功能，而torch.Tensor和torch.Function为Autograd的两个核心类，它们相互连接并生成一个有向非循环图。2.5.1 自动求导要点 PyTorch 采用计算图的形式，进行计算组织，该计算图为动态图，且在每一次前向传播时，将重新构建；该计算图为有向无环图。叶子节点：由用户创建的，不依赖其

Tensor与Numpy相似，二者可以共享内存，而且之间的转换非常方便与高效。最大的区别在于，Numpy中的ndarray只能在cpu中进行加速计算，而由torch产生的tenor可以放在GPU中进行加速运算。2.4.1 Tensor概述对Tensor的操作，从接口的角度分为两类：torch.funcitontensor.functiontorch.add(x,y)等价于x.ad...

第二章 Pytorch 基础2.1 为何选择PyTorch？Pytoch 由4个主要的包组成：torch: 类似于Numpy的通用数组库，可将张量类型转换为torch.cuda.TensorFloat,并在GPU上进行计算。torch.autograd: 用于构建计算图形并自动获取梯度的包torch.nn: 具有共享层和损失函数的神经网络库torch.optim: 具有通用优化算法（...

if opt.use_gpu: model.cuda() model=nn.DataParallel(model,device_ids=[0,1,2]) # multi-GPU将模型改为多卡训练以后，直接打印模型的名字会报错：AttributeError: ‘DataParallel’ object has no attribute ‘model_na...

softmax计算与使用：import torchimport torch.nn.functional as Fx1= torch.Tensor([[1,2,3,4], [1,3,4,5], [3,4,5,6]] )y1= F.softmax(x, dim = 0) #对每一列进行s...