人工智能

pytorch的源码在github上，网址如下：https://github.com/pytorch/pytorchhttps://github.com/pytorch/pytorch安装cuda版本的需要CUDA Toolkit 12.4 Update 1 Downloads | NVIDIA Developerhttps://developer.nvidia.com/cuda-downloads 安装了上面两步后，会自动安装nvcc。12.04 - How do I set up ccache? - A

Pytorch多机多卡分布式训练-nproc_per_node 指的是每个阶段的进程数，这里第一台8个GPU，第二台6个GPU。--node_rank 节点rank，对于第一台机器是0，第二台机器是1。--master_addr 主节点的ip，这里我填的第一台机器的ip。--nnodes 节点数，这里是两机，所以是2。--master_port 主节点的端口号。

安装Pytorch中的torchtext之CUDA版的正确方式:安装Pytorch和torchtext,只需将torchtext的版本和torchvision的版本一致即可：

onnx(Open Neural Network Exchange)主要用于部署，训练一般使用pytorch和tensorflow，等训练完成，我们需要模型转成onnx，用于部署在云或者边缘计算上。而为什么要要转成onnx模型呢，主要是因为onnx没有训练，只有推理，速度很快，而且目前大多数芯片都适配onnx模型，相当于一个通用莫模型，易部署，而且速度快。