将 cuda 12.1 升级到 cuda 12.4 版本然后vllm来训reasoning

下载 .run 文件进行本地安装

参考官网链接如下：https://developer.nvidia.com/cuda-toolkit-archive

运行 .run 文件，然后选择合适的配置

这里建议选择保留driver就行了，因为driver不需要重新安装，所以这里选择continue。如果选择abort就放弃安装了。

因为不需要重新安装driver，记得要把driver的选项去掉。按空格就能够去掉了，这里X意味着选上，所以需要按一次空格直接去掉。

然后这里发现已经有软连接链接cuda到12.1的版本了，我们选择让他自动更新这个软连接。

根据这些配置就可以了，然后他会开始安装。

输出下面的内容就意味着安装成功了，然后他也提醒你，你要更新自己的配置路径，不然就没办法用这个新的cuda版本

然后我们查看 /usr/local/ 路径下面确实已经安装成功了

配置路径

在 ~/.bashrc 文件里面删掉之前的cuda，选择新的cuda路径就可以了。

export PATH=/usr/local/cuda-12.4/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.4/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

这个时候我们新开一个bash窗口就能够看到nvcc -V的版本已经更新了