张某文_Lambda的博客

torch, vllm, xformers 三者的版本是相互依赖的，更换任意版本，其他两个包需要相应更换。VLLM官方提供的CUDA对应的版本有两个，分别是11.8和12.1。下载了官网的whl文件进行的安装，安装包很多，速度相对较慢。用于加速llm推理。

自行搜索conda安装与配置。

或许你的服务器由于设置问题，不能通过Vscode进行远程调试python程序，那么本篇文章提供了利用pycharm远程调试程序的方法，且使用的编译器可以是服务器中的虚拟环境的编译器，可以实时同步本地与服务器的文件内容。

SSH VSCode 远程连接服务器（Linux版）

Python 之pandas库的安装及库安装两方法总结如果你连续看了博主的各类Python的库引用，你会发现这都是套路！！！先上正儿八经的流程，后面一句话总结一下这些库的安装套路。不知道安装库的你们用的什么操作？1. pandas库的安装（1）打开cmd窗口。点击开始栏，搜索cmd并打开。（2） 找到安装的Python路径。可以通过右键点击Python快捷键，查找文件路径。（博主电脑并...

Python 之pip库的安装与版本检查1. pip库的安装博主看到网上有多种基于不同操作系统的pip库的安装，这里着重介绍cmd方法下的安装。个人认为速度快，较为便捷。（1）打开cmd窗口（2）输入curl https://bootstrap.pypa.io/get-pip.py -o get-pip.py（3）输入python get-pip.py（4）安装成功pip库的...

Python 之matplotlib库的安装--超时处理敲黑板 pip install -i https://pypi.tuna.tsinghua.edu.cn/simple + 包名输入命令，执行安装。

Python 之numpy库的安装打开cmd窗口。点击开始栏，搜索cmd并打开。找到安装的Python路径。可以通过右键点击Python快捷键，查找文件路径。（博主电脑并未分盘，故安装到了C盘，这里推荐大家安装到D盘或E盘等路径。）在输入cd+空格+文件路径，进入文件路径下进行安装。输入命令pip install numpy 执行安装。*提示：*这里要求numpy的安装是在pip...

Python 之requests库的安装打开cmd窗口。点击开始栏，搜索cmd并打开。找到安装的Python路径。可以通过右键点击Python快捷键，查找文件路径。（博主电脑并未分盘，故安装到了C盘，这里推荐大家安装到D盘或E盘等路径。）在输入cd+空格+文件路径，进入文件路径下进行安装。输入命令pip install requests 执行安装。*提示：*这里要求...