【备忘】CogVLM2环境搭建1 —— 基础环境_cogvlm2-video-llama3-chat-优快云博客

§ 背景

repo 缺少 installation guide，各种版本对齐限制，导致了不得不写下来。

一开始我是这样的（千万别学）

cuda 12.1
torch 2.3.0
torchvision 0.18+cu121

conda和pip混用，而且这个不行就换另一个。

§ 总体原则

1. 用requirements.txt 的最低版本

2. 用Cudatoolkit 11.8

3. 包管理尽量用conda，然后才是pip，但同一个包不要用两个工具都装，如果用conda装过，先卸掉，然后再用pip装，反之亦然。

§ 安装步骤

1. 建一个conda虚拟环境（留意python版本）

conda create -n cogvlm2 python=3.10.14
conda activate cogvlm2

2. 装cudatoolkit11.8

conda install cudatoolkit==11.8

3. 安装pytorch2.0

按照requirements的最低版本是2.0.0，但实际上按照Pytorch官网，2.0支持最高cuda11.8, 2.0以上就会有cuda12.1，如果用了cuda12.1噩梦就来了。

conda install pytorch==2.0.0 torchvision==0.15.0 torchaudio==2.0.0 pytorch-cuda=11.8 -c pytorch -c nvidia

4. 安装requirements

但，不要用conda install --file 或者 pip install -r。因为requirements.txt 里面用到了>=，个人觉得就是最大的一个坑！我的方法是先用conda search <pkg_name>，找到符合要求的包就用最低版本安装，找不到就用pip，但是要留意pip在安装中会卸掉一些你前面装好的包，这也是一个天坑，例如那个xformers，如果不加版本，它会装最新的，然后它会给你卸掉原来装好的pytorch2.0 然后给你装最新的pytorch2.3.1，然后跑模型的时候就会报下面这个错误：

RuntimeError: operator torchvision::nms does not exist

这坑也是没谁了。为了节省大家时间，我把我的环境贴在下面，大家可以参考。之所以说参考，因为不是所有的包都可以通过conda或者pip安装，因此转成yaml或者txt也没用，

#
# Name                    Version                   Build  Channel
_libgcc_mutex             0.1                        main    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
_openmp_mutex             5.1                       1_gnu    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
accelerate                0.32.1                   pypi_0    pypi
aiofiles                  23.2.1                   pypi_0    pypi
aiohttp                   3.9.5                    pypi_0    pypi
aiosignal                 1.3.1                    pypi_0    pypi
annotated-types           0.7.0                    pypi_0    pypi
anyio                     3.7.1                    pypi_0    pypi
async-timeout             4.0.3                    pypi_0    pypi
asyncer                   0.0.2                    pypi_0    pypi
attrs                     23.2.0                   pypi_0    pypi
bidict                    0.23.1                   pypi_0    pypi
bitsandbytes              0.43.1                   pypi_0    pypi
blas                      1.0                         mkl    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
brotli-python             1.0.9           py310h6a678d5_8    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
bzip2                     1.0.8                h5eee18b_6    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
ca-certificates           2024.3.11            h06a4308_0    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
certifi                   2024.7.4        py310h06a4308_0    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
chainlit                  1.0.0                    pypi_0    pypi
charset-normalizer        2.0.4              pyhd3eb1b0_0    https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
click                     8.1.7                    pypi_0    pypi
cuda-cudart               11.8.89                       0    nvidia
cuda-cupti                11.8.87                       0    nvidia
cuda-libraries            11.8.0