LateLinux的博客

repo 缺少 installation guide，各种版本对齐限制，导致了不得不写下来。cuda 12.1torch 2.3.0torchvision 0.18+cu121conda和pip混用，而且这个不行就换另一个。2. 装cudatoolkit11.83. 安装pytorch2.0按照requirements的最低版本是2.0.0，但实际上按照Pytorch官网，2.0支持最高cuda11.8, 2.0以上就会有cuda12.1，如果用了cuda12.1噩梦就来了。4. 安装requ

如果想看搭建基础环境的，请参考，虽然环境跑起来了，但是第一通对话就不成功，显示如下问题留意其中最后几行，triton在编译中（compiler.py）有问题。问题出在编译中使用系统的gcc，链接了系统的cuda库的libcuda.so编译报错，返回值为1（即异常返回），所以triton编译不成功，没能跑下去。

CogVLM2作为OCR使用的体验笔记，附批量OCR代码。