weixin_51762856-优快云博客

原创在ubuntu下，虚拟环境CUDA安装AutoGPTQ踩的坑

安装autogptq时，需要cuda环境变量因此踩了很多坑，网上相关资料也很少，写一篇文章记录一下。，根据自己的显卡和要用的cuda版本找（这里是python3.10，cuda11.8）由于服务器上没有全局CUDA变量，所以只能在conda虚拟环境中安装cuda。安装完torch以后安装相应的虚拟环境cuda和cudnn，这里参考的是。创建完成后安装torch，torch下载网址。最后安装nvcc，根据cuda版本号在。安装torchvision，下载并安装AutoGPTQ。

2024-12-04 14:32:10 891

原创 Microsoft Visual C++ 14.0 or greater is required. Get it with “Microsoft C++ Build Tools

前者要下载好大的安装包，感觉没有必要。后者conda安装是真的慢（至少我是一直卡在solving enviroments …下载whl之后直接pip install就好了，要注意他只有python 3.10版本的。后来我在github上搜索到了有老哥编译好的windows版本的fairseq。网上的各种教程都是说安装Visual Studio，或者用Conda命令来装。Windows安装Fairseq，在编译时发生C++错误。

2024-12-04 14:30:04 315

原创【BUG】subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘, ‘-j‘, ‘255‘]

在编译mmcv-full时，发生该错误，查阅了网上的资料，都在说将torch/utils/cpp_extension.py中的[‘ninja’,‘-v’]改成[‘ninja’,‘–version’]。但是这个改完之后又会导致g++发生错误。我解决的方案是将 torch/utils/cpp_extension.py 1635行的 ninja --version改为ninja -v。

2024-10-17 10:18:08 341

原创 ModuleNotFoundError: No module named ‘mpi4py‘

装完之后运行程序，就直接卡死了，完全没有输出，按ctrl+c也无法退出。这几天复现论文的时候，部分项目需要用到mpi4py库。运行完这两句之后，再pip安装mpi4py就能装上了。这似乎是因为pip安装的mpi4py是不完整的。这样安装的mpi4py就是完整的了。查找了一些网上的方法。

2023-11-06 15:41:40 5997 1

原创记录一下部署Vicuna api时遇到的问题

然后运行（我是在4090上运行的，load 8 bit的话24g显存才够用）按照官方openai_api.md。

2023-11-01 10:35:00 508

原创数据集取法导致速度不一样的问题

今天写作业的时候，取mnist数据集写了两种取数据的方法，一个要跑一小时，一个只用两分钟记录一下先上慢的 (input_a,input_b,label) = dataset input_a = np.array(input_a) input_b = np.array(input_b) label = np.array(label) index = np.arange(len(dataset[0])) #print(index) np.random.sh

2021-04-16 11:17:05 229

原创 attention结构及其实现

Seq2Seq的不足之处要考虑到最大长度的向量，每一个向量都要扩展到最大向量的长度如果有更长的向量输入，则需要改变模型参数，不够灵活attention结构加权和对于每一个单词或者字对应的向量，都会有一个权重分数，将单词对应的向量与分数进行内积（此处可以用广播或者扩展分数），得到对应于每一个单词向量乘以分数的几个向量，将它们沿axis=1的方向相加，就会得到总的一个表示向量#定义加权和class weighted_sum: def __init__(self): sel

2021-04-07 22:20:20 742

原创 RNN及TimeRNN

条件语言模型对于位置在i的单词，常规的word2vec模型考虑前后两个窗口的位置，这里只考虑单词左边位置的部分单词。这个公式考虑了单词周围的信息CBOW的条件语言模型P(W1 ,W2 ,…,Wm ) = ∏(下标t=1,上标m)P(Wt | Wt-1 ,Wt-2 )CBOW模型取窗口大小为2,缺点无法考虑到远处的信息，即使增大窗口，也还是会有更远处的信息无法被记录，同时也会带来计算量和存储量增大的问题RNN基本因子 ht = tanh(ht-1Wh + xt Wx +b)公式中ht-1

2021-03-24 19:37:32 517

原创 python中[::]的含义

python中[::]的含义[:-1]b = [1,2,3,4,5,6]print(b[:-1])out:[1, 2, 3, 4, 5]简而言之就是裁减掉最后一位[::-1]print(b[::-1])out: [6, 5, 4, 3, 2, 1]倒序输出

2021-01-07 19:37:41 40977

原创 python图像分类出现错误PIL.UnidentifiedImageError: cannot identify image file ＜_io.BytesIO object at 0x000001

import os from PIL import Image folder_path = 'F:\\PetImages\\test_image' extensions = [] for fldr in os.listdir(folder_path): sub_folder_path = os.path.join(folder_path, fldr) for filee in os.listdir(sub_folder_path): file_path = os.path.join(sub_folder_p

2020-12-24 10:07:30 6711 2

weixin_51762856的博客