llava推理时环境报错

报错如下:

ValueError: Converting from Tiktoken failed, if a converter for SentencePiece is available, provide a model path with a SentencePiece tokenizer.model file.Currently available slow->fast convertors: ['AlbertTokenizer', 'BartTokenizer', 'BarthezTokenizer', 'BertTokenizer', 'BigBirdTokenizer', 'BlenderbotTokenizer', 'CamembertTokenizer', 'CLIPTokenizer', 'CodeGenTokenizer', 'ConvBertTokenizer', 'DebertaTokenizer', 'DebertaV2Tokenizer', 'DistilBertTokenizer', 'DPRReaderTokenizer', 'DPRQuestionEncoderTokenizer', 'DPRContextEncoderTokenizer', 'ElectraTokenizer', 'FNetTokenizer', 'FunnelTokenizer', 'GPT2Tokenizer', 'HerbertTokenizer', 'LayoutLMTokenizer', 'LayoutLMv2Tokenizer', 'LayoutLMv3Tokenizer', 'LayoutXLMTokenizer', 'LongformerTokenizer', 'LEDTokenizer', 'LxmertTokenizer', 'MarkupLMTokenizer', 'MBartTokenizer', 'MBart50Tokenizer', 'MPNetTokenizer', 'MobileBertTokenizer', 'MvpTokenizer', 'NllbTokenizer', 'OpenAIGPTTokenizer', 'PegasusTokenizer', 'Qwen2Tokenizer', 'RealmTokenizer', 'ReformerTokenizer', 'RemBertTokenizer', 'RetriBertTokenizer', 'RobertaTokenizer', 'RoFormerTokenizer', 'SeamlessM4TTokenizer', 'SqueezeBertTokenizer', 'T5Tokenizer', 'UdopTokenizer', 'WhisperTokenizer', 'XLMRobertaTokenizer', 'XLNetTokenizer', 'SplinterTokenizer', 'XGLMTokenizer', 'LlamaTokenizer', 'CodeLlamaTokenizer', 'GemmaTokenizer', 'Phi3Tokenizer']

解决办法:

pip install tiktoken sentencepiece
### 关于 llava 报错的解决方案 #### 错误原因分析 当遇到 `ValueError: 'llava' is already used by a Transformers config, pick another name` 这样的错误提示,表明当前使用的名称 `'llava'` 已经被 Hugging Face 的 Transformers 库中的配置所占用。这意味着不能再重复使用相同的名称来定义新的模型或组件[^1]。 #### 解决方法建议 为了绕过这个冲突并继续顺利执行程序,可以考虑更改自定义模块或者类的名字到一个未被占用的独特标识符上。具体操作如下: - 修改项目源码里涉及到的所有地方,把原来的命名空间从 `"llava"` 更改为一个新的独一无二字符串; - 如果是在加载预训练模型的候遇到了这个问题,则应该确认是否有必要指定该参数以及是否有其他可用选项可以直接跳过这一步骤; 另外,在处理类似问题的过程中还需要注意检查环境变量设置、依赖版本兼容性和路径配置等因素可能带来的影响。 对于另一个提到的导入失败的情况——即无法找到名为 `LlavaLlamaForCausalLM` 的对象,通常是因为安装包不完整或者是特定库缺失引起的。此应当确保已经正确安装了最新版本的相关软件包,并且其内部结构与预期一致[^2]。 最后关于第三个提及的关键字异常 (`KeyError`) ,则可能是由于尝试访问不存在键值的数据结构所致。针对这种情况,应仔细核对代码逻辑,特别是那些涉及动态获取属性名的部分,以防止意外触发此类异常[^3]。 ```python try: # 尝试修改此处为不同的唯一名称 model_name = "custom_llava_v1" except ValueError as e: print(f"Model configuration error occurred: {e}") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值