minigpt4安装的一系列问题

joejoeqian

已于 2023-12-04 14:25:30 修改

阅读量1k

点赞数 8

CC 4.0 BY-SA版权

文章标签： gpt 人工智能

于 2023-12-03 14:48:53 首次发布

本文链接：https://blog.youkuaiyun.com/joejoeqian/article/details/134764933

文章讨论了fastchat与特定模型（如MiniGPT-4的vicuna版本）之间的兼容性问题，包括如何处理不同版本fastchat与模型权重的合并，以及在web端测试中遇到的因配置错误导致的胡言乱语问题，着重于修改模型权重路径中的字符限制。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

问题一

合并权重：

python -m fastchat.model.apply_delta --base /data/qq/llama2-7b-chat-hf  --target /data/qq/MiniGPT-4/vicuna_weights/ --delta /data/qq/vicuna-7b-delta-v0

在这里插入图片描述
fastchat版本与模型版本不兼容

解决方法：
第一种：用低版本fastchat
第二种：vicuna别用v0

问题二

HFValidationError: Repo id must use alphanumeric chars or '-', '_', '.', '--' and '..' are forbidden, 
'-' and '.' cannot start or end the name, max length is 96: ''.

把模型权重路径中用’-'的全改了。