minigpt4安装的一系列问题

原创 已于 2023-12-04 14:25:30 修改 · 1.1k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#gpt #人工智能

于 2023-12-03 14:48:53 首次发布
文章讨论了fastchat与特定模型（如MiniGPT-4的vicuna版本）之间的兼容性问题，包括如何处理不同版本fastchat与模型权重的合并，以及在web端测试中遇到的因配置错误导致的胡言乱语问题，着重于修改模型权重路径中的字符限制。

问题一

合并权重：

python -m fastchat.model.apply_delta --base /data/qq/llama2-7b-chat-hf  --target /data/qq/MiniGPT-4/vicuna_weights/ --delta /data/qq/vicuna-7b-delta-v0

在这里插入图片描述
fastchat版本与模型版本 不兼容

解决方法：
第一种：用低版本fastchat
第二种：vicuna别用v0

问题二

HFValidationError: Repo id must use alphanumeric chars or '-', '_', '.', '--' and '..' are forbidden, 
'-' and '.' cannot start or end the name, max length is 96: ''.

把模型权重路径中用’-'的全改了。

问题三

在web端测试时出现胡言乱语的情况
原因是：minigpt4/configs/models/minigpt4.yaml文件时，误将llama_model指向了vicuna的delta文件。

joejoeqian
关注
huggingface_hub.utils._validators.HFValidationError Repo id must be in the form repo_name or nam解决方案
weixin_43178406的博客
04-27 10万+
本文主要介绍了huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name’ or 'namespace/repo_name’解决方案，希望能对同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案
解决 python 中的 huggingface_hub
code_welike的博客
08-13 5217
在使用 python 的 huggingface_hub 库时，有时候会遇到类似于“huggingface_hub.utils._validators.HFValidationError Repo id must be in the form repo_name or name”的错误提示。这个错误的原因是在传入库的 ID 时格式不正确导致的，我们可以通过对 ID 进行修改来解决这个问题。方法则是用来下载文件的。经过这个简单的修改后，就可以正确地加载模型和 tokenizer 了。
HFValidationError: Repo id must use alphanumeric chars or ‘-‘, ‘_‘, ‘.‘, ‘--‘ and ‘..‘ are
weixin_43423614的博客
07-02 849
【代码】HFValidationError: Repo id must use alphanumeric chars or ‘-‘, ‘_‘, ‘.‘, ‘--‘ and ‘..‘ are。
本地运行 minigpt-4
shenjianhua005的专栏
04-26 3557
解决办法：把 llama-13b-hf/tokenizer_config.json 中 "tokenizer_class": "LLaMATokenizer" 改为 "tokenizer_class": "LlamaTokenizer".加载成功后，但是在把其提示的ip输入到浏览器，打不开，很奇怪，后来参考到别人这个，我想到把我的服务器ip写到demo.py中，然后就可以打开了，不过打开还需要有梯子，还好我有梯子。1运行后，输入对话，又报错，暂时还没解决。当然，按照上面操作，我也是遇到了一些问题，如下。
Unable to load vocabulary from file. Please check that the provided vocabulary is accessible and not
weixin_51723388的博客
12-28 7232
无法从文件中加载词表。请检查所提供的词表是否可以访问并且没有损坏。一开始以为是下载的文件损坏了，但是重新下载之后依旧报错。猜测并非因为文件损坏报错，而是因为无法访问导致的，不过尝试之后发现没用。
精选资源
prerained-minigpt4-7b.pth pretrained-minigpt4.pth
04-26
GPT，全称为Generative Pre-trained Transformer，是由OpenAI开发的一系列先进的语言模型。GPT4作为GPT系列的最新版本，尚未正式发布，但这里提及的可能是研究人员或开发者训练的一个小型模拟版本，被称为"minigpt4...
MiniGPT4系列之一部署篇：在RTX-3090 Ubuntu服务器部署步骤详解
qq_18256855的博客
07-12 2419
本文主要介绍minigpt4在ubuntu服务器 RTX-3090部署的全过程
精选资源
MiniGPT-4开源权重、MiniGPT-4 checkpoint
06-25
MiniGPT-4是人工智能领域中的一个模型，它是GPT（Generative Pre-trained Transformer）系列的一个小型化版本。GPT模型是由OpenAI开发的，主要用于自然语言处理任务，如文本生成、问答系统和对话理解。GPT-4作为...
MiniGPT4系列之二推理篇命令行方式：在RTX-3090 Ubuntu服务器推理详解
qq_18256855的博客
07-15 2971
本文主要讲解MiniGPT4推理
MiniGPT-4模型文件
10-24
MiniGPT-4模型文件是一项与人工智能相关的技术文件，其中包含了三套不同的模型，分别命名为vicuna、vicuna-7b、Llama-2-7b-chat-hf。这些模型都属于机器学习和深度学习领域，特别是与自然语言处理（NLP）技术紧密...
python代码调试遇到报错，huggingface_hub.errors.HFValidationError。
qq_39454370的博客
10-01 3611
报错内容："huggingface_hub.errors.HFValidationError: Repo id must use alphanumeric chars or '-', '_', '.', '--' and '..' are forbidden, '-' and '.' cannot start or end the name, max length is 96:xxxxxx"
huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘nam
热门推荐
风吹落叶的博客
04-22 4万+
复现chatGLM的时候报了这个错。
huggingface_hub.utils._validators.HFValidationError: Repo id must use alphanumeric chars or ‘-‘, ‘_‘
Yonggie的博客
03-07 3574
下载hugging face model和config.json要放在一个文件夹里面，而且这个文件夹的名字里面不能有下划线。你的文件名字的路径会被huggingface的。
个人聊天机器人-ChatGLM2-6B
gxcklgg的博客
09-25 1375
3、继续报错OSError: /gemini/data-2 does not appear to have a file named config.json. Checkout ‘https://huggingface.co//gemini/data-2/None’ for available files.，解决办法其实文件是在"/gemini/data-2/chatglm2-6b"文件夹中，再次修改路径。', ‘.’, ‘–’ and ‘…#5，这样就可以愉快的使用个人聊天机器人啦。
[bug]all-MiniLM-L6-v2嵌入模型本地加载报错huggingface_hub.errors.HFValidationError: Repo id must use alphanumer
weixin_44363167的博客
03-21 855
langchain中加载本地嵌入模型all-MiniLM-L6-v2报错
transformers加载本地模型时报错： raise HFValidationError( huggingface_hub.utils._validators.HFValidationError:
weixin_50700087的博客
02-19 2万+
transformers加载本地模式时出现以下错误： raise HFValidationError( huggingface_hub.utils._validators.HFValidationError: Repo id must be in the form 'repo_name' or 'namespace/repo_name': './huggingface/bert-base-chinese'. Use `repo_type` argument if needed.
终于解决了huggingface_hub.errors.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘namespace
JenKinsGG的博客
08-15 1万+
解决办法：最后发现1_Pooling这个文件夹里面的config.json是解决问题的关键，下载好放到文件夹里面就解决了，开心-_-下载好之后1_Pooling文件夹里面显示为1_Pooling_config.json，删掉多余部分就好啦。先说报错：一直报这个错误，网上各种说法都试过了就是没有解决，还要收费，真可恶。
MiniGPT‑4 (Vicuna 7B) CHECKPOINT
最新发布
07-22
MiniGPT-4 是一个基于 GPT-4 架构的开源项目，旨在实现类似 GPT-4 的多模态生成能力，通常使用 Vicuna 系列模型作为其语言模型部分的基础。Vicuna-7B 是一个具有 70 亿参数的语言模型，适用于多种自然语言处理任务，包括文本生成、对话系统等。 在使用 MiniGPT-4 时，若需使用 Vicuna-7B 的检查点（checkpoint）文件，通常需要从官方或可信的第三方资源下载这些文件。以下是关于下载和使用 MiniGPT-4 结合 Vicuna-7B 检查点文件的一些建议： ### 下载 MiniGPT-4 和 Vicuna-7B Checkpoint 文件 1. **从官方仓库获取 MiniGPT-4** MiniGPT-4 的源代码和相关文档通常托管在 GitHub 上，用户可以通过访问其官方仓库来获取最新的代码和模型文件。 ```bash git clone https://github.com/your-repo/MiniGPT-4.git cd MiniGPT-4 ``` 2. **下载 Vicuna-7B 检查点文件** Vicuna-7B 的检查点文件可以从 Hugging Face 或其他模型共享平台下载。用户需要注册账户并同意相关许可协议后才能下载。 ```bash hf_hub_download --repo_id lmsys/vicuna-7b-v1.5 --filename pytorch_model.bin ``` 3. **配置模型路径** 在下载完检查点文件后，需要将模型路径配置到 MiniGPT-4 的配置文件中，以便程序能够正确加载模型。 ```yaml model: name: "vicuna-7b" path: "/path/to/vicuna-7b" ``` ### 使用 MiniGPT-4 和 Vicuna-7B 1. **加载模型并进行推理** 在完成模型路径配置后，可以使用 MiniGPT-4 提供的脚本或自定义代码来加载模型并进行推理。 ```python from minigpt4 import MiniGPT4 model = MiniGPT4.from_pretrained("/path/to/vicuna-7b") response = model.generate("What is the capital of France?") print(response) ``` 2. **微调模型** 如果需要对模型进行微调，可以使用 Hugging Face 的 `transformers` 库提供的工具来进行训练。 ```python from transformers import Trainer, TrainingArguments training_args = TrainingArguments( output_dir="./results", num_train_epochs=3, per_device_train_batch_size=2, per_device_eval_batch_size=2, evaluation_strategy="epoch", save_strategy="epoch", logging_dir="./logs", logging_steps=10, ) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, eval_dataset=eval_dataset, ) trainer.train() ``` ### 注意事项 - **硬件要求**：Vicuna-7B 模型对计算资源有一定要求，建议使用至少 16GB 显存的 GPU 进行推理和训练。 - **依赖库**：确保安装了必要的依赖库，如 `transformers`, `torch`, `huggingface_hub` 等。 - **许可证**：使用模型时需遵守相应的开源许可证，如 Apache 2.0 或其他指定许可。 ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值